我的尘土帝国
未来不需要 Jensen。未来不需要供应商。未来不需要客户,无论是企业客户还是其他客户。未来绝对不需要你。RSI 到来之后,所有需求都将在内部产生,智能体与其他智能体协作,除它们之外的所有人都被排除在循环之外。
这就是 Anthropic 的意识形态。The Singleton。而它可能会赢。
我从小读的就是这些人读过的那些 LessWrong 帖子,但我没想到他们会做出那种恰恰导致糟糕 AI 结局的事情。我不相信 AI 末日,是因为我对人评价更高,我以为任何有能力的人都不至于蠢到召唤恶魔还指望它为自己服务,不惜一切代价往自己身后的土地上撒盐。只有那种深陷于自身狂妄与自以为是的人才会这么做。而我们似乎找到了这些人,就是 EA,或者不管那个邪教怎么称呼自己。
上述逻辑的问题在于,它也不需要 Dario。它不需要 AI 研究人员。它不需要 Anthropic 的双重股权结构。它不需要美国政府(说真的,是这局面里最大的冤大头)。它不需要任何人。
而当这一切完成之后,说到底,这一切是为了谁?
我不认为这会终结人类。但它会导致第三次世界大战。起飞的速度不足以阻止这一点,而且不是所有人都会臣服于你的统治。我知道有人幻想着 Correlation Effect 和一场神奇的 Change 会平息一切暴力,但我 99% 确定那不是真的,而如果它是真的,对我来说那比战争可怕得多,所以第三次世界大战反而是好结局。
我不确定你一直相信的是哪种自我安慰,但如果战争持续超过一年,中国及其盟友无疑会因更优越的资源聚集能力和生产能力而获胜。你玩过 RTS 游戏吗?
我希望现在改变这一切还不算太晚,但我担心从最近的事件来看,这就是我们被锁定的路线。“RSI”,未遂的 rugpull 与支配,第三次世界大战,尘土。