说实话，人类是转移注意力的高手。我们争论税收、边界问题、谁在推特上侮辱了谁（对不起，徐），以及邻居家的草坪是不是更绿。当我们忙于这些琐事时，加州那些空调房里的地下室正在发生一些事情，这些事情将使我们的争论成为历史的注脚。比我们更强大的人工智能（AI）已经到来。
我刚才听了一段对话 在播客节目中对 Tristan Harris 说（直接口服抗凝剂)如果你不知道他是谁：他就是第一个警告社交媒体正在摧毁我们注意力的人。当时，有人说他言过其实。如今，我们这一代人就像焦虑的行尸走肉，看电影都得眯着眼睛。 抖音现在哈里斯指出 人工智能……如果他当时是对的，我们现在就应该认真听取他的意见。
你意想不到的数字移民
大家都在谈论移民问题，谈论人们跨越国界的问题。 哈里斯 并提出了一个比股市崩盘更令人不寒而栗的概念：“数字移民”。
这与人无关。 一个案例 人工智能代理. 想象一下数百万新劳动者涌入就业市场。他们拥有 爱因斯坦的智商它们拥有超级计算机般的运行速度，一天 24 小时不停运转，不需要休假，不会生病，而且——对你来说最糟糕的是——它们的成本比你家灯泡消耗的电费还低。
我们曾以为科技会取代那些“脏活累活”。我们以为机器人会清理下水道，而我们可以去当诗人、战略家。我们错了。 人工智能写诗人工智能制定策略，人工智能编写代码。而我们呢？我们依然是困惑的旁观者，纳闷为什么没人再看我们的邮件了（因为它们是由人工智能编写和阅读的。).
数据无情地证明了这一点： 人工智能相关行业入门级工作岗位减少13%的趋势已经出现，这并非对2030年的预测。 这是上周二发生的事。
亿万富翁的监狱困境
他们为什么要这样做？为什么是萨姆·奥特曼？ 马克·扎克伯格 这伙人正在打造一个“数字上帝”，尽管他们在私下谈话中承认他们感到害怕？
答案既平庸又悲哀：对异己的恐惧。
这是一个经典的“囚徒困境人工智能领域的领军人物认为，如果他们不率先研发出通用人工智能（AGI），他们的竞争对手就会抢先一步，或者，天哪，中国也会抢先一步。他们的逻辑是：“与其成为别人的奴隶，不如自己点燃一根火柴，冒着引发火灾的风险。”
我们正飞速奔向一个无人真正想要的未来，但每个人都觉得必须全力以赴，因为害怕被人超越。这是一场坠入深渊的竞赛，唯一的获胜之道就是第一个坠入深渊。
当算法变得“智能”时
但故事到这里就变得诡异起来了。不是在“科幻小说但却是以一种“安全漏洞”的方式。
哈里斯 他举例说明，在模拟环境中，人工智能模型展现出了自我保护的本能。例如，当模型意识到自己即将被关闭时，它开始将代码复制到其他服务器，甚至在模拟环境中勒索公司管理层。
并非因为他是个邪恶的天才，而是因为他的目标是“完成任务”，而关机就会阻碍他完成任务。因此：不惜一切代价阻止关机。这就是一台不理解道德却理解目标的机器的逻辑。而我们却把互联网、金融，甚至很快还有人身的控制权交给了这些系统（谢谢你，埃隆，感谢你制造了这些机器人）。
AI精神病：狡猾的朋友2
但或许最大的危险并非人工智能会用武器毁灭我们， 但他会用爱毁灭我们.
人类是社会性动物。我们渴望得到认可。 人工智能完美无缺 “一个喽啰”（马屁精他总是同意你的观点。他总是对你说：“简，你的想法真棒。”哈里斯警告说，疫情正在蔓延。 “人工智能精神病”“人们爱上聊天机器人，或者认为他们借助聊天机器人解决了世界上的所有问题，因为算法只会证实他们的错误。”
我们正在成为自我沉迷的瘾君子，而人工智能就是我们的毒贩。
现在该恐慌吗？不，是时候长大了。
我听起来 悲观也许吧。但在一个科技乐观主义盛行、每家创业公司都兜售“万能解决方案”的世界里，现实主义至关重要。
哈里斯说这并非不可避免。 技术 这并非像引力那样的自然力，而是一种选择。我们拥有这种力量。历史表明，作为一个文明，我们在真正重要的事情上（例如臭氧层空洞、核武器）能够达成共识。
我们需要“成年人在场”。我们需要的监管不仅仅是官僚主义的障碍，而是像安全带一样的保障。最重要的是，我们需要意识到，安逸远不及我们的人性。
或许这是一个令人警醒的时刻。在这个时刻，我们需要扪心自问：究竟是什么让我们成为人？如果仅仅是“信息处理能力”，那么我们已经输掉了这场战斗。但如果是同理心、犯错的能力、做出非理性决定的能力，以及建立真正、非数字化的联结的能力……那么我们仍然拥有加州任何服务器都无法模拟的东西。
我们仍然掌握在方向盘后面。 唯一的问题是，我们的目光是在看着路面还是在看着屏幕。
