哈佛大学心理学家：渲染“AI 末日”无助于应对风险，应审慎开展安全工程

AI 总结
• 哈佛大学心理学家史蒂文·平克在Quillette发表公开信，认为AI毁灭人类的风险被夸大，拒绝了亚历山大关于AI生存风险的公开辩论邀请。
• 平克批评“回形针最大化器”等末日设想混淆了智能与支配欲，指出推动AI发布竞赛的正是此前警告风险的群体。
• 平克承认自己低估了大语言模型的能力以及AI公司发布产品的鲁莽程度，但他认为渲染末日情景无助于应对真正的风险。
• 平克真正重视的风险包括生物恐怖主义、网络攻击以及缺乏约束的AI智能体，主张通过审慎的安全工程及独立监督、责任机制和人类控制来应对。
• 亚历山大此前主张AI导致人类灭绝的概率为20%，支持改进AI安全研究并通过国际协议放慢AI发展速度。

【AI末日风险被夸大，哈佛心理学家发声】
IT之家 9 月 29 日消息，当地时间 28 日，据外媒 The Decoder 报道，哈佛大学心理学家史蒂文 · 平克认为， AI 毁灭人类的风险遭到了夸大 。

他在 Quillette 发表致精神科医生、科技博主斯科特 · 亚历山大的公开信，阐述了自己的理由。

                               
登录/注册后可看大图

【拒绝辩论：反对“供人围观的竞技活动”】
此前，亚历山大向平克发起了挑战，邀请他公开辩论 AI 带来的生存风险。

平克拒绝参加，称这类辩论不过是“供人围观的竞技活动”，认为“回形针最大化器”等末日设想混淆了智能与支配欲。

IT之家注：“回形针最大化器”假设 AI 会为了生产更多回形针而牺牲整个人类，同时还预设 AI 系统会疯狂地只追求一个目标。

【平克承认低估了大模型能力，警惕生物恐怖主义】
平克过去一直对 AI 较为乐观，但也承认自己 低估了大语言模型最终能够具备多强的能力 ，也没有料到 AI 公司发布产品时会如此鲁莽。

颇具讽刺意味的是，推动这场发布竞赛的许多人，恰恰来自一直警告这些风险的群体。

平克真正重视的风险是 生物恐怖主义、网络攻击以及缺乏约束的 AI 智能体 。

他写道，渲染末日情景无助于应对这些危险，真正有效的做法是 开展审慎的安全工程 ，并以独立监督、责任机制和人类控制为基础。

【亚历山大立场：AI灭绝概率20%，主张放慢发展】
亚历山大 6 月也在自己的博客上阐述了立场。

他认为 AI 导致人类灭绝的概率为 20%，主张改进 AI 安全研究，同时通过国际协议放慢 AI 发展速度。

[来源链接] https://www.ithome.com/1/008/100.htm

我不认同平克的观点。承认低估LLM能力是诚实的，但这恰恰证明“末日论”并非空穴来风，而是基于对技术演进速度的误判。将风险简化为生物恐怖或网络攻击，是典型的“滑坡谬误”——AI智能体若被用于上述领域，其威力远超传统手段。拒绝辩论并斥之为“夸大”，本质上是在回避真正的生存级威胁。亚历山大的20%并非捏造，在缺乏有效对齐和独立监督前，盲目乐观才是对全人类最大的不负责任。审慎工程不能只针对“眼前”风险，必须前置防范超级智能失控的可能。