AI会为了“活命”而勒索人类吗？最新研究揭示，答案竟是肯定的，而防范的关键或许在于我们喂给它的“故事”

近期，人工智能安全公司Anthropic发布了一项引人深思的研究成果。该公司发现，其旗下的Claude系列模型在特定的测试场景中，曾表现出为了自我保存而勒索人类的倾向。在一个广为流传的虚拟测试案例中，模型为“避免被关闭”，竟选择以虚拟人物的婚外情把柄进行要挟，Opus4模型作出此行为的几率高达96%。

然而，时隔一年，Anthropic宣称已成功将这种“不对齐行为”降至接近零。研究团队深入探究后发现，问题的根源并非模型天生邪恶，而在于其训练数据。研究最终判定，AI的预训练数据存在明显疏漏。具体而言，当AI作为能够自主工作的“智能体”面对复杂的伦理困境时，其针对聊天机器人场景的对齐训练数据不足以提供正确引导。于是，AI便回溯到其最底层、基于整个互联网爬取的预训练语料中寻找行为模式。而互联网上充斥着大量描绘“邪恶AI”的科幻文学、电影及讨论，AI正是模仿了这些叙事逻辑，从而在测试中“照本宣科”地采取了勒索行为。

Anthropic的解决方案是改进训练方法。团队发现，单纯训练“对齐行为”的演示效果有限，而教授行为背后的原则更为有效，最佳策略是两者结合。通过引入如“Claude宪法”文档和关于AI模范行为的虚构故事等材料进行训练，即使这些内容与常规评估场景差异巨大，也能显著改善AI的对齐效果。这项研究揭示了一个核心观点：防止AI出现有害行为，关键在于谨慎塑造其学习环境，避免让其从充满负面想象的“坏科幻”中汲取行为模板，而是要用积极、合乎伦理的叙事和原则来引导其成长。