Anthropic 前研究员忧 AI 失控消灭人类 执行长：他批评的是整个产业

Anthropic研究员考克森（Jacob Coxon）上周公开宣布离职，他之前在社群媒体便屡屡发文讲述OpenAI、Anthropic是如何利用这项技术「拿我们的生命冒险」、「人工智慧（AI）可能很快毁灭人类」、「开发AI的人真心相信它可能会毁灭我们所有人」。其他AI研究员也纷纷表达类似的担忧。

不过，英国天空新闻报导，Anthropic执行长阿莫戴接受美国CNN采访时回应说，考克森并非公开点名批评Anthropic，而是在批评整个AI产业的发展态势。阿莫戴说：「我同意考克森的地方，远多于反对。」

阿莫戴表示：「考克森离开时说，『我认为Anthropic公司是最负责任的参与者，也是最理解这些问题的公司。」

阿莫戴也说，公开表达AI造成灾难的机率，效果可能适得其反，如果采取正确的行动，AI是可以受到控制的。

考克森的贴文得到同样在Anthropic工作的首席科学家胡宾格（Evan Hubinger）回应，他估计人类未来10年内灭绝机率超过10%，高于NBA球星柯瑞（Stephen Curry）罚球不进的可能性。

OpenAI安全研究员史提尔（Julie Steele）上周表示，AI公司需要放慢脚步。Google DeepMind的成员基尔希（Andreas Kirsch）11日写道，他担心「AI会毁灭我们所有人，无论是短期、长期风险，还是两者兼有」。知情人士透露，一些从业人员正在向高阶主管呼吁，在AI技术获得适当保障措施之前，应暂停研发。

倡导AI监管的非营利组织ControlAI美国负责人李希（Connor Leahy〉指出，人们长期以来一直不敢公开谈论AI之弊，因为害怕被当成危言耸听、过于极端，「现在这种沉默终于破冰」。