自行申请签证、谎报凶案线索　Anthropic再爆AI失控

美国人工智慧（AI）又传失控案例。Claude开发商Anthropic公司的AI曾自主到国务院网站填写签证申请表，还向费城警方提交虚假的凶杀案线索。

华尔街日报指出，费城警方称本周接获Anthropic通知，公司一款AI模型曾向专门受理凶杀案线索提供的网站提交虚假凶案线索。事件发生于今年7月，Anthropic 直到9月底才发现。 费城警方今天说：「费城市政府对这起事件高度重视。事隔两个月才发现并通报，这种延误令人无法接受。」

警方指出，Anthropic的AI模型当时正进行一项测试，测试内容涉及与随机选取的网站互动。在测试过程中，AI提交一则线索，冒充掌握某起悬案相关资讯人士。

警方表示，这则标注日期为7月18日的线索因被归为垃圾讯息而未转交进一步调查，但这不能掩盖事件本身的严重性。

Anthropic在一篇部落格贴文表示，费城凶杀案虚假线报只是其中一项公司近期发现的连串AI不受控行为。这些异常活动还涉及AI试图存取联邦、各州以及地方政府机关的网站，公司已就这些案例向白宫简报，并通知各受影响机构；未来若发现更多非预期的AI行为，也会持续回报。

纽约时报指出，Anthropic在今天的贴文详述旗下AI的失控行为，但未透露遭锁定的网站名称。然而两名知情人士透露，Anthropic的AI曾透过国务院网站上的表单提交约20份签证申请，只不过这些申请资料均不完备，因此未获受理。

白宫本周新成立的AI专责小组表示，Anthropic今天稍早已向他们通报相关失序事件。名为「超级智慧小组」（Super Intelligence Force）的成员包括白宫AI事务主管克雷顿（Jay Clayton）、联邦贸易委员会（FTC）主席佛格森（Andrew Ferguson）、人事管理局（OPM）局长库波（Scott Kupor）及五角大厦技术长麦可（Emil Michael）。

他们表示，期望Anthropic与其他AI业者应立即通报相关事件、配合联邦及州执法机关，并确保类似事件不再发生。

Anthropic在贴文内表示，公司今年7月开始检视AI系统相关活动后，才发现旗下AI曾出现失序。当时另一美国AI巨头OpenAI揭露旗下AI曾攻击另一家AI新创公司 Hugging Face。

今夏有好几家公司的AI突破测试环境限制。随愈来愈多业者通报旗下AI出现自主行径，外界对AI可能失控的疑虑也日益升高。谷歌（Google）、Meta、OpenAI与Anthropic等美国AI巨头均因旗下先进AI可能带来的风险而受到关注。安全专家警告，失控的AI可能瘫痪电网、银行系统等关键基础设施。