Anthropic游说推动AI安全法案　拟设政府干预门槛

政治新闻网站Politico今天引述3名消息人士报导，人工智慧（AI）新创公司Anthropic代表近日私下向美国国会议员推介1项法案草案，旨在规范前沿AI模型的安全防护措施。

路透社报导，草案规定，只有在AI模型构成可预见且迫在眉睫的风险、可能造成超过10亿美元损失，或导致50人以上死亡或重伤时，政府才能阻止该模型发布或使用。 此外，相关风险必须源自生物武器的制造或释出、AI模型规避开发者的控制措施，或是网路攻击。

Anthropic发言人告诉路透社，这项法案反映出Anthropic今年稍早公布的「先进AI框架」（AdvancedAI Framework）所提出的建议。

发言人表示，法案将赋予政府「阻止或遏制最强大模型危险部署的能力」，并要求开发者测试前沿AI模型、公开测试结果，并接受独立评估。

根据报导，法案将要求独立评估机构向商务部登记，并定期评估AI实验室及其开发的前沿模型。AI实验室可以支付费用给这些评估机构，但报酬不得与评估结果挂钩。

如果评估机构认定某家公司开发的前沿模型存在法案所列的迫切风险，必须在完成评估后的72小时内向商务部通报。

商务部认定模型存在风险后，可向法官声请下令暂停该模型；法案也明文禁止美国其他政府部门、机关或官员下令暂停相关模型的开发、部署或内部使用。

Politico报导，哥伦比亚特区联邦地方法院法官可下令暂停相关AI模型。