AI安全疑虑加深　OpenAI等巨头研议成立标准机构

全球最大的几家人工智慧（AI）公司正著手成立一个标准机构。ChatGPT开发商OpenAI今天表示，随著外界对AI潜在危险的忧虑加深，各界也持续施压，希望建立更安全的AI技术。

法新社报导，OpenAI表示，目前正与Anthropic及谷歌（Google）合作研究这个构想。 这个构想源自Google DeepMind执行长哈萨比斯（Demis Hassabis）的提议，即成立一个类似美国金融业监管局（Financial Industry Regulatory Authority）监督经纪商与投资公司的自律监管机构。

哈萨比斯7月时呼吁美国成立一个组织，在最强大的AI系统向外界推出前，先对这些系统进行测试。

他发文说：「要吸引世界级的技术人才，并提供大规模测试所需的运算资源，资金规模必须相当庞大，而且很可能主要来自业界。」

不过，目前各方对于下一步应该如何推进，仍没有共识。

加拿大AI公司Cohere执行长近期指控美国几家占主导地位的AI实验室，打著安全名义组成「同业联盟」（cartel）。

Cohere共同创办人暨执行长葛梅兹（Aiden Gomez）日前在一篇部落格文章中指出：「AI需要防护措施。这一点没有争议，而且从来就不是争议所在。真正的争议是，由谁制定这些规则、谁能参与制定，以及这些规则究竟是在保护谁的利益。」

最近几周，外界对AI安全的忧虑进一步加深，包括两名从大型AI开发公司离职的员工，都对这个产业可能带来的风险提出警告。

上周，考克森（Jacob Coxon）离开Anthropic，并警告AI公司正在「拿我们的生命下注」。他过去也曾任职于OpenAI。

前Google DeepMind研究员楚格泰（Bilal Chughtai）昨天也呼应考克森等人提出的警告。

楚格泰在社群媒体发文说：「我真心相信，AI有可能杀死我们所有人，而我们可能已经没有多少时间来避免这种结果。」

Anthropic执行长阿莫戴（Dario Amodei）上周呼吁放慢AI开发速度，OpenAI执行长阿特曼（SamAltman）、马斯克（Elon Musk）及哈萨比斯也都支持这种看法。

然而，美国总统川普则将有关AI风险的警告斥为「骗局」；辉达（Nvidia）执行长黄仁勋也对这些警告表示反对。

黄仁勋昨天在洛杉矶一场会议上表示：「把这些说法串在一起，然后进一步做出这样的预测，是令人警惕且不安的，不应该这么做，这是不负责任的。」当时川普在黄仁勋站上台演讲时还打电话给他。

黄仁勋表示，认为AI可能摧毁人类的这种悲观预测，「没有科学依据」。