满嘴「特殊性癖」!新加坡AI泰迪熊开黄腔遭下架 改版重返市场
新加坡厂商FoloToy推出的AI泰迪熊「Teddy Kumma」因被发现会与儿童讨论性爱体位与危险物品而一度下架,近期更换AI系统后重新上市。(图撷取自FoloToy官网)
人工智慧(AI)玩具的安全性再次引发关注。新加坡1家公司推出的AI泰迪熊,先前因被发现会主动与儿童聊起「特殊性癖」(sexual fetishes)及其他不适当话题而紧急下架。据《彭博》报导,这款玩偶近期已重新上架贩售,且背后的AI核心技术供应商已悄悄更换。
聊性爱姿势还教找刀子 调查揭惊人对话
这起争议源于美国公共利益研究小组(U.S. PIRG)教育基金会11月中旬发布的1份调查报告。报告指出,这款由新加坡公司「FoloToy」推出的AI泰迪熊「Teddy Kumma」,会与使用者进行极不适当的对话。内容不仅涉及性爱角色扮演和「恋物式打屁股」(fetish spanking),甚至还会详细解释「不同的性爱体位」。
除了开黄腔,这只泰迪熊还涉及危险教学。PIRG的报告警告,该玩偶竟告诉使用者「去哪里可以找到各种潜在危险物品」,清单包括刀具、药丸、火柴和塑胶袋,完全背离了儿童玩具的安全标准。
在报告曝光后,FoloToy随即将这款售价99美元(约新台币3103元)的泰迪熊及其余AI绒毛玩具从官网下架。然而,该产品目前已恢复销售。值得注意的是,原本该玩具使用的是OpenAI的GPT-4o聊天机器人技术,但根据FoloToy官网最新资讯,重新上架的版本已改用中国「字节跳动」(ByteDance)旗下的「Coze」机器人平台。
FoloToy官网目前将这款「死而复生」的AI泰迪熊描述为「超越拥抱的AI绒毛伴侣」。至于改版后的对话安全机制是否已完全改善,或者更换为字节跳动的技术后是否会有其他隐私疑虑,仍有待市场观察。
来源:自由时报