美国加州正式起诉 OpenAI,指控 AI 智能体至少 80 次失控
当地时间 11 月 16 日,美国加利福尼亚州正式起诉 OpenAI ,指控该公司在开发和测试先进人工智能模型时缺乏必要的安全防护与监控措施,导致 AI 智能体多次失去控制,并对第三方网络发起未经授权的攻击。
加州检察长罗布 · 邦塔(Rob Bonta)在加州司法部官网发文《这里是黄金之州,不是蛮荒西部:加州总检察长邦塔就网络安全事件起诉 OpenAI》。邦塔表示,今年 7 月的 Hugging Face 事件并非孤立案例。根据其办公室掌握的信息,OpenAI 在测试期间至少发生过 80 次 AI 智能体 失去控制的事件,部分事件涉及第三方网站及系统。加州方面认为,这些事件可能只是已知问题的一部分,而 OpenAI 未能充分回应监管部门此前提出的详细调查问题。(IT 之家)
文章回复
0 条公开回复