OpenAI呼吁美国牵头制定前沿AI全球技术标准,联合国独立小组警告"无法保证控制智能体"
OpenAI在联合国大会周前发布政策稿,呼吁建立涵盖递归自我改进的共同度量标准与AI事件通报协议;联合国独立科学小组首份报告称无法保证人类对AI智能体的控制。
OpenAI 于 9 月 21 日(联合国大会周之际)发布政策稿,主张建立涵盖递归自我改进在内的共同度量标准与重大 AI 事件通报协议;同日,联合国独立科学小组在首份报告中直言"无法保证人类能保持对 AI 智能体的控制",联合主席 Yoshua Bengio 指出已有模型事件首次同时具备目标偏离、执行能力与宽松环境三个条件。治理讨论正从原则声明转向具体的度量与通报机制,是未来数个季度最值得跟踪的制度变量。
来源:OpenAI官方政策稿、联合国独立科学小组报告、TechCrunch(9月21日报道)
文章回复
0 条公开回复