2026年8月30日Dario Amodei谈AI信任危机：技术治理为何必须可验证

Dario Amodei近期将AI面临的问题概括为“信任危机”：公众不仅关心模型有多强，也担心技术会被谁控制、用于什么目的，以及出现损害后由谁负责。随着AI进入公共服务、企业决策和安全领域，单纯承诺“负责任使用”已经不足以建立长期信任。

信任不能只依赖公司声明

技术公司可以发布原则和安全承诺，但外部用户很难判断这些承诺是否真正约束产品。可验证治理要求关键规则能够被检查，例如高风险用途是否被阻止、模型输出是否留下审计记录、权限变化是否可追踪，以及异常事件是否按固定流程披露。制度必须落实到产品和工程控制，而不是停留在宣传语言中。

明确拒绝边界是一种产品能力

面对大规模监控、自主武器、身份操纵等高风险场景，模型供应商需要明确不可接受的用途。边界越模糊，企业客户越难建立自己的合规流程。合理做法是把用途限制、数据处理方式和责任分工写进技术接口、合同与审计系统，并为误判提供申诉和人工复核机制。

透明不等于公开全部细节

安全透明需要平衡。完全公开防护机制可能帮助攻击者绕过系统，但完全不披露又无法获得外部信任。更可行的方式是公开风险类别、测试方法、事件数量和改进结果，同时让具备资质的第三方在保密条件下进行深入评估。公众需要看到证据，攻击者却不应获得可直接利用的操作手册。

企业部署需要自己的控制层

使用外部模型并不意味着可以把责任全部交给供应商。企业仍应建立输入过滤、权限分级、敏感数据识别、输出复核和日志留存。尤其是能够调用工具的智能体，必须遵循最小权限原则，对转账、删除数据、发布内容等不可逆操作设置人工确认。

AI信任最终来自持续可验证的行为。模型能力越强，治理机制越不能依赖善意。把边界做成代码、把过程变成记录、把结果交给独立评估，才可能让技术进步与社会接受度同步增长。