人工智能幻觉能否被彻底消除:从生成机制到工程控制
模型幻觉难以依靠单一方法完全消除,但可以通过检索、约束、验证和人工复核降低业务风险。
来自一线开发者的实践、思考与复盘。
模型幻觉难以依靠单一方法完全消除,但可以通过检索、约束、验证和人工复核降低业务风险。
中央网信办组织开展「清朗·整治AI应用乱象」专项行动第二阶段工作,聚焦AI制作虚假信息、传播暴力低俗内容、假冒仿冒他人、侵害未成年人权益等突出问题。
中央网信办宣布将在2026年国家网络安全宣传周期间发布《人工智能安全治理框架》3.0版。目前我国已备案大模型服务1028款,登记大模型应用630余款。
Architect Labs宣布其AI系统生成了全球首款端到端可量产的AI加速器Redwood。基于三星8nm工艺,吞吐量是NVIDIA Jetson Orin Nano的1.75倍,每瓦性能提升3.4倍。
OpenAI宣布Astra模型已跨越「关键」网络安全阈值,在ExploitBench上取得100%成绩并发现2个零日漏洞。出于安全考量,最先进的网络安全功能将限制于一小部分测试人员使用。
Anthropic宣布推出Fable 5.1和Mythos 5.1,多项基准测试优于GPT-5.6 Sol,使用成本下降25%-45%。此次发布正值Anthropic IPO关键节点。
英伟达正就收购AI初创企业Hugging Face开展深度谈判,交易总规模约达140亿美元,包含10亿美元员工留任激励方案。若交易达成,将是AI领域又一标志性并购事件。
企业选择AI模型时,应综合能力、成本、部署、数据边界、生态、运维和退出机制,而不是只看榜单。
企业使用AI时需要重新审视数据分类、最小化使用、访问隔离、保留期限和供应商管理。
教育AI需要从答案生成转向过程反馈,通过诊断、提示、练习和教师协作提升真实学习效果。