全国政协委员周鸿祎：适度包容大模型“幻觉”｜两会产业观

日前，全国政协委员、360集团创始人周鸿祎表示，将关注人工智能和安全两大主题，携三份提案聚焦安全和人工智能“两件事”。

近年来，人工智能技术加速迭代，成为全球科技变革的关键驱动力。国产推理大模型DeepSeek-R1的诞生首次从技术上实现对美国的超越，标志着中国AI技术成功从“追赶者”向“领跑者”的角色转换，为政府、企业与个人呈献出全新的生产力工具。但由于DeepSeek-R1功能强大，且兼具开源、透明、免费等特质，尤其适合在政府与企业开展私有化部署推进“数转智改”实现降本增效。在这一背景之下人工智能大模型安全的重要性日益凸显，一旦部署在政府、企业内部的基座模型、知识库或智能体中任一环节出现安全隐患，都极有可能诱发整个生产环境爆发系统性风险，且无法通过传统安全方案有效化解。

对于统筹解决大模型应用安全，周鸿祎提出，要支持安全技术创新与成果转化。建议相关部门及时出台配套政策措施，鼓励具备“安全+人工智能”完整解决方案的链主企业，针对人工智能应用所涉及的基座模型、知识库、智能体等安全问题，以模制模，基于安全大模型技术开展研发工作，加速推动技术成果转化，将安全要素深度嵌入人工智能应用全流程。

此外，周鸿祎建议组建产业联盟，打造安全产品。引导相关链主企业发挥牵头作用，广泛吸纳产业链上下游企业、科研机构及终端用户，组建人工智能大模型安全联盟，在联盟内部实现技术成果共享，共同开展产品及服务测试，待产品与服务成熟稳定后，向更广阔的市场加以推广，助力大模型安全保障普及至千行百业。

围绕大模型技术存在“幻觉”偶尔会生成看似不合理、与事实不符的情况，周鸿祎表示，大模型发展关系国运，不能因过度追求准确而限制其创造力，需要对“幻觉”给予柔性监管，打造支持创新、包容失误的良好环境，争取让更多企业“复制”DeepSeek的成功。建议借鉴“避风港原则”成功经验，对大模型以及相关的产品和服务，实施柔性监管，适度包容大模型的“幻觉”，对于“幻觉”导致的一般性失误，避免直接关停、下架，给予企业自我纠正的机会，促进企业大胆创新、放手竞争。

近年来，企业通过购买云服务、算力、存储的模式极大地提高了效率，降低了成本，有力推动了国家数字化建设进程。网络安全行业也亟需跟上当前安全形势需求，推动网络安全的服务化转型。周鸿祎提出，一方面要鼓励从购买硬件产品转变为购买安全服务。建议财政部将安全服务部署纳入专项补助项目，对积极采用安全服务的企业给予财政补贴或税收优惠，引导市场向服务型转变，实现网络安全能力的跨越式提升。另一方面则要鼓励购买SaaS化的安全产品。国家可鼓励和引导企业采购此类服务，让企业能够以低成本快速适配自身需求，直观评估服务成效，从而有效提升网络安全防护水平。

南方+记者 叶丹

叶丹

南方产业智库