全国政协委员周鸿祎：破解安全难题最大化释放大模型技术潜力

发布日期： 2025-03-06 阅读量： 作者： 小编

　　近段时间，国产大模型DeepSeek引发国内外关注，我国人工智能产业创新步伐不断加速。2025年政府工作报告提出持续推进“人工智能+”行动，引发代表委员热议。

　　全国政协委员、360集团创始人周鸿祎认为，DeepSeek-R1等先进模型带来了前所未有的机遇，也同样面临无法通过传统网络安全手段解决的安全挑战。对此，周鸿祎建议，各界共同努力，构建更加完善的大模型应用安全治理体系，在保障安全的前提下最大化地释放大模型技术的潜力。

　　周鸿祎认为，DeepSeek-R1的诞生标志着我国AI技术加速从“追赶者”迈向“领跑者”，其开源、透明、免费等long8官方网站特质，尤其适合在政府与企业开展私有化部署，不过随之而来的安全问题也值得关注。

　　“开源带来大模型的广泛应用，未来将会有各类专业大模型、垂直大模型、场景大模型，连接内部知识库，以智能体的形式在大批政府机构和企业中广泛部署，推进‘数转智改’，实现降本增效。然而大模型存在的幻觉、内容安全等诸多问题无法通过传统安全方案有效化解。”他说。

　　周鸿祎认为，大模型应用安全主要集中在基座模型、知识库和智能体三个方面。其中，基座模型安全方面，由于大模型存在的幻觉现象，特别是在生成文本时可能输出与现实不符的信息，这在政策制定、法律条文解读或商业决策等场景下可能导致误导性后果。

　　知识库安全方面，政府和企业核心数据资产存储于内部知识库中，若缺乏有效的安全控制措施，未授权用户可能利用与大模型交互的机会窃取这些宝贵的数据资源。

　　智能体安全方面，智能体通常与政府、企业内部各类IT、邮件、控制系统相连，一旦遭受攻击，可能会引发一系列连锁反应，造成严重的物理损害。

　　据介绍，针对上述挑战，360运用人工智能技术重塑安全格局，采用“以模制模”的方式应对新难题，依托安全大模型技术搭建起覆盖“基座模型—知识库—智能体”的全链路安全体系，护航政府与企业“数转智改”。

　　为进一步强化这一防御体系，周鸿祎建议采取两项措施：一是推动安全技术创新与成果转化。建议相关部门及时出台配套政策措施，鼓励具备“安全+人工智能”完整解决方案的链主企业加速推动技术成果转化，将安全要素深度嵌入人工智能应用全流程。二是组建产业联盟，推广安全产品。引导相关链主企业发挥牵头作用，广泛吸纳产业链上下游企业、科研机构及终端用户，组建人工智能大模型安全联盟，助力大模型安全保障普及至千行百业。（记者郭倩）

上一篇: AI成两会热词代表委员建言安全监管和人才培养要跟上

下一篇: 龙8国际：“声闻盾”为企业打造舆情管理一站式解决方案

龙八·long8(国际)唯一官方网站-龙8未来可期

全国政协委员周鸿祎：破解安全难题最大化释放大模型技术潜力

随便看看