11月8日，2025年世界互联网大会乌镇峰会人工智能技术创新与治理论坛在浙江乌镇举行。奇安信集团总裁吴云坤在《守住安全底线 保障AI创新发展》主题分享中表示，安全是AI的底线和红线如何配资炒股，也是AI发展的基础和前提，AI创新必须管住“框、数、人、链”四个关键环节，核心方法是系统性、体系化地构建AI全生命周期的安全体系。
以奇安信自身为例，设计了AI安全治理框架，指导用户围绕“安全、合规、可控、负责任”四大目标，从模型安全治理、数据和隐私、应用和运营、基础安全、人员与责任、持续改进六个维度，构建覆盖AI全生命周期的安全防护体系，同时重点管好“框、数、人、链”四个关键环节。
首先对AI应用进行场景化防护，管好“框”和“人”。围绕AI应用及其场景部署大模型卫士，构建“管控-检测-溯源”三位一体的防护体系，实现对大模型系统内外部用户访问与交互的全流程管控，达成“管得住、看得清、防得稳”的防护目标。
目前，大模型卫士已经在政府机构、大型央企等近百家客户完成了验证，能有效防御提示词注入、敏感内容过滤、模型对抗攻击、模型窃取、数据泄露等多种安全风险。
其次是对AI核心数据资产进行重点防护，管好“数”。围绕保护核心数据资产，构建“大模型安全护栏”，从“强基础、控权限、审数据、拦攻击”等多个维度构建纵深防御与监测能力，对大模型系统进行防护，控制数据安全风险。
奇安信已投入了巨大的资源和成本训练安全模型，积累关键和核心数据资产，通过构建“大模型安全护栏”，对SFT数据、标注数据、RAG数据、模型文件、评估集等核心数据资产进行强化防护，守护住了模型训练成果。
最后是强化AI全生命周期的安全评估，管好“链”。秉持“安全左移”理念，将安全评估与风险管控贯穿大模型研发、部署、运维全生命周期。在开发阶段，通过代码审计、代码修复确保模型安全；上在线前，通过实战攻防演练检验应用安全；在运行中，持续监测模型的输出异常、数据泄露风险确保业务安全。
今年3月，奇安信支撑某电信运营商进行了大模型底座的安全评估，成功发现并修复了其大模型存在的多个系统漏洞和内容防护机制缺陷，将隐患扼杀于萌芽状态。
本次论坛由中央网信办网络管理技术局发起，中国科学院、中关村实验室主办，中国科学院计算技术研究所、中国网络空间安全协会、百度公司协办。
南方+记者 郜小平
天创网提示：文章来自网络，不代表本站观点。
相关文章
热点资讯