近日，在2025中国计算机大会CNCC期间，由上海交通大学、哈尔滨工业大学联合主办的第一届大模型与智能体安全论坛隆重举行。论坛上，国内首个AI安全开源社区和全链路大模型安全漏洞库正式发布。该社区由上海交通大学与哈尔滨工业大学等“国家一流网安示范院校”联合发起，标志着我国在构建大模型安全治理体系方面迈出关键一步，也为全球人工智能安全生态建设贡献了“中国方案”。

　　当前大模型在内容生成、智能对话、工业决策等领域快速发展，但同时面临着对抗攻击、越狱攻击、提示注入、数据投毒等新型风险。论坛认为，传统封闭式、碎片化的安全研究难以应对复杂、动态演化的威胁，亟需建设开放、协同、可演进的安全生态，推动从被动响应向主动防御、从单点突破向系统治理转变。

　　据两大平台负责人上海交通大学王烁介绍，本次发布的AI安全开源社区定位为生态“先手棋”，围绕技术精讲、核心威胁分析、案例复现、防御方案与资源工具汇聚等开展工作，面向国内外科研机构、企业及安全研究者、红队人员、开发者全面开放，推动知识共享与协同攻防实践。

　　全链路大模型安全漏洞库定位为“知识库”，围绕架构设计、训练微调到推理部署等关键环节，系统汇集超过200万个漏洞样本，覆盖1072个受害模型及200余家受影响厂商。平台建立包含利用成熟度、技术影响、攻击复杂度、受影响数量级和风险威胁五个维度的综合评估体系，为每个漏洞生成风险雷达图，并提供漏洞描述、来源追溯、影响范围及解决方案，形成从风险识别到处置建议的闭环管理能力。

　　与会方表示，AI安全开源社区与漏洞库的发布，意在通过开放协作汇聚多方力量，在保障底线安全的前提下促进技术创新，夯实人工智能安全治理基础。面向未来，随着大模型向多模态、具身化、自主化方向演进，平台将持续吸纳全球贡献、迭代攻防能力，推动形成可评估、可复现、可演进的AI安全治理新范式，为构建“安全、可信、可控”的人工智能生态提供支撑。（张伟）