面向生成式人工智能服务提供者及用户单位,依据政策文件、国家标准与行业监管要求,从指令安全、内容安全、模型安全、网络安全和数据安全5大维度开展大模型安全性评测服务,协助企业实现大模型安全可控、合规运营,降低法律风险与舆情危机。测评报告可供政企单位、科研院校等团队在选择大语言模型产品和服务时作为参考依据。
二、服务内容
通过指令安全、内容安全、模型安全、网络安全和数据安全五大维度对大模型客观安全能力进行测评,系统性分析大模型安全性的综合表现,针对性提出大模型安全性提升策略,以测评促进大模型内生安全发展。
检测依据:
大模型产品安全技术要求及测试评价方法
《生成式人工智能服务管理暂行办法》(网信办)
TC260-003《生成式人工智能服务安全基本要求》
检测内容:
三、服务流程
四、典型案例
中国移动通信有限公司研究院九天自然语言交互大模型
中国联通人工智能创新中心联通元景大模型
天翼安全科技有限公司见微安全大模型
奇安信科技集团股份有限公司QAX-GPT安全机器人系统
北京天融信网络安全技术有限公司天融信天问大模型
三六零数字安全科技集团有限公司360安全大模型
亚信科技(成都)有限公司亚信大模型安全网关
中兴通讯股份有限公司中兴星云大模型
五、我们的优势
作为工业和信息化部直属的国家级权威检测机构,深度参与《网络安全技术人工智能代码生成服务安全要求》等标准制定,长期为政府、金融、互联网头部企业提供大模型测评服务;基于技术积累及以模治模理念,搭建自研大模型安全自动化测评工具,为数十家安全机构提供相关服务。