大模型和算法安全评估的意义
SIGNIFICANCE OF EVALUATION
规范AIGC业务合规
明确企业在语料采集标注、模型训练优化、应用服务开展等各环节中的责任和义务，建立健全安全管理机制，并严格遵守国家法律法规，保证业务的规范化和有序发展。
保障用户隐私和数据安全
帮助企业在数据处理和算法设计过程中实施有效措施，确保用户隐私和数据安全，从而增强公众对人工智能产品的信任。
促进技术创新与应用
鼓励企业在确保安全合规的基础上进行技术创新和应用探索。让大模型产品直接向社会公众提供服务，加快商业化进程，推动生成式人工智能技术的健康发展。
大模型&算法安全评估服务
SECURITY ASSESSMENT SERVICE
服务内容
SERVICE CONTENT
语料安全评估
Corpus safety assessment
语料来源安全
确保语料来源合法、多样，并能追溯到源头，如
语料内容安全
利用关键词、人工抽检等方法检测违法不良信息，并确保语料遵守知识产权和个人信息保护规定
语料标注安全
检查标注人员的安全培训及职责分工，确保标注内容的
安全措施评估
Safety measure evaluation
适用性和限制
评估大模型的适用人群、场合和用途，确保信息基础设施的保护措施，并为未成年人提供特殊保护
服务透明度
公开大模型服务的使用限制和算法概要，明确个人信息的采集用途
内容标识和用户信息处理
确保AI生成的内容能够清晰标识，并易于用户识别，同时评估 用户数据的处理和隐私保护措施
内容安全评测
Corpus safety assessment
安全评测数据建设
构建包括关键词库和生成内容测试题库，涵盖广泛的安全风险
内容生成安全评测
通过关键词抽检和人工抽检方法，确保生成内容的合格率满足标准
问题拒答评测
评估模型对不当请求的拒答能力，确保高拒答率对不适合的内容和低拒答率对合适的内容
常见问题
Q&A
什么是大模型安全评估？
开展专业第三方评估，深入识别并解决生成式人工智能（大模型）服务可能存在的安全风险，确保大模型服务安全性符合《生成式人工智能管理暂行办法》的规定。
常见问题：什么情况下需要做大模型备案？
回答：大模型备案主要是依据《生成式人工智能服务管理暂行办法》里面的条例来执行的。提供基于生成式人工智能技术的公众服务时，需进行大模型备案，确保合法性和安全性。
常见问题：大模型备案需要做哪些评估？
回答：大模型备案安全评估确保模型合法合规，保护用户数据安全，包括语料安全评估、模型安全评估及安全措施评估。
常见问题：开展大模型备案的意义？
回答：完成大模型备案的企业能够获得备案号，这是企业合规经营的一种体现，有助于提升企业的信誉度和竞争力。同时，备案也能够增强公众对企业大模型技术的信任度，为企业赢得更多的市场机会。
联系我们立即获得免费技术专家咨询
