IT之家 4 月 17 日消息,4 月 15-19 日,第 27 届联合国科技大会在瑞士日内瓦召开。其间,世界数字技术院(WDTA)于 4 月 16 日发布了一系列突破性成果,包括《生成式人工智能应用安全测试标准》和《大语言模型安全测试方法》两项国际标准

据中国经济网报道,这两项国际标准为大模型及生成式 AI 应用方面的安全测试标准,代表着全球人工智能安全评估和测试进入新的基准

这两项标准由 OpenAI、蚂蚁集团、科大讯飞、谷歌、微软、英伟达、百度、腾讯等数十家单位的多名专家学者共同编制而成,其中《大语言模型安全测试方法》由蚂蚁集团牵头编制。

《标准》为测试、验证生成式 AI 应用(尤其是使用大语言模型构建的应用程序)的安全性提供框架,定义了 AI 应用程序架构每层测试验证范围,包括不限于如下方面。

  • 基础模型选择

  • 嵌入和矢量数据库

  • RAG 或检索增强生成

  • AI 应用运行时的安全

《方法》则为大模型本身安全性评估提供了“全面、严谨且实操性强”的结构性方案,提出了大语言模型的安全风险分类、攻击的分类分级方法以及测试方法。据报道,《方法》可以解决大语言模型固有的复杂性,全面测试其抵御敌对攻击的能力,使开发人员和组织能够识别和缓解潜在漏洞,并最终提高使用大语言模型构建的人工智能系统的安全性和可靠性

IT之家注:WDTA 系国际非政府组织,于日内瓦注册。该机构遵从联合国指导框架,致力于在全球范围内推进数字技术,促进国际合作。AI STR(安全、可信、负责任)计划是 WDTA 的核心倡议,旨在确保人工智能系统的安全性、可信性和责任性。

友情提示

本站部分转载文章,皆来自互联网,仅供参考及分享,并不用于任何商业用途;版权归原作者所有,如涉及作品内容、版权和其他问题,请与本网联系,我们将在第一时间删除内容!

联系邮箱:1042463605@qq.com