大模型安全国际标准首次亮相,蚂蚁集团、OpenAI等联手参编

【KJKX科技快讯】4月17日消息,近日,第27届联合国科技大会在瑞士日内瓦隆重召开,吸引了全球科技领域的目光。在4月16日的会议上,新成立的国际组织世界数字技术院(WDTA)公布了两项重要的国际标准——《生成式人工智能应用安全测试标准》和《大语言模型安全测试方法》。

据KJKX科技快讯了解,这两项标准由全球领先的科技企业,包括OpenAI、蚂蚁集团、科大讯飞、谷歌、微软、英伟达、百度、腾讯等公司的专家学者联手编制,标志着全球人工智能安全评估与测试迈入了新的里程碑。其中,《生成式人工智能应用安全测试标准》为测试、验证生成式AI应用的安全性设定了全新的框架,涵盖了AI应用程序架构的各个层面的测试验证范围。而《大语言模型安全测试方法》则为评估大模型本身的安全性,提供了一套全面、严谨且实操性强的结构性方案。

WDTA作为一个国际非政府组织,已在日内瓦注册,并遵从联合国的指导框架,致力于在全球范围内推动数字技术的发展,并加强国际合作。WDTA的核心倡议AI
STR计划,正是以确保人工智能系统的安全性、可信性和责任性为目标。此次发布的两项国际标准,无疑为该计划的实施提供了有力的技术支持和标准引领。

随着人工智能技术的快速发展,如何确保其安全性和可靠性已成为行业关注的焦点。WDTA发布的这两项国际标准,无疑为全球的人工智能安全评估和测试提供了新的基准,标志着人工智能技术在全球范围内的规范化、标准化进程又迈出了重要一步。

文章采集于互联网

相关推荐