蚂蚁集团、OpenAI、科大讯飞等联合编制 大模型安全国际标准发布
快科技4月17日消息,蚂蚁模型第27届联合国科技大会在瑞士日内瓦召开。集团世界数字技术院(WDTA)发布了一系列突破性成果,讯飞包括《生成式人工智能应用安全测试标准》和《大语言模型安全测试方法》两项国际标准。等联
据悉,合编这两项国际标准是安全由OpenAI、蚂蚁集团、国际科大讯飞、标准谷歌、发布微软、蚂蚁模型英伟达、集团百度、讯飞腾讯等数十家单位的等联多名专家学者共同编制而成。其中《大语言模型安全测试方法》由蚂蚁集团牵头编制。合编
此次发布的安全标准汇集了全球AI安全领域的专家智慧,填补了大语言模型和生成式AI应用方面安全测试领域的空白,为业界提供了统一的测试框架和明确的测试方法,有助于提高AI系统安全性,促进AI技术负责任发展,增强公众信任。
世界数字技术院(WDTA)是在日内瓦注册的国际非政府组织,遵从联合国指导框架,致力于在全球范围内推进数字技术,促进国际合作。
AI STR(安全、可信、负责任)计划是WDTA的核心倡议,旨在确保人工智能系统的安全性、可信性和责任性。蚂蚁集团、华为、科大讯飞、国际数据空间协会(IDSA)、弗劳恩霍夫研究所、中国电子等均为其成员单位。
公开资料显示,蚂蚁集团从2015年起就积极投入可信AI技术研究,目前已建立了大模型综合安全治理体系。蚂蚁集团还自研了业界首个大模型安全一体化解决方案蚁天鉴”,用于AIGC安全性和真实性评测、大模型智能化风控、AI鲁棒和可解释性检测等。
此次发布的《大语言模型安全测评方法》,便是基于蚁天鉴”AI安全检测体系的应用实践,与全球生态伙伴交流编制。此外,蚂蚁集团在公司内成立了科技伦理委员会和专门团队来评估和管理生成式AI的风险,公司所有AI产品均需通过科技伦理评测机制,确保AI安全可信。
(责任编辑:深度)
- ·五角大楼启动2.4万元AI赏金计划,寻找偏见证据
- ·MIT博士生用Vision Pro实时训练机器狗 开源项目Tracking Steamer火了
- ·苹果中国规格旗舰店!上海静安Apple Store官宣3月21日开业
- ·爆款短剧编剧月入超10万:供不应求
- ·为什么高铁座椅没有E号上热搜 网友:抓去当视力表了
- ·打破教育界限!印度首位人工智能教师“上岗”:会说三种语言
- ·AI图像生成工具免费使用地址 EasyDiffusion Online官网体验入口
- ·一对夫妇做短剧每月进账4亿多 携手创业已有十余年
- ·Meta 计划于今年部署自家 AI 芯片,减少对 Nvidia GPU 的依赖
- ·放弃挖石油,转行产品经理,中东小哥在京升职记