OpenAI 表示:我们非常重视安全
划重点:
🚨 两位AI安全高管离职:OpenAI的表示联合创始人兼首席科学家Ilya Sutskever和“超级对齐团队”负责人Jan Leike辞职。
🔍 团队解散与安全担忧:Leike对公司领导层在AI安全方面的常重重视程度表示失望,认为公司对人工通用智能(AGI)的视安安全问题关注不足。
🛠️ 公司回应与安全措施:CEO和总裁回应称,表示公司已建立安全部署的常重基础设施,并持续改进AI模型行为和滥用监控。视安
CSS站长资源(ChinaZ.com)5月20日 消息:OpenAI近期面临重大人事变动,表示引发业界对其AI安全承诺的常重关注。上周,视安公司联合创始人兼首席科学家Ilya Sutskever宣布辞职,表示以追求其他项目。常重与此同时,视安“超级对齐团队”负责人Jan Leike也宣布离职,表示并在公开信中表达了对公司领导层的常重失望,特别是视安对AI安全重视不足的问题。
Leike特别指出,公司在人工通用智能(AGI)的安全问题上缺乏足够的重视。AGI是一种尚未实现的AI形态,能够像人类一样思考和推理。他强调,我们迫切需要认真对待AGI带来的影响,并呼吁OpenAI成为一个以安全为先的AGI公司。
对此,OpenAI的CEO Sam Altman和总裁Greg Brockman在联合声明中回应称,他们对AGI的风险和潜力有着清晰的认识。他们表示,公司一直在倡导国际AGI标准,并在检查AI系统可能带来的灾难性威胁方面发挥了先锋作用。
此外,他们还提到,公司已经建立了安全部署越来越强大系统的基础设施,并以GPT-4的推出为例,展示了公司如何在安全方面做出了大量工作,并根据部署中学到的经验不断改进模型行为和滥用监控。
据彭博新闻报道,除了Leike之外,“超级对齐团队”的其他成员也在近几个月离开了OpenAI,这无疑给公司带来了更多挑战。为了应对这一变化,公司任命了专注于大型语言模型的联合创始人John Schulman作为组织对齐工作的新科学负责人。
除了“超级对齐团队”,OpenAI还有许多专门从事AI安全的员工分布在公司内的不同团队,以及一些专门致力于安全的独立团队。其中就包括一个准备团队,负责分析和减轻与AI系统相关的潜在灾难性风险。
Sam Altman在本月早些时候的“All-In”播客中表示,他支持创建一个国际机构来监管AI,以应对可能造成的“重大全球伤害”。这表明OpenAI及其领导层对AI安全问题的认识和承诺仍然坚定,尽管公司内部的人事变动带来了一些不确定性。
(责任编辑:资讯)
- ·突然!雷军暂别小米手机 聚焦汽车业务:卢伟冰兼任 首讲小米14 Ultra
- ·iOS 17.5出现Bug:用户已经删掉的照片离奇复活
- ·雷军力荐米家洗车机2:自带电池 洗车确实方便
- ·2899元起!追觅发布新一代洗地机:搞定烦人缠毛问题、首创100℃沸水自洁功能
- ·12306否认与第三方平台合作:未将票额分配给任何第三方发售
- ·男子锻炼时出意外被健身器材夺命:吊脖锻炼需注意安全
- ·2024春季火山引擎FORCE原动力大会总结 字节豆包9大模型详细介绍
- ·儿子打碎20多个瓜爸妈脸上笑哈哈 网友点赞:情绪稳定的父母
- ·雷军:卢伟冰将兼任小米品牌总经理 并主讲小米14 Ultra
- ·AI日报:谷歌杀器硬刚GPT-4o、Sora;字节推出豆包大模型“全家桶”;阿里再推AI虚拟试衣神器;腾讯开源混元文生图大模型
- ·胖东来在门口给顾客身上扫雪:工作人员全程面带微笑
- ·华为夏季全场景发布会汇总,鸿蒙生态再添众多新品
- ·天猫:618将为商家提供2000亿极速回款额度
- ·问界新M5正式开启全国大规模交付 余承东亲自交付讲解
- ·上市公司劝股民放下执念离开股市 屹通新材:放松心情 享受时光
- ·特斯拉Robotaxi发布在即:改装版Model 3测试车现身
- ·华为夏季全场景发布会价格汇总:15大新品、199元到15699元!
- ·全球量产SUV风阻!乐道L60风阻低至0.229Cd
- ·Meta 计划于今年部署自家 AI 芯片,减少对 Nvidia GPU 的依赖
- ·支持5.5G网络!荣耀Magic6系列推送MagicOS 8.0.0.136升级