OpenAI再度拉响安全警报:又一高层离职揭示巨大风险
时间:2024-07-04 05:29:16 来源:带水拖泥网 作者:短视频 阅读:216次
CSS站长资源(ChinaZ.com)5月27日 消息:OpenAI最近面临了安全团队成员的再度职揭连续离职,其中包括AI策略研究员Gretchen Krueger(简称格姐)。拉响她在2019年加入OpenAI,安全参与了GPT-4和DALL·E2的警报开发,并在2020年领导了OpenAI第一个全公司范围的又高“红队”测试。现在,层离她也成为了发出警告的示巨离职员工之一。
格姐在社交媒体上表达了她的大风担忧,认为OpenAI在决策流程、再度职揭问责制、拉响透明度、安全文档、警报策略执行等方面需要改进,又高并应采取措施减轻技术对社会不平等、层离权利和环境的示巨影响。她提到,科技公司有时会通过制造分裂来剥夺那些寻求追究责任的人的权力,她非常关心防止这种情况发生。
格姐的离职是OpenAI安全团队内部动荡的一部分。在她之前,OpenAI首席科学家Ilya Sutskever和超级对齐负责人Jan Leike也已经宣布离职。这些离职事件引发了外界对OpenAI安全问题决策过程的质疑。
OpenAI的安全团队主要分为三大块:
超级对齐团队:专注于控制还不存在的超级智能。
Safety Systems团队:专注于减少现有模型和产品的滥用。
Preparedness团队:绘制前沿模型的新兴风险。
尽管OpenAI拥有多个安全团队,但风险评估的最终决策权仍然掌握在领导层手中。董事会拥有推翻决策的权利,目前董事会成员包括了来自不同领域的专家和高管。
格姐的离职和她的公开言论,以及OpenAI安全团队的其他变动,引起了社区对AI安全性和公司治理的广泛关注。这些问题现在对人们和社区都很重要,它们影响着未来的各个方面如何以及由谁来规划。
(责任编辑:小程序)
最新内容
热点内容
- ·网红帮女生找到失散22年妈妈 网友助力母女终相认
- ·抖音上线发评行为异常等网络水军识别模型 将打击网络水军造谣蹭热等行为
- ·抖音上线发评行为异常等网络水军识别模型 将打击网络水军造谣蹭热等行为
- ·Humane正寻求买家 并警 AI Pin用户停止使用其充电配件
- ·问界新M7助力AITO汽车登顶,月交付3万 诠释“新王登基”
- ·17岁女孩酷似87版林黛玉走红:正努力学习表演技巧
- ·报道:美国政府将就对微软、OpenAI 和英伟达展开反垄断调查
- ·大二女生175斤减到94斤变化惊艳:越来越自信了
- ·无代码AI图像生成和分析工作流平台ML Blocks 简单拖放即可创建工作流
- ·midjourney教程:如何midjourney生成逼真的人像照片 附22个好用的midjourney提示词