AI 之父称 AI 将很快超越人类智能,担心发展不安全
划重点:
- 🤖 AI 之父 Geoffrey Hinton 担心 AI 的父展发展不够安全,并表示 AI 很快将超越人类智能。快超
- 🌍 大多数 AI 领域的越人专家都认同 AI 将超越人类智能的观点。
- 💥 Hinton 担心军 事应用领域可能带来的类智潜在威胁,呼吁政府加强对 AI 的安全监管。
CSS站长资源(ChinaZ.com) 5月21日 消息:加拿大蒙特利尔大学的父展 Yoshua Bengio、Meta 的快超 Yann LeCun 以及 AI 之父 Geoffrey Hinton,被誉为 AI 之父。越人Hinton 近日在接受 BBC Newsnight 节目采访时表示,类智AI 很快将超越人类智能,安全并担心我们在 AI 发展方面的父展安全性不够重视。他还指出,快超这不仅仅是越人他个人的观点,实际上这是类智该领域领导者的共识。
图源备注:图片由AI生成,安全图片授权服务商Midjourney
Hinton 在采访中表示:“几乎我认识的所有 AI 专家都相信 AI 将超越人类智能,问题只是时间的问题。” 他还指出,Yann LeCun 认为 AI 超级智能不会带来问题。Hinton 于2023年辞去了在谷歌的职位,并表示后悔自己的一生工作,同时警告人们要警惕这项技术带来的存在风险。在 BBC 的采访中,他进一步强调了这一观点。
“鉴于专家意见的差异,我认为对于 AI 的发展和监管要保持谨慎。” Hinton 说道。“我认为 AI 控制的可能性是存在的,而且这个可能性很大,不只是百分之一的可能,要远远超过这个数值。AI 是否会变得不受控制并试图接管人类,我们目前还不清楚。”
目前,军 事领域对 AI 的应用似乎是 Hinton 最担心的。以色列国防军据报道使用 AI 系统在加沙地带选择空袭目标,这种军 事应用让 Hinton 忧心忡忡。他告诫各国政府在这一领域加强监管,尤其是对于 AI 可以自主决定杀人的情况。
作为一位普遍基本收入的支持者,Hinton 还表示他担心 AI 接管单调工作。他指出,这将提高生产力,但财富的增长将不平等地流向富人,而不是那些工作被摧毁的人。
尽管 Hinton 并不认为 AI 会完全接管人类,但他认为 AI 最终将比我们更聪明。然而,可以说,那些正在开发 AI 模型的以利润为驱动的公司并不是技术安全发展的最值得信赖的管理者。
OpenAI 最近被前一名安全工作人员批评,他对该公司负责地开发超级智能 AI 的能力失去了信心。所以即使 Hinton 可能有一些悲观的情绪,他绝对不是孤立的。
(责任编辑:业界)
- ·谷歌产品大更新:Bard可生成图像;文生音乐平台等5大免费功能
- ·大疆无人机拽起铁棒甩打高压电线覆冰 画面舒适解压
- ·官方回应黔灵山多人抓猕猴变卖:不实之词 有相关手续
- ·一文回顾B站2023:超130位UP主年涨粉百万,流量流向不缺流量的人?
- ·库克回应iPhone不好卖了:我们表现很优异 销量前六名中占据了四席
- ·春运期间火车票是否只卖长途票!12306官方说明白了
- ·AI视野:通义千问推AI生成拜年视频;SVD1.1发布; AI对联网络走红;百度将举办Create AI开发者大会
- ·视频生成模型Stable Video Diffusion1.1发布 清晰度质量有所改进
- ·iPhone销售额达697亿美元!苹果称大中华区业绩下滑13%
- ·腾讯收购古剑奇谭游戏厂商网元圣唐 成为主要股东