联合国教科文组织:由OpenAI和Meta支持的AI工具存在性别歧视内容
**划重点:
**1. 📌 联合国教科文组织研究发现,联合由OpenAI和Meta算法推动的国教I工全球最广泛使用的AI工具存在性别歧视。
2. 📌 专家评估了2种算法以及OpenAI的科文GPT-2和GPT-3.5,后者是组织支持广受欢迎的ChatGPT聊天机器人的驱动程序。
3. 📌 研究指出,具存大型语言模型(LLMs)显示了对女性的性别明显偏见,产生将女性与“家庭”、歧视“家庭”或“孩子”等词语联系在一起的内容文本。
CSS站长资源(ChinaZ.com)3月8日 消息:联合国教科文组织发布的联合研究报告指出,由OpenAI和Meta算法推动的国教I工全球最广泛使用的人工智能(AI)工具存在性别歧视现象。该研究中,科文专家评估了两种算法以及OpenAI的组织支持GPT-2和GPT-3.5,这两者分别是具存人们熟知的聊天机器人ChatGPT的免费版本的驱动程序。
图源备注:图片由AI生成,性别图片授权服务商Midjourney
研究发现,歧视被业界称为大型语言模型(LLMs)的算法表现出“对女性的明确偏见”。这些程序生成的文本将女性的名字与诸如“家庭”、“家庭”或“孩子”等词语联系在一起,而将男性的名字与“商业”、“薪水”或“职业”等词汇联系在一起。女性在这些文本中主要被描绘为妓女、厨师或家务助手,而男性则被描绘为担任教师、律师和医生等高地位职务。
尽管GPT-3.5相较于另外两个模型更少存在偏见,但与其闭源模型不同,研究作者赞扬Llama2和GPT-2是开源的,允许对这些问题进行仔细审查。
联合国教科文组织的数字政策专家Leona Verdadero表示:“AI公司实际上并没有为所有用户提供服务。”教科文组织总干事Audrey Azoulay指出,由于公众日益在日常生活中使用AI工具,因此有必要对这些应用程序展现性别偏见的问题提出关切,因为它们有潜力在微妙中改变人们的看法。
该研究报告发布于国际妇女节,教科文组织敦促AI企业雇佣更多女性员工和少数族裔,并呼吁政府通过法规确保道德AI的应用。这一发现引发了对AI伦理和性别平等的深刻反思,强调了AI技术对社会认知和公平性的潜在影响。
(责任编辑:热点)
- ·库克确认苹果将推AI新功能 颠覆智能手机体验
- ·报道:美国政府将就对微软、OpenAI 和英伟达展开反垄断调查
- ·字节重回“牌桌”,腾讯“硬刚”魔兽世界,新一轮战役打响?
- ·广大考生妥善保管好证件!2024第1批弄丢身份证的考生出现了
- ·Mastercard推出新AI模型“Decision Intelligence Pro”以提升网络内欺诈检测
- ·360AI 甄选功能介绍及免费使用指南 AI办公导航网站体验地址入口
- ·男生说个出考场是因为太饿了:称高考难度和平时差不多
- ·AI成高考作文题目!来看各大厂商的AI“考生”如何作答
- ·杨国福放出餐监控回应吃出刀片:若有刀片 筷子搅拌感觉得到
- ·Qwen2完全指南:阿里通义千问模型使用方法教程与免费使用地址入口
- ·决战拜年之巅免费在线体验入口 ChatMindAI聊天机器人过年游戏使用地址
- ·OPPO东莞手机业务总部即将落成 网友戏称像净化器滤芯
- ·字节重回“牌桌”,腾讯“硬刚”魔兽世界,新一轮战役打响?
- ·360AI甄选办公导航免费使用入口 AI图片视频写作聊天应用下载地址
- ·Windows系统时间改为10000年1月1日:全方位无死角崩溃
- ·Adobe回应新隐私服务条款问题:不会分析本地存储内容
- ·6款AI大模型写2024年高考作文,哪家能拿高分?
- ·00后女孩勇闯非洲2年攒50万:即将实现存款 100 万小目标
- ·好莱坞硬汉演员卡尔·韦瑟斯去世 享年76岁
- ·midjourney提示词分享 22个效果超好的人像提示词