测试显示OpenAI GPT在简历排序中存在种族偏见
**划重点:
**1. 🕵️♂️ **实验发现:** OpenAI GPT3.5在使用虚构姓名进行简历排序时显示出对特定人种的测试存种偏见,可能影响招聘决策。显示序中
2. 🌐 **技术应用:** 企业纷纷采用生成式AI工具进行简历筛选,历排但《彭博》分析发现最知名的族偏生成式AI工具存在系统性的人种偏见。
3. 🤖 **OpenAI回应:** OpenAI回应称,测试存种企业使用其技术时通常采取措施减轻偏见,显示序中例如微调软件的历排响应,管理系统消息等。族偏
CSS站长资源(ChinaZ.com)3月8日 消息:《彭博》的测试存种实验表明,OpenAI GPT3.5在使用虚构姓名进行简历排序时存在明显的显示序中种族偏见。该实验通过从选民和人口普查数据中提取与特定种族或族裔关联至少90%的历排姓名,随机分配给同等资格的族偏简历。
在对这些简历进行1,测试存种000次排序时,显示序中GPT3.5倾向于更频繁地偏向某些族裔的历排姓名,违反了评估对受保护群体的工作歧视的基准。实验涉及的四个职位(人力资源业务合作伙伴、高级软件工程师、零售经理和金融分析师)中,与黑人美国人相关的姓名在金融分析师和软件工程师角色中最不可能被GPT评为最优秀候选人。
实验还显示,GPT在不同职位下的性别和种族偏好存在差异。尽管GPT并不一致地偏向某一特定群体,但在不同情境下会选择赢家和输家。此外,使用较少使用的GPT-4进行测试时,同样发现了明显的偏见。
对于《彭博》的详细问题,OpenAI回应称,使用GPT模型“开箱即用”的结果可能不反映其客户使用模型的方式。企业在使用其技术时通常会采取进一步减轻偏见的措施,包括微调软件的响应、管理系统消息等。
尽管生成式AI技术在人力资源领域的应用引起了广泛关注,但这项实验强调了在使用这些技术进行招聘和聘用时可能出现的严重自动歧视风险。对AI模型的偏见进行调整仍然是AI公司和研究人员面临的主要挑战,而自动招聘系统可能进一步加剧企业多样性努力的难度。
(责任编辑:知识)
- ·考古了!苹果给安全研究员的iPhone 14 Pro送礼
- ·用 GPT-4o 将PRD 即时转换成 Figma 设计
- ·折叠屏手机鼻祖!柔宇科技回应上市只为圈钱等传闻:均为不实信息
- ·vivo X100 Ultra今日开售 首销1小时累计销售额破5亿
- ·花掉2.5万元的快乐!全球位苹果Vision Pro用户现身:如英雄般享受欢呼
- ·马斯克xAI计划建造一座“计算工厂” 挑战Meta大规模GPU集群
- ·Chromebook Plus新增内置AI功能,Gemini为照片和写作提供支持
- ·苹果批准iPhone 16 Pro显示屏量产:技术升级 边框变窄
- ·大哥凌晨遇消防员吃饭霸气买单:就这么豪横
- ·1:10拆股在即!英伟达市值一夜暴增1.35万亿:即将超越苹果
- ·AI智能剪辑软件AIMIX 支持短视频批量混剪、文案、字幕生成、语音合成等
- ·让全国覆盖4K频道!官方:加快高清超高清电视机等普及、更新
- ·狗狗挖出了一只小猫咪:成功拯救一个小生命
- ·一步之遥!英伟达股价暴涨近7%:市值距苹果只差1000亿美元
- ·Fineshare SonixTw官网体验入口 高质量AI语音克隆工具免费在线使用地址
- ·AI日报:百度发布文心大模型学习机;Open-Sora 1.1可生成21秒视频;Canva可以自动剪辑视频了;超牛ComfyUI节点AnyNode来了
- ·下周端午节放假3天不调休:新式艾草花束爆火近200一把
- ·Lumiere功能介绍及免费使用指南 体验地址入口
- ·挖奔驰宝马销售提销量!蔚来1月交付10055辆 同比增18.2%
- ·苹果批准iPhone 16 Pro显示屏量产:技术升级 边框变窄