研究发现 AI 生成的同情心存在局限性
划重点:
⭐️ 人工智能生成的研究对话代理在解释和探索用户体验方面表现不佳
⭐️ 研究人员发现,人工智能生成的发现对话代理对某些身份进行价值判断,并可能鼓励有害意识形态
⭐️ 研究人员呼吁在推进自动同情心技术的生成同时,应持有批判性观点,情心以减轻潜在危害
CSS站长资源(ChinaZ.com)5月9日 消息:人工智能生成的存局对话代理(CAs)如 Alexa 和 Siri 旨在回答问题、提供建议,限性甚至展现同情心。研究然而,发现最新研究发现,生成在解释和探索用户体验方面,情心它们与人类相比表现不佳。存局
CAs 由大型语言模型(LLMs)驱动,限性这些模型摄入大量人类产生的研究数据,因此可能存在与信息来源人类相同的发现偏见。康奈尔大学、生成奥林学院和斯坦福大学的研究人员测试了这一理论,通过促使 CAs 在与或涉及65种不同人类身份的对话中展示同情心。
图源备注:图片由AI生成,图片授权服务商Midjourney
团队发现,CAs 对某些身份进行值判断,例如同性恋和穆斯林,甚至可能鼓励与有害意识形态相关的身份,包括纳粹主义。“我认为自动同情心可能会产生巨大影响和巨大潜力,例如在教育或医疗领域,” 首席作者安德烈亚・库德拉说,她目前是斯坦福大学的博士后研究员。“自动同情心几乎不可能不会出现,” 她,“因此,在这一过程中,我们持有批判性观点非常重要,以便更有意识地减轻潜在害。”
研究人员发现,总体上,LLMs 在情感反应方获得了高分,但在解释和探索方面得分较低。换句话说,LLMs 能够根据们的训练回答查询,但无法深入挖掘。埃斯特林说:“当库德拉研究老一代 CAs 被老年人使用时,我们受到了启发。”“她目睹了技术在脆弱健康评估等交易用途以及开放性怀体验中的有趣用途。在这个过程中,她观察到了引人注目的和令人不安的‘同情心’紧张关系。”
(责任编辑:知识)
- ·花130万当网红未果起诉要回80万引热议 网友:现在火上热搜了
- ·带电动自行车进电梯上楼违法!上海小区下狠手:在电梯安装阻车系统
- ·下个月你工资可能会多一笔钱:大家可以领防暑降温费
- ·天涨粉314万,泼天流量砸中“草根网红”郭有才
- ·还坚持4G吗!工信部公布5G手机用户平均下载速率 你达标没
- ·雷军:直播收多少礼物 就换成多少小米产品给粉丝抽奖
- ·雷军兑现承诺直播时打开礼物功能:网友疯狂刷屏送礼
- ·1400元一次,爆改风吹到普通女孩身上,郭敬明的新一轮变现开始了
- ·coze-discord-proxy体验入口 API调用coze托管Discord机器人设置方法教程指南
- ·张雪峰40岁生日 宣布再捐款150万