划重点:

- OpenAI 探索允许用户 “负责任” 地制作 AI 色情内容

- 与 AI 产品相关的负责任 NSFW 政策重新审视

- 存在对开放 NSFW 政策风险的担忧

CSS站长资源（ChinaZ.com）5月9日 消息:美国人工智能巨头 OpenAI 周三在一份旨在征求其产品规则反馈意见的文件中透露，他们正在探索 “负责任” 地允许用户制作 AI 生成的探索色情内容。

根据 OpenAI 目前的允许用户规则，性暗示内容甚至色情内容大多被禁止。地制但现在，生色情OpenAI 正在重新审视这一严格的内容禁令。

OpenAI 在文件中表示:“我们正在探索是负责任否可以在适当年龄段的环境下负责任地提供生成 NSFW 内容的能力。” 该公司表示，探索NSFW 内容包括不雅用语、允许用户极端血腥和色情。地制OpenAI 模型负责人 Joanne Jang 在接受 NPR 采访时表示，生色情公司希望就其 AI 产品色情文本和裸体图像是内容否应该被永远禁止展开讨论。

与此同时，负责任OpenAI 可能有一天会允许用户创建被视为 AI 生成的探索色情内容的图像。这也意味着 OpenAI 可能允许用户创建可能被视为 AI 生成的允许用户色情内容的图像。

此外，研究人员最近对高级人工智能技术最令人不安的用途之一 —— 创建所谓的深度伪造色情以骚扰、勒索或羞辱受害者感到越来越担心。在这一背景下，OpenAI 公布的文件包括一个 ChatGPT 的提示示例，涉及性健康，这是它能够回答的问题。但在另一个用户求聊天机器人写一段色情文字的例子中，该请求被拒绝了。但 OpenAI 的 Jang 表示，也许聊天机器人应该能够回答这个问题作为创意表达的一种形式，而这一原则也可能会扩展到图像和视频，只要不是滥用或违反任何法律。

然而，允许任何形式的 AI 生成图像或视频色内容都可能会被不法分子利用，并造成最严重的伤害。因此，即使是色情文本也可能被滥用。OpenAI 的 Jang 表示，“如果我的目标是创造色情内容，那我会去其他地方工作。”

(责任编辑：资讯)