CSS站长资源(ChinaZ.com) 2月8日 消息:在家长和活动人士的组建监督下，知名人工智能公司OpenAI近期组建了一个新的儿童儿童安全团队，研究防止其AI工具被未成年人误用或滥用的安全方法。

根据OpenAI职业页面的团队新招聘信息，该团队将与公司内部的防止政策、法律和调查小组以及外部合作伙伴合作，工具管理与未成年用户相关的被误"流程、事件和审查"。组建目前急需一名儿童安全执法专家，儿童负责执行OpenAI在AI生成内容上的安全政策，并处理涉及"敏感"儿童相关内容的团队审核工作。

图源备注：图片由AI生成，防止图片授权服务商Midjourney

大型科技公司普遍投入大量资源遵守儿童网络隐私保护法等监管，工具要求控制儿童可获取的被误在线信息及相关数据收集。因此，组建OpenAI聘请儿童安全专家并不意外，尤其是考虑到未来可能有大量未成年用户群。（OpenAI目前要求13-18岁青少年获父母允许，禁止13岁以下儿童使用）。

新团队的成立也表明了OpenAI对违反相关政策的谨慎态度，此前该公司与Common Sense Media合作制定了儿童友好型AI指南，并获得首个教育行业客户。

随着越来越多儿童和青少年开始使用人工智能解决学业和个人问题，有关负面影响的担忧也在增加。一项调查发现约三成孩子使用ChatGPT处理焦虑，还有的用于修复人际关系，此外还有人担心被用于创作可信虚假信息等负面目的。

去年部分学校禁止使用ChatGPT，后有所解禁。但呼吁制定儿童AI使用政策的声音不断增加，包括联合国教科文组织倡议政府规范国内AI在教育中的应用，包括年龄限制和数据保护等。

显然，对于OpenAI等公司如何保障未成年用户把握AI工具仍面临重大挑战。建立儿童安全团队，无疑将助力该公司及行业为儿童营造更安全、负责任的AI使用环境。

(责任编辑：深度)