OpenAI 成立幸福委员会，Altman 放宽 ChatGPT 成人内容限制

本站报道：

OpenAI 周二宣布形成健康和人工智能专家委员会，由一群学者和非营利组织领导人组成，负责帮助该公司了解其产品如何影响心理健康。

该公司在一份声明中表示：“他们的职责是为我们提供建议、提出问题，并帮助定义各个年龄段的人与人工智能的健康互动应该是什么样的。”

该小组由八名成员组成，包括来自哈佛大学、斯坦福大学、牛津大学和其他机构的研究人员，他们将帮助制定指导方针。

OpenAI 补充道：“我们与委员会的合作将包括定期检查我们的方法，并定期召开会议探讨人工智能在复杂或敏感情况下应如何表现以及哪些类型的护栏可以最好地支持使用 ChatGPT 的人们等主题。”

人工智能与公共安全

OpenAI 和其他人工智能公司面临着越来越大的压力，因为他们担心这项技术会对用户（尤其是儿童）产生影响。OpenAI 和其他业内公司都面临着家长的诉讼，他们指控人工智能对话导致青少年自杀，这促使 OpenAI 在今年早些时候推出了家长控制功能。其他人则将人际关系破裂和孤独感加剧归咎于对聊天机器人的依赖。

在公众压力下成立的福利委员会凸显了科技行业一个持续存在的问题：企业只有在产品大规模流通后才开始考虑其心理和道德后果。批评人士表示，这是一个常见的循环：先创新，后问责。

非政府组织 AlgorithmWatch 的一位发言人告诉解密.

AlgorithmWatch 还质疑新委员会的独立性，并指出 OpenAI 的历史内部权力斗争他们补充道：“我们应该记住，当之前的 OpenAI 董事会试图通过表达对 Sam Altman 的不信任来产生影响时，他们都被撤职并被替换了。”

AlgorithmWatch 建议，Meta 监督委员会可能是一个“稍微好一点（但仍然有限）的先例”，并指出虽然他们的建议“通常非常缓慢且经常被忽视”，但该委员会提供了“明确的建议，并且足够公开，人们可以看到 Meta 忽略了什么”。

Holonym 联合创始人兼数字权利倡导者 Shady El Damaty 告诉解密他发现，那些竞相部署最强大人工智能工具的公司现在却将自己定位为“道德裁判”，这很讽刺。

“但这些对话紧迫且早就该进行了，所以我不会否定这个委员会的存在。如果真要说的话，我希望它能为每个人争取发言权，”他补充道。

除了福祉之外，他还表示希望看到委员会也能解决隐私和身份问题。“委员会至少应该建立透明公开的指标来衡量人工智能的情感影响，并要求定期进行独立审计，”他说。“但我们确实需要强化的规章制度来保护我们的数字权利，而且越快越好。”

他补充道：“OpenAI 的专家委员会有机会在安全领域进行更深入的研究。他们应该问：人们在数字空间中拥有哪些权利？他们的身份、行为和肖像归谁所有？以人为本的设计究竟是什么样的……不仅针对儿童，也针对所有人？”

OpenAI 放宽成人内容限制

该公司重新关注福祉的同时，首席执行官 Sam Altman 也宣布 OpenAI 也将开始放宽限制，包括成人内容，将于 12 月推出。

Altman 表示：“我们对 ChatGPT 进行了严格的限制，以确保我们能够妥善处理心理健康问题。”发推文同一天。

“我们意识到，对于许多没有心理健康问题的用户来说，这会降低它的实用性/乐趣，但考虑到问题的严重性，我们希望解决这个问题。”

奥特曼表示，经过验证的成年人很快将被允许使用 ChatGPT 创作色情作品，并将其描述为“像对待成年人一样对待成年用户”这一更广泛原则的一部分。