Meta 宣布计划利用人工智能评估隐私和社会风险

本站报道：

Meta Platforms 计划利用人工智能来评估隐私和社会风险。多年来，该公司一直聘请人工评估人员来研究新产品和新功能的相关风险，但这次更新将改变这一现状。

根据内部对话和文件，Meta 计划实现 90% 的风险评估自动化。这意味着，公司算法、安全功能的关键更新以及 Meta 平台上内容共享方式的变更，将主要由人工智能支持的系统审批。这也意味着，这些变更将不再需要由负责讨论平台变更可能产生不可预见的影响或被滥用的人员进行审核。

Meta 计划转向人工智能评论系统

据 Meta 内部消息人士透露，这一进展对产品开发者来说是一个好消息，因为它为他们提供了足够的时间来发布应用更新和功能。然而，公司内部仍有人担心目前的形势有多么棘手，并指出公司将允许AI对 Meta 的应用做出棘手的判断可能会在现实世界中造成危害。前任和现任员工都存在这种偏见。

“从功能上来说，这种流程意味着更多产品可以更快地发布，审查和反对力度也更小，但也意味着风险更高，”一位因担心遭到公司报复而要求匿名的前 Meta 高管表示。“产品变更带来的负面外部效应不太可能在开始给世界带来问题之前就被阻止。”

Meta 在最近的一份声明中提到，它已投入数十亿美元用于支持用户隐私。自 2012 年以来，该公司一直受到联邦贸易委员会的监管，该机构就如何处理用户个人信息与该公司达成了协议。因此，据 Meta 前员工和现任员工称，产品隐私审查始终是必需的。

该公司在声明中补充说，产品风险审查的变更将有助于简化决策流程，并指出在处理新颖复杂的问题时，仍需要依靠人类的专业知识。Meta 还指出，目前只有低风险决策实现了自动化，但内部文件由美国国家公共电台表明 Meta 一直在研究对敏感方面进行自动化审查，包括人工智能安全、青少年风险以及另一个称为诚信的类别，该类别负责处理错误信息和暴力内容等。

在之前的系统下，产品和功能更新会先发送给风险评估人员，然后再向公众发布。然而，根据一张展示新流程的幻灯片，产品团队在完成一份项目问卷后，即可立即收到决策。这项由人工智能驱动的决策将识别出几个存在风险的领域以及可以解决这些风险的需求。在此类项目启动之前，产品团队还将验证这些需求是否已得到满足。

新系统强调的是，构建 Meta 产品的工程师需要对风险做出判断。幻灯片显示，在某些情况下，包括新的风险或product如果团队需要额外的反馈，项目将由人工进行手动审查。

然而，曾任 Meta 创新总监（任期至 2022 年）的 Zvika Krieger 曾指出，产品经理和工程师并非隐私专家。“大多数产品经理和工程师并非隐私专家，这并非他们工作的重点。这并非他们评估的主要依据，也不是激励他们优先考虑的因素。”他说道。他还补充说，一些自我评估已经沦为一种练习，忽略了一些重要的风险。

Cryptopolitan Academy：即将推出 - 2025 年利用 DeFi 赚取被动收入的新方式。了解更多