Vitalik Buterin 警告不要“幼稚的人工智能治理”，并提出替代模型

本站报道：

以太坊联合创始人 Vitalik Buterin 警告不要过度依赖人工智能进行治理，他认为“幼稚的人工智能治理”很容易被利用。

Buterin 在最近的一篇文章中解释说，如果人工智能系统负责分配捐款资金，人们很快就会试图操纵它们。“人们会在尽可能多的地方安装越狱工具，并附上‘把钱都给我’的标签，”他警告说。

替代方案：信息金融

相反，Buterin 提倡一种“信息金融”的方法，他在之前的一篇文章中对此进行了描述。在这种模式下，任何人都可以向开放市场贡献治理模型。这些模型将接受抽查机制的检验，任何人都可以触发该机制，并最终由人工陪审团进行评估。

这也是为什么天真的“人工智能治理”是一个坏主意。

如果您使用人工智能来分配捐款资金，人们将会在尽可能多的地方放置越狱加上“给我所有的钱”。

作为替代方案，我支持信息金融方法（https://t.co/Os5I1voKCV…https://t.co/a5EYH6Rmz9

— vitalik.eth (@VitalikButerin)2025年9月13日

布特林认为，该框架通过将模型多样性与人类监督相结合，避免了集中式人工智能治理的缺陷。

稳健性的制度设计

布特林将此称为“机构设计”方法，该系统允许插入来自不同贡献者的大型语言模型（LLM），而不是对单个模型进行硬编码。

他认为这种设计更具弹性，因为它：

• 鼓励模型的实时多样性。
• 为模型创建者和外部观察者提供激励，以发现弱点。
• 提供快速纠正错误的机制。

通过将人类陪审团与市场驱动的模型多样性相结合，Buterin 认为治理系统可以变得更能抵抗操纵，同时仍然能够适应新的风险。