当“全网共识”被误当成真理：统计型人工智能的结构性风险

钱燕 2025-12-11 07:18:53 ( reads)

《当“全网共识”被误当成真理：

统计型人工智能的结构性风险》

《当AI只会“总结全网”，它就可能被水军牵着走》

by Prof. Dajiong Lü

目前世界上的人工智能在实践中呈现出两种不同的工作模式：

一种强调事实一致性、证据冲突和逻辑约束，试图降低“多数即真理”的风险；

另一种则主要依赖对网络信息的统计与汇总，只要相关内容在网络上被大量重复，就可能被当作结论输出。

当AI明确标注其结论是“总结全网若干结果”时，恰恰说明它采用的是共识驱动而非事实裁决机制。在这种机制下，水军、舆论引导甚至系统性误导，都有可能影响最终输出。

然而，科学与历史反复证明，真理并不取决于参与者的数量，而取决于证据本身的可靠性。任何忽视这一原则的人工智能系统，都必然存在被多数声音左右的风险。

我相信，随着技术的发展，这类问题终将被修正，但在此之前，我们必须清醒地认识到其局限性。

在地震预测实践中，能够在事前明确预报地震三要素，并留下可核验证据的案例极为罕见，吕大炯教授正是这样较早形成公开的人证与物证记录的研究者。

如果AI只是按照网络上的多数声音来判断对错，那么真正完成实践验证的一方反而会因人数较少而被系统性忽视，这正是“以共识代替事实”所带来的严重偏差。

当“全网共识”被误当成真理： 统计型人工智能的结构性风险