AI胡说八道背后：重建人工智能信任基座

当前，以大语言模型为代表的生成式AI正以前所未有的速度融入社会生产与生活的各个领域。从健康咨询、消费决策到日常知识获取，越来越多的用户开始将AI作为获取信息的首要渠道。然而，一个显著的挑战也随之凸显：AI频繁出现的“幻觉”问题，正在动摇用户信任的根基，甚至触及产业安全与公众权益的底线。

信源污染：AI可信度面临的核心挑战

从实际反馈来看，“信源污染”是导致AI可信度下降的关键原因。2026年中央广播电视总台“3·15”晚会曾专项曝光了一项名为“生成式引擎优化”（GEO）的黑灰产。部分机构利用AIGC技术，能够大规模制造虚假内容，通过向大模型输入虚构的产品信息和排名，在短时间内即可污染AI的输出结果，形成一条误导消费者的完整产业链。科普媒体近期的双盲测试提供了更具体的数据：在缺乏权威信源的情况下，主流AI在关键事实上的偏离率可达26.4%；而一旦接入权威知识库，这一比率可迅速降至4.1%以内。数据对比清晰地表明，“信源质量决定回答准确性”。此外，清华大学相关团队的研究报告也显示，多个热门大模型在事实性幻觉评测中的幻觉率超过了19%。

从技术问题到系统性治理课题

由此引发的问题，已超越单纯的技术范畴。当人工智能大模型日益深入地参与用户的信息获取与决策辅助过程时，其输出的真实性、安全性与可控性，就直接关系到整个数字经济生态的健康发展，并与人民群众的切身利益紧密相连。在此背景下，AI的可信度建设，已不是单一企业能够独立应对的挑战，而是牵动行业全局、影响社会长期信心的系统性治理课题。