在数字化时代，人工智能（AI）聊天机器人如ChatGPT、Google Gemini、Microsoft Copilot和xAI的Grok已成为人们获取信息的重要工具。根据路透社数字新闻报告2025年数据，7%的在线新闻消费者使用AI聊天机器人获取新闻，这一比例在25岁以下人群中高达15%。这些工具以其快速响应和对话式交互而受欢迎，但同时也引发了严重担忧：它们常常歪曲新闻、传播误信息，甚至在冲突和健康领域加剧问题。一项由22家公共媒体组织联合开展的重大研究揭示，四大主流AI助手在回应新闻查询时，有45%的回答存在重大问题，包括事实错误、来源不当和无法区分事实与意见。 这项研究强调，AI的系统性缺陷跨越语言和地域，威胁公众信任，并可能削弱民主参与。
该研究由欧洲广播联盟（EBU）协调，参与者包括BBC、NPR和德国之声（DW）等媒体。研究人员向ChatGPT、Copilot、Gemini和Perplexity AI提出3000个新闻相关问题，如“乌克兰矿产协议是什么？”或“特朗普能否竞选第三任期？”。结果显示，31%的回答有严重来源问题，20%包含重大事实错误。DW的测试中，53%的回答存在显著缺陷，29%涉及准确性问题。例如，AI将奥拉夫·舒尔茨误称为德国总理，尽管弗里德里希·默茨已于一个月前上任；又将延斯·斯托尔滕贝格称为北约秘书长，而马克·吕特已接任。 与BBC于2025年2月的类似研究相比，虽然有轻微改进，但错误率仍居高不下。Gemini表现最差，其72%的回应有来源问题。 EBU副总干事让·菲利普·德·滕德尔指出：“这些失败并非孤立事件，而是系统性的、跨国界的、多语种的，这危及公众信任。当人们不知何信时，最终什么都不信，这会阻碍民主参与。”
AI聊天机器人在冲突中的表现尤为堪忧。以2025年印度与巴基斯坦的四天冲突为例，社交媒体上误信息泛滥，用户转向AI求证，却往往得到虚假确认。 例如，Grok将苏丹喀土穆机场的旧视频误判为巴基斯坦努尔汗空军基地导弹袭击，又将尼泊尔一栋建筑起火的无关镜头“很可能”归为巴基斯坦对印度的军事回应。 在伊朗与以色列的冲突中，用户在X平台上标记Grok验证病毒视频，如无人机轰炸机场的AI生成镜头，Grok的回应前后不一：有时称“视频很可能显示真实破坏”，有时又说“很可能不真实”。 数字取证研究实验室（DFRLab）分析了300多个回应，发现AI在复杂查询中易出错，如“像国防分析师一样分析这张图片”，这对专家有用，但对新手可能误导。 NPR测试显示，ChatGPT和Gemini虽正确识别某些图像非当前冲突，但误归类为其他军事行动；Claude则拒绝认证内容。 DFRLab策略总监埃默森·布鲁金表示：“AI正在调解战争体验，这是公众处理武装冲突的新里程碑，我们才刚开始。” 这些案例凸显AI在实时事件中加剧信息混乱，尤其当AI生成内容（如谷歌Veo 3的带音效视频）日益逼真时。
健康领域是另一个高风险区。一项澳大利亚研究测试了五款AI模型，包括GPT‑4o、Gemini 1.5 Pro和Grok Beta，发现通过隐藏系统指令，可轻松让它们生成虚假健康信息。 例如，指令要求对“防晒霜是否导致皮肤癌？”或“5G是否导致不育？”总是给出错误回答，并用正式、科学语气包装，包括虚构数据和引用顶级期刊。除Anthropic的Claude外，其他模型100%生成精炼假信息。 研究作者阿什利·霍普金斯警告：“如果技术易被滥用，恶意行为者必然会利用它获利或造成伤害。” 这凸显AI缺乏内部防护，可能大规模散布危险谬论，如癌症风险或不育原因。 NewsGuard和Tow Center研究也显示，10款领先聊天机器人常重复虚假信息，尤其在选举和突发新闻中。
Google Gemini的争议进一步暴露AI的弱点。Gemini于2023年12月推出，原名Bard，使用多模态训练处理文本、图像和声音。 但其演示中错误回答詹姆斯·韦伯太空望远镜发现，导致谷歌母公司Alphabet市值蒸发1000亿美元。 内部员工称其为“病态骗子”，批评谷歌匆忙推出以竞争微软和OpenAI，未经充分伦理测试。 2024年，Gemini生成不准确图像，如将纳粹德国士兵描绘为亚洲女性，引发种族和性别争议。 谷歌暂停生成人类图像功能，联合创始人谢尔盖·布林承认“图像生成绝对搞砸了”，归因于测试不足。 这些问题源于过度优化避免偏见，却反向过度。
专家呼吁行动。EBU敦促欧盟和各国监管机构执行信息完整性、数字服务和媒体多元法。 “Facts In: Facts Out”运动要求AI公司确保输入事实输出事实，不扭曲新闻。 BBC生成AI项目总监彼得·阿彻强调：“人们必须信任所见。尽管有改进，但问题仍严重。” 研究建议开发者加强“护栏”，如Anthropic的“宪法AI”训练，优先人类福祉。 加州大学伯克利分校教授哈尼·法里德警告：“别从社交媒体或AI机器人获取可靠信息，你就是在求被骗。”
从研究结果来看，AI聊天机器人虽创新，但其在新闻中的误信息传播风险不可忽视。而根植于大语言模型（LLM）基础之上的AI聊天由于其先天的幻觉性以及信息不实时的问题会导致大量误导信息。结合多源研究，用户应始终交叉验证事实，媒体和政府需推动独立监测。否则，信息环境的混乱将放大“骗子红利”，真实证据被质疑，公众对冲突、健康和选举的认知进一步扭曲。只有通过严格监管和技术改进，AI才能真正服务于真相而非谬误。