多客科技 发表于 2025-6-23 18:46

AI幻觉在科研中的三个毒害

作者:微信文章


AI带来的便利数不胜数,比如文本写作、图片生成、代码修改等等。

但AI幻觉却无处不在,需要时刻警惕之!

在科研界,AI是如何一本正经的胡说八道?


一、无中生有:事实性幻觉的学术变体

当AI被要求生成文献综述时,它可能会:

编造根本不存在的学术论文,包括虚构的标题、作者和期刊信息;

生成看似合理但完全错误的数据图表,比如在材料科学领域杜撰某种不存在的“超导材料性能参数”;

捏造学术权威的虚假言论,将从未发表的观点强加于真实学者名下。



二、前后矛盾:逻辑性幻觉的学术演绎

在同一篇论文中,AI可能:

在方法部分描述某种实验流程,却在结果分析时使用完全不同的方法参数;

先肯定某个理论,随后又在讨论部分否定其适用性;

对同一组数据做出截然相反的解读。



三、空话套话:无实质内容的学术包装

最隐蔽的危害是AI生成的“学术废话”:

堆砌专业术语却无实质信息(如“利用多模态协同优化机制实现跨尺度范式转换”);

构建华丽却空洞的理论框架,缺乏可验证的数据支持;

使用模糊的量化表述(如“显著提升”“明显改善”)却不提供具体数值。


总结:
“无中生有”相信大家都已经见识过很多次了;“前后矛盾”也还是比较容易发现的;“空话套话”是重灾区,要特别警惕“正确的废话”。

以上。
页: [1]
查看完整版本: AI幻觉在科研中的三个毒害