AI幻觉在科研中的三个毒害
作者:微信文章AI带来的便利数不胜数,比如文本写作、图片生成、代码修改等等。
但AI幻觉却无处不在,需要时刻警惕之!
在科研界,AI是如何一本正经的胡说八道?
一、无中生有:事实性幻觉的学术变体
当AI被要求生成文献综述时,它可能会:
编造根本不存在的学术论文,包括虚构的标题、作者和期刊信息;
生成看似合理但完全错误的数据图表,比如在材料科学领域杜撰某种不存在的“超导材料性能参数”;
捏造学术权威的虚假言论,将从未发表的观点强加于真实学者名下。
二、前后矛盾:逻辑性幻觉的学术演绎
在同一篇论文中,AI可能:
在方法部分描述某种实验流程,却在结果分析时使用完全不同的方法参数;
先肯定某个理论,随后又在讨论部分否定其适用性;
对同一组数据做出截然相反的解读。
三、空话套话:无实质内容的学术包装
最隐蔽的危害是AI生成的“学术废话”:
堆砌专业术语却无实质信息(如“利用多模态协同优化机制实现跨尺度范式转换”);
构建华丽却空洞的理论框架,缺乏可验证的数据支持;
使用模糊的量化表述(如“显著提升”“明显改善”)却不提供具体数值。
总结:
“无中生有”相信大家都已经见识过很多次了;“前后矛盾”也还是比较容易发现的;“空话套话”是重灾区,要特别警惕“正确的废话”。
以上。
页:
[1]