AI打假工具终于来,是精准打假还是误伤原创,我们该何去何从?

多客科技

作者：微信文章
您好！

AI发展太快了，互联网上每天都有AI相关的新鲜事，有些还上了热搜，当然有真也有假。

比如前些天西藏地震埋在废墟下尽力爬出的小孩最后确认是AI生成的图片，还有这几天涌现在小红书上的自称是TikTok难民的博主发的图片或文章，真真假假，实在难辨。           

但，反过来，有一些本是原创的文章或图片，在到处都在使用AIGC应用的今天，也有被误读的情况。最近，我就曾遭遇过，本是近95%原创的文章发给朋友，不料他一看，就认为是AI生成，然后让我去掉AI味，好是郁闷。         

好了，现在终于出来了AI打假工具，这就是由腾讯混元安全团队朱雀实验室开发的一款AI生成内容检测工具。         

长这样。           

网址：https://matrix.tencent.com/ai-detect/a

操作主界面，如下。   



工具界面简单，易操作。主要包括AI生成文本，AI生成图片检测两块的功能。           

因曾被误读过，对这个工具格外期盼，及好奇。           

先看看跑的结果。           

第一类：AI生成文本检测           

案例1：复制一段由Kimi AI总结的文章,毫无悬念，检测结果：AI生成概率100%，符合预期。               



案例2：把社群中一位网友分享的文档进行检测，就内容来看，总结的结果还是可以的，还是能让人读了有些收获。检测结果，同样是：AI生成概率100%。           

由于文章是由他人所发，是否符合预期，不好作结论。所以，我在想，AI检测的目标虽是打假，但也要看你如何用这个结果。例如，网友发的这篇文章，即便是AI生成，但其内容还是有价值的，这就是AI技术助力人类的地方，我们必须拥抱。               



案例3：把一篇前些天由我原创的一小段短文复制上，其中有几句话采用了Kimi帮我优化后结果，就是句子之间过渡的连词。           

检测结果报告为AI生成概率92%，我觉得应该是反过来，才符合预期。所以基于这一点，工具的评测结果并不完全可信。           

同类的例子，还跑了几个，此处不再一一列出。注意，上传检测的文本最少要350字。   



就AI生成文本的检测正确率约有90%以上，也就是大部分情况下检测是可信的，特别是确实是AI生成的内容，基本检测率可达100%。但反过来，由人工原创内容，又采用了AI优化的个别句子，这种人机混合的结果检测结果不太准，或者说不准，同样存在误打假的嫌疑，或打假过了（打真）。   

第二类 AI生成图片检测           

案例1：上传一张由即梦生成的祝福图片，检测结果为AI生成概率：99.85%，符合预期。               



案例2：上传一张真实的生活照片后，由AI生成，然后被人工去掉背景的图片。

检测结果AI生成概率为29.95%，这算符合预期吗，可以说符合，也可以说不符合。

各位看官，你们觉得呢。           



这样的检测结果，激发了我进一步探测的好奇心，于是再上传一张AI生成视频的截图。               



发现，工具软件一直在“正在检测中...”，明显的，被我搞垮了，应是一个大bug。

我只好重新进入网站。           

案例4：上传一张图书封面，此封面是由设计师设计的。

检测率为AI生成概率13.91%，符合预期。           



案例5：上传一张屏幕截图，从图的来源来看，的确不属于AI生成，但内容是AI生成的。

这种使用场景，也会有的，用户期望的结果可能需要更多元，更丰富。      



最后，总结一下。           

1、就AIGC生成的文本，图片的检测，此AI打假工具检测的正确性基本上是100%；

2、人工原创的内容或图片，可能存在误判，特别是混合了人工原创+AI局部优化的内容，90%以上会误判；

3、AI生成的内容再截图来检测，工具目前是作为图来检测，好像还没有融入OCR技术，读取内容后再一起判断，而用户想要的是内容的检测结果，应是迭代升级中可改进的地方。   

感谢您看我写的文章，都看到这里了，麻烦点在看，点赞，转发哈！

---

如你对AI应用感兴趣，特别在A短视频制作、AI办公等方面，一起学习，一起探索，欢迎进群，进群二维码如下(请在备注中说明来意，如：张三学AI应用）



【进群收益】

1、 AI领域最新前沿应用知识学习与交流；

2、 免费AI学习资料分享；

3、 群主学习与实战经验干货分享；

4、 工作中AI应用问题，群主尽量抽时间免费答疑；