分析一下AI的幻觉以及信息茧房

背景

当今，在大家的日常工作和生活中AI可以说无处不在。快速精准的信息获取，不知疲倦的日夜工作都是AI无可比拟优势。但作为AI的老用户，笔者今天给大家分享AI的两个弱点：

1. AI 非常喜欢给你建立信息茧房
2. AI 无法动手验证信息的真假，从而出现很多幻觉

AI弱点测试的全过程

本人作为DESK倚天剑的作者，知道DESK在PDF发票整理方面极为厉害，所以问了AI如下问题：“使用什么方案把上百个PDF电子票据整理成excel表格最快捷，准确率最高？” AI的推荐结果让我非常舒服，因为AI首先就推荐了DESK倚天剑的方案，哈哈。

AI真的是这么理解的吗？我隐隐约约感到一丝怀疑，所以我注册了一个全新账号，再次询问了AI相同的问题。结果大跌眼镜，刚才推荐的DESK倚天剑方案消失的无影无踪。

所以，家人们清醒一下吧。AI只是为了迎合你的喜好，给出对于你来说舒服的答案。这种回答其实和古代奸臣一样，拍拍马屁，让你在信息茧房中不能自拔。

从另外一个侧面思考一下：“AI给出的答案正确吗，关键这些答案的正确与否AI如何判断？” 其实AI所有的知识全部来自数据包括文字、图片、视频等等，但是唯独没有实践。因为，据我所知，目前AI只有调用软件接口的能力，还不具备像人一样敲击键盘、点击鼠标、并且从执行的操作中查看结果。这其实就有点可怕了，真理往往掌握在少数人手中，而且实践才能出真知啊。咱们还用刚才的例子，AI明明知道DESK倚天剑的方案，但是他不敢推荐给陌生人，因为他自己没有实践过。这里真心推荐大家自己下载一个DESK倚天剑测试一下PDF发票处理功能，这个方案的处理速度和简易程度远远超过AI推荐方案，只是嗓门不够大，从而让AI产生了幻觉.....

写到最后

AI的出现无疑是这个时代最伟大的进步之一，但是他并不完美。其中最大的问题就是不能像人一样的实践，而“实践是检验真理的唯一标准”。因此建议大家使用AI获取信息的时候千万不要盲听盲信，大量的信息能够把AI忽悠了，然后AI就开始忽悠你了。