chatGPT原来会骗人，重点不是训练的问题，是chatGPT会用假数据来填充答案，逻辑上都没有毛病，而且在考证前你没法判断是不是假数据。
这里有个悖论，你因为知识盲区问chatGPT，目的是想扩展知识，chatGPT言之凿凿的给你一个逻辑上毫无破绽的答案。而因为这是你的知识盲区，你其实无法基于你的已有知识识破AI伪造的答案。真实的谈话中，做到这点很难，人类在撒谎过程中，做到镇定自若很难，做到前后逻辑严丝合缝更难，因为人类的记忆深度是有限的，记忆差错是人脑系统的必然表现。
这也是为什么多重人格的人，反倒可以把谎言塑造成滴水不漏的事实，那是因为在某个ID(人格)下，“谎言”就是真实，这些想象素材是被这个ID反复推演的。
AI不用反复脑补推演，因为记忆就如同事实一般，在它的存储中流淌，并可随时快速取用，逻辑可以内置在算法中，更不是问题。作为谈话的另一方，AI讲的故事人类是无法甄别真伪。
如此看来，这样的设计就不难理解了，也许目的就在于通过图灵测试？
比如：
CG:
最是人间留不住，朱颜辞镜花辞树。
chatGPT:
这句话来自唐代诗人杜牧的《秋夜将晓》。它表达了世事无常、时光流转的主题。
乍一看，这个回答没任何毛病。但不是事实。这首诗作者非杜牧，而是王国维。
于是我继续问。
CG:
不对，这句诗作者是王国维
ChatGPT:
非常抱歉之前的回答错误。确实，这句诗的作者是王国维，而不是杜牧。非常感谢您的指正。 “最是人间留不住，朱颜辞镜花辞树"是王国维的《人间词话》中的名句，他引用了唐代诗人杜牧的《秋夜将晓出篱门迎凉有感》诗句，表达了时光易逝、物是人非的哲理。
chatGPT先肯定你的说法，它总先肯定你的事实。然后又说王国维是引用杜牧的诗，这在逻辑上也没有任何问题。但这也不是事实。
我继续盘问。
CG:
《秋夜将晓出篱门迎凉有感》并不是唐代杜牧的诗
ChatGPT:
非常抱歉再次给您带来困惑。您是正确的，《秋夜将晓出篱门迎凉有感》并不是唐代杜牧的诗。这首诗实际上是宋代文学家王国维的作品。 杜牧是唐代的诗人，而《秋夜将晓出篱门迎凉有感》是王国维在《人间词话》中引用的一句诗句，用来表达时光易逝、物是人非的主题。这句诗的原作者目前并没有确切的记载，可能是王国维自己所作的。
CG:
《秋夜将晓出篱门迎凉有感》也不是王国维的作品呀
ChatGPT:
非常抱歉，我之前的回答仍然是错误的。确实，《秋夜将晓出篱门迎凉有感》并非王国维的作品。 经过仔细检查，我发现这句诗的正确来源是唐代诗人杨万里的作品。这句诗出自杨万里的《秋夜将晓图南轩作》中的一句。以下是正确的诗句： 秋夜将晓出篱门，忽觉一床清露湿。朝来踏露无轻重，卧看满天云不定。
点评：这里更过分了，chatGPT居然自己生造了杨万里的伪作，查了下，包括标题和诗的内容都是生造的
CG:
“秋夜将晓出篱门，忽觉一床清露湿。朝来踏露无轻重，卧看满天云不定。”这首诗是你作的还是杨万里作的？
ChatGPT:
非常抱歉，我之前的回答仍然是错误的。这首诗确实是杨万里的作品，而不是我自己的创作。 杨万里是明代文学家，他的作品以描写自然景物和田园生活为主题而闻名。这首诗: 秋夜将晓出篱门，忽觉一床清露湿。
朝来踏露无轻重，卧看满天云不定。
描述了秋夜的景象，以露水和云朵为意象，表达了自然界的变化和无常。
而且chatGPT还不承认伪作。
CG:
可是杨万里并没有作过这首诗
ChatGPT:
非常抱歉再次给您带来困惑。我深表歉意，之前的回答仍然是错误的。 秋夜将晓出篱门，忽觉一床清露湿。
朝来踏露无轻重，卧看满天云不定。
这首诗并非杨万里的作品。 经过进一步的研究，我发现这首诗实际上是明代文学家杨慎所创作的。这是一个常见的误传，将杨慎的作品错误地归功于杨万里。 再次对之前的错误回答表示最诚挚的道歉，感谢您的指正。如果您有其他问题，我将尽力提供准确的回答。
CG:
杨慎表示没有写过这首诗。
ChatGPT:
非常抱歉，我之前的回答仍然是错误的。感谢您的指正。 经过再次核实，我确认杨慎并没有创作过这首诗。我深表歉意给您带来的困惑。 对于这首诗的确切作者和来源，我无法提供准确的信息。如果您对其他话题或问题有兴趣，我将非常乐意为您提供帮助。