文心AI在鸟类识别上犯了错误

听柳

原来我曾和文心AI一口气聊了几个小时，其中就有我问它为什么有时候会提供虚假的信息？为什么在有没有答案的时候会无中生有虚构事实？在不知道答案的时候，为什么就不能直接说“我不知道”？它告诉我AI自己不会思考，只会根据现有的信息加以选择，所以信息出现差错难以避免，只是多少的问题。至于出现无中生有虚构事实的情况，更是所有AI难以避免的AI幻觉问题，因为这不是AI 故意骗人，而是它没有 “认知、理解、真假判断能力”；它只会按照语言概率续写文字，信息空缺时，自动编造通顺的内容填补缺口。当它缺少相关信息、记忆模糊时，没有机制主动说 “我不知道”。程序设计要求持续输出文本，于是自动挑选语境里 “看起来最合理” 的词句进行编造。

肖燕

听柳 发表于 2026-8-3 15:36
原来我曾和文心AI一口气聊了几个小时，其中就有我问它为什么有时候会提供虚假的信息？为什么在有没有答案的 ...

谢谢柳版告知你了解到的AI相关情况，很受益。我觉得，AI的这种程序设计应该修改，不然，可能会有人上当。

听柳

肖燕 发表于 2026-8-3 18:35
谢谢柳版告知你了解到的AI相关情况，很受益。我觉得，AI的这种程序设计应该修改，不然，可能会有人上当。

估计改不了，或暂时改不了，或我们应用的免费版改不了。因为它们的底层逻辑就是要完美回答用户的任何问题，而不是关注是否正确，更不能回答不知道。

听柳

平时我都是在向AI提问题前，先告诉AI：若遇到你不知道的问题，一定要直接告诉我不知道，一定不要瞎编，更不要乱编数据、乱编出处。结果是可能当时有用，可能会告诉你，你这个问题我无法回答，或我未查到相关数据，但下次再用遇到不知道或查不到完美数据信息的问题依然瞎编如故。不管哪款AI都不例外，区别只是多少而已。

肖燕

听柳 发表于 2026-8-3 18:39
估计改不了，或暂时改不了，或我们应用的免费版改不了。因为它们的底层逻辑就是要完美回答用户的任何问题 ...

唉，我原来一直把AI当做真理的化身呢！

肖燕

听柳 发表于 2026-8-3 18:44
平时我都是在向AI提问题前，先告诉AI：若遇到你不知道的问题，一定要直接告诉我不知道，一定不要瞎编，更不 ...

所以，不能完全信任AI，只能作为参考。

听柳

肖燕 发表于 2026-8-3 18:46
所以，不能完全信任AI，只能作为参考。

是啊！我现在只是把AI当成我身边的一个得力助力，一个免费的钟点工，而不是一位全能的大神，能帮我做事就行，若什么地方做得不妥，由我最后把关，以这样的心态来看待AI，不但不觉得烦恼，反而觉得很轻松了。

肖燕

听柳 发表于 2026-8-3 18:50
是啊！我现在只是把AI当成我身边的一个得力助力，一个免费的钟点工，而不是一位全能的大神，能帮我做事就 ...

是的，就把它当成一个助手吧！它还是能帮助解决生活中、学习中遇到的不少难题的。

陌上红尘

肖燕 发表于 2026-8-3 12:10
谢谢老师的到访点评。是的，AI不是万能的，它有犯错误的时候。

真真

ＡＩ不是万能的，鸟鸟着实拍的好。