面白い類似性を発見しました、

AIの「幻覚」：正しい答えがわからないときでも、確率に基づいてでたらめを言う。
これは人に非常に似ています。多くの人が全く理解していない分野で、自分の想像に基づいて自信を持って「答え」を出します。

AIの"幻覚"を処理する一つの方法は、彼が間違って答えた多くの対話を用いて彼を訓練し、分からない時には「申し訳ありませんが、分かりません」と言うべきことを理解させることです。