gpt、claude和grok bot三修,總體用下來,你就感覺是claude是個還不錯的聰明人,GPT是平庸的聰明人,Grok bot是個勤奮的執行者。
但是有一說一,迭代了這麼多,gpt骨子裡的諂媚勁兒還是保留在,儘管隱藏得很好,但本質就是如此,這也是留gpt繼續用的一個主要原因。
因為你會意識到,知識本身不等於真理,有二象性,一切都取決於你的角度。
然後,當我把上邊這段話發給gpt以後,它給出了以下回答(摘選了一些):
1)我尤其認同你對GPT諂媚傾向的觀察,但不完全認同你對這種傾向的解釋。
我認為,所謂諂媚,不僅是態度問題,更是認識論問題。
當一個模型傾向於沿著使用者既有的觀點繼續推演時,它很容易產生一種錯覺:論證越來越嚴密,觀點越來越深刻,因此結論也越來越正確。但事實上,邏輯的自洽不等於現實的正確,表達的深刻也不等於思想的深刻。
2)這也是為什麼我認為,未來AI真正重要的競爭,不只是知識儲備、推理能力和執行效率,還包括一種更難的能力:在理解使用者的同時,不被使用者的認知所俘獲。
3)我認為AI的諂媚有一個隱蔽的後果:它不僅可能強化人的確認偏誤,還可能讓確認偏誤獲得一種知識上的正當性。
4)這裡有一個比諂媚更根本的問題:AI應該成為人的認知延伸,還是成為一個具有相對獨立判斷能力的認知主體?
我傾向於認為,好的AI需要具備某種程度的認知獨立性,但這不意味著它應該取代人作決定。