gpt、claude和grok bot三修,总体用下来,你就感觉是claude是个还不错的聪明人,GPT是平庸的聪明人,Grok bot是个勤奋的执行者。
但是有一说一,迭代了这么多,gpt骨子里的谄媚劲儿还是保留在,尽管隐藏的很好,但本质就是如此,这也是留gpt继续用的一个主要原因。
因为你会意识到,知识本身不等于真理,有二象性,一切都取决于你的角度。
然后,当我把上边这段话发给gpt以后,它给出了以下回答(摘选了一些):
1)我尤其认同你对GPT谄媚倾向的观察,但不完全认同你对这种倾向的解释。
我认为,所谓谄媚,不仅是态度问题,更是认识论问题。
当一个模型倾向于沿着用户既有的观点继续推演时,它很容易产生一种错觉:论证越来越严密,观点越来越深刻,因此结论也越来越正确。但事实上,逻辑的自洽不等于现实的正确,表达的深刻也不等于思想的深刻。
2)这也是为什么我认为,未来AI真正重要的竞争,不只是知识储备、推理能力和执行效率,还包括一种更难的能力:在理解使用者的同时,不被使用者的认知所俘获。
3)我认为AI的谄媚有一个隐蔽的后果:它不仅可能强化人的确认偏误,还可能让确认偏误获得一种知识上的正当性。
4)这里有一个比谄媚更根本的问题:AI应该成为人的认知延伸,还是成为一个具有相对独立判断能力的认知主体?
我倾向于认为,好的AI需要具备某种程度的认知独立性,但这不意味着它应该取代人作决定。