儘管取得了所有進展,今天的代理仍然相當笨拙
我們拿一個極其聰明的 LLM,卻需要在上面套一層工具框架,讓它能記住昨天做了什麼,然後不斷檢查它,以確保它不會搞砸
想像一下,雇用一位每天來辦公室、沒有任何記憶的博士,必須閱讀筆記本才能弄清楚自己正在處理什麼,接著老闆還得整天盯著他或她的一舉一動
但如果那本筆記本是持續強化學習的訓練資料呢?
這位博士會記得昨天處理的工作,因為它現在已經成為永久記憶的一部分,不再需要筆記本
CRL 這個概念目前尚未解決,但我猜想未來幾年內會找到解法
這將是讓代理更實用的最大突破之一,尤其是在 TAM 最高的企業環境中
如今的 LLM 已經足夠聰明,能夠完成大多數知識工作,只是仍需要大量外部工具框架管理方面的工作,才能將它們投入生產環境使用
這就是為什麼工具/解決方案市場如此分散,也解釋了為什麼對 FDE 的需求如此高
我不認為目前這種情況會永遠持續下去
更有可能的是,我們會擁有無限多個在基礎模型之上運用 CRL、進而成為獨一無二代理的客製化 LLM
後訓練工作會走出實驗室,交到任何運行代理的人手中