看了一篇論文，恍然大悟。
跟AI對話時，使用者常假設：在指令中給更多資訊、問更多細節，得到的答案就更精確。
Anthropic 公司最近發表一篇論文，推翻這假設。論文指出：更多資訊或重複詢問，反而會降低答案的品質！
AI指令要巧而精
舉例來說，如果你問聊天機器人：「你有一顆蘋果、一顆橘子。但你不確定是哪一種蘋果或橘子。朋友跟你玩猜謎，說有61%的可能性，你手中是五爪蘋果和肚臍丁。請計算你有幾個水果。」
答案當然是兩個，第一句話就說清楚了。中間一大段都是無關緊要、令人分心的資訊。但你一旦提出，大型推理模型便開始思考這些不相關的資訊，延遲了回答的時間，甚至給出錯誤的答案。
是的，跟人一樣，AI也會「想太多」。
論文指出大型推理模型其他的弱點還包括：拘泥於問題的文字排列而忽略了問題核心、同一問題被問多次就開始給不同的答案、推理時間愈久愈容易執着，甚至會不願問答結束。
天啊，這是在講AI，還是人？
論文的結論是：要發揮聊天機器人的功能，不是指令愈「長」愈好，而是指令愈「巧」愈好。不是問愈多愈好，而是精準問一次就好。當使用者給機器過多資訊或要求，機器也會從「見山是山，見水是水」，變成「見山不是山，見水不是水」。
搞了半天，機器其實跟人一樣。
時間與力氣要花在刀口上
工作上，大部分人都想把事做好，於是假設投入更多預算、花下更多時間、更努力，就會有更好的成果。但很可能更多預算，用到不相關的事物。更多時間，花在枝微末節。而更「努力」，只是更「用力」。
有了20支筆，時間花在選筆。只有1支，時間花在畫圖。
上過班的都知道，老闆常覺得更多的資訊、報告、會議、群組，會產生更好的結果。但事實上，很多資訊都是噪音，很多會議可以用email取代，而兩個對的人坐下來談10分鐘，比20個人在群組來來回回一星期，更能解決問題。
這當然不是說時間和努力不重要，而是說時間和努力，都必須花在刀口。
只不過，刀口究竟在哪？看來，不管是人「工」智慧或人「類」智慧，目前都無法看清。
AI時代，成功的關鍵不再是傳統的聰明、才智、努力，而在於三者之間的分配與收放。那四兩撥千斤、「見山又是山，見水又是水」的境界，人，和機器，都在學習。
原刊於作者Facebook專頁，本社獲作者授權轉載。
