AI Chatbot 的三大局限——當搜尋引擎變成答案機

上一篇實話介紹了七款筆者在用的 online AI chatbot，但這是否代表有在發揮 AI 的作用呢？不盡然。AI chatbot 只是最入門的 AI 工具，背後只是一個聊天視窗配上一個 LLM（大型語言模型，Large Language Model），其作用只是搜尋引擎的延伸。搜尋引擎以往只能應對一組字眼去搜尋，但現在除了掘深一層去了解該組字眼的語意外，還會基於 LLM 的訓練數據、實時的搜尋結果去生成一個解答。這樣做有什麼含意？

本來，當你需要的是一個問題的答案時，AI chatbot 可以直接回答你的問題當然是好事。然而，這有數個不得不考慮的問題。

局限一：生成的答案沒有真理保證

第一，AI chatbot 的回答是基於其背後的 LLM 生成的。現在的主流 LLM 都基於 Transformer 架構中的自注意力機制（Self-Attention），意味着所有 LLM 的生成內容其實都不是有思想地去回應，而是基於你的問題，之後生成回答的第一個字，再根據問題加已生成的字去生成下一個字，如此類推。所以 AI chatbot 的回應並沒有理論上的正確性，只是基於你問題的字眼與其訓練內容的相似度生成的。

筆者記得，早期的 AI chatbot 很多時候都沒法回答太複雜的查問及推理，而且至今依然難以理解人類的反話——AI chatbot 都以為「我真係恭喜你呀」「托你的福」是正面意思，但其實可能更近乎是諷刺。

局限二：訓練數據的時效與污染

第二，如果訓練內容被污染或者已經過時，AI chatbot 無法靠內在去糾正。筆者不止一次被過時內容騙過。因為 LLM 的訓練內容總有期限，在其期限之後發生的更改，LLM 是不知道的。結果當你的問題與現在最新的內容相關，而 LLM 又很自信地認為用訓練內容就能處理，你便會深受其害。這尤其在與現實服務相關的內容時特別危險——例如一些服務的申請流程、一些軟件的程式碼，兩者都影響深遠。

解決方法簡單，就是運用 RAG（Retrieval Augmented Generation，檢索增強生成）。最少該 AI chatbot 及 LLM 必須有連接搜尋引擎的能力，直接結合最新的搜尋結果，就可以解決上述問題。但自信滿滿的 LLM 還是有靠自己的傾向，必須寫好提示詞（prompt）才行。

局限三：當答案來得太容易——思考的外判

第三，直接問 AI chatbot 問題是不是最好呢？AI chatbot 給你一個答案，是 AI chatbot 的思考，而不是你的思考。如果慣於直接取得 AI 的答案，會不會慢慢荒廢自己思考的能力呢？本來搜尋一些字眼時，便是在找可以讓自己摸索的資料，慢慢鋪陳出一個經過自己思考而得的答案，過程中你可以得到更多資料。如果將這個過程完全外判給 AI，這可能是一把雙刃劍。你用思想外包換到時間和答案，但這限制了你的思想，不一定是最好的。

下一步：從 Chatbot 到 AI Agent

單純用 AI chatbot 問問題、得答案，其實是大勢所趨，但一般網頁上可用到的免費 chatbot 其實有上述第一和第二點的問題，而你自己的取捨就牽涉到第三點。要系統性解決第一和第二點，即是要 AI chatbot 記得你、為你行動，這就需要比 AI chatbot 更進一步的工具——AI agent。之後的篇章將會繼續講解筆者的看法及介紹可用的工具。