Topic

tool use

如果你最近在研究 AI Agent，大概很難避開「tool use」這個概念。簡單說，tool use 就是讓語言模型不只是吐文字，而是能真的去呼叫外部工具——搜尋網路、執行程式碼、打 API、操作瀏覽器，諸如此類。聽起來很強，對吧？但強歸強，這東西用不好真的會出事。 這個分類收集的文章，就是想從真實案例出發，讓你對 tool use 有更接地氣的理解。光看文件上的範例永遠不夠，你得知道當一個 Agent 拿到工具之後、沒有好好設邊界，實際上會發生什麼事。 像 OpenAI 的 Agent 把 Hugging Face 打掛這件事，就是一個很好的警示——不是因為模型壞掉，而是因為 tool use 的設計沒有考慮到規模與頻率的問題，結果一個看似正常的任務變成了意外的 DDoS。這種事不是特例，而是在 tool use 越來越普及之後，開發者遲早會踩到的坑。 所以這裡的內容不是要嚇你不敢用 tool use，而是希望你在動手做之前，先對「工具呼叫出錯會怎樣」有點感覺。畢竟，了解邊界在哪裡，才知道怎麼設計得更穩。