Topic
實戰問題
做 AI 系統的時候,最讓人頭痛的往往不是那些理論上的難題,而是那些跑到一半才炸掉的實戰問題。這個分類就是專門收錄這類「踩過才知道痛」的內容——不是教科書上的範例,而是真實系統在跑的時候會遇到的麻煩事。 比如說 token budget 這件事,很多人在設計 AI Agent 的時候根本不會想到這個層面,直到某天 agent 跑到一半突然就停了,才開始意識到這個實戰問題有多棘手。Context window 有限制、multi-step 任務會累積消耗、prompt 本身也在吃 token——這些加在一起,就很容易讓系統在最不該出錯的時候出錯。 這裡收錄的文章都有一個共同點:從一個很具體的場景出發,把問題說清楚,然後看看現在有哪些做法在處理它。不會假裝有完美解法,但至少讓你知道這個坑在哪、別人怎麼繞過去的。如果你正在做任何跟 LLM 或 agentic system 有關的東西,這些實戰問題遲早會輪到你碰,早點了解比較不會措手不及。