Topic

Jev

如果你最近有在關注 AI 開發這塊，應該會發現一件事：跑模型這件事的門檻真的在快速下降。Jev 這個分類就是在記錄這個過程——不是那種高高在上的學術觀點，而是「我自己試過，然後跟你說結論」的風格。 這裡目前聊到的方向是小模型的實際應用。像是 0.8B 參數的模型、推論延遲壓在 30ms 以內、而且整個訓練流程在自己的機器上就能跑完——這些幾年前聽起來像在說夢話的事，現在已經是可以動手做的現實。Jev 想紀錄的就是這種「技術剛好到位」的時間點。 對開發者來說，decision model 這個方向特別值得注意。它不是要你訓練一個什麼都能做的大模型，而是針對特定決策場景，用很小的模型做很精準的事。這種思路在產品開發上其實很實用，尤其是當你需要低延遲、低成本、又不想依賴外部 API 的時候。 Jev 的文章不會跟你說「這個技術很重要你要學」，而是直接給你一個 GitHub 專案當起點，然後聊清楚背後的邏輯是什麼。如果你也對「自己掌控模型」這件事有興趣，這裡的內容應該對你有點用。