← 全部文章

AI 新聞 / 模型更新

Microsoft Decision-1 接入 Vercel:客服分流不只選答案,還要留人工覆核出口

Microsoft Decision-1 於 10 月 9 日接入 Vercel AI Gateway,可回答分類、是非與評分問題。整理官方入口、32K 上下文與輸入費率,再用一般客服分流說明機率門檻、人工覆核與失敗保留的重要性。

Microsoft Decision-1 接入 Vercel:客服分流不只選答案,還要留人工覆核出口

客服收到「匯出 CSV 失敗,但我想先知道操作步驟」,應該先送教學、交給工程師,還是請人補問?讓 AI 回一大段分析不難,難的是把答案接進工作流程,還能保留不確定的情況。

Vercel 在 2026 年 10 月 9 日宣布 Microsoft Decision-1 接入 AI Gateway。它針對文字提供分類、是非與評分結果,讓程式讀取結構化答案,而不是再從自然語言回覆猜一個標籤。這篇報導的是 Gateway 新增模型的事件;本文查核至 10 月 10 日,沒有呼叫付費 API,也沒有進行繁中準確率實測。官方接入公告

先看 官方入口:Decision-1 模型與費率、官方展示:Vercel 的分類程式範例,以及 官方入口:Decision-1 使用說明。這是開發者 API 入口,並非免登入、無限免費的聊天工具。

客服文字經過 Decision-1 分類後,仍由應用程式及人工覆核管理後續動作

綠豆 AI 實驗室原創流程示意,由 AI 協助編排並核對文字;不是官方產品截圖或實測輸出。本次未取得可用的官方操作圖片,因此以可讀的工作流程圖補充,官方功能範例則提供上方直接連結。

新增的選擇:同一個入口,換成 Microsoft 的決策模型

這次接入的實用價值,是既有 Gateway 使用者可以用同一套入口呼叫 Decision-1,不必另外建立 Azure 帳號及模型部署。模型識別碼為 microsoft/microsoft-decision-1,可透過 AI SDK、OpenAI 相容 Decisions API 或 TypeSafe 相容 API 使用;請求也會納入 Gateway 的紀錄與預算管理。Vercel 接入說明

「OpenAI 相容」說的是介面格式,不代表底層變成 OpenAI 模型。Vercel 的 10 月 10 日說明指出,Microsoft 以 Qwen3.5-9B 後訓練建立 Decision-1,採用單次決策評分。這也不是把一般聊天模型換個名稱就能得到的功能定位。Decision-1 官方解說

本站先前介紹過 Decisions API 的使用概念;這次值得關注的是多了一個 Microsoft 模型選項。但介面相同,只能減少程式整合工作,不代表不同模型的機率、錯誤分布與繁中判斷可以直接互換。

三種題型,分別解決什麼事?

  • Choice 分類:先定義幾個有明確描述的選項,取得選中的類別及各選項機率。客服可使用「操作教學」「故障回報」「待釐清」,而不是只放兩個容易勉強歸類的出口
  • Boolean 是非:問一個有界線的問題,例如「文字是否明確要求人工協助?」回傳的是答案為真的機率,不是對客戶意圖的保證
  • Score 評分:提供有順序的量表。四個等級的位置是 0 到 3,結果可以是小數;不能把 2.6 自動解讀成 86.7% 正確率

數個問題可以共用一段輸入。例如「是哪種問題」和「是否要求人工」應分開判斷,不必把所有組合塞進同一張類別表。題型與量表說明

費用很低,也要先確認實際用量條件

查核時,官方模型頁列出 32,768 tokens 上下文,輸入價格為 每 100 萬 tokens 0.04 美元,供應商欄為 Azure。這是輸入 token 費率,不是每百萬次請求價格;中文字數也不能直接當成 token 數。官方模型頁

只做輸入費率算術:若總計送入 1,000 萬 tokens,對應輸入費用是 0.40 美元。這是估算,不是完整帳單承諾,仍要確認當時可用供應商、帳戶計費與其他適用費用。官方輸出價格欄沒有提供數字,本文不把空白推論為所有輸出或所有帳戶皆免費。

對小型團隊來說,較需要花時間的通常是整理分類規則與覆核錯分,而不是只比較 token 單價。請先以去識別化或合成資料測試,不要為了方便直接上傳整批客戶個資、帳號憑證或內部敏感工單。

原創練習:先做「建議佇列」,不要直接執行帳號操作

以下是本文提出的設計練習,不是官方測試成績,也不預告模型一定會選到什麼答案。範圍只限一般產品客服分流。

第一步,定義三個互相容易區分的出口:操作教學代表詢問步驟;故障回報代表提供可檢查的異常描述;待釐清代表資訊不足、意圖混合或無法可靠歸類。保留原始文字,讓客服可以自行改選。

第二步,準備一組人工標記案例。至少放入以下差異:

  • 「請教我如何匯出 CSV」:期待走操作教學
  • 「照步驟匯出後出現錯誤碼」:期待進故障回報,仍需核對產品狀態
  • 「昨天不能匯出,今天已正常,只想知道原因」:不能只看到「不能」就視為仍在故障
  • 「匯出怪怪的」:保留待釐清,不硬猜原因

第三步,初期讓所有建議經過人工覆核,記錄錯分、漏分與處理時間。尤其要找出「高機率卻錯誤」的案例:門檻提高不一定能抓住它們。這組小案例適合找規則漏洞,不能替代有代表性的正式評估。

第四步,若日後真的要自動分派,先限制在可撤回的工作佇列。退款、刪除帳號和權限變更仍由原本的身分驗證、操作確認及權限規則管理,不能把分類結果當成使用者已授權。

門檻沒有萬用值,失敗也不是「否」

Vercel 的跨模型範例使用 0.9 與 0.1 示範三路分流,但明確說明這只是展示,正式門檻要依人工核對資料與錯誤代價決定。換模型、改題目或改量表後,都應重做評估;API 回應格式合法,也不能證明內容判斷正確。官方工作流程與限制

放到客服情境,可以先問:把教學問題錯送工程師,多花多少時間?把真正故障誤當一般操作,又會讓客戶等多久?這兩種錯誤的代價不同,不適合用一個漂亮的整體命中率掩蓋。

API 逾時、拒絕或回應無效時,應保留工單等待覆核,不能當成 Boolean 的 false,也不能默默關單。建議在覆核介面同時呈現原始文字、模型版本、規則版本與建議類別,讓人能看懂和修正,而不是只看到一個綠色勾號。

準備接入前,留意仍是 experimental 的 SDK

AI SDK 的決策介面使用 experimental_decide;官方遷移文件也把舊的 experimental_evaluate 與 .evaluationModel() 改為決策相關命名。既有程式若照舊教學複製,需要核對目前文件與已安裝版本,並保留 lockfile。實驗性 API 的相容性變動不能只靠大版本號判斷。官方遷移文件

本文不提供未執行驗證的完整可跑專案。實際整合請從前段官方範例開始,在伺服器環境配置自己的金鑰,避免把金鑰寫進前端、公開儲存庫或貼給他人。Gateway 的 Decisions 介面目前處理文字,不能把圖片附件直接當作已支援的輸入。Decisions API 說明

Decision-1 值得試的地方,是讓「分類答案」變成應用程式可讀的資料。真正把它用好,仍需要清楚的選項、可追溯的原始資料,以及一條不確定時能回到人的路。