模型 ID
RouteAPI 模型 ID 是你的應用在 model 字段中填寫的名稱。它是業務系統與 RouteAPI 之間的公開約定。
為什麼需要穩定的模型 ID
Section titled “為什麼需要穩定的模型 ID”- 平臺調整模型可用性時,應用代碼無需頻繁修改。
- 團隊可以統一使用一組經過批准的模型名稱。
- 日誌、計費和告警更容易閱讀。
- 不同 SDK 和工具中的客戶端配置更簡單。
{ "model": "gpt-4o", "messages": [ { "role": "user", "content": "總結這份文檔。" } ]}model 的值應與 RouteAPI 控制台中當前賬戶可用的模型 ID 一致。
- 使用控制台中的模型 ID,不要在生產中硬編碼臨時名稱。
- 為不同質量、延遲或成本預期保留不同模型 ID。
- 在生產流程使用前,先驗證模型行為。
- 高流量應用變更模型 ID 後,應查看用量日誌確認效果。