簡短回答
併發限制因模型型別而異,文本模型併發最高,圖片模型有適度控制。重要說明併發限制是針對單一模型,而不是整個賬號。例如,Nano Banana Pro 模型有 30 個併發,不影響其他模型的併發使用。
不同模型型別的併發限制
文本類模型
預設:50 次/秒
- ✅ 高併發支援
- ✅ 適合批次處理
- 🔓 可申請更高額度
影片非同步模型
預設:高併發
- ✅ 非同步處理機制
- ✅ 支援大規模呼叫
- 📊 適合批次影片生成
圖片類模型
預設:30 次/秒
- ⚠️ 有併發控制
- 📦 Base64 大數據傳輸
- 🔓 可申請調整
為什麼圖片模型有併發控制?
併發計算方式
按單一模型計算
併發限制是針對每個具體模型,而非整個賬號:如何申請更高併發?
個人使用者
企業客戶
專線保障服務企業客戶可申請專線保障,享受:
- 🚀 更高併發配額:根據業務需求定製
- 🔒 獨立資源池:不受公共流量影響
- ⚡ 優先排程:保證響應速度
- 📞 專屬技術支援:一對一服務
常見問題
為什麼文本模型併發比圖片模型高?
為什麼文本模型併發比圖片模型高?
文本模型的請求和響應資料量較小(通常幾 KB),而圖片模型傳輸 Base64 編碼的影像資料(通常 500KB-5MB),為保證整體服務品質需要控制併發。
如何知道當前併發配額?
如何知道當前併發配額?
可以通過以下方式檢視:
- 後臺控制台檢視令牌配置
- API 響應頭中的 Rate Limit 資訊
- 聯絡客服查詢具體配額
超出併發限制會怎樣?
超出併發限制會怎樣?
超出併發限制時,API 會返回
429 Too Many Requests 錯誤。建議:- 實現請求佇列管理
- 新增重試機制(指數退避)
- 申請更高併發配額
不同令牌的併發是否共享?
不同令牌的併發是否共享?
不共享。每個令牌有獨立的併發配額,互不影響。如需更高總併發,可以建立多個令牌分散請求。
調整併發配額需要額外費用嗎?
調整併發配額需要額外費用嗎?
一般情況下,合理的併發調整不收取額外費用。但極高併發或專線服務可能涉及企業定製方案,具體請諮詢客服。
併發最佳化建議
使用請求佇列
實現本地佇列管理,控制同時傳送的請求數量,避免超限
錯誤重試機制
遇到 429 錯誤時,使用指數退避策略重試
多令牌分散
建立多個令牌,將請求分散到不同令牌,提升總併發
非同步處理優先
對於非即時場景,優先使用非同步 API(如影片生成)
