跳至主要内容

錯誤處理 - LLM Completion

LLM Completion 常見錯誤與處理建議​

在實作 AI Chatbot 流程時，LLM Completion 節點可能會因為外部或設定因素導致執行失敗。

以下是幾種常見的錯誤情境：

1 Context Window 超出限制​

問題說明​

若輸入的 Prompt 或對話歷史總長度超過模型允許的 Token 數量（如 GPT-4o 為 128k，gpt-4o-mini 為 4k），將導致錯誤。

處理方式​

  • 檢查輸入內容是否過長，尤其是聊天記錄或嵌入資料。
  • 使用 MaxToken 限制輸出長度，避免溢出。
  • 如需測試此情境，可將 MaxToken 設為 0 模擬失敗。

2 API 金額不足 / OpenAI 帳戶未啟用計費​

問題說明​

若使用者的 OpenAI 帳戶未啟用付款，或配額已用完，將導致模型無法回應。

處理方式​

  • 登入 OpenAI 並確認帳號是否已綁定付款方式。
  • 檢查帳戶 API 使用情況與剩餘配額。

3 API 金鑰錯誤或失效​

問題說明​

API Key 填寫錯誤、過期或無效將導致請求被拒絕。

處理方式​

  • 再次確認 API Key 是否正確貼上，無多餘空格或字元。
  • 若為團隊帳號，請聯絡管理者或助教取得最新有效金鑰。