Скрипт получает 502, но в журналах вызовов ничего нет?

​

Симптомы

HTTP 502: {'_non_json_response': '', '_status_code': 502,
           '_headers': {'Connection': 'close', 'Content-Length': '0'}}

• Тело ответа пустое, а единственные заголовки — Connection и Content-Length
• Веб-консоль продолжает работать всё это время
• Неудачные запросы вообще не отображаются в ваших журналах вызовов
• Скрипт повторяет попытки при 502, часто несколько раз подряд завершаясь неудачей, прежде чем одна попытка станет успешной, при этом задержка между попытками каждый раз увеличивается

​

Краткий ответ

​

Как определить, ваш ли это случай

​

Почему подключается proxy

1. Python requests автоматически использует системный proxy. В Windows он считывает настройки системного proxy из реестра. Как только Clash, v2rayN или похожий инструмент включает «системный proxy», ваш скрипт незаметно направляет трафик через него, хотя в коде это никак не видно.
2. proxy самостоятельно пересылает plain-HTTP-запросы. При использовании plain-HTTP-адреса, такого как http://api.apiyi.com:16888, proxy не просто открывает прозрачный туннель, а повторно отправляет запрос от вашего имени. Когда узел proxy зависает, переключается или превышает время ожидания, proxy возвращает вашему скрипту пустой ответ 502.
3. Большие тела запросов и высокая параллельность усугубляют проблему. Редактирование изображения загружает несколько MB данных изображения, а одна генерация занимает от 45 до 70 секунд. Когда десятки параллельных запросов используют один узел proxy, любой сбой одновременно приводит к ошибке всей партии.

​

Решение

import urllib.request
print(urllib.request.getproxies())

import requests

session = requests.Session()
session.trust_env = False   # ignore system and environment proxy settings

resp = session.post(
    "https://api.apiyi.com/v1/images/edits",
    headers={"Authorization": "Bearer YOUR_API_KEY"},
    data={"model": "gpt-image-2-vip", "prompt": "...", "size": "1024x1536"},
    files=[("image[]", open("a.jpg", "rb"))],
    timeout=(10, 600),
)

import httpx
from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="https://api.apiyi.com/v1",
    http_client=httpx.Client(trust_env=False, timeout=600),
)

# Windows PowerShell
$env:NO_PROXY="api.apiyi.com,.apiyi.com"

# macOS / Linux
export NO_PROXY="api.apiyi.com,.apiyi.com"

​

Часто задаваемые вопросы

​

Связанные документы