容器里看不到 GPU
没加 gpus all。
阅读(24)赞 (0)
没加 gpus all。
阅读(24)赞 (0)
看起来像连接重置。
阅读(23)赞 (0)
和 LLM 429 无关。
阅读(36)赞 (0)
用户不在 docker 组。
阅读(20)赞 (0)
容器没在跑不是 401。
阅读(20)赞 (0)
ETag/If-Match 对不上。 场景:Telegram。412。
阅读(22)赞 (0)
别的进程在拉同一流。 场景:Azure。409 Conflict。
阅读(21)赞 (0)
客户端先断开,常见超时设太短。 场景:Fireworks。499。
阅读(18)赞 (0)
拉长超时前先确认上游活着。 场景:xAI。504 Gateway Timeout。
阅读(23)赞 (0)
502 先看源站进程,不是模型 500。 场景:Qwen。502 Bad Gateway。
阅读(22)赞 (0)