AI故障手册FastGPT 渠道 Base URL 不要带 chat 路径
渠道测试失败先 curl。
阅读(146)赞 (0)
所有文章 第160页
LibreChat 的 endpoints 写在 yaml
改 UI 不等于改到文件。
阅读(25)赞 (0)
Open WebUI 再加 OpenAI 兼容连接
和 Ollama 连接分开。
阅读(25)赞 (0)
Open WebUI 的 Ollama Base URL 在容器里要用 host.docker.internal
填 localhost 是容器自己。
阅读(26)赞 (0)
vLLM VLLM_API_KEY 开了却客户端没带
401 不是模型没加载。
阅读(25)赞 (0)
vLLM –max-model-len 小于请求
报比 context_length 更底层的错误。
阅读(19)赞 (0)
num_ctx 太大导致立刻 OOM
先降上下文。
阅读(24)赞 (0)
OLLAMA_ORIGINS 拦浏览器跨域
网页客户端预检失败。
阅读(23)赞 (0)
OLLAMA_HOST=0.0.0.0 才能局域网访问
默认只绑 127.0.0.1。
阅读(25)赞 (0)
容器里看不到 GPU
没加 gpus all。
阅读(24)赞 (0)