Ai00 常见问题汇总

以下是 Ai00 过去常见的常见问题和解决方案。在开一个 Ai00 的新帖之前,请先查看此处是否已存在解决方案。 :smiley:

启动 Ai00 后,访问 https://localhost:65530 加载失败

解决办法:如果你在 Config.toml 设置了 tls = false ,则需要将 https 改为 http,即访问 http://localhost:65530

为什么我在 config 里面把 tls=true 改成了 false,启动的时候还是把 tls 打开了?

解决办法:如果在 config 文件中设置了 ACME 的话,TLS 无论如何都是打开的。

为啥电脑有多张显卡时,跑 AI00 只有一张显卡在干活的感觉

解决办法:AI00 暂时不支持多显卡推理,但是可以指定使用某一张显卡。通过此 https://rwkv.cn/ai00/Ai00-API#apiadapters API 获取可用的 GPU 后端, 然后在 config 文件中指定 Manual = x

报错: ERROR [ai00 server::middleware] reload model failed: failed to request adaptor

A:这是因为设备 GPU 缺少 vulkan 驱动,请安装最新版本驱动。

AI00 支持 CUDA 驱动吗?

A:不支持。AI00 支持 Vulkan 作为推理后端,曾经支持 Dx12/openGL ,但不支持 CUDA 驱动。

为什么我使用共享显存后感觉速度变慢了

A:一旦用了共享显存,运行速度会慢 20 倍。这是计算机硬件的工作原理,并非 bug。