one-api one-api 配置讯飞星火大模型的几点注意事项

one-api 配置讯飞星火大模型的几点注意事项

  1. 讯飞星火大模型没有 non-stream 模型,使用 AMA 连接时,先使用其他渠道设置,然后禁用其他渠道,启用讯飞星火大模型渠道。
  2. 频繁发生 timeout 错误,one-api/controller/relay-xunfei.go 中的 timeout 时间默认是 5 秒,太短了。将 HandshakeTimeout: 5 * time.Second, 改为 HandshakeTimeout: 30 * time.Second,,然后重新生成容器镜像。

完结!

猜你喜欢

转载自blog.csdn.net/engchina/article/details/132401150
one
今日推荐