update readme

This commit is contained in:
josc146
2023-06-06 23:57:28 +08:00
parent c23c644fbc
commit a6f5b520c3
2 changed files with 2 additions and 2 deletions

View File

@@ -48,7 +48,7 @@ API兼容的接口这意味着一切ChatGPT客户端都是RWKV客户端。
#### 注意 目前RWKV中文模型质量一般推荐使用英文模型体验实际RWKV能力
#### 预设配置没有开启自定义CUDA算子加速但我强烈建议你开启它并使用int8量化运行速度非常快且显存消耗少得多。前往配置页面,打开`使用自定义CUDA算子加速`
#### 预设配置已经开启自定义CUDA算子加速速度更快,且显存消耗更少。如果你遇到可能的兼容性问题,前往配置页面,关闭`使用自定义CUDA算子加速`
#### 对于不同的任务调整API参数会获得更好的效果例如对于翻译任务你可以尝试设置Temperature为1Top_P为0.3