update readme

This commit is contained in:
josc146
2023-05-23 21:25:33 +08:00
parent 4d0d0a4dee
commit f8cb9511e1
2 changed files with 4 additions and 0 deletions

View File

@@ -32,6 +32,8 @@ API兼容的接口这意味着一切ChatGPT客户端都是RWKV客户端。
#### 预设配置没有开启自定义CUDA算子加速但我强烈建议你开启它并使用int8量化运行速度非常快且显存消耗少得多。前往配置页面打开`使用自定义CUDA算子加速`
#### 对于不同的任务调整API参数会获得更好的效果例如对于翻译任务你可以尝试设置Temperature为1Top_P为0.3
## 功能
- RWKV模型管理一键启动