update README_ZH.md
This commit is contained in:
josc146
parent
86a855e7bc
commit
3dd06fa70e
79
README_ZH.md
79
README_ZH.md
@ -20,7 +20,7 @@ API兼容的接口，这意味着一切ChatGPT客户端都是RWKV客户端。
|
|||||||
[![MacOS][MacOS-image]][MacOS-url]
|
[![MacOS][MacOS-image]][MacOS-url]
|
||||||
[![Linux][Linux-image]][Linux-url]
|
[![Linux][Linux-image]][Linux-url]
|
||||||
|
|
||||||
[视频演示](https://www.bilibili.com/video/BV1hM4y1v76R) | [疑难解答](https://www.bilibili.com/read/cv23921171) | [预览](#Preview) | [下载][download-url] | [懒人包](https://pan.baidu.com/s/1zdzZ_a0uM3gDqi6pXIZVAA?pwd=1111) | [服务器部署示例](https://github.com/josStorer/RWKV-Runner/tree/master/deploy-examples)
|
[视频演示](https://www.bilibili.com/video/BV1hM4y1v76R) | [疑难解答](https://www.bilibili.com/read/cv23921171) | [预览](#Preview) | [下载][download-url] | [懒人包](https://pan.baidu.com/s/1zdzZ_a0uM3gDqi6pXIZVAA?pwd=1111) | [简明服务部署示例](#Simple-Deploy-Example) | [服务器部署示例](https://github.com/josStorer/RWKV-Runner/tree/master/deploy-examples) | [MIDI硬件输入](#MIDI-Input)
|
||||||
|
|
||||||
[license-image]: http://img.shields.io/badge/license-MIT-blue.svg
|
[license-image]: http://img.shields.io/badge/license-MIT-blue.svg
|
||||||
|
|
||||||
@ -57,19 +57,45 @@ API兼容的接口，这意味着一切ChatGPT客户端都是RWKV客户端。
|
|||||||
## 功能
|
## 功能
|
||||||
|
|
||||||
- RWKV模型管理，一键启动
|
- RWKV模型管理，一键启动
|
||||||
- 与OpenAI API完全兼容，一切ChatGPT客户端，都是RWKV客户端。启动模型后，打开 http://127.0.0.1:8000/docs 查看详细内容
|
- 前后端分离，如果你不想使用客户端，也允许单独部署前端服务，或后端推理服务，或具有WebUI的后端推理服务。
|
||||||
|
[简明服务部署示例](#Simple-Deploy-Example) | [服务器部署示例](https://github.com/josStorer/RWKV-Runner/tree/master/deploy-examples)
|
||||||
|
- 与OpenAI API兼容，一切ChatGPT客户端，都是RWKV客户端。启动模型后，打开 http://127.0.0.1:8000/docs 查看API文档
|
||||||
- 全自动依赖安装，你只需要一个轻巧的可执行程序
|
- 全自动依赖安装，你只需要一个轻巧的可执行程序
|
||||||
- 预设了2G至32G显存的配置，几乎在各种电脑上工作良好
|
- 预设多级显存配置，几乎在各种电脑上工作良好。通过配置页面切换到WebGPU策略，还可以在AMD，Intel等显卡上运行
|
||||||
- 自带用户友好的聊天和续写交互页面
|
- 自带用户友好的聊天，续写，作曲交互页面。支持聊天预设，附件上传，MIDI硬件输入及音轨编辑。
|
||||||
- 易于理解和操作的参数配置
|
[预览](#Preview) | [MIDI硬件输入](#MIDI-Input)
|
||||||
|
- 内置WebUI选项，一键启动Web服务，共享硬件资源
|
||||||
|
- 易于理解和操作的参数配置，及各类操作引导提示
|
||||||
- 内置模型转换工具
|
- 内置模型转换工具
|
||||||
- 内置下载管理和远程模型检视
|
- 内置下载管理和远程模型检视
|
||||||
- 内置一键LoRA微调
|
- 内置一键LoRA微调
|
||||||
- 也可用作 OpenAI ChatGPT 和 GPT Playground 客户端
|
- 也可用作 OpenAI ChatGPT 和 GPT Playground 客户端 (在设置内填写API URL和API Key)
|
||||||
- 多语言本地化
|
- 多语言本地化
|
||||||
- 主题切换
|
- 主题切换
|
||||||
- 自动更新
|
- 自动更新
|
||||||
|
|
||||||
|
## Simple Deploy Example
|
||||||
|
|
||||||
|
```bash
|
||||||
|
git clone https://github.com/josStorer/RWKV-Runner
|
||||||
|
|
||||||
|
# 然后
|
||||||
|
cd RWKV-Runner
|
||||||
|
python ./backend-python/main.py #后端推理服务已启动, 调用/switch-model载入模型, 参考API文档: http://127.0.0.1:8000/docs
|
||||||
|
|
||||||
|
# 或者
|
||||||
|
cd RWKV-Runner/frontend
|
||||||
|
npm ci
|
||||||
|
npm run build #编译前端
|
||||||
|
cd ..
|
||||||
|
python ./backend-python/webui_server.py #单独启动前端服务
|
||||||
|
# 或者
|
||||||
|
python ./backend-python/main.py --webui #同时启动前后端服务
|
||||||
|
|
||||||
|
# 帮助参数
|
||||||
|
python ./backend-python/main.py -h
|
||||||
|
```
|
||||||
|
|
||||||
## API并发压力测试
|
## API并发压力测试
|
||||||
|
|
||||||
```bash
|
```bash
|
||||||
@ -130,6 +156,37 @@ for i in np.argsort(embeddings_cos_sim)[::-1]:
|
|||||||
print(f"{embeddings_cos_sim[i]:.10f} - {values[i]}")
|
print(f"{embeddings_cos_sim[i]:.10f} - {values[i]}")
|
||||||
```
|
```
|
||||||
|
|
||||||
|
## MIDI Input
|
||||||
|
|
||||||
|
### USB MIDI 连接
|
||||||
|
|
||||||
|
- USB MIDI设备是即插即用的, 你能够在作曲页面选择你的输入设备
|
||||||
|
- 
|
||||||
|
|
||||||
|
### Mac MIDI 蓝牙连接
|
||||||
|
|
||||||
|
- 对于想要使用蓝牙输入的Mac用户,
|
||||||
|
请安装[Bluetooth MIDI Connect](https://apps.apple.com/us/app/bluetooth-midi-connect/id1108321791), 启动后点击托盘连接,
|
||||||
|
之后你可以在作曲页面选择你的输入设备
|
||||||
|
- 
|
||||||
|
|
||||||
|
### Windows MIDI 蓝牙连接
|
||||||
|
|
||||||
|
- Windows似乎只为UWP实现了蓝牙MIDI支持, 因此需要多个步骤进行连接, 我们需要创建一个本地的虚拟MIDI设备, 然后启动一个UWP应用,
|
||||||
|
通过此UWP应用将蓝牙MIDI输入重定向到虚拟MIDI设备, 然后本软件监听虚拟MIDI设备的输入
|
||||||
|
- 因此, 首先你需要下载[loopMIDI](https://www.tobias-erichsen.de/wp-content/uploads/2020/01/loopMIDISetup_1_0_16_27.zip),
|
||||||
|
用于创建虚拟MIDI设备, 点击左下角的加号创建设备
|
||||||
|
- 
|
||||||
|
- 然后, 你需要下载[Bluetooth LE Explorer](https://apps.microsoft.com/detail/9N0ZTKF1QD98), 以发现并连接蓝牙MIDI设备,
|
||||||
|
点击Start搜索设备, 然后点击Pair绑定MIDI设备
|
||||||
|
- 
|
||||||
|
- 最后, 你需要安装[MIDIberry](https://apps.microsoft.com/detail/9N39720H2M05), 这个UWP应用能将MIDI蓝牙输入重定向到虚拟MIDI设备,
|
||||||
|
启动后, 在输入栏, 双击你实际的蓝牙MIDI设备名称, 在输出栏, 双击我们先前创建的虚拟MIDI设备名称
|
||||||
|
- 
|
||||||
|
- 现在, 你可以在作曲页面选择虚拟MIDI设备作为输入. Bluetooth LE Explorer不再需要运行, loopMIDI窗口也可以退出, 它会自动在后台运行,
|
||||||
|
仅保持MIDIberry打开即可
|
||||||
|
- 
|
||||||
|
|
||||||
## 相关仓库:
|
## 相关仓库:
|
||||||
|
|
||||||
- RWKV-4-World: https://huggingface.co/BlinkDL/rwkv-4-world/tree/main
|
- RWKV-4-World: https://huggingface.co/BlinkDL/rwkv-4-world/tree/main
|
||||||
@ -143,12 +200,14 @@ for i in np.argsort(embeddings_cos_sim)[::-1]:
|
|||||||
|
|
||||||
### 主页
|
### 主页
|
||||||
|
|
||||||
|
|
||||||
|
|
||||||
### 聊天
|
### 聊天
|
||||||
|
|
||||||
|
|
||||||
|
|
||||||
|
|
||||||
|
|
||||||
### 续写
|
### 续写
|
||||||
|
|
||||||
|
|
||||||
@ -157,13 +216,15 @@ for i in np.argsort(embeddings_cos_sim)[::-1]:
|
|||||||
|
|
||||||
|
|
||||||
|
|
||||||
|
|
||||||
|
|
||||||
### 配置
|
### 配置
|
||||||
|
|
||||||
|
|
||||||
|
|
||||||
### 模型管理
|
### 模型管理
|
||||||
|
|
||||||
|
|
||||||
|
|
||||||
### 下载管理
|
### 下载管理
|
||||||
|
|
||||||
|
|||||||
Loading…
Reference in New Issue
Block a user