2023-06-28 23:10:50 +08:00
< p align = "center" >
< img src = "https://github.com/josStorer/RWKV-Runner/assets/13366013/d24834b0-265d-45f5-93c0-fac1e19562af" >
< / p >
< h1 align = "center" > RWKV Runner< / h1 >
< div align = "center" >
このプロジェクトは、すべてを自動化することで、大規模な言語モデルを使用する際の障壁をなくすことを目的としています。必要なのは、
わずか数メガバイトの軽量な実行プログラムだけです。さらに、このプロジェクトは OpenAI API と互換性のあるインターフェイスを提供しており、
すべての ChatGPT クライアントは RWKV クライアントであることを意味します。
[![license][license-image]][license-url]
[![release][release-image]][release-url]
[English ](README.md ) | [简体中文 ](README_ZH.md ) | 日本語
### インストール
[![Windows][Windows-image]][Windows-url]
[![MacOS][MacOS-image]][MacOS-url]
[![Linux][Linux-image]][Linux-url]
2023-12-09 12:56:15 +08:00
[FAQs ](https://github.com/josStorer/RWKV-Runner/wiki/FAQs ) | [プレビュー ](#Preview ) | [ダウンロード][download-url] | [シンプルなデプロイの例 ](#Simple-Deploy-Example ) | [サーバーデプロイ例 ](https://github.com/josStorer/RWKV-Runner/tree/master/deploy-examples ) | [MIDIハードウェア入力 ](#MIDI-Input )
2023-06-28 23:10:50 +08:00
[license-image]: http://img.shields.io/badge/license-MIT-blue.svg
2023-07-09 13:56:36 +08:00
2023-06-28 23:10:50 +08:00
[license-url]: https://github.com/josStorer/RWKV-Runner/blob/master/LICENSE
2023-07-09 13:56:36 +08:00
2023-06-28 23:10:50 +08:00
[release-image]: https://img.shields.io/github/release/josStorer/RWKV-Runner.svg
2023-07-09 13:56:36 +08:00
2023-06-28 23:10:50 +08:00
[release-url]: https://github.com/josStorer/RWKV-Runner/releases/latest
2023-07-09 13:56:36 +08:00
2023-06-28 23:10:50 +08:00
[download-url]: https://github.com/josStorer/RWKV-Runner/releases
2023-07-09 13:56:36 +08:00
2023-06-28 23:10:50 +08:00
[Windows-image]: https://img.shields.io/badge/-Windows-blue?logo=windows
2023-07-09 13:56:36 +08:00
2023-06-28 23:10:50 +08:00
[Windows-url]: https://github.com/josStorer/RWKV-Runner/blob/master/build/windows/Readme_Install.txt
2023-07-09 13:56:36 +08:00
2023-06-28 23:10:50 +08:00
[MacOS-image]: https://img.shields.io/badge/-MacOS-black?logo=apple
2023-07-09 13:56:36 +08:00
2023-06-28 23:10:50 +08:00
[MacOS-url]: https://github.com/josStorer/RWKV-Runner/blob/master/build/darwin/Readme_Install.txt
2023-07-09 13:56:36 +08:00
2023-06-28 23:10:50 +08:00
[Linux-image]: https://img.shields.io/badge/-Linux-black?logo=linux
2023-07-09 13:56:36 +08:00
2023-06-28 23:10:50 +08:00
[Linux-url]: https://github.com/josStorer/RWKV-Runner/blob/master/build/linux/Readme_Install.txt
< / div >
2023-10-24 21:11:55 +08:00
#### ヒント：サーバーに[backend-python](./backend-python/)をデプロイし、このプログラムをクライアントとして使用することができます。設定された`API URL`にサーバーアドレスを入力してください。
#### デフォルトの設定はカスタム CUDA カーネルアクセラレーションを有効にしています。互換性の問題 (文字化けを出力する) が発生する可能性がある場合は、コンフィグページに移動し、`Use Custom CUDA kernel to Accelerate` をオフにしてください、あるいは、GPUドライバーをアップグレードしてみてください。
2023-06-28 23:10:50 +08:00
2023-07-18 14:21:09 +08:00
#### Windows Defender がこれをウイルスだと主張する場合は、[v1.3.7_win.zip](https://github.com/josStorer/RWKV-Runner/releases/download/v1.3.7/RWKV-Runner_win.zip) をダウンロードして最新版に自動更新させるか、信頼済みリストに追加してみてください (`Windows Security` -> `Virus & threat protection` -> `Manage settings` -> `Exclusions` -> `Add or remove exclusions` -> `Add an exclusion` -> `Folder` -> `RWKV-Runner`)。
2023-06-28 23:10:50 +08:00
#### 異なるタスクについては、API パラメータを調整することで、より良い結果を得ることができます。例えば、翻訳タスクの場合、Temperature を 1 に、Top_P を 0.3 に設定してみてください。
## 特徴
- RWKV モデル管理とワンクリック起動
2023-12-09 12:56:15 +08:00
- フロントエンドとバックエンドの分離は、クライアントを使用しない場合でも、フロントエンドサービス、またはバックエンド推論サービス、またはWebUIを備えたバックエンド推論サービスを個別に展開することを可能にします。
[シンプルなデプロイの例 ](#Simple-Deploy-Example ) | [サーバーデプロイ例 ](https://github.com/josStorer/RWKV-Runner/tree/master/deploy-examples )
- OpenAI API と互換性があり、すべての ChatGPT クライアントを RWKV クライアントにします。モデル起動後、
2023-06-28 23:10:50 +08:00
http://127.0.0.1:8000/docs を開いて詳細をご覧ください。
- 依存関係の自動インストールにより、軽量な実行プログラムのみを必要とします
2023-12-09 12:56:15 +08:00
- 事前設定された多段階のVRAM設定、ほとんどのコンピュータで動作します。配置ページで、ストラテジーをWebGPUに切り替えると、AMD、インテル、その他のグラフィックカードでも動作します
- ユーザーフレンドリーなチャット、完成、および作曲インターフェイスが含まれています。また、チャットプリセット、添付ファイルのアップロード、MIDIハードウェア入力、トラック編集もサポートしています。
[プレビュー ](#Preview ) | [MIDIハードウェア入力 ](#MIDI-Input )
- 内蔵WebUIオプション、Webサービスのワンクリック開始、ハードウェアリソースの共有
- 分かりやすく操作しやすいパラメータ設定、各種操作ガイダンスプロンプトとともに
2023-06-28 23:10:50 +08:00
- 内蔵モデル変換ツール
- ダウンロード管理とリモートモデル検査機能内蔵
2023-12-11 17:23:09 +08:00
- 内蔵のLoRA微調整機能を搭載しています (Windowsのみ)
2023-12-09 12:56:15 +08:00
- このプログラムは、OpenAI ChatGPTとGPT Playgroundのクライアントとしても使用できます（ `API URL` と `API Key`
を入力してください）
2023-06-28 23:10:50 +08:00
- 多言語ローカライズ
- テーマ切り替え
- 自動アップデート
2023-12-09 12:56:15 +08:00
## Simple Deploy Example
```bash
git clone https://github.com/josStorer/RWKV-Runner
# Then
cd RWKV-Runner
python ./backend-python/main.py #The backend inference service has been started, request /switch-model API to load the model, refer to the API documentation: http://127.0.0.1:8000/docs
# Or
cd RWKV-Runner/frontend
npm ci
npm run build #Compile the frontend
cd ..
python ./backend-python/webui_server.py #Start the frontend service separately
# Or
python ./backend-python/main.py --webui #Start the frontend and backend service at the same time
# Help Info
python ./backend-python/main.py -h
```
2023-06-28 23:10:50 +08:00
## API 同時実行ストレステスト
```bash
ab -p body.json -T application/json -c 20 -n 100 -l http://127.0.0.1:8000/chat/completions
```
body.json:
```json
{
"messages": [
{
"role": "user",
"content": "Hello"
}
]
}
```
## 埋め込み API の例
2023-09-08 00:26:40 +08:00
注意: v1.4.0 では、埋め込み API の品質が向上しました。生成される結果は、以前のバージョンとは互換性がありません。
もし、embeddings API を使って知識ベースなどを生成している場合は、再生成してください。
2023-07-25 20:30:43 +08:00
LangChain を使用している場合は、`OpenAIEmbeddings(openai_api_base="http://127.0.0.1:8000", openai_api_key="sk-")`
を使用してください
2023-06-28 23:10:50 +08:00
```python
import numpy as np
import requests
def cosine_similarity(a, b):
return np.dot(a, b) / (np.linalg.norm(a) * np.linalg.norm(b))
values = [
"I am a girl",
"我是个女孩",
"私は女の子です",
"广东人爱吃福建人",
"我是个人类",
"I am a human",
"that dog is so cute",
"私はねこむすめです、にゃん♪",
"宇宙级特大事件！号外号外！"
]
embeddings = []
for v in values:
r = requests.post("http://127.0.0.1:8000/embeddings", json={"input": v})
embedding = r.json()["data"][0]["embedding"]
embeddings.append(embedding)
compared_embedding = embeddings[0]
embeddings_cos_sim = [cosine_similarity(compared_embedding, e) for e in embeddings]
for i in np.argsort(embeddings_cos_sim)[::-1]:
print(f"{embeddings_cos_sim[i]:.10f} - {values[i]}")
```
2023-12-09 12:56:15 +08:00
## MIDI Input
Tip: You can download https://github.com/josStorer/sgm_plus and unzip it to the program's `assets/sound-font` directory
to use it as an offline sound source. Please note that if you are compiling the program from source code, do not place
it in the source code directory.
### USB MIDI Connection
- USB MIDI devices are plug-and-play, and you can select your input device in the Composition page
- 
### Mac MIDI Bluetooth Connection
- For Mac users who want to use Bluetooth input,
please install [Bluetooth MIDI Connect ](https://apps.apple.com/us/app/bluetooth-midi-connect/id1108321791 ), then click
the tray icon to connect after launching,
afterwards, you can select your input device in the Composition page.
- 
### Windows MIDI Bluetooth Connection
- Windows seems to have implemented Bluetooth MIDI support only for UWP (Universal Windows Platform) apps. Therefore, it
requires multiple steps to establish a connection. We need to create a local virtual MIDI device and then launch a UWP
application. Through this UWP application, we will redirect Bluetooth MIDI input to the virtual MIDI device, and then
this software will listen to the input from the virtual MIDI device.
- So, first, you need to
download [loopMIDI ](https://www.tobias-erichsen.de/wp-content/uploads/2020/01/loopMIDISetup_1_0_16_27.zip )
to create a virtual MIDI device. Click the plus sign in the bottom left corner to create the device.
- 
- Next, you need to download [Bluetooth LE Explorer ](https://apps.microsoft.com/detail/9N0ZTKF1QD98 ) to discover and
connect to Bluetooth MIDI devices. Click "Start" to search for devices, and then click "Pair" to bind the MIDI device.
- 
- Finally, you need to install [MIDIberry ](https://apps.microsoft.com/detail/9N39720H2M05 ),
This UWP application can redirect Bluetooth MIDI input to the virtual MIDI device. After launching it, double-click
your actual Bluetooth MIDI device name in the input field, and in the output field, double-click the virtual MIDI
device name we created earlier.
- 
- Now, you can select the virtual MIDI device as the input in the Composition page. Bluetooth LE Explorer no longer
needs to run, and you can also close the loopMIDI window, it will run automatically in the background. Just keep
MIDIberry open.
- 
2023-06-28 23:10:50 +08:00
## 関連リポジトリ:
2023-07-07 13:54:57 +08:00
- RWKV-4-World: https://huggingface.co/BlinkDL/rwkv-4-world/tree/main
2023-06-28 23:10:50 +08:00
- RWKV-4-Raven: https://huggingface.co/BlinkDL/rwkv-4-raven/tree/main
- ChatRWKV: https://github.com/BlinkDL/ChatRWKV
- RWKV-LM: https://github.com/BlinkDL/RWKV-LM
2023-07-07 13:54:57 +08:00
- RWKV-LM-LoRA: https://github.com/Blealtan/RWKV-LM-LoRA
2023-07-25 16:37:06 +08:00
- MIDI-LLM-tokenizer: https://github.com/briansemrau/MIDI-LLM-tokenizer
2023-06-28 23:10:50 +08:00
2023-12-09 13:09:53 +08:00
## Preview
2023-06-28 23:10:50 +08:00
### ホームページ
2023-12-09 12:56:15 +08:00
2023-06-28 23:10:50 +08:00
### チャット
2023-07-09 13:56:36 +08:00
2023-06-28 23:10:50 +08:00
2023-12-09 12:56:15 +08:00
2023-06-28 23:10:50 +08:00
### 補完
2023-07-09 13:56:36 +08:00
2023-06-28 23:10:50 +08:00
2023-07-28 13:13:14 +08:00
### 作曲
2023-12-09 12:56:15 +08:00
Tip: You can download https://github.com/josStorer/sgm_plus and unzip it to the program's `assets/sound-font` directory
to use it as an offline sound source. Please note that if you are compiling the program from source code, do not place
it in the source code directory.
2023-07-28 13:13:14 +08:00
2023-12-09 12:56:15 +08:00
2023-06-28 23:10:50 +08:00
### コンフィグ
2023-12-09 12:56:15 +08:00
2023-06-28 23:10:50 +08:00
### モデル管理
2023-12-09 12:56:15 +08:00
2023-06-28 23:10:50 +08:00
### ダウンロード管理
2023-07-09 13:56:36 +08:00
### LoRA Finetune
2023-06-28 23:10:50 +08:00
### 設定
2023-07-09 13:56:36 +08:00
