63f7ad38 No.1625[回覆]
這裡是完全看不懂Linux和WSL的智障, 剛好把舊電腦的顯卡裝上來想試試用三張顯卡跑會不會更快一些.
請問有沒有人會使用這個呢?
https://github.com/PygmalionAI/aphrodite-engine照著下面這部分的說明在Windows的WSL安裝了
https://github.com/PygmalionAI/aphrodite-engine/wiki/1.-Installation但好像無法選擇安裝的python3版本,想使用已經安裝在windows的python3.11版的話該怎麼辦呢?
然後使用說明也是用google翻譯之後依然完全看不懂在說什麼
https://aphrodite.pygmalion.chat/pages/usage/getting-started.html不想重新下載模型該如何使用呢? 直接在WSL視窗內打路徑例如"aphrodite run D:\自己轉換的EXL2模型的資料夾 -tp 3" 這樣就好了嗎?
它也能跑GGUF模型嗎? 也是直接像"aphrodite run D:\c4ai-command-r-plus-08-2024.i1-Q6_K.gguf -tp 3" 這樣輸入就可以了嗎?
WSL直接存取的到它的Linux存在的磁碟以外的磁碟機嗎?
儲存的config.yaml檔案要放到哪個位置還是隨便亂放程式都會自動找到?
貼文太長了。點這裡查看全文。 fa344c61 No.1626
>>但好像無法選擇安裝的python3版本,想使用已經安裝在windows的python3.11版的話該怎麼辦呢?
環境是分開的,你要在WSL裡重裝
>>不想重新下載模型該如何使用呢? 直接在WSL視窗內打路徑例如"aphrodite run D:\自己轉換的EXL2模型的資料夾 -tp 3" 這樣就好了嗎?
打開檔案總管左邊列表會有一個企鵝標誌的linux
把檔案丟到linux下的home裡自己建資料夾比較方便
7624ada8 No.1628
>>WSL直接存取的到它的Linux存在的磁碟以外的磁碟機嗎?
能，在WLS理是 /mnt/磁碟機代號 ，磁碟機代號是小寫
>>能跑GGUF模型嗎?
能，例: aphrodite run /mnt/d/c4ai-command-r-plus-08-2024.i1-Q6_K.gguf
