Create A Personalized AI Chatbot with Chat With RTX顯然還在實驗中的項目不過發展成形的話作出個人專用Chatbot門檻應該會大幅降低https://www.nvidia.com/en-us/ai-on-rtx/chat-with-rtx-generative-ai/

名稱	⚐p$h8qF5buo⚄sc@_R0v.d!^t3⛦{
Email	*VO&9v#hdEB⚪☸XqT([@{wSk3CriKZ+U^`☎m~F'
主題
回覆
檔案
嵌入
Options	Spoiler 圖片
密碼	（用來刪除檔案。）
Allowed file types:jpg, jpeg, png, gif, mp4, webm Max filesize is 10 MB. Max image dimensions are 10000 x 10000. You may upload 1 per post.

YouTube embed. Click thumbnail to play.

無ゴミ 24/02/14 (Wed) 12:13:34 e55c0548 No.842

Create A Personalized AI Chatbot with Chat With RTX

顯然還在實驗中的項目
不過發展成形的話作出個人專用Chatbot門檻應該會大幅降低

https://www.nvidia.com/en-us/ai-on-rtx/chat-with-rtx-generative-ai/

無ゴミ 24/02/14 (Wed) 12:30:11 da30602b No.843

有辦法繞過審查嗎

無ゴミ 24/02/14 (Wed) 14:46:57 e55c0548 No.844

>>843
都在本地端運作了應該可以吧
基於TensorRT-LLM做出來的
透過調整模型客製化之類的?

無ゴミ 24/02/15 (Thu) 01:01:42 2c05a265 No.846

不太明白這到底是個什麼東西，原本以為它是一個後端，只是可以優化N卡計算

然而驚人的發現它的檔案高達35GB!?
所以它其實還包含了模型嗎?可是我看不到關於系統需求的介紹啊?

無ゴミ 24/02/15 (Thu) 02:12:04 2c05a265 No.847

>>846
啊,在下面看到了,別在意我,原來需要8GB的VRAM
那大概至少是個13B

無ゴミ 24/02/15 (Thu) 05:26:09 2ba4d4ae No.849

目前沒甚麼用
跟之前推的AI畫背景很像
就是個玩具
只能用英文溝通, 模型就是開源的7B跟13B
這樣不如用普通的開源跑就好了