e55c0548 No.842
Create A Personalized AI Chatbot with Chat With RTX
顯然還在實驗中的項目
不過發展成形的話作出個人專用Chatbot門檻應該會大幅降低
https://www.nvidia.com/en-us/ai-on-rtx/chat-with-rtx-generative-ai/ da30602b No.843
有辦法繞過審查嗎
e55c0548 No.844
>>843都在本地端運作了 應該可以吧
基於TensorRT-LLM做出來的
透過調整模型客製化之類的?
2c05a265 No.846
不太明白這到底是個什麼東西，原本以為它是一個後端，只是可以優化N卡計算
然而驚人的發現它的檔案高達35GB!?
所以它其實還包含了模型嗎?可是我看不到關於系統需求的介紹啊?
2c05a265 No.847
>>846啊,在下面看到了,別在意我,原來需要8GB的VRAM
那大概至少是個13B
2ba4d4ae No.849
目前沒甚麼用
跟之前推的AI畫背景很像
就是個玩具
只能用英文溝通, 模型就是開源的7B跟13B
這樣不如用普通的開源跑就好了