“NVIDIA ChatRTX全新升級:新增中文ChatGLM 3模型評測”

Featured Image
NVIDIA於CES 2024(消費性電子展)推出了ChatRTX聊天機器人程式,並最近進行了升級,增加了對ChatGLM 3中文大型語言模型的支援。ChatRTX是一款聊天機器人程式,需要在搭載8GB以上顯示記憶體的NVIDIA GeForce RTX 30 / RTX 40系列顯示卡、顯示晶片的Windows電腦上運行。該程式可在下載大型語言模型(Large Language Model,LLM)之後進行全程離線運作,以避免機敏資料外洩的風險。

ChatRTX目前版本支援北京智譜華章科技公司推出的Llama 2.3.36B大型語言模型,該模型能夠支援正體中文與簡體中文。此外,ChatRTX還支援了由OpenAI公司推出的圖文對應模型CLIP,該模型的主要功能是辨識圖片。

安裝ChatRTX非常簡單,只需在安裝完成後雙擊桌面的「NVIDIA ChatRTX」捷徑,程式就會自動啟動。啟動完成後,會自動打開網頁介面,如果沒有自動打開,可以點擊視窗中的網址。在網頁介面中,可以展開「Add new models」標籤,然後選擇想要安裝的模型,並確認授權聲明後點擊下載按鈕即可完成安裝。

ChatRTX具有檢索增強生成(Retrieval Augmented Generation,RAG)功能,可以讓程式查閱資料庫中的文字與圖片檔案,從而提供更貼近使用者需求的回應。例如,我們可以將自己撰寫的文章匯入資料庫,讓預先訓練的大型語言模型快速學習新增知識,以回答個人資料和最新報導內容相關的問題。

ChatRTX的運作過程不會將任何資料上傳至雲端,因此更加安全可靠。即使使用中國公司推出的ChatGLM 3.6B大型語言模型,也不用擔心資料外洩的風險。此外,在安裝CLIP模型之後,ChatRTX還可以根據使用者輸入的提示詞從資料庫中搜尋相應的圖片。

ChatRTX是一個功能強大的聊天機器人程式,具有廣泛的應用價值。如果您擁有搭載NVIDIA GeForce RTX 30 / RTX 40系列顯示卡的電腦,不妨試試安裝並體驗一下它的強大功能。

以上就是NVIDIA推出的ChatRTX聊天機器人程式的相關介紹。如果您對此有任何疑問或需求,請隨時聯繫我們。感謝您的閱讀!

【延伸閱讀】
– ChatRTX官方網站:[連結]
– Llama 2.3.36B大型語言模型:[連結]
– CLIP圖文對應模型:[連結]
– Stable Diffusion:[連結]

Share this content: