NVIDIA 進軍 AI 聊天機器人領域,推出 Chat with RTX 軟體,讓 Windows 電腦使用者可以免費體驗生成式 AI 技術,不用連網就能讓 AI 分析電腦內的文件,甚至還能摘要 YouTube 影片。
Chat with RTX 的功能與 ChatGPT有雷同的地方,比方用戶可對機器人提出問題,AI 就會自動從電腦內的檔案中找出答案,並支援 .txt、.pdf、.doc/.docx 和 .xml 等多種格式檔案。除此之外,用戶可以將 YouTube 影片或播放清單儲存到 Chat with RTX 的資料庫中,它能夠協助你分析、摘要 Youtube 上的影片,例如請 AI 總結某個YOUTUBER介紹的財經資訊等。
全站首選:藍縣市集體訴願 政院:中央衡酌財力、刪減一般性補助款沒有違法
科技媒體《The Verge 》的資深編輯 Tom Warren 在試用過後說,Chat with RTX 在影片中尋找參考資料的速度非常快,幾秒鐘就能給出答案,不過有時候也會出錯,找到不相關的影片文字記錄。
Tom Warren 發現,Chat with RTX 能夠在處理 PDF 文件、檢查數據的時候提供很大的幫助。如微軟自己開發的 Copilot 系統對 PDF 文件的支持不太好,但是 Chat with RTX 聊天系統可以輕鬆地從PDF中捉出重要訊息,而且回覆速度也非常快,沒有像使用雲端的 ChatGPT 或 Copilot 聊天機器人有延遲。
然而,Chat with RTX 作為一項早期開發的產品,還存在許多不足之處。如它無法記住上下文。例如,你問「北美常見哪些鳥類?」,再接著問「它們是什麼顏色?」,它就無法識別你指的是否就是鳥類的顏色。
再者,Chat with RTX 也需要更高的硬體要求。NVIDIA 表示,電腦必須配備 GeForce RTX 30 系列或以上的 GPU 顯示卡,並且有 8GB 以上的 VRAM、16GB 的記憶體,以及 Windows 10、Windows 11 和最新版的 NVIDIA GPU 驅動程式。
整體來看,Chat with RTX 還是一個剛開始的產品,也代表了一種趨勢:可離線運做的生成式 AI 模型。「世界經濟論壇」在最近的一份報告中預測,能夠離線運行生成式 AI 模型的設備或載體將「大幅」增長,其中包括個人電腦、智慧型手機、物聯網設備和網絡設備。報告表示,原因在於其離線模型,讓人們更有私密感 ,而且與雲端管拖模型相比,它們的延遲更低,成本效益更高。