序言
現時 AI 已成為各個領域的熱門話題，無論是 ChatGPT 以至近日出現的 Sora，都為大家帶來超乎想像的效果，目前 ChatGPT 雖然並未正式開放給香港地區的用家，但網絡上仍然有其他各種的類似功能可供用家使用。NVIDIA 的晶片作為整個 AI 領域的主要角色，近日他們就推出了一個 Chat with RTX 的全新功能，讓用家可以透過自己電腦內的 RTX 顯示卡，實現無需連接網絡、快速及訊息定制的 AI 小助手，當中最重要是由於整個系統都是安裝在用家的電腦，因此私隱度大大提升。
支援 RTX 30 以上顯示卡
NVIDIA Chat with RTX 主要是透過 RAG、NVIDIA TensorRT-LLM 軟件與及 NVIDIA RTX 加速技術，讓現時大家的 GeForce 顯示卡能夠擁有生成式 AI（Generative AI）的功能，為了達到更好的使用體驗，因此它目前只能夠對應 NVIDIA GeForce RTX 30 或以上的顯示卡，而用家在使用前亦必需安裝最新的驅動程式。除此之外，為了確保軟件的流暢度，因此系統亦需要配備 16GB RAM 並且使用 Windows 11 作業系統，至於儲存空間就需要預留 35GB 或以上。
NVIDIA Chat with RTX 必需使用 GeForce RTX 30 以上的顯示卡
可分析多種文件及 YouTube 影片
NVIDIA Chat with RTX 與現時大家接觸的 ChatGPT 類的最大不同之處，在於它是分析用戶所提供的資料，再根據用戶的提問進行互動。它目前可以支援多種文件檔案，例如是 .txt、.pdf、.doc、.docx 與及 .xml。除此之外，它亦可以幫用戶分析 YouTube 影片的內容，只需要貼上相關的 YouTube 連結即可。由於當中的數據都位於用戶電腦之內，因此查詢的結果亦相當快速，與依賴雲端的 LLM 服務不同，由於不會經過互聯網的關係，尤其適合用戶在電腦上處理較敏感的資料。
Chat with RTX 實測
NVIDIA Chat with RTX 的使用方法其實相當簡單，只要從官方網站下載及根據指示安裝即可完成，由於所有的學習模型都需要直接下載並安裝在用戶的電腦，因此安裝過程會較長，當完成後用戶就能按需要選擇需要分析的文件檔案位置，又或者是貼上 YouTube 的連結進行影片分析。
按指示就能完成安裝，有一點要注意是不能更改當中的安裝路徑，否則有機會出現執行錯誤
Chat with RTX 的介面相當簡單，目前測試版本只提供一個 AI Model，因此無需特別的操作
右上方的介面就可以選擇需要分析文件又或者是 YouTube 影片
文件檔案分析測試
要分析文件的話，就需要先選擇文件的儲存位置
可以在下方輸入需要查詢的內容，更可以指定特定的文件
Chat with RTX 能夠快速為用家總結文件內的重點
若果改用中文作查詢結果的話，除了出現亂碼之外，結果內容亦會變得較為重複
YouTube 影片分析測試
Chat with RTX 更可以用作總結 YouTube 影片內容，首先複製需要處理的 YouTube 連結
於 Chat with RTX 切換至 YouTube 並貼上影片連結，再按下最右方的功能分析影片
同樣於下方輸入需要獲取的內容
Chat with RTX 就能快速給用戶顯示結果
以 YouTube 的測試結果看到，中文化後的結果相對上會較為完善，但仍然會有出現亂碼的問題
由於 NVIDIA Chat with RTX 主要資源都是在用戶電腦內的文件，因此當中的分析及互動都是圍繞在相關的資源，因此當中的結果或者會與大家日常接觸的 ChatGPT 類服務有點不同，加上程式目前還處於初初測試階段，對於英文的內容處理上會較為準確，對中文的支援未必太過完善，例如會出現亂碼問題。實用性方面，Chat with RTX 相對上較適合需要處理大量文件及資料的用戶，例如是在大量資料庫或文件當中，希望快速找到需要的內容時，使用 Chat with RTX 就能快速找到相關資料與及其相對應的文件。至於一般用戶方面，目前它的最大用途或者是用作快速總結 YouTube 的內容，只需數秒時間就能知道影片的重點，無需花上大量時間觀看完整影片。
