Az NVIDIA bejelentette a Chat with RTX programját, amely lehetővé teszi egy AI chatbot futtatását lokális formában, vagyis nem szükséges hozzá semmilyen online felület. A rendszer csak a GeForce RTX 30 és 40 sorozatú VGA-kat támogatja, de ezen túlmenően még kiemelt követelmény a 8 GB-os minimum VRAM kapacitás.
Hasonló konstrukciók már léteztek eddig is, az NVIDIA csak a folyamatot szerette volna egyszerűvé tenni a Chat with RTX-szel, így leginkább az olyan megoldások alternatívája lehet, mint például az LM Studio, ami szintén az egyszerűségre törekszik.
Funkcionalitásban a Chat with RTX még nem közelíti meg az LM Studio lehetőségeit, egyelőre jóval limitáltabb a támogatott hardverek, operációs rendszerek, illetve a nagy nyelvi modellek szempontjából, de idővel ez változhat.
A Chat with RTX az alábbi oldalról tölthető le, a használata pedig ingyenes. Azt fontos kiemelni, hogy az efféle szoftverek rendkívül sok helyet igényelnek, így erre mindenki készüljön fel, emellett azért a képességeik általánosabban is korlátozottabbak az olyan online alternatívákhoz viszonyítva, mint például a ChatGPT.
