NVIDIA ha appena rilasciato una versione demo gratuita di Chat with RTX, un chatbot che viene eseguito localmente sul tuo PC. Questo è abbastanza carino, poiché dà al chatbot l’accesso ai tuoi file e documenti. Puoi fornire a Chat with RTX una selezione di dati personali e fargli creare riepiloghi basati su tali informazioni. Puoi anche fargli domande, proprio come qualsiasi chatbot, e approfondire i tuoi dati per trovare risposte.
L’azienda afferma che consente agli utenti di “connettere rapidamente e facilmente file locali su un PC come set di dati a un modello linguistico di grandi dimensioni open source come Mistral o Llama 2“. NVIDIA fornisce l’esempio di un utente che chiede al chatbot informazioni su un ristorante consigliato dal suo partner mentre si trovava a Las Vegas. Il software esegue la scansione dei file locali per trovare la risposta. Supporta un sacco di formati di file, inclusi .txt, .pdf, .doc/.docx e .xml. L’azienda afferma che caricherà i file rilevanti nel suo set di dati “in pochi secondi”.
Chat with RTX integra anche video e playlist di YouTube. Puoi aggiungere un URL video nel set di dati e integrerà la conoscenza contenuta nella clip per query contestuali. NVIDIA afferma che ciò sarà utile quando si chiederanno consigli di viaggio “basati sui contenuti dei video degli influencer preferiti” o quando si cercheranno tutorial e riepiloghi derivati da risorse educative.
The Verge ha avuto un po’ di tempo pratico con il chatbot e ne è rimasto impressionato, scrivendo che potevano vederlo come “una parte preziosa della ricerca di dati per giornalisti o chiunque abbia bisogno di analizzare una raccolta di documenti“.
Sembra un grande passo verso qualcosa che assomigli a un vero assistente digitale che funziona nel quadro contestuale dei tuoi dati personali. Con la maggior parte dei chatbot, i dati vengono inviati al cloud, ma Chat with RTX “consente agli utenti di elaborare dati sensibili su un PC locale senza la necessità di condividerli con terzi o di disporre di una connessione Internet“. Quindi è più sicuro e contestualmente più consapevole.
Ci sono alcune limitazioni. Questo è un prodotto demo, quindi dovresti aspettarti molti bug, anche se NVIDIA dovrebbe iniziare a eliminarli una volta che gli utenti inizieranno a inviare segnalazioni di errori e simili. Ci sono anche alcune rigide limitazioni hardware qui. Chat with RTX funziona solo su PC Windows con GPU NVIDIA GeForce RTX serie 30 o successive e almeno 8 GB di VRAM.
NVIDIA ha davvero messo in mostra le sue capacità di intelligenza artificiale ultimamente, poiché la società ha appena lanciato la sua prossima generazione di chip per supercomputer con intelligenza artificiale. È l’azienda che sta beneficiando maggiormente da questa corsa all’IA.
