Mozilla ha annunciato che lancerà una nuova iniziativa open source chiamata Llamafile. Spiega che l’obiettivo alla base è aiutare le persone a eseguire LLM sull’hardware che già possiedono, senza bisogno di CPU specifiche per l’intelligenza artificiale.
Mentre l’intelligenza artificiale continua ad evolversi, sempre più persone trovano usi per i modelli linguistici di grandi dimensioni (LLM), che possono aiutare in qualsiasi cosa, dalla generazione di testo alla generazione di immagini. Tuttavia, non tutti hanno iniziato a sfruttare l’intelligenza artificiale nella vita quotidiana. In alcuni casi, l’intelligenza artificiale e gli LLM sono ancora considerati intimidatori. Ora, Mozilla vuole aiutare ad abbattere alcune delle barriere che circondano l’intelligenza artificiale generativa.
Llamafile funziona condensando tutta la complessità di un chatbot AI in un singolo file. Questo file può quindi essere eseguito su sei diversi sistemi operativi (Windows, macOS, Linux, OpenBSD, FreeBSD e NetBSD) e non richiede praticamente alcuna installazione o configurazione.
Con tutti i tuoi LLM condensati in un unico file, puoi eseguirli facilmente sul tuo computer esistente localmente, senza bisogno dell’accesso al cloud. Possedere il file significa che puoi anche trasferirlo su un dispositivo di archiviazione, se lo desideri, per utilizzarlo altrove. Mozilla si riferisce a Llamafile come AI locale, spiegando che puoi persino disattivare la connessione Wi-Fi e distribuirla quando vuoi.
Anche Google vuole un LLM che sia in grado di funzionare in locale
Anche se potrebbe sembrare un concetto nuovo, Mozilla non è l’unico a pensare a come sfruttare i LLM locali. Google ha cercato in particolare di spingersi in prima linea nell’evoluzione dell’intelligenza artificiale con i propri sviluppi. Ad esempio, l’app AiCore è stata scoperta all’interno del Pixel 8 Pro dopo il suo lancio, ma all’epoca si sapeva poco sulla sua funzionalità. Da allora sono emersi ulteriori dettagli tramite l’elenco del Play Store, sottolineando che AiCore aiuterà “le funzionalità basate sull’intelligenza artificiale a funzionare direttamente sul tuo dispositivo utilizzando gli ultimi modelli di base“.
Google ha anche lavorato duramente per rivaleggiare con gli sviluppi di OpenAI, la società dietro ChatGPT. Gemini è il suo fiore all’occhiello, considerato fino ad oggi il modello di intelligenza artificiale più capace e avanzato. L’azienda ha introdotto Gemini in diverse scale: Ultra, Pro e Nano, ciascuna progettata per funzionare a un livello diverso. Ad esempio, Gemini può essere implementato su dispositivi piccoli come telefoni o grandi come data center.
Al momento, non si sa quale potenziale abbia l’intelligenza artificiale, ma ci sono molte aziende che cercano di scoprirlo. Aziende come Google e OpenAI potrebbero avere più risorse per esplorare il potenziale. Tuttavia, non è probabile che impedisca ad altre entità come Mozilla di sondare il terreno e il risultato finale potrebbe essere vantaggioso per il bene comune.
