Qualcomm e Meta hanno unito le forze per ottimizzare l’esecuzione del modello linguistico di grandi dimensioni LLaMA 2 di Meta in locale sugli smartphone, eliminando la necessità di una forte dipendenza dai servizi cloud.
Eseguendo modelli di intelligenza artificiale generativa come LLaMA 2 su smartphone, PC, visori VR/AR e veicoli, gli sviluppatori possono offrire agli utenti esperienze più private, affidabili e personalizzate risparmiando sui costi del cloud.
LLaMA 2 sarà disponibile in locale sui chip Snapdragon
La partnership mira a rendere disponibili implementazioni IA basate su LLaMA 2 sul dispositivo, consentendo agli sviluppatori di creare applicazioni innovative. Clienti, partner e sviluppatori potranno sfruttare la potenza di queste esperienze di intelligenza artificiale per creare assistenti virtuali intelligenti, strumenti di produttività, piattaforme per la creazione di contenuti e applicazioni di intrattenimento.
Un vantaggio significativo dell’intelligenza artificiale eseguita in locale è la sua capacità di funzionare in aree prive di connettività Internet o persino in modalità aereo.Di contro, avendo una potenza di elaborazione limitata rispetto ai server cloud, la complessità di questi modelli sarà decisamente inferiore.
Durga Malladi, vicepresidente senior e direttore generale delle attività di tecnologia, pianificazione e soluzioni edge presso Qualcomm Technologies, ha espresso sostegno all’approccio di Meta all’IA aperta e responsabile. Malladi ha sottolineato l’impegno dell’azienda nel guidare l’innovazione e facilitare lo sviluppo dell’IA per sviluppatori di tutte le dimensioni, immaginando che l’IA generativa funzioni senza problemi sia sul cloud che sui dispositivi edge come smartphone, laptop, veicoli e dispositivi IoT.
La collaborazione tra Meta e Qualcomm Technologies si basa sulla loro lunga storia di guida dell’innovazione tecnologica per offrire esperienze di dispositivi premium. Questa partnership include sforzi congiunti di ricerca e ingegneria del prodotto volti a supportare l’ecosistema LLaMA. La leadership di Qualcomm Technologies nell’AI on-device la posiziona in modo univoco per supportare Llama, data la sua vasta presenza all’edge, alimentando miliardi di smartphone, veicoli, visori XR, occhiali, PC e dispositivi IoT con soluzioni hardware e software AI leader del settore.
Previsto per essere disponibile dal 2024 in poi, Qualcomm Technologies prevede di offrire implementazioni AI basate su LLaMA 2 su dispositivi alimentati da Snapdragon.
Gli sviluppatori possono iniziare oggi stesso ottimizzando le proprie applicazioni per l’IA su dispositivo utilizzando Qualcomm AI Stack, un set dedicato di strumenti che consente un’elaborazione dell’IA più efficiente su Snapdragon. Questa tecnologia rivoluzionaria rende possibile l’IA su dispositivo anche in dispositivi piccoli, sottili e leggeri.
Il futuro della tecnologia sembra promettente e pieno di sorprese.
