Uno dei pionieri dell’intelligenza artificiale ha fatto un’uscita di alto profilo. Geoffrey Hinton, soprannominato il “padrino della IA”, ha dichiarato al New York Times di essersi dimesso da vicepresidente di Google ad aprile per avvertire liberamente dei rischi associati alla tecnologia.
Il ricercatore è preoccupato che Google stia rinunciando alla sua precedente restrizione sui rilasci pubblici di IA nel tentativo di competere con ChatGPT, Bing Chat e modelli simili, aprendo la porta a molteplici problemi etici.
A breve termine, Hinton è preoccupato che l’IA generativa possa portare a un’ondata di disinformazione. Potresti “non essere più in grado di sapere cosa è vero“, dice. È anche preoccupato che potrebbe non solo eliminare il “lavoro faticoso”, ma addirittura sostituire alcuni lavori più tecnici.
Andando avanti, lo scienziato è preoccupato sia per la possibilità di armi completamente autonome sia per la tendenza dei modelli di intelligenza artificiale ad apprendere comportamenti strani dai dati di addestramento. Mentre alcuni di questi problemi sono teorici, Hinton teme un’escalation che non sarà controllata senza regolamenti o lo sviluppo di controlli efficaci.
Hinton afferma che la sua posizione ha iniziato a cambiare l’anno scorso, quando Google, OpenAI e altri hanno iniziato a creare sistemi di intelligenza artificiale che ritiene a volte superiori all’intelligenza umana. L’intelligenza artificiale si è sviluppata rapidamente solo negli ultimi cinque anni: è “spaventoso” ciò che potrebbe accadere nei prossimi cinque, suggerisce il ricercatore.
In una dichiarazione a Engadget, il capo scienziato di Google, Jeff Dean, afferma che la sua azienda è ancora dedita a un “approccio responsabile” e in guardia dai “rischi emergenti“. Il gigante della ricerca ha recentemente rilasciato una versione approssimativa del suo chatbot Bard a marzo, dopo mesi di voci secondo cui la società è preoccupata per la minaccia competitiva dell’IA generativa. Prima di allora, si rifiutava di rilasciare pubblicamente modelli di intelligenza artificiale come il suo Imagen orientato all’arte a causa del potenziale di contenuti tossici e violazioni del copyright.
