Un uomo ampiamente considerato il padrino dell’intelligenza artificiale (AI) ha lasciato il suo lavoro, mettendo in guardia sui crescenti pericoli derivanti dagli sviluppi nel campo.
Geoffrey Hinton, 75 anni, ha annunciato le sue dimissioni da Google in una dichiarazione al New York Times, affermando di avere ora dei rimpianti per il suo lavoro.
Ha detto alla BBC che alcuni dei pericoli dei chatbot AI sono “piuttosto spaventosi”.
“Al momento, non sono più intelligenti di noi, per quanto ne posso dire. Ma penso che presto lo saranno”.
Il dottor Geoffrey Hinton ha anche accettato che la sua età abbia giocato un ruolo nella sua decisione di lasciare il gigante tecnologico, dicendo alla BBC: “Ho 75 anni, quindi è tempo di ritirarmi”.
Le sue ricerche pionieristiche sulle reti neurali e sull’apprendimento profondo hanno aperto la strada ai sistemi AI attuali come ChatGPT.
Nell’intelligenza artificiale, le reti neurali sono sistemi simili al cervello umano nel modo in cui apprendono e elaborano le informazioni. Consentono alle AI di apprendere dall’esperienza, come farebbe una persona. Questo è chiamato apprendimento profondo.
Il psicologo cognitivo e informatico britannico-canadese ha detto alla BBC che i chatbot potrebbero presto superare il livello di informazioni che un cervello umano contiene.
“Al momento, quello che stiamo vedendo è che cose come GPT-4 superano una persona in termini di quantità di conoscenze generali che possiede. Per quanto riguarda il ragionamento, non è così buono, ma fa già semplici ragionamenti”, ha detto.
“E dato il tasso di progresso, ci aspettiamo che le cose migliorino abbastanza rapidamente. Quindi dobbiamo preoccuparci di questo”.
Il mondo è pronto per la prossima tempesta di AI? L’AI potrebbe influenzare 300 milioni di posti di lavoro – rapporto BBC Reel: perché siamo ancora più intelligenti delle macchine. Nell’articolo del New York Times, il dottor Geoffrey Hinton ha fatto riferimento a “cattivi attori” che cercherebbero di usare l’AI per “cose cattive”.
Quando la BBC gli ha chiesto di elaborare su questo, ha risposto: “Questo è solo un tipo di scenario peggiore, un po’ un incubo”.
“Potete immaginare, ad esempio, che qualche cattivo attore come Putin decida di dare ai robot la capacità di creare i propri sotto-obiettivi”.
Lo scienziato ha avvertito che questo potrebbe alla fine “creare sotto-obiettivi come ‘devo ottenere più potere'”.
Ha aggiunto: “Sono giunto alla conclusione che il tipo di intelligenza che stiamo sviluppando è molto diverso dall’intelligenza che abbiamo”.
“Siamo sistemi biologici e questi sono sistemi digitali. E la grande differenza è che con i sistemi digitali hai molte copie dello stesso insieme di pesi, dello stesso modello del mondo”.
“E tutte queste copie possono imparare separatamente ma condividere la loro conoscenza istantaneamente. Quindi è come se avessi 10.000 persone e ogni volta che una persona impara qualcosa, tutti lo sanno automaticamente. Ed è così che questi chatbot possono sapere molto di più di qualsiasi persona.”
Matt Clifford, il presidente dell’Advanced Research and Invention Agency del Regno Unito, parlando a titolo personale, ha detto alla BBC che l’annuncio del dottor Hinton “evidenzia la velocità con cui le capacità dell’AI stanno accelerando“.
“C’è un enorme potenziale in questa tecnologia, ma è essenziale che il mondo investa pesantemente e urgentemente nella sicurezza e nel controllo dell’AI”, ha detto.
I risvolti dell’AI: sarebbe meglio fare un passo indietro?
In marzo, una lettera aperta – firmata da decine di persone nel campo dell’IA, tra cui il miliardario della tecnologia Elon Musk – ha chiesto una pausa su tutti gli sviluppi più avanzati dell’attuale versione di chatbot IA ChatGPT affinché potessero essere progettate e implementate robuste misure di sicurezza.
Yoshua Bengio, un altro dei cosiddetti padrini dell’IA, che insieme al Dr. Hinton e a Yann LeCun ha vinto il Premio Turing 2018 per il loro lavoro sul deep learning, ha anche firmato la lettera.
Il signor Bengio ha scritto che era a causa dell'”inaspettata accelerazione” nei sistemi di IA che “dobbiamo fare un passo indietro”.
Ma il Dr. Hinton ha detto alla BBC che “a breve termine” pensava che l’IA avrebbe fornito molti più benefici che rischi, “quindi non penso che dovremmo smettere di sviluppare queste cose”, ha aggiunto.
Ha anche detto che la competizione internazionale significherebbe che una pausa sarebbe difficile. “Anche se tutti negli Stati Uniti smettessero di svilupparlo, la Cina avrebbe solo un grande vantaggio”, ha detto.
Il Dr. Hinton ha anche detto di essere un esperto di scienza, non di politica, e che era responsabilità del governo garantire che l’IA fosse sviluppata “con molta attenzione su come impedire che diventi un problema”.
La soluzione per l’utilizzo dell’AI: un approccio più responsabile
Il Dr. Geoffrey Hinton ha sottolineato di non voler criticare Google e che il gigante tecnologico è stato “molto responsabile”. “Voglio in realtà dire alcune cose positive su Google. E sono più credibili se non lavoro per Google”. In una dichiarazione, il capo scienziato di Google, Jeff Dean, ha affermato: “Rimaniamo impegnati in un approccio responsabile all’AI. Continuiamo a imparare a comprendere i rischi emergenti, mentre innoviamo con coraggio”.
È importante ricordare che gli AI chatbot sono solo un aspetto dell’intelligenza artificiale, anche se attualmente sono i più popolari.
L’AI è alla base degli algoritmi che decidono cosa si dovrebbe guardare sulle piattaforme di streaming video. Può essere utilizzata nella selezione del personale per filtrare le candidature, dalle compagnie assicurative per calcolare i premi, può diagnosticare condizioni mediche (anche se i medici umani hanno comunque l’ultima parola).
Tuttavia, stiamo assistendo alla crescita dell’AGI – l’intelligenza artificiale generale – che può essere addestrata a fare diverse cose all’interno di un determinato ambito. Ad esempio, ChatGPT può solo offrire risposte in formato testo a una domanda, ma le possibilità all’interno di quella sfera, come stiamo vedendo, sono infinite.
Ma il ritmo di accelerazione dell’IA ha sorpreso persino i suoi creatori. Si è evoluta notevolmente dal momento in cui il Dr. Hinton ha costruito una rete neurale di analisi delle immagini all’avanguardia nel 2012.
Anche il capo di Google, Sundar Pichai, ha recentemente dichiarato in un’intervista di non capire completamente tutto ciò che fa il suo chatbot AI, Bard.
Non fraintendetemi, siamo su un treno in corsa in questo momento, e la preoccupazione è che un giorno inizi a costruire le proprie rotaie.
