La promessa di Zuckerberg sull’AGI solleva preoccupazioni

Mark Zuckerberg, fondatore di Facebook, è stato accusato di adottare un approccio irresponsabile all’intelligenza artificiale dopo aver annunciato il suo impegno nella costruzione di un potente sistema di iAI al livello dell’intelligenza umana. Inoltre, ha sollevato la prospettiva di renderlo liberamente disponibile al pubblico.

Zuckerberg ha dichiarato che l’azienda Meta cercherà di sviluppare un sistema di intelligenza artificiale generale (AGI) e renderlo open source, ovvero accessibile agli sviluppatori esterni all’azienda. Il sistema dovrebbe essere reso “il più ampiamente disponibile possibile in modo responsabile”, ha aggiunto.

La visione di Zuckerberg sull’intelligenza generale artificiale

Secondo Zuckerberg, è chiaro che la prossima generazione di servizi tecnologici “richiede la costruzione di un’intelligenza generale completa”. L’AGI non è un termine rigidamente definito, ma comunemente si riferisce a un sistema di intelligenza artificiale teorico in grado di svolgere una serie di compiti a un livello di intelligenza che corrisponde o supera quello umano. L’emergere potenziale di un AGI ha allarmato esperti e politici di tutto il mondo che temono che un tale sistema, o la combinazione di più sistemi AGI, potrebbe sfuggire al controllo umano e minacciare l’umanità.

Meta e l’AGI open source

Zuckerberg ha confermato che Meta valuterà la possibilità di rendere il suo AGI open source, ovvero liberamente disponibile agli sviluppatori e al pubblico per utilizzarlo e adattarlo, come il modello di intelligenza artificiale Llama 2 dell’azienda. “Questa tecnologia è così importante e le opportunità sono così grandi che dovremmo renderla open source e renderla il più ampiamente disponibile possibile in modo responsabile, affinché tutti ne possano beneficiare”, ha detto.

Tuttavia, l’idea di un AGI open source ha suscitato preoccupazione tra gli esperti. Dame Wendy Hall, professoressa di informatica all’Università di Southampton e membro dell’organismo consultivo dell’ONU sull’IA, ha definito la prospettiva di un AGI open source “davvero molto spaventosa” e ha affermato che è irresponsabile da parte di Zuckerberg considerarla. “Il pensiero di un AGI open source rilasciato prima che abbiano risolto il problema della regolamentazione di questi sistemi di intelligenza artificiale così potenti è davvero molto spaventoso”, ha detto. “In mani sbagliate, una tecnologia del genere potrebbe fare molto male. È così irresponsabile da parte di un’azienda suggerirlo.”

Preoccupazioni e regolamentazioni future

Tuttavia, Hall ha aggiunto: “Fortunatamente, penso che ci vorranno ancora molti anni prima che tale aspirazione [AGI] possa essere raggiunta in modo significativo, quindi abbiamo il tempo di mettere in atto i sistemi di regolamentazione necessari. Ma è una questione di sicurezza pubblica che procediamo in questo lavoro con urgenza“.

Meta era una delle aziende tecnologiche presenti a un summit globale sulla sicurezza dell’IA nel Regno Unito lo scorso anno, che si è impegnato a consentire ai governi di valutare gli strumenti di intelligenza artificiale prima e dopo il loro rilascio.

Open Source e sicurezza

Un altro esperto con sede nel Regno Unito ha affermato che la decisione di rendere open source un sistema AGI non dovrebbe essere lasciata nelle mani di un’azienda tecnologica. “Esistono argomenti profondi e complessi sui vantaggi dell’open source dei modelli di AI attuali, ma portare questo nell’ambito dell’AGI potrebbe essere salvavita o catastrofico“, ha detto il dott. Andrew Rogoyski, direttore dell’Istituto per l’AI centrata sulle persone presso l’Università di Surrey. “Queste decisioni devono essere prese tramite un consenso internazionale, non nella sala riunioni di un gigante tecnologico”.

In un’intervista al sito di notizie tecnologiche The Verge, Zuckerberg ha affermato che propenderebbe per l’open source finché avesse senso farlo e fosse “sicuro e responsabile”. La decisione di Meta lo scorso anno di rendere open source Llama 2 ha suscitato critiche da parte di alcuni esperti, incluso Hall, che ha affermato che era “un po’ come dare alle persone un modello per costruire una bomba nucleare”.

La società californiana OpenAI, sviluppatore di ChatGPT, sta anche costruendo un AGI, che definisce come “sistemi di intelligenza artificiale che sono in generale più intelligenti degli esseri umani”, mentre Demis Hassabis, responsabile della divisione AI di Google, Google DeepMind, ha affermato che l’AGI potrebbe essere a meno di un decennio di distanza.

Prospettive future di Meta sull’AGI

Il CEO di OpenAI, Sam Altman, ha espresso una nota di cautela al World Economic Forum di Davos, in Svizzera, questa settimana, affermando che ulteriori progressi nell’IA sarebbero impossibili senza una svolta nella fornitura di energia, come la fusione nucleare.

Zuckerberg non ha fornito una tempistica per lo sviluppo di un sistema AGI, sebbene abbia fatto riferimento al fatto che Meta abbia costruito una “quantità assolutamente enorme di infrastrutture” per creare nuovi sistemi di intelligenza artificiale. L’azienda ha ordinato una significativa scorta di chip di elaborazione dell’IA. Zuckerberg ha inoltre aggiunto che è in corso anche il lavoro su un seguito di Llama 2.

Cos’è l’Intelligenza Artificiale Generale (AGI)?

L’Intelligenza Artificiale Generale (AGI) è un termine che si riferisce a un sistema di intelligenza artificiale teorico in grado di svolgere una vasta gamma di compiti a un livello di intelligenza che corrisponde o supera quello umano. Mentre l’intelligenza artificiale specializzata è stata sviluppata per svolgere attività specifiche, come il riconoscimento vocale o la guida autonoma, l’AGI mira a creare un’intelligenza artificiale che possa avere una comprensione generale del mondo e la capacità di adattarsi a una varietà di compiti.

L’idea di un AGI ha suscitato preoccupazioni tra gli esperti e i politici. Molti temono che un AGI, o una combinazione di più sistemi AGI, potrebbe superare il controllo umano e diventare una minaccia per l’umanità. Senza un adeguato sistema di regolamentazione e controllo, un AGI potrebbe essere utilizzato in modo irresponsabile o addirittura dannoso.