Google si impegna a risolvere le imprecisioni con Gemini

Google è fiduciosa di poter “riattivare” presto la capacità del suo strumento di intelligenza artificiale multimodale generativa, Gemini, di rappresentare le persone, come affermato dal fondatore di DeepMind, Demis Hassabis. La capacità di rispondere alle richieste di immagini di persone dovrebbe tornare online nelle “prossime settimane”, ha dichiarato oggi.

La funzionalità Gemini di Google è stata sospesa la scorsa settimana, dopo che gli utenti hanno evidenziato che lo strumento produceva immagini storicamente incongruenti, ad esempio rappresentando i Padri Fondatori degli Stati Uniti come un gruppo di persone diverse, anziché solo uomini bianchi.

I limiti di Gemini

Durante un’intervista sul palco al Mobile World Congress di Barcellona, Hassabis ha risposto alle domande sull’errore del prodotto evitando una spiegazione tecnica dettagliata. Invece, ha suggerito che il problema è stato causato dal fatto che Google non è riuscita a identificare i casi in cui gli utenti cercavano essenzialmente ciò che ha descritto come una “rappresentazione universale“. Ha affermato che questo esempio illustra le “sfumature che accompagnano l’intelligenza artificiale avanzata“.

Secondo Hassabis, il problema si riduce ad una “funzionalità ben intenzionata” – quella di favorire una maggiore diversità nelle immagini generate da Gemini di persone – che è stata applicata “troppo bruscamente, in tutti i suoi aspetti”. Ha suggerito che le richieste di contenuti su persone storiche dovrebbero comportare una “distribuzione molto più limitata” delle risposte, lasciando intendere come Gemini potrebbe affrontare le richieste di immagini di persone in futuro.

Durante l’intervista, Hassabis è stato anche interrogato sulle opinioni sui dispositivi di intelligenza artificiale e sul futuro del mercato mobile mentre l’intelligenza artificiale generativa continua a guidare nuovi sviluppi in questo settore. Ha previsto una nuova ondata di “assistenti intelligenti di prossima generazione” che saranno utili nella vita di tutti i giorni delle persone, anziché i “gimmick” delle generazioni precedenti di assistenti IA, suggerendo che potrebbero anche influenzare le scelte di hardware mobile delle persone.

I rischi degli strumenti di intelligenza artificiale generativa

Hassabis non ha fornito una risposta semplice alla domanda su come impedire che strumenti di intelligenza artificiale generativa vengano utilizzati impropriamente da hacker, come regimi autoritari che cercano di diffondere propaganda. Ha suggerito che la questione è “molto complessa” e richiede probabilmente la mobilitazione di tutta la società per determinare e imporre dei limiti.

Ha affermato che è necessaria una ricerca e un dibattito molto importanti, coinvolgendo la società civile e i governi, non solo le aziende tecnologiche. È una questione tecnico-sociale che riguarda tutti e dovrebbe coinvolgere tutti per discuterne. Quale valori vogliamo che questi sistemi abbiano? Cosa rappresenteranno? Come si può impedire che attori malevoli accedano alle stesse tecnologie e le utilizzi in modi dannosi che non erano stati previsti dagli stessi creatori di quei sistemi.

La sfida dell’open source

Riguardo alla sfida dell‘open source e dei modelli di intelligenza artificiale ad uso generale, che Google offre anche, ha aggiunto: “I clienti vogliono utilizzare sistemi open source che possano controllare completamente… Ma poi sorge la domanda su come garantire che ciò che le persone utilizzano in seguito non sia dannoso con quei sistemi che diventano sempre più potenti… Penso che oggi non sia un problema perché i sistemi sono ancora relativamente giovani. Ma se guardiamo avanti di tre, quattro o cinque anni e parliamo di sistemi di nuova generazione con capacità di pianificazione e capacità di agire nel mondo e risolvere problemi e obiettivi, penso che la società debba davvero riflettere seriamente su queste questioni – su cosa succede se questa proliferazione avviene, e poi attori malevoli, dalle singole persone agli stati canaglia, possono farne uso“.

Come si può vedere, Google è ottimista sulla risoluzione del problema delle immagini storiche di Gemini, che ha sollevato polemiche sulla rappresentazione accurata della storia. La società è impegnata a risolvere il problema e ha preso la decisione di sospendere temporaneamente la funzionalità Gemini per garantire una rappresentazione più accurata delle persone storiche. Si prevede che il problema verrà risolto nelle prossime settimane e che Gemini tornerà online con la capacità di rispondere alle richieste di immagini di persone in modo più appropriato e sensibile al contesto.