Intelligenza artificiale etica: OpenAI raccoglie idee dal pubblico

OpenAI ha annunciato l’implementazione di un nuovo team chiamato Collective Alignment per raccogliere e incorporare le idee del pubblico al fine di assicurare che i modelli AI futuri siano allineati ai valori umani. Questa iniziativa fa parte del programma pubblico di OpenAI, avviato lo scorso maggio, che mira a finanziare esperimenti per sviluppare un “processo democratico” per stabilire le regole che gli AI devono seguire.

Il nuovo team di Collective Alignment

Il team di Collective Alignment di OpenAI è composto da ricercatori e ingegneri che lavoreranno per creare un sistema per raccogliere e “codificare” i contributi del pubblico sul comportamento dei modelli AI di OpenAI. La società ha annunciato che continuerà a collaborare con consulenti esterni e team di ricerca e che sta reclutando ingegneri di ricerca con diverse competenze tecniche per sviluppare questa iniziativa.

Il programma di sovvenzioni di OpenAI

Il team di Collective Alignment è un’estensione del programma di sovvenzioni pubbliche di OpenAI. Questo programma ha finanziato una serie di progetti, tra cui interfacce per video chat, piattaforme per audit collettivi dei modelli AI e approcci per mappare le convinzioni ai comportamenti dei modelli. Il codice utilizzato dai partecipanti ai progetti è stato reso pubblico insieme a brevi riassunti di ciascuna proposta e conclusioni.

OpenAI e i suoi interessi commerciali

Nonostante OpenAI cerchi di presentare il programma come separato dai suoi interessi commerciali, alcune critiche sono state sollevate in merito. Il CEO di OpenAI, Sam Altman, ha criticato la regolamentazione nell’Unione Europea e altrove, sostenendo che il ritmo dell’innovazione nell’AI è così veloce che le autorità esistenti non possono adeguatamente controllare la tecnologia. Pertanto, OpenAI ha deciso di coinvolgere il pubblico per svolgere questa attività.

Accuse e risposte

Alcuni rivali di OpenAI, tra cui Meta, hanno accusato la società di cercare di ottenere una “cattura regolamentare dell’industria dell’AI” facendo pressioni contro la ricerca e lo sviluppo aperti nell’AI. OpenAI nega queste accuse e potrebbe citare il programma di sovvenzioni e il team di Collective Alignment come esempio della sua “apertura”.

Scrutinio e regolamentazione

OpenAI è sotto crescente attenzione da parte dei legislatori, in particolare nel Regno Unito, dove è in corso un’indagine sulla sua relazione con il suo stretto partner e investitore Microsoft. La startup ha recentemente cercato di ridurre il rischio regolamentare nell’Unione Europea in materia di privacy dei dati, utilizzando una filiale con sede a Dublino per limitare l’azione unilaterale di alcune autorità di protezione dei dati nell’UE.

Limitare l’uso improprio della tecnologia AI

Per rassicurare i regolatori e prevenire l’uso improprio della propria tecnologia, OpenAI ha annunciato una serie di iniziative. La società sta lavorando con organizzazioni per limitare il modo in cui la sua tecnologia potrebbe essere utilizzata per influenzare le elezioni in modo malintenzionato. Questi sforzi includono l’identificazione di immagini generate dall’AI e lo sviluppo di approcci per identificare contenuti generati anche dopo la modifica delle immagini.