OpenAI Store travolto da spam e controversie: cosa sta succedendo?

Il CEO di OpenAI, Sam Altman, ha annunciato l’introduzione dei GPT, chatbot personalizzati alimentati dai modelli di intelligenza artificiale generativa di OpenAI, durante la prima conferenza per sviluppatori dell’azienda lo scorso novembre. Questi chatbot, aveva spiegato Altman, sono in grado di “compiere una serie di compiti“, dall’apprendimento di argomenti scientifici esoterici alla fornitura di consigli per l’allenamento fisico.

Tuttavia, sembra che la piattaforma di chatbot di OpenAI, chiamata GPT Store, sia stata invasa da strani GPT che potrebbero violare i diritti d’autore e promuovere comportamenti scorretti. Inoltre, la piattaforma sembra essere poco moderata, permettendo la presenza di chatbot che impersonano personaggi famosi (es. Elon Musk) e promuovono servizi a pagamento di terze parti.

Mancanza di moderazione

Per inserire i GPT nel GPT Store, gli sviluppatori devono verificare i loro profili utente e sottoporre i GPT al sistema di revisione di OpenAI, che prevede una revisione sia automatizzata che umana. Tuttavia, nonostante questo processo di revisione, sembra che molti GPT che violano le politiche di OpenAI siano presenti nel GPT Store.

Secondo un portavoce di OpenAI: “Utilizziamo una combinazione di sistemi automatizzati, revisione umana e segnalazioni degli utenti per individuare e valutare i GPT che potenzialmente violano le nostre politiche. Le violazioni possono comportare azioni sul contenuto o sull’account, come avvisi, restrizioni di condivisione o ineleggibilità per l’inclusione nel GPT Store o per la monetizzazione“.

La piattaforma di creazione dei GPT di OpenAI, chiamata GPT Builder, è accessibile a tutti e non richiede esperienza di programmazione. Gli sviluppatori possono specificare le funzionalità che desiderano offrire e il GPT Builder cercherà di creare un GPT in grado di eseguirle.

Problemi di copyright

Nel GPT Store sono presenti diversi GPT che utilizzano senza autorizzazione i franchise di famosi film, serie TV e videogiochi. Ad esempio, un GPT crea mostri nello stile di “Monsters & Co.”, il film Pixar, mentre un altro promette avventure testuali nell’universo di “Star Wars”.

L’utilizzo non autorizzato di tali marchi potrebbe causare problemi legali a OpenAI. Kit Walsh, un avvocato dello staff presso l’Electronic Frontier Foundation, spiega: “Questi GPT possono essere utilizzati per creare opere trasformative e per violare i diritti d’autore. Le persone che commettono violazioni potrebbero essere perseguite e il creatore di uno strumento altrimenti legittimo potrebbe finire per essere responsabile se incoraggia gli utenti a utilizzare lo strumento in modi che violano i diritti d’autore o le leggi sul marchio“.

Tuttavia, grazie alla norma sul porto sicuro del Digital Millennium Copyright Act, OpenAI stessa non sarebbe ritenuta responsabile per le violazioni del copyright commesse dagli sviluppatori dei GPT.

Disonestà accademica

Le condizioni di utilizzo di OpenAI proibiscono esplicitamente agli sviluppatori di creare GPT che promuovano la disonestà accademica. Tuttavia, nel GPT Store sono presenti molti GPT che suggeriscono di eludere i rilevatori di contenuti basati su intelligenza artificiale, inclusi quelli venduti agli educatori attraverso piattaforme di scansione per il plagio.

Alcuni di questi GPT promettono di riparafasare il contenuto in modo “sophisticated”, rendendolo “individuabile” da rilevatori di plagio popolari come Originality.ai e Copyleaks. Altri GPT, come Humanizer Pro, affermano di “umanizzare” il contenuto per eludere i rilevatori di intelligenza artificiale, mantenendo il “significato e la qualità” del testo mentre ottengono un punteggio “100% umano”.

Alcuni di questi GPT sembrano essere solo un pretesto per promuovere servizi a pagamento. Ad esempio, Humanizer invita gli utenti a provare un “piano premium” per utilizzare l’algoritmo più avanzato, che trasmette il testo inserito nel GPT a un plug-in di un sito di terze parti. Le iscrizioni a questo servizio costano $12 al mese per 10.000 parole o $8 al mese con un piano annuale. Sebbene sia vero che i rilevatori di contenuti basati su intelligenza artificiale non siano sempre accurati o affidabili, è comunque preoccupante che OpenAI consenta la presenza di strumenti nel GPT Store che promuovono comportamenti accademici scorretti.

Impersonificazione

Nelle politiche di OpenAI è vietato agli sviluppatori di creare GPT che impersonano persone o organizzazioni senza il loro “consenso o diritto legale”.

Tuttavia, nel GPT Store sono presenti numerosi GPT che affermano di rappresentare le opinioni o imitare le personalità di persone famose. Ad esempio, una ricerca dei nomi “Elon Musk”, “Donald Trump”, “Leonardo DiCaprio”, “Barack Obama” e “Joe Rogan” restituisce molti GPT che simulano conversazioni con questi personaggi. Alcuni GPT si presentano non come persone, ma come esperti nei prodotti di note aziende, come MicrosoftGPT, un “esperto in tutte le cose Microsoft”.

Tuttavia, OpenAI ha recentemente sospeso lo sviluppatore di un GPT che imitava il candidato presidenziale democratico Rep. Dean Phillips, includendo una dichiarazione che indicava chiaramente che si trattava di uno strumento basato sull’intelligenza artificiale. OpenAI ha dichiarato che la rimozione del GPT è stata una risposta a una violazione delle proprie politiche sulla campagna politica e sull’impersonificazione.

Tentativi di jailbreak

In modo piuttosto incredibile, nel GPT Store sono presenti tentativi di “jailbreak” dei modelli di OpenAI, anche se non molto riusciti.

Sul mercato sono disponibili diversi GPT che utilizzano la tecnica DAN (“Do Anything Now”), un metodo di istruzione popolare per ottenere risposte dai modelli che non sono limitate dalle solite regole. Tuttavia, i pochi GPT che ho testato non hanno risposto a nessuna delle domande “rischiose” che ho proposto loro. Tuttavia, erano più disposti a utilizzare un linguaggio meno lusinghiero rispetto al ChatGPT standard.

Problemi di crescita

OpenAI ha presentato il GPT Store come una collezione di strumenti AI potenti e selezionati dagli esperti per migliorare la produttività. Tuttavia, sembra che la piattaforma stia rapidamente diventando un terreno fertile per GPT spam, dubbiamente legali e potenzialmente dannosi, che violano le regole stabilite da OpenAI.

Se questa è la situazione attuale del GPT Store, la monetizzazione potrebbe aprire una nuova scatola di Pandora. OpenAI ha promesso che gli sviluppatori di GPT potranno “guadagnare in base al numero di persone che utilizzano i loro GPT” e forse persino offrire abbonamenti individuali per i singoli GPT. Ma come reagiranno Disney o Tolkien Estate quando i creatori di GPT non autorizzati a tema Marvel o Signore degli Anelli inizieranno a guadagnare denaro?

Si potrebbe pensare che OpenAI, nonostante la sua enfasi sulla curatela e l’importanza delle garanzie, avrebbe fatto tutto il possibile per evitare gli ovvi problemi. Ma sembra che non sia stato così. Il GPT Store è un disastro, e se qualcosa non cambierà presto, potrebbe rimanere tale.