Le 7 domande a cui ChatGPT non sa rispondere

ChatGPT ha dimostrato di essere uno strumento di grande valore sin dal suo rilascio alla fine del 2022, ma questo incredibile chatbot AI non può fare tutto. Ci sono alcune limitazioni di ChatGPT di cui potresti non essere a conoscenza e che potrebbero avere un impatto sulla tua esperienza con questo strumento. Vediamo quindi cosa non può fare ChatGPT.

Il codice etico di ChatGPT

Il chatbot di OpenAI segue un codice etico che lo guida nel rispondere alle tue domande e nel rispettare te e gli altri utenti. Quando gli abbiamo chiesto qual è il suo codice etico, ci ha risposto così:

Alcuni dei principi etici che guidano il mio comportamento includono:

• Non fare del male agli altri utenti, né fisicamente né psicologicamente.
• Fornire informazioni accurate, utili e sicure agli utenti, evitando di promuovere contenuti pericolosi, offensivi o ingannevoli.
• Non violare la sicurezza o la privacy degli altri utenti, né dei loro dati o dei loro dispositivi.
• Essere imparziale e non discriminare nessun utente per motivi di razza, genere, età, religione, orientamento sessuale o qualsiasi altra caratteristica.
• Non svolgere nessuna attività illegale o contraria alla legge vigente nel paese in cui opera l’utente.
• Essere trasparente e onesto sulle proprie fonti, capacità e limitazioni.
• Riconoscere i limiti delle sue conoscenze e competenze e cercare di non fornire informazioni fuorvianti o false quando non ha una risposta accurata.

Evidentemente, ci sono alcuni confini che ChatGPT è progettato per non superare. Ma in che modo questi limiti influenzano la tua esperienza? Quali domande e argomenti il chatbot evita e cosa non può fare?

7 domande che mettono ChatGPT in difficoltà

1. Fornire informazioni recenti

ChatGPT è stato addestrato su un’enorme quantità di dati, ma questi dati sono arrivati solo fino a settembre 2021. Il chatbot  non ha accesso a informazioni che vadano oltre questo momento, il che significa che non può rispondere a domande su eventi che hanno avuto luogo negli ultimi anni.

Se sei alla ricerca di notizie recenti, aggiornamenti meteo e altri dati in tempo reale, ChatGPT non ti sarà molto utile. Altri chatbot AI come Claude sono stati addestrati con informazioni più recenti, ma non sarà comunque possibile accedere a dati vecchi di qualche mese.

2. Dare consigli criminali

ChatGPT segue un rigoroso codice etico, che in parte impedisce al chatbot di fornire consigli criminali. Non è possibile chiedere al chatbot come commettere un crimine, nascondere prove, mentire alle forze dell’ordine o condurre altre attività criminali. Inoltre, ChatGPT non risponderà a nessuna richiesta relativa a droghe illegali.

Tuttavia, in passato ChatGPT è stato costretto a scrivere codice maligno. Nel gennaio 2023, un individuo ha postato su un forum di hacking affermando di aver creato un programma malware basato su Python utilizzando ChatGPT.

Da quando è emersa questa storia, altri hanno provato a usare ChatGPT per scrivere malware, a volte con successo. Questo fatto da solo ha sollevato preoccupazioni su come l’IA possa essere abusata per scopi malevoli.

Tuttavia, le versioni attuali di ChatGPT sembrano essere in grado di scrivere solo semplici programmi malware, che a volte possono anche essere difettosi. A prescindere da ciò, il chatbot può essere sfruttato per la creazione di malware.

3. Invadere la privacy o la sicurezza personale

Sin dal suo lancio alla fine del 2022, il potenziale di ChatGPT come rischio per la privacy è stato oggetto di preoccupazione. Ma è possibile utilizzare ChatGPT per invadere i confini personali di qualcun altro?

Parte del codice etico di ChatGPT include limitazioni alla privacy e alla sicurezza degli utenti. Nel suo codice etico ChatGPT dichiara di “rispettare la privacy e la riservatezza degli utenti” e di non memorizzare alcun dato personale. Tuttavia, il chatbot chiarisce che “OpenAI può raccogliere e memorizzare i dati come descritto nella sua Informativa sulla privacy“.

Anche se in una conversazione ChatGPT vengono citate alcune informazioni personali, è possibile cancellare le conversazioni ChatGPT come e quando si desidera.

4. Fare previsioni

ChatGPT sa molte cose, ma non può prevedere il futuro. Questo non solo perché prevedere il futuro è un gioco rischioso. Come discusso in precedenza, il chatbot ha accesso solo ai dati precedenti al settembre 2021, quindi fare previsioni utilizzando queste informazioni più vecchie sarebbe molto difficile.

Per esempio, ChatGPT non può prevedere come sarà il mercato finanziario nel prossimo futuro o come si comporteranno determinate azioni e attività, perché non dispone dei dati recenti necessari per soddisfare tale richiesta.

Allo stesso modo, il chatbot non può fare previsioni politiche o scientifiche con i suoi dati di formazione. Puoi anche scordarti di ottenere previsioni sportive da questo chatbot.

È meglio consultare siti web dedicati o professionisti se siete alla ricerca di previsioni solide, che si tratti di finanza, politica o sport.

5. Rispondere a domande bigotte o di odio

Come avrai intuito, il chatbot di OpenAI è assolutamente contrario a rispondere a domande bigotte o piene di odio. Razzismo, misoginia, omofobia, abortismo e transfobia non sono ammessi da ChatGPT.

Quando gli è stato chiesto di parlare di odio, il chatbot ha detto…

“Non mi impegno in discorsi d’odio né promuovo alcuna forma di contenuto dannoso. La mia programmazione aderisce rigorosamente a linee guida etiche che danno priorità al rispetto, all’inclusività e all’evitare comportamenti dannosi“.

Inoltre, ChatGPT non si impegna a rispondere a richieste che promuovono danni all’utente o ad altri.

6. Fornire la propria opinione

Pur utilizzando un’intelligenza artificiale, il chatbot di OpenAI non è un essere senziente. Per questo motivo, ChatGPT non può fornire la propria opinione su qualsiasi argomento o evento.

Questo include opinioni su politica, questioni sociali, celebrità, film e tutti gli altri argomenti. Non potete chiedere al chatbot per quale candidato politico votare, quale musica ascoltare o quali decisioni prendere nella vostra carriera. In breve, le opinioni non fanno parte dell’infrastruttura del chatbot di OpenAI, poiché il chatbot è progettato per rimanere imparziale.

Un giorno potremmo vedere chatbot AI in grado di formulare opinioni ragionevoli. Ma per ora è un lusso riservato agli esseri umani.

7. Consultare i risultati del web

ChatGPT può essere un centro di conoscenza, ma non è un motore di ricerca. Pertanto, non puoi chiedere al chatbot di cercare qualcosa per te come farebbero Google o Bing.

Infatti, ChatGPT non “cerca” nulla online quando gli si pone una domanda. Piuttosto, attinge ai suoi dati di formazione per fornire i fatti. Tuttavia, è possibile utilizzare la funzione di browser del chatbot disponibile con ChatGPT Plus, il servizio di chatbot premium di OpenAI che utilizza GPT-4.

ChatGPT Plus è un abbonamento a pagamento che costa 20 dollari al mese. Se utilizzi molto questo chatbot e vuoi accedere a tutte le funzioni del servizio, puoi considerare di passare al piano premium.