Svelati i punti deboli: i 7 limiti di ChatGPT che devi conoscere

Svelati i punti deboli: i 7 limiti di ChatGPT che devi conoscere

06/03/2023 0 By fogliotiziana

Dal suo lancio pochi mesi fa, ChatGPT ha riscosso un successo immediato, soprattutto per la pertinenza delle sue risposte in campi molto diversi. Tuttavia, l’intelligenza artificiale conversazionale di OpenAI non è perfetta. Abbiamo elencato di seguito 7 svantaggi di ChatGPT.

I 7 svantaggi di ChatGPT

ChatGPT è stato sviluppato dal team di ricerca di OpenAI, che ha l’obiettivo di sviluppare intelligenze artificiali avanzate e utili per l’umanità. Tuttavia, come qualsiasi altra tecnologia, ha i suoi limiti e imperfezioni.

1. ChatGPT non può rispondere agli eventi recenti

Uno dei difetti più grandi è il limite del suo database, che non è stato aggiornato da settembre 2021. ChatGPT non sarà quindi in grado di fornire risposte su temi di attualità. Al contrario, il suo concorrente Google Bard (che sarà presto distribuito al grande pubblico) è direttamente connesso al Web. Un vantaggio che consente all’IA di accedere alle informazioni in tempo reale da Internet. Alcune alternative a ChatGPT, come YouChat, hanno anche la possibilità di accedere a informazioni più recenti.

2. ChatGPT non indica le fonti

Per produrre i propri contenuti, ChatGPT attinge da un corposo database, in particolare costituito da informazioni presenti su Internet (articoli, siti web, conversazioni pubbliche, ecc.). Le fonti utilizzate sono quindi molteplici e sconosciute all’utente. Questa mancanza di trasparenza è un ostacolo per garantire la credibilità del suo contenuto o per gli utenti che desiderano citare le proprie fonti (nel contesto del lavoro accademico o giornalistico, ad esempio). È in questa logica che Microsoft ha voluto aggiungere questa funzionalità al suo nuovo Bing integrando la tecnologia ChatGPT.

3. ChatGPT produce contenuti meno personalizzati

Uno dei limiti intrinseci dell’intelligenza artificiale è la difficoltà nel produrre testi singolari o nell’esprimere sensibilità. ChatGPT non fa eccezione alla regola e offre contenuti in uno stile spesso freddo e impersonale. In particolare, tende a scrivere testi standardizzati, simili tra loro. Se in teoria il chatbot dovrebbe essere in grado di riprodurre la penna di una persona (uno scrittore o un personaggio politico ad esempio), in realtà ha una certa difficoltà ad assorbire uno stile in maniera fluida e non stereotipata.

4. ChatGPT manca di sensibilità

Un’intelligenza artificiale non può provare emozioni o mostrare sensibilità. Nella migliore delle ipotesi, può tentare di riprodurli, quindi simulare. Ciò porta ChatGPT a interpretare erroneamente alcune sottigliezze del linguaggio come sarcasmo, umorismo o giochi di parole. Questa mancanza di sensibilità può anche essere un problema quando si tratta di essere critici. ChatGPT, infatti, a volte manca di discernimento nella gerarchia delle informazioni, mettendo sullo stesso piano due discorsi che non hanno la stessa legittimità. Questa tendenza è accentuata dalla neutralità dell’IA, che cerca di sfumare il più possibile le sue risposte.

5. Le informazioni di ChatGPT non sono sempre affidabili

La stragrande maggioranza delle volte, ChatGPT produce contenuti accurati, perché corrisponde a informazioni diverse dal suo database. Tuttavia, alcuni utenti potrebbero aver notato incongruenze nelle risposte del chatbot. In particolare, l’IA ha prodotto ex novo informazioni false a volte molto convincenti (fatti storici o citazioni di autori), un fenomeno chiamato “allucinazione”. Se lo strumento deve migliorare in futuro e limitare il numero di errori, è comunque necessario verificare le informazioni che ci fornisce.

6. La conoscenza di argomenti specifici da parte di ChatGPT è limitata

Molti specialisti si sono confrontati con ChatGPT per valutare le proprie conoscenze su argomenti molto specifici. In molti casi è stato notato che, mentre il chatbot è in grado di dissertare superficialmente su un determinato argomento, spesso non è in grado di entrare nei dettagli o parlare di concetti specifici. Questi limiti sono stati evidenziati in particolare in campo medico o in matematica. Sono stati fatti errori di calcolo grossolani anche su richieste relativamente semplici.

Anche il CEO di OpenAI riconosce i limiti di ChatGPT in un tweet: “ChatGPT è incredibilmente limitato, ma abbastanza buono in alcune aree da creare un’impressione ingannevole di grandezza. È un errore fare affidamento su di esso per qualcosa di importante in questo momento. È uno scorcio di progresso; abbiamo molto lavoro da fare su robustezza e veridicità.”

7. ChatGPT non è sempre accessibile

In alcuni casi, ChatGPT mostra un lungo tempo di risposta. Può anche succedere che non sia in grado di rispondere e mostri il messaggio “Errore di rete” o “ChatGPT è al massimo in questo momento”. Questi problemi sorgono principalmente quando la richiesta richiede uno sforzo significativo da parte dell’IA, come un testo lungo o un argomento complesso. Il messaggio di errore può anche essere causato da un eccessivo traffico simultaneo sui server. Si noti, tuttavia, che OpenAI ha preso le misure del problema offrendo un accesso completo e più rapido nella sua versione ChatGPT plus a pagamento.

Ti consiglio di leggere anche…

OpenAI lancia un’API per ChatGPT e Whisper: accesso, prezzo, utilizzo, tutto quello che devi sapere

Microsoft testa 3 nuovi stili di risposta per Bing ChatGPT: creativo, equilibrato, preciso

Snapchat lancia My AI, un chatbot basato su ChatGPT