ChatGPT-3 per generare testi e DALL-E per generare immagini sono strumenti basati su modelli, resi disponibili tramite un’interfaccia di programmazione (API). Il loro obiettivo è la comprensione e la generazione del linguaggio naturale (PNL) e del codice informatico. Possono essere addestrati con i dati, per soddisfare esigenze specifiche o affinare le risposte ottenute. La comunicazione con questi modelli, tramite l’API OpenAI, consente di ottenere contenuti inviando query scritte in modo naturale, con più o meno parametri per regolare le risposte generate.
GPT-3 è stato introdotto da OpenAI il 28 maggio 2020. (è accessibile da luglio 2020) e si tratta di un modello linguistico addestrato con non meno di 175 miliardi di parametri. Per fare un confronto: il suo predecessore, GPT-2, era basato su 1,5 miliardi di parametri. Questo dato corrisponde al numero di valori che la rete neurale cerca di ottimizzare durante il suo addestramento. È solo un dato tra gli altri, ma è un elemento che influenza la qualità del modello.
Modelli OpenAI basati su GPT-3
GPT-3 è l’acronimo di Generative Pre-trained Transformer 3. Questa tecnologia è disponibile in una serie di 4 modelli (A, B, C, D) più o meno veloci ed efficienti. Per addestrare, gli algoritmi GPT-3 utilizzano una quantità molto grande di dati. Provengono da database Common Crawl, WebText2, Books1, Books2 corpora e articoli di Wikipedia scritti in inglese.
ChatGPT e GPT-3.5
Per quanto riguarda ChatGPT, il tanto chiacchierato generatore di testi, OpenAI specifica che si basa su un modello della serie GPT-3.5, addestrato su infrastrutture Microsoft Azure AI. Il processo di apprendimento consente a queste tecnologie di integrare dati specifici per fornire una risposta più pertinente a domande diverse.
GPT-4: le novità attese della prossima tecnologia OpenAI
Come avrai capito, GPT-3.5 è un passo verso lo sviluppo di una tecnologia ancora più avanzata: GPT-4. Molti non vedono l’ora – troppa impazienza a quanto pare, secondo lo stesso CEO di OpenAI: “le persone aspettano solo di essere deluse e lo saranno”.
Il numero di parametri di GPT-4
Data la mancanza di informazioni veritiere che circolano su GPT-4, le voci sono all’ordine del giorno. Pertanto, contrariamente a quanto annunciato qua e là, GPT-4 non dovrebbe essere in grado di elaborare 100.000 miliardi di parametri. Questo è il numero che è circolato di più finora, corrisponde a 571 volte la dimensione della rete neurale di GPT-3. Ma Sam Altman, CEO di OpenAI, ha confutato questi giganteschi dati durante una sessione privata di domande e risposte. Il numero di parametri non dovrebbe essere la novità sorprendente di GPT-4.
Le innovazioni di GPT-4
I miglioramenti di GPT-4 dovrebbero quindi essere localizzati in elementi più tecnici, meno palpabili. L’ottimizzazione dell’addestramento del modello è uno dei punti chiave, perché questo processo consuma molte risorse e molto tempo. Parametri più avanzati potrebbero consentire di ottenere risultati più convincenti. Non dovrebbe essere AI multimodale: capisci che con GPT-4 dovresti essere in grado di generare solo testo.
La data di rilascio di GPT-4
GPT-4 sarebbe presentato già nel primo trimestre del 2023, secondo il New York Times. Sam Altman ha temperato l’informazione, indicando che “verrà fuori quando saremo soddisfatti di poterlo fare in sicurezza, in modo responsabile“. I rischi associati alle tecnologie basate sull’apprendimento automatico e sull’elaborazione del linguaggio sono molto significativi e i dirigenti di OpenAI sembrano esserne ben consapevoli.
Ti consiglio di leggere anche…
Come integrare ChatGPT nelle risposte del tuo motore di ricerca
Sparrow, la risposta di Google a ChatGPT
5 estensioni per ChatGPT su Google Chrome da provare subito