Opera rivoluziona la navigazione con gli LLM in locale: addio dipendenza da Internet

Opera ha annunciato oggi una nuova funzionalità che permette agli utenti di scaricare e utilizzare i modelli di linguaggio di grandi dimensioni  direttamente sul proprio computer. Questa funzione è stata introdotta inizialmente per gli utenti di Opera One che ricevono gli aggiornamenti dallo stream degli sviluppatori. Ora sarà possibile selezionare tra oltre 150 modelli appartenenti a più di 50 famiglie diverse, inclusi Llama di Meta, Gemma di Google e Vicuna.

I vantaggi di utilizzare gli LLM in locale

L’utilizzo dei LLM in locale offre numerosi vantaggi agli utenti. Prima di tutto, permette di avere accesso a una vasta selezione di modelli di terze parti direttamente nel browser, senza la necessità di utilizzare strumenti online. Inoltre, i modelli scaricati in locale possono essere testati e utilizzati anche offline, consentendo agli utenti di lavorare in modo più efficiente e senza dipendere da una connessione internet stabile.

Secondo Jan Standal, VP di Opera, “Opera offre per la prima volta accesso a una vasta selezione di LLM di terze parti direttamente nel browser. È previsto che le dimensioni dei modelli si riducano man mano che diventano sempre più specializzati per le specifiche attività“.

Come funziona il download e l’utilizzo dei LLM in Opera

Per scaricare e utilizzare gli LLM in Opera, gli utenti devono essere abbonati al programma Opera AI Feature Drops, che consente di accedere in anteprima a alcune delle nuove funzionalità basate sull’intelligenza artificiale. Attualmente, Opera utilizza il framework open source Ollama per eseguire i modelli di linguaggio sul computer dell’utente.

I modelli disponibili sono una selezione della libreria di Ollama, ma l’azienda ha annunciato che in futuro saranno inclusi modelli provenienti da diverse fonti. È importante notare che ogni variante dei modelli occupa più di 2GB di spazio sul disco locale, quindi è consigliabile controllare lo spazio disponibile per evitare di esaurire lo spazio di archiviazione.

Altre opzioni per l’utilizzo dei modelli di linguaggio

Se si desidera risparmiare spazio sul disco locale, esistono anche altre opzioni per utilizzare modelli di linguaggio online. Ad esempio, sono disponibili numerosi strumenti online come Poe di Quora e HuggingChat che consentono di esplorare modelli di linguaggio diversi senza doverli scaricare sul proprio computer.

Le altre funzionalità basate sull’intelligenza artificiale di Opera

Opera ha iniziato a sperimentare le funzionalità basate sull’intelligenza artificiale già l’anno scorso. A maggio, l’azienda ha lanciato un assistente chiamato Aria nella barra laterale del browser e lo ha introdotto nella versione iOS ad agosto. A gennaio, Opera ha annunciato di essere al lavoro su un browser basato sull’intelligenza artificiale con un proprio motore per iOS, in risposta alle richieste dell’EU’s Digital Market Acts (DMA) di Apple di eliminare l’obbligo di utilizzare il motore WebKit per i browser mobili.