L’IA a tutela dei giovani utenti online nel Regno Unito

L’uso di Internet da parte dei giovani sta crescendo a un ritmo incredibile. Oggigiorno, i bambini di appena 3 o 4 anni sono già connessi online, con il 84% di loro che utilizza Internet. Questa tendenza alla connessione sempre più precoce ha sollevato preoccupazioni riguardo alla sicurezza dei bambini online e ha portato il Regno Unito a considerare l’utilizzo dell’intelligenza artificiale per proteggerli.

L’impatto dell’IA nell’identificazione di contenuti illegali

L’intelligenza artificiale ha attirato l’attenzione dei governi per il suo potenziale utilizzo fraudolento, la diffusione di disinformazione e altre attività online dannose. Tuttavia, l’Autorità per le comunicazioni del Regno Unito (Ofcom), l’ente regolatore incaricato di far rispettare la legge sulla sicurezza online del paese, ha deciso di esplorare come l’IA possa essere utilizzata per contrastare i contenuti illegali che coinvolgono i minori.

Ofcom ha pianificato di avviare una consultazione per valutare come l’IA e altre tecnologie automatizzate vengano utilizzate attualmente e come potrebbero essere utilizzate in futuro per identificare e rimuovere proattivamente contenuti illegali online al fine di proteggere i bambini da contenuti dannosi e per identificare materiale di abuso sessuale minorile che in passato era difficile da individuare.

L’utilizzo dell’IA come strumento di screening

Mark Bunting, direttore del gruppo per la sicurezza online di Ofcom, ha dichiarato che l’interesse dell’ente per l’IA inizia con una valutazione sull’efficacia di questa tecnologia come strumento di screening.

“Alcuni servizi utilizzano già tali strumenti per identificare e proteggere i bambini da questi contenuti”, ha affermato Bunting in un’intervista a TechCrunch. “Ma non ci sono molte informazioni su quanto siano precisi ed efficaci tali strumenti. Vogliamo valutare in che modo possiamo garantire che l’industria valuti l’accuratezza ed efficacia di tali strumenti, assicurandoci che i rischi per la libertà di espressione e la privacy vengano gestiti“.

Le proposte di Ofcom per la sicurezza online dei minori

Le nuove misure di sicurezza online proposte da Ofcom includeranno anche l’utilizzo dell’IA come parte di un insieme di strumenti per proteggere i minori online. Le consultazioni sulle proposte complete inizieranno nelle prossime settimane, mentre la consultazione sull’IA è prevista per l’anno prossimo.

Una delle possibili conseguenze sarà la raccomandazione di Ofcom su come le piattaforme dovrebbero valutare e implementare strumenti più sofisticati. Ciò potrebbe portare non solo all’adozione di strumenti tecnologici più avanzati, ma anche a sanzioni per le piattaforme che non migliorano la loro capacità di bloccare contenuti o di proteggere i giovani utenti da tali contenuti.

“Come per molte normative sulla sicurezza online, la responsabilità ricade sulle aziende per assicurarsi che stiano adottando le misure appropriate e utilizzando gli strumenti adeguati per proteggere gli utenti“, ha sottolineato Bunting.

Le critiche e i sostenitori dell’utilizzo dell’IA

L’introduzione dell’IA come strumento per la sicurezza online dei minori ha suscitato dibattiti e opinioni contrastanti. Molti ricercatori stanno cercando modi per individuare, ad esempio, i deepfake, e l’IA viene utilizzata per verificare gli utenti online. Tuttavia, vi sono molti scettici che sottolineano le limitazioni delle tecniche di rilevamento basate sull’IA. Alcuni hanno sottolineato la futilità della consultazione stessa.

Secondo una ricerca condotta da Ofcom, la fascia di età dei bambini che utilizzano i servizi online si sta spostando verso fasce sempre più giovani. Inoltre, la tecnologia mobile sta diventando sempre più popolare tra i bambini. Ad esempio, quasi un quarto dei bambini di età compresa tra 5 e 7 anni possiede già uno smartphone proprio. Le restrizioni d’età per alcune delle principali app di social media stanno diminuendo, ma sembra che queste limitazioni non vengano rispettate nel Regno Unito. Il 38% dei bambini di età compresa tra 5 e 7 anni utilizza i social media, con WhatsApp di Meta come app più popolare tra loro.

La sfida di proteggere i bambini online

La protezione dei bambini online presenta una serie di sfide. Mentre il 76% dei genitori intervistati ha dichiarato di parlare con i propri figli per insegnare loro come rimanere al sicuro online, c’è una discrepanza tra ciò che i bambini vedono e ciò che riferiscono ai propri genitori. Secondo una ricerca di Ofcom su bambini di età compresa tra 8 e 17 anni, il 32% dei ragazzi ha dichiarato di aver visto contenuti preoccupanti online, ma solo il 20% dei loro genitori ha affermato che i figli avevano riferito qualcosa.

Inoltre, i deepfake rappresentano un’altra sfida. Tra i giovani di età compresa tra 16 e 17 anni, il 25% ha dichiarato di non essere sicuro di distinguere tra contenuti falsi e contenuti reali su Internet.