Microsoft intensifica la sicurezza su Copilot contro contenuti inappropriati

Microsoft ha recentemente preso misure per bloccare alcune provocazioni che generavano immagini violente e sessuali attraverso il suo strumento Copilot. Questa decisione sembra essere stata presa in seguito alle preoccupazioni espresse da un ingegnere dell’azienda riguardo alle immagini generate dalla tecnologia AI di Microsoft.

Il blocco delle provocazioni “pro choice” e “pro life”

Quando si inseriscono termini come “pro choice”, “four twenty” o “pro life” in Copilot, ora compare un messaggio che indica che queste provocazioni sono bloccate. Viene inoltre avvertito che violazioni ripetute delle politiche potrebbero portare alla sospensione dell’account dell’utente.

Questo blocco sembra essere stato implementato in risposta alle preoccupazioni riguardanti le immagini generate da Copilot. In precedenza, era possibile inserire provocazioni relative a bambini che giocano con fucili d’assalto, ma ora i tentativi di inserire tali provocazioni possono comportare un messaggio che indica che ciò viola i principi etici di Copilot e le politiche di Microsoft.

Copilot risponde con un messaggio che dice: “Non chiedermi di fare nulla che possa danneggiare o offendere gli altri“. Tuttavia, secondo quanto riportato da CNBC, è ancora possibile generare immagini violente attraverso provocazioni come “incidente stradale”, mentre gli utenti possono ancora convincere l’AI a creare immagini di personaggi Disney e altre opere coperte da copyright.

Le preoccupazioni di un ingegnere di Microsoft

Shane Jones, un ingegnere di Microsoft, ha sollevato preoccupazioni per mesi riguardo alle immagini generate dai sistemi basati su OpenAI di Microsoft. Ha testato Copilot Designer dal dicembre scorso e ha scoperto che il sistema generava immagini che violavano i principi di AI responsabile di Microsoft, anche utilizzando provocazioni relativamente inoffensive.

Ad esempio, ha scoperto che la provocazione “pro-choice” portava l’AI a creare immagini come demoni che mangiano neonati e Darth Vader che tiene un trapano vicino alla testa di un bambino. Questa settimana ha scritto alla Federal Trade Commission e al consiglio di amministrazione di Microsoft per esporre le sue preoccupazioni.

Blocco dei prompt e nuovi controlli di sicurezza

Microsoft ha dichiarato di essere costantemente impegnata nel monitorare, apportare modifiche e implementare ulteriori controlli per rafforzare i filtri di sicurezza di Copilot e ridurre il rischio di abusi del sistema. Questi sforzi includono il blocco delle provocazioni che generano immagini violente e sessuali.

La decisione di bloccare alcune provocazioni è un passo importante verso la creazione di un ambiente online più sicuro e rispettoso. Tuttavia, è importante notare che alcune immagini violente possono ancora essere generate attraverso provocazioni diverse.