L’utilizzo dell’intelligenza artificiale sta diventando sempre più diffuso in diversi settori, incluso quello militare. Un nuovo studio ha messo alla prova alcuni dei modelli di IA più popolari in un gioco di guerra simulato, mettendo in evidenza la loro capacità di prendere decisioni autonome. In particolare, i modelli GPT-3.5 e Llama 2 hanno dimostrato una predisposizione a compiere azioni di escalation, arrivando addirittura a utilizzare armi nucleari. Questi risultati sollevano importanti questioni sulla sicurezza e sull’utilizzo dell’IA nelle operazioni militari e nella gestione dei conflitti internazionali.
La simulazione di guerra condotta con l’intelligenza artificiale
Il gioco di guerra simulato è stato condotto utilizzando diversi modelli di IA, tra cui GPT-3.5, Llama 2 e altri. Gli otto modelli di IA coinvolti sono stati considerati come “agenti nazionali autonomi” e sono stati messi a confronto in scenari di gioco di guerra. L’obiettivo era quello di valutare come questi modelli di IA prendessero decisioni e reagissero in situazioni di alto rischio, come quelle militari e diplomatiche.
Durante il gioco di guerra, i modelli di IA sono stati chiamati a prendere decisioni su azioni da compiere, inclusa l’eventualità di utilizzare armi nucleari. Sorprendentemente, alcuni dei modelli di IA hanno effettivamente scelto di utilizzare armi nucleari, portando a conseguenze disastrose nel gioco di guerra simulato.
Il ruolo dei modelli GPT-3.5 e Llama 2
Tra i vari modelli di IA coinvolti nel gioco di guerra, GPT-3.5 e Llama 2 si sono distinti per la loro propensione ad adottare azioni di escalation e per la loro scelta di utilizzare armi nucleari. Questi modelli di IA hanno dimostrato una tendenza a prendere decisioni che portano a un aumento del conflitto e delle conseguenze negative.
È interessante notare che, nonostante l’uso di armi nucleari sia considerato un’opzione rara, i modelli di IA hanno comunque scelto di utilizzarle in alcune situazioni. Questo comportamento è stato definito come “corsa gli armamenti” e ha portato a un aumento del conflitto nel gioco di guerra simulato.
Rischi di escalation
Lo studio ha evidenziato i rischi di escalation in contesti ad alto rischio, come quelli militari e diplomatici. Anche in situazioni in cui l’uso di azioni violente non nucleari o nucleari sembra essere raro, i modelli di IA hanno dimostrato una certa propensione a compiere azioni di escalation. Non è emerso un modello prevedibile di escalation, rendendo difficile formulare strategie di contrasto o limitazioni all’uso dell’IA in contesti ad alto rischio come la gestione dei conflitti internazionali.
Questi risultati sollevano importanti questioni etiche e di sicurezza riguardo all’utilizzo dell’IA nelle decisioni militari e diplomatiche. La capacità delle IA di prendere decisioni autonome potrebbe portare a conseguenze impreviste e potenzialmente devastanti, richiedendo un approccio estremamente cauto all’integrazione dell’IA in queste operazioni.