Ecco come si possono smascherare i testi scritti dall’intelligenza artificiale

I robot sono usati sempre più spesso come strumenti della propaganda digitale

Ecco come si possono smascherare i testi scritti dall’intelligenza artificiale
di Michael Pontrelli   -   Twitter: @micpontrelli

Non è più un mistero che gli algoritmi di intelligenza artificiale siano ormai anche in grado di scrivere autonomamente testi e post sui social network. Questo incredibile risultato tecnologico ha però anche delle controindicazioni. Sempre più spesso infatti la AI (artificial intelligence) viene utilizzata dalla propaganda politica per inquinare il dibattitto pubblico. Numerose ricerche hanno dimostrato che una gran parte dei post (in particolare su Twitter) sono stati scritti da bot.

Contro l'intelligenza artificiale bisogna usare un'altra AI 

Come ci si può difendere dalla propaganda digitale? Come è possibile scoprire se è un testo è stato scritto da una intelligenza artificiale. La risposta è spiazzante: il modo migliore è usare un’altra intelligenza artificiale. A giungere a questa conclusione sono stati i ricercatori del Mit (Massachusetts Institute of Technology) e della Harvard University, che hanno descritto sul sito ArXiv un algoritmo che può essere usato per identificare documenti e post fake.

Algoritmi sono prevedibili 

Il programma si chiama Giant Language Model Test Room (Glmtr) e sfrutta il fatto che i generatori di testo basati sull'intelligenza artificiale usano per scrivere dei modelli statistici. "In altre parole – hanno spiegato gli scienziati- il nostro algoritmo può dire se le parole che si stanno leggendo sono troppo prevedibili per essere state scritte da una mano umana".

Test effettuati contro l'algoritmo di Elon Musk 

Per svilupparlo, gli esperti sono partiti dall'algoritmo messo a punto da Open Ai, il gruppo di ricercatori fondato tra gli altri da Elon Musk, che qualche mese fa aveva deciso di non divulgare il programma per il timore che venisse usato per produrre fake news. Glmtr è stato in grado nei test di scoprire la prevedibilità dell'algoritmo di Musk. In un ulteriore test, un gruppo di studenti, che aveva identificato solo la metà dei testi prodotti da Open Ai, con l'aiuto di Glmtr è riuscito a scoprirne il 72%.

Creatività e imprevedibilità salvano (per il momento) l'uomo 

Il fatto che sia possibile individuare i testi scritti dall’intelligenza artificiale grazie alla loro prevedibilità è una buona notizia per gli uomini. Se ormai è appurato che sul fronte della logica e del puro calcolo numerico non abbiamo speranze contro le macchine, per quanto riguarda la creatività e la imprevedibilità siamo ancora (per il momento) un passo avanti.