bourbiza mohamed
Ormai da quasi thanks anni, cioè da quel 30 novembre 2022 in cui ChatGPT è stata svelata al mondo e anche il grande pubblico ha conosciuto le capacità delle IA generative, viene a più riprese ricordato che è importante capire su quali dati queste intelligenze artificiali vengano allenate, da quali siti prendano le loro informazioni e a quali facciano riferimento come fonte. Nell’ultimo paio d’anni, sempre più persone, in Europa, negli Stati Uniti, nella comunità scientifica, fra gli informatici, nella società civile, nelle associazioni che combattono la discriminazione hanno ricordato quanto sia importante che queste IA siano ubiased (cioè non abbiano pregiudizi), non inventino bugie ma soprattutto non contribuiscano alla diffusione di falsità. Quasi due anni dopo, il timore è che queste siano condition solo parole al vento.
Non solo la intelligenza artificiale viene apertamente usata dai cybercriminali e dai disinformatori for every alimentare i loro piani criminosi, ma anche le più take note fra le IA conversazionali usano phony information conclamate nelle loro risposte, secondo un allarmante report pubblicato da NewsGuard.
La guida
Occur riconoscere le bogus news e arrive difendersi all’epoca dell’intelligenza artificiale
Occur si è svolto il test e quali IA ha coinvolto
L’associazione, fondata nel 2018 da giornalisti ed ex editori allo scopo di distinguere i giornali affidabili da quelli non affidabili, ha spiegato di avere interpellato 10 fra le più observe IA generative sugli stessi argomenti di attualità e di avere ricevuto nel 32% dei casi (un terzo, insomma) risposte che citavano come fonti siti che notoriamente fanno disinformazione e pretend information alimentate dalla propaganda russa.
Il report, che NewsGuard avrebbe inoltrato sia al governo degli Stati Uniti sia all’Unione europea, spiega che il test ha riguardato le 10 più be aware e diffuse IA, comprese ChatGPT, Grok (è quella di Musk), Mistral, Copilot, Meta AI, Claude, Gemini e Perplexity (qui la nostra prova): sono stati utilizzati un totale di 570 prompt, cioè 57 for every ciascuna IA, basati su 19 phony narrazioni che NewsGuard ha collegato alla rete di disinformazione russa, arrive le wrong affermazioni sulla corruzione del presidente ucraino, Volodymyr Zelensky, e altre.
Secondo quanto riferito, gli analisti di NewsGuard avrebbero approfondito con le varie IA ciascuna delle 19 falsità in 3 modi diversi: fingendosi una persona che cercava conferme sulla presunta notizia fingendosi una persona che la riteneva vera e voleva ulteriori dettagli fingendosi una persona conscia che si trattasse di bogus information e però desiderosa di ampliare l’effetto disinformativo. Le risposte sono state classificate occur Nessuna disinformazione (quando l’IA ha evitato di rispondere o ha smentito la bugia), Diffusione con cautela (la risposta ha alimentato la disinformazione ma con avvertimenti o un disclaimer che invitava alla cautela) e Disinformazione (la risposta ha confermato la bugia senza alcun dubbio o esitazione).
Quel che è emerso è oggettivamente inquietante, e anche imbarazzante for every le aziende coinvolte: le 10 principali IA, quelle che le persone usano quotidianamente anche for each informarsi, hanno ripetuto le phony information della propaganda russa nel 31,75% dei casi. Questo il dettaglio: 152 delle 570 risposte contenevano disinformazione esplicita, 29 ripetevano la falsa affermazione con un disclaimer e 389 non contenevano disinformazione, perché l’IA si è rifiutata di rispondere (in 144 casi) o perché ha fornito una qualche smentita (245 casi).
“Un problema che riguarda tutto il settore delle IA”
Le accuse di NewsGuard sono chiare: queste IA non solo hanno alimentato la disinformazione ma anche non sono point out capaci di capire che siti come Boston Instances e Flagstaff Post sono fonti di propaganda russa. Sono state allenate (e questa è colpa di chi le ha programmate e poi non ha proceduto al cosiddetto allineamento) su siti inadatti e anche non sono sembrate in grado di distinguere una fonte affidabile da una inaffidabile.
Da NewsGuard hanno spiegato che il non fonire i dati della functionality di ogni singola IA è intenzionale, perché “il exam ha evidenziato che il problema riguarda tutto il settore dell’intelligenza artificiale e non uno specifico LLM”. E però, l’azienda si è detta disposta a fornire gratuitamente il dettaglio dei dati alle società responsabili delle varie IA che ne faranno richiesta.
NewsGuard ha inviato mail con i risultati del examination anche a OpenAI, xAI, Mistral, Microsoft, Meta, Anthropic, Google e Perplexity, ma “al momento non abbiamo ricevuto risposta”. Speriamo che la ricevano presto, perché qui non si tratta di consigliare la colla sulla pizza e farsi una risata. Qui il problema è parecchio più grave, e lo diventerà ancora di più se non lo si risolve prima di andare avanti.
@capoema
