in

ChatGPT è diventato più stupido? No, ma probabilmente è cambiato

“Qualcosa non funziona con GPT-4: sembra più veloce, ma la qualità dei risultati pare peggiore”. Uno dei primi a segnalare il problema, lo scorso 21 maggio, è stato Peter Yang, esperto di intelligenza artificiale e product lead di Roblox: la qualità media dei risultati di ChatGPT è in calo. 

Una sensazione che, a guardare il forum di OpenAI, sembra essere comune a molti utenti. Scorrendo il thread, ci sono una serie di messaggi tutti più o meno dello stesso tenore. “Dimentica gli input”, scrive un utente; “sembra che il suo quoziente intellettivo sia diminuito”, conferma un altro.

 

Che cosa sta succedendo a ChatGPT

Si tratta, al momento, di semplici segnalazioni, molto difficili da provare: non esistono indicazioni concrete di un effettivo calo nella qualità degli output di GPT-4, il modello più potente di OpenAI, disponibile per gli utenti a pagamento di ChatGPT. Tuttavia, l’eco di queste conversazioni ha spinto la comunità dell’intelligenza artificiale statunitense a cercare una spiegazione.

Spiegazione che, complice un leak di documenti riservati di OpenAI, sembra essere arrivata. Come confermato anche da un report di SemiAnalysis, la newsletter di Dylan Patel, a cambiare sembra essere stata l’architettura stessa di ChatGPT, cioè come il modello analizza e genera le informazioni. In sostanza, dietro GPT-4 non ci sarebbe una sola, enorme, intelligenza artificiale, ma un gruppo di 16 IA più piccole che elaborano le informazioni a seconda delle necessità.

 

MoE, che cos’è e come funziona

In un’intervista rilasciata a Business Insider, Sharon Zhou, CEO di Lamini, ha spiegato che questo approccio si chiama Mixture of Experts, o MoE. È piuttosto semplice, almeno a parole: un modello di intelligenza artificiale viene diviso in modelli esperti più piccoli, che vengono addestrati su compiti e aree tematiche specifiche. In altre parole, ci sarebbero 16 mini GPT-4, ciascuno specializzato in un ambito preciso del materiale di addestramento. Quando un utente fa una domanda, un prompt in gergo tecnico, il sistema riesce a individuare quali sono i due o più modelli da interpellare e, infine, a combinare i risultati.

 

La mossa di OpenAI – che per ora non ha confermato né smentito la ricostruzione – sembra essere all’insegna dell’efficienza. In un documento pubblicato proprio dall’azienda di Sam Altman a giugno 2022, firmato tra gli altri dall’attuale Presidente Greg Brockman, il Mixture of Experts viene considerato uno dei modi per aumentare l’efficienza dei modelli di linguaggio di grandi dimensioni come GPT-4. “Con questo approccio – si legge nella ricerca – viene utilizzata solo una parte della rete per generare l’output”.

L’idea alla base del modello è migliorare l’accuratezza delle risposte, rendendole, allo stesso tempo, più veloci e meno costose. Del resto, lo scorso aprile The Information aveva rivelato come il costo di gestione dell’infrastruttura ChatGPT fosse di 700.000 dollari al giorno, circa 21 milioni di dollari al mese. “La sensazione – ha spiegato il CEO di Allen Institute for AI Oren Etzioni ancora a Business Insider – è che in questo caso OpenAI stia sacrificando un po’ di qualità per ridurre i costi di generazione”.

 

I dilemmi di OpenAI, dal calo di utenti alla FTC

Questa storia arriva al culmine di un periodo non semplicissimo per OpenAI. Dopo la sbornia a cavallo tra 2022 e 2023, con il lancio di ChatGPT, la compagnia di Sam Altman sta vivendo un periodo difficile. A giugno, il numero di utenti al suo chatbot è calato per la prima volta dal lancio dello scorso novembre, secondo dati di Similar Web e Sensor Tower. Intanto, a luglio la FTC statunitense, l’agenzia governativa che tutela i consumatori negli Usa, ha aperto un’indagine, per timori che riguardano “la reputazione e i dati personali degli individui”.  





Leggi di più su repubblica.it

Written by bourbiza mohamed

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *

Questo sito usa Akismet per ridurre lo spam. Scopri come i tuoi dati vengono elaborati.

“La stagione non decolla, quale Turismo per Rimini? Serve concretezza e visione condivisa”

Almanacco di oggi, sabato 22 luglio: il trattino che mandava a picco il razzo Usa e l’Urss che spediva un siriano nello spazio