ChatGPT ha sviluppato una strana ossessione per i goblin: cos'è successo (e perché è successo)

123RF

Non bastavano le allucinazioni: ora ChatGPT (o meglio la versione Codex) ha mostrato anche una sorta di “ossessione”. In particolare, per i goblin. Una fissazione comparsa di recente, dalle origini piuttosto insolite e che, per fortuna, risulta oggi risolta.

Facciamo il punto della situazione e ricostruiamo tutta la vicenda, e anche il motivo per cui il chatbot di OpenAI si è fissato proprio su queste creature del folklore fantasy.

• ChatGPT si è fissato sui goblin: la vicenda
• Perché è successo tutto questo
• Un consiglio per gli utenti alle prese con l'IA

ChatGPT si è fissato sui goblin: la vicenda

Come molti disguidi su ChatGPT, tutto è partito dalle segnalazioni degli utenti. Diversi di loro hanno iniziato a notare una stranezza ricorrente: il modello, indipendentemente dal tipo di richiesta, finiva in modo quasi sistematico per inserire riferimenti ai goblin.

Una vera e propria fissazione. In alcuni casi, Codex arrivava a definire “piccoli goblin” i difetti individuati all’interno del codice; in altri si descriveva come un “goblin con la torcia”, per spiegare in modo figurato il proprio ruolo di esploratore di bug e anomalie.

Ancora peggio, in più situazioni sono state registrate risposte ripetitive, con il chatbot che scivolava in una sorta di “loop semantico”, perdendo progressivamente aderenza al contesto della conversazione.

Alla fine la situazione era così sfuggita di mano da dover richiedere un intervento diretto di OpenAI, che ha imposto a Codex una restrizione esplicita. In pratica, non dovrà più parlare di goblin, gremlins, procioni, troll, orchi, piccioni o altre creature o animali, a meno che non sia assolutamente e inequivocabilmente rilevante.

Perché è successo tutto questo

Il perché è stato svelato dalla stessa società. Dopo essere intervenuta, OpenAI ha pubblicato un approfondimento sul blog ufficiale, “Da dove vengono i goblin”, in cui l’azienda ha ricostruito l’origine dell’anomalia.

In breve, tutto è iniziato a novembre, quando la Big Tech aveva notato un aumento nell’utilizzo di termini come “goblin” e “gremlin”. Con il lancio del modello GPT-5.1, OpenAI aveva già osservato una crescita significativa di queste parole: +175% per “goblin” e +52% per “gremlin”.

Il boom arrivò poi con GPT‑5.4: l’utilizzo di tale parola sarebbe aumentato di oltre il 3800%. Un’impennata dovuta dai chatbot configurati con personalità “Nerd”, quella adibita per simulare utenti interessati a materie scientifiche e a nicchie culturali come giochi da tavolo, letteratura e cinema fantasy.

È proprio qui che, secondo OpenAI, si sarebbe innescato il meccanismo. In soldoni, si stava creando un sistema di valutazione della personalità Nerd che premiava le risposte più creative e strane, appunto quelle contenenti creature del mondo fantasy come i goblin e i gremlins. Incentivando il chatbot a usarle ancora per via dei feedback positivi, nel tempo il sistema arrivò a presentarle anche in altri output, in maniera totalmente fuori contesto. 

Un consiglio per gli utenti alle prese con l’IA

Se vogliamo trovare una morale a questa “favola” (tanto per rimanere in tema), possiamo dire che, ora più che mai, conviene a chi usa l’IA revisionare continuamente gli output del chatbot di turno. Perché anche se si usano prompt scritti per bene, il rischio rimane.

Il caso in questione è infatti un esempio di come una minima variazione nei dati di addestramento o nei meccanismi di valutazione delle risposte possa portare un modello linguistico a sovrastimare un determinato termine.

Una specie di “fissazione statistica”, che per fortuna ora è stata risolta da OpenAI, eliminando la personalità Nerd e il sistema di valutazione che premiava quelle parole, oltre a dare l’indicazione sopramenzionata anche alle altre personalità, almeno per non correre ulteriori rischi.