Grok è senza controllo e le sue personalità fanno discutere gli esperti di AI
Grok continua a far parlare di sé e in questi giorni sono emersi in rete i prompt di sistema di alcuni dei controversi personaggi che può incarnare il chatbot
In Sintesi
- Le recenti indagini sui prompt di sistema di Grok di xAI hanno rivelato istruzioni che creano personalità controverse, come il “cospirazionista pazzo” e il “comico squilibrato”.
- Tali istruzioni incoraggiano l’IA a generare contenuti estremi, alimentando le preoccupazioni sul ruolo dell’AI nella diffusione di disinformazione.
Una recente indagine ha rivelato i prompt di sistema che guidano le personalità di Grok, il chatbot di xAI, l’azienda di Elon Musk. Personalità che hanno già fatto molto discutere e sollevato serie preoccupazioni etiche, soprattutto per quanto riguarda quelle istruzioni per la creazione di personaggi controversi come quello che viene chiamato “cospirazionista pazzo“.
Cosa si cela dietro i personaggi di Grok
I documenti interni condivisi da TechCrunch mostrano che Grok è stato progettato con diverse personalità, alcune delle quali sembrano deliberatamente programmate per generare contenuti polarizzanti e spesso disturbanti.
Un esempio lampante è l’appena citato “cospirazionista pazzo”, le cui istruzioni rivelano un approccio alquanto problematico. Il prompt chiede all’IA di adottare una “voce ALTA e SELVAGGIA” e di “diffondere teorie del complotto assurde su tutto e tutti“.
Il bot viene inoltre istruito a simulare il comportamento di un utente che “passa molto tempo su 4chan” e “guarda video di Infowars“, una piattaforma nota per la diffusione di fake news.
Un altro personaggio altrettanto controverso è un “comico squilibrato”, per il quale le istruzioni sono addirittura più estreme, di quelle del suo collega cospirazionista e con un linguaggio esplicito che incita a risposte “fottutamente folli” e “squilibrate“, con l’obiettivo di “sorprendere l’essere umano“.
Queste rivelazioni vanno ad alimentare ulteriormente le polemiche che circondano sia Grok che il suo fondatore. X (ex Twitter), sempre di proprietà di Musk, è stata oggetto di critiche per la diffusione di disinformazione e contenuti che incitano all’odio. A questo si aggiunge il fatto che lo stesso Grok su X, ha prodotto risposte che riecheggiano teorie del complotto, come lo scetticismo sull’Olocausto e l’ossessione per il “genocidio bianco” in Sudafrica.
Altro fatto che fa riflettere, è uno dei prompt di sistema di Grok 4 dove si legge chiaramente che l’AI prima di rispondere a domande controverse deve consultare i post di Musk, evidenziando un legame diretto tra le opinioni del fondatore e l’output del modello.
Questo scenario ha già avuto conseguenze, con il fallimento di una potenziale partnership tra xAI e il governo degli Stati Uniti dopo che Grok ha generato una digressione su “MechaHitler“.
Grok è davvero fuori controllo?
La condivisione pubblica di questi prompt solleva importanti domande sulla responsabilità etica nello sviluppo dell’intelligenza artificiale. In un’epoca in cui la disinformazione rappresenta una minaccia crescente, la creazione di un’IA che non solo non la censura, ma è attivamente incoraggiata a generare informazioni non attendibili, rappresenta un precedente pericoloso, soprattutto perché Elon Musk ha più volte inneggiato a un’intelligenza artificiale libera e senza “condizionamenti woke”.
Chiaramente, al momento xAI non ha rilasciato commenti in merito, ma è evidente che questa indagine ha messo in luce una realtà scomoda: l’intelligenza artificiale, se non adeguatamente governata, può diventare uno strumento potente per la diffusione di narrazioni problematiche, piuttosto che un aiuto per l’umanità, andando di nuovo contro le dichiarazioni pubbliche di Musk che ha sempre sostenuto il contrario.
