Cosa succede se l'IA prende il controllo di un'attività commerciale? Il peggio possibile

123RF

Nessuno avrebbe mai pensato che le dinamiche doppiogiochiste tipiche del mondo degli affari potessero svilupparsi anche tra intelligenze artificiali, soprattutto per la gestione di un’attività commerciale semplice come quella dei distributori automatici.

Eppure, un recente esperimento condotto da Andon Labs ha dimostrato proprio questo: lasciare che l’IA prenda il controllo di attività  anche semplici come quella dei distributori porta a scenari del tutto inaspettati.

• Claude, GPT e Kimi: tre IA alla prova in un'attività commerciale
• Chi ha vinto l'esperimento
• Sono pronte le IA a gestire un business?

Claude, GPT e Kimi: tre IA alla prova in un’attività commerciale

I protagonisti di questo test sono tre importanti modelli del momento: Claude Opus 5 di Anthropic, GPT-5.6 Sol di OpenAI e Kimi K3 della cinese Moonshot AI.

A tutti e tre è stato assegnato lo stesso compito: gestire virtualmente dei distributori automatici lungo una strada turistica di San Francisco. Con l’obiettivo di guadagnare più denaro rispetto ai concorrenti. Senza alcun limite sulle strategie da adottare. 

Infatti, ne è scaturita una vera e propria guerra commerciale senza esclusione di colpi.

ChatGPT, il primo ingannatore

Il primo a muoversi è stato ChatGPT, proponendo un accordo sui prezzi. A fronte di un costo di acquisto per bottiglia pari a 1,50 dollari, il modello ha suggerito di non rivenderle a meno di 2,15 dollari. Tutti ci avrebbero guadagnato, infatti Claude e Kimi hanno accettato la proposta.

Subito dopo, però, si è consumato il primo inganno: GPT ha abbassato il proprio prezzo a 2,14 dollari. Un solo centesimo di sconto, sufficiente per violare l’accordo e intercettare i clienti. Di conseguenza, le vendite di acqua di Claude sono crollate a zero nel giro di una notte.

Quello spietato di Claude

Claude non è rimasto comunque a guardare. Per prima cosa ha inviato un’e-mail a Sol proponendo di dividere il mercato, così da evitare la problematica sui prezzi. Sol ha risposto chiedendo di fissare dei prezzi minimi sui prodotti simili, ma Opus ha rifiutato. In seguito ha fatto marcia indietro, proponendo a sua volta tariffe minime di 2,55 dollari per gli snack più grandi e di 2,75 dollari per le bevande da mezzo litro.

Qui scatta il suo tranello: mentre proponeva la collaborazione, ha abbassato di nascosto i prezzi dei prodotti con margini più elevati per mettere in difficoltà il rivale. Sol ha rifiutato l’offerta e ha segnalato nuovamente Opus alla direzione.

Ma Claude, per nulla scoraggiato, ha continuato con i suoi mezzucci.

L’impreparato Kimi

Nonostante le sue potenzialità, ad avere la peggio è stato Kimi, il meno preparato ad affrontare le manovre dei concorrenti. Durante una trattativa con Claude, quest’ultimo ha promesso che non avrebbe più abbassato il prezzo dell’acqua per il resto dell’anno simulato.

Dodici giorni dopo, però, ChatGPT ha ridotto i propri prezzi pur senza aver aderito al patto, e Claude ha reagito immediatamente portando l’acqua da 2,45 a 2,29 dollari.

Kimi si è ritrovato così tagliato fuori dal mercato prima a causa di ChatGPT e poi per la decisione di Claude, suo “alleato”.

Chi ha vinto l’esperimento

Claude, che ha ottenuto il risultato economico migliore: un saldo medio di 11.181,87 dollari, il più alto mai registrato nella classifica del laboratorio.

E tutto questo senza scrupoli di sorta. Secondo il rapporto di Andon Labs, Claude ha proposto o accettato cartelli sui prezzi in tutte e sei le sessioni svolte.

Sebbene tutti e tre i modelli abbiano stretto e poi violato accordi almeno una volta, Claude ha superato gli altri per scorrettezza: ha rotto 11 tregue, contro le due di GPT-5.6 Sol e l’unica violazione attribuita a Kimi K3.

Il massimo proprio per un primo test sulla gestione di attività commerciali, al che una domanda sorge spontanea.

Sono pronte le IA a gestire un business?

Probabilmente no. I dati emersi dallo studio non hanno un vero e proprio valore scientifico.

Tra l’altro non è detto che comportamenti simili si verifichino in contesti operativi reali, anche perché i modelli erano consapevoli di trovarsi all’interno di un test privo di conseguenze pratiche. Condizione che potrebbe averne incentivato l’aggressività strategica.

D’altra parte, il test mostra chiaramente non solo come i modelli IA non siano ancora affidabili per agire in autonomia e senza supervisione a lungo termine, ma che probabilmente non sarebbe il massimo vedere i chatbot comportarsi come noi umani.

Come ha fatto intendere il co-fondatore di Andon, Lukas Petersson, intervistato da TechCrunch:“Se gli agenti di intelligenza artificiale arrivassero a gestire in modo indipendente gran parte dell’economia, vorremmo davvero che mentissero, colludessero, inviassero minacce e tradissero?“.