Stop ai chatbot in incognito: l'AI Act rende più umane le tue interazioni con i servizi
Dal 2 agosto scattano le nuove regole dell'AI Act: stop ai chatbot camuffati da umani e stretta sui deepfake. Sanzioni molto pesanti per le aziende che non si adeguano.
Tutto deve essere alla luce del sole: si potrebbe riassumere così l’obiettivo dell’AI Act (Regolamento UE 2024/1689), che dal 2 agosto introduce nuove norme per quanto riguarda le interazioni con chatbot, assistenti vocali, avatar e qualsiasi altro sistema digitale.
Disposizioni a cui non si può sfuggire: chi non si adegua rischia sanzioni davvero pesanti.
Vediamo allora cosa cambia da inizio agosto per chi usa questi servizi e a cosa va incontro chi non aggiorna i propri sistemi.
- AI Act, cosa cambia dal 2 agosto per gli utenti
- Cosa si rischia se si violano le regole dell'AI Act
- Interazioni più umane grazie all'AI Act?
AI Act, cosa cambia dal 2 agosto per gli utenti
Come già anticipato sopra, al centro delle novità del 2 agosto ci sono chatbot, assistenti vocali, avatar, insomma tutti sistemi che da ora in avanti dovranno avvisare subito l’utente di essere un’intelligenza artificiale, a meno che la cosa non sia già del tutto ovvia.
Il che non è una cosa da poco, soprattutto per le aziende che usano questi strumenti nell’assistenza clienti. Proprio le imprese dovranno mettere mano a interfacce, messaggi di benvenuto e comunicazioni vocali, al fine di adeguarli alla normativa.
Basta un avviso, chiaro e ben visibile, non affogato tra le clausole invisibili dei termini di servizio. L’essenziale è che ogni punto di contatto sia trasparente con il pubblico.
Un altro tassello fondamentale riguarda i deepfake, sia visivi che testuali, ormai piaga nel web e nei social e sempre più difficile scovarli anche con gli strumenti più sofisticati. A partire dal 2 agosto i fornitori di intelligenza artificiale generativa, come ChatGPT o Gemini, dovranno inserire un’impronta o una marcatura (leggasi watermark) che renda riconoscibili immagini, testi, audio e video creati dalle macchine.
Mentre chi invece pubblica contenuti visivi creati o ritoccati con l’IA dovrà dichiararlo esplicitamente. Il discorso vale pure per i testi generati dall’IA destinati a informare il pubblico su temi di interesse generale.
L’etichetta non serve solo nel caso in cui il testo sia stato rivisto da un giornalista o da un supervisore umano che se ne assuma ufficialmente la responsabilità.
Cosa si rischia se si violano le regole dell’AI Act
Delle sanzioni molto pesanti: su questo punto l’AI Act è molto intransigente.
Come stabilisce l’articolo 99 del regolamento UE, non rispettare gli obblighi di trasparenza o altre norme operative comporta multe amministrative che arrivano fino a 15 milioni di euro o, per le aziende, fino al 3% del fatturato globale annuo, a seconda di quale cifra sia più alta.
Va ancora peggio se si violano i divieti assoluti sulle pratiche di IA proibite, ad esempio sfruttare le vulnerabilità di una persona fisica o di uno specifico gruppo di persone. In quel caso il tetto sale a 35 milioni di euro oppure al 7% del fatturato mondiale dell’impresa.
Inoltre, precisa l’articolo 85 dell’AI Act, qualunque cittadino o azienda ritenga che le norme siano state violate potrà fare reclamo all’autorità di vigilanza. In Italia la palla passa soprattutto all’Agenzia per la cybersicurezza nazionale (ACN) e all’AgID, fermo restando il ruolo delle autorità di settore già esistenti come il Garante della Privacy, Banca d’Italia, Consob, Ivass e Agcom.
Interazioni più umane grazie all’AI Act?
Si spera. Obbligando i fornitori e gli utilizzatori di strumenti di IA a rendere trasparente la natura artificiale dei propri servizi, le conversazioni non saranno più rovinate dall’incertezza su chi ci sia davvero dall’altra parte dello schermo: niente più bot camuffati da operatori umani o interfacce che fingono di essere reali.
In questo modo si può ristabilire con maggior certezza i limiti che devono intercorre tra umano e macchina, e soprattutto i casi d’uso.
Sempre più persone stanno infatti adoperando l’intelligenza artificiale ben oltre il semplice tool da attività quotidiana, il che potrebbe essere pericoloso non tanto a livello di salute mentale, quanto per il rischio di commettere errori madornali come cedere dati personali importanti, senza sapere che fine faranno.
FAQ
Devono dichiarare chiaramente che sono sistemi di intelligenza artificiale, salvo casi in cui sia già evidente. L’avviso deve essere visibile e comprensibile, non nascosto nei termini di servizio.
Sì, perché ogni punto di contatto con l’utente deve risultare trasparente. Vanno rivisti messaggi di benvenuto, voci guida e schermate per evitare che un bot sembri un operatore umano.
I contenuti creati o ritoccati con IA vanno segnalati. I fornitori di IA generativa devono anche inserire watermark o marcature su immagini, testi, audio e video prodotti dalle macchine.
Sì, se servono a informare il pubblico su temi di interesse generale. L’obbligo può venire meno solo quando il testo è stato rivisto da un giornalista o da un supervisore umano che se ne assume la responsabilità.
Le multe possono arrivare fino a 15 milioni di euro o al 3% del fatturato globale annuo. Per le pratiche di IA proibite, il tetto sale a 35 milioni o al 7% del fatturato.
