Google frena su AI Overview: troppi errori nelle risposte mediche
Google potrebbe aver disattivato AI Overview per le ricerche legate a temi sanitari e medici a causa di troppi errori commessi dall'AI nei riassunti
La funzione AI Overview è diventata, nel corso degli ultimi mesi, un elemento centrale del motore di ricerca di Google. Si tratta di una delle tante funzioni AI di Google che mette a disposizione dei suoi utenti un riassunto fatto dall’intelligenza artificiale come primo risultato della ricerca effettuata dall’utente. In questo modo, si punta a offrire una risposta rapida, con l’utente che non deve raggiungere siti esterni per ottenere le informazioni ricercate.
Oltre alle tante implicazioni di questo sistema, che rischia di sottrarre traffico ai siti da cui la stessa AI prende le informazioni, AI Overview è ora finito in prima pagina a causa di informazioni errate fornite agli utenti. In particolare, i riassunti generati dall’intelligenza artificiale di Google includevano troppi errori su temi medici e, più in generale, legati alla salute.
Un problema diffuso
A portare alla luce il problema degli errori commessi da AI Overview è stata un’indagine di The Guardian che ha mostrato alcuni esempi delle risposte fornite dall’intelligenza artificiale su temi medici e sanitari.
Nell’articolo che porta la firma di Andrew Gregory, redattore sanitario di The Guardian, si evidenzia che alcuni riassunti “fornivano informazioni sanitarie inaccurate e mettevano a rischio le persone“.
Queste risposte presentavano degli errori con il motore di ricerca che, quindi, offriva informazioni sbagliate agli utenti, mettendo in secondo piano fonti autorevoli che avrebbero potuto garantire una risposta precisa.
Google corre ai ripari?
Sempre The Guardian ha notato che Google sembra aver fatto marcia indietro, andando a disabilitare la funzione AI Overview sulle ricerche legate a temi sanitari. In molti casi, infatti, i riassunti AI non compaiono più quando l’utente cerca informazioni legate alla salute. La questione è stata confermata anche da TechCrunch.
Nel frattempo, però, Google non ha voluto commentare nel dettaglio la questione. Un portavoce dell’azienda, infatti, ha confermato che non vengono forniti commenti in merito a singole rimozioni dai risultati di ricerca, anche per quanto riguarda la funzione che offre riassunti generati con l’intelligenza artificiale.
L’azienda ha aggiunto che “in molti casi le informazioni non erano inaccurate ed erano supportate da siti web di alta qualità” come confermato da un team interno di medici che ha avuto modo di analizzare il comportamento di AI Overview a seguito delle segnalazioni legate a possibili errori commessi dall’intelligenza artificiale.
Il tema continuerà a essere di grande attualità, anche perché la funzione AI Overview sta, inevitabilmente, cambiando il modo di effettuare ricerche online e di ottenere informazioni. La presenza di possibili errori all’interno dei riassunti generati dall’intelligenza artificiale è un campanello d’allarme, soprattutto quando le ricerche riguardano temi delicati come la salute.
Google, probabilmente, sta effettuando dei correttivi alla sua funzione in questi giorni per ripristinare il funzionamento corretto dell’AI, in rapporto alle ricerche su argomenti medici e sanitari. Ne sapremo di più a breve.
