Gemini, prins cu lecția neînvățată. Google șterge rezumatele medicale făcute de AI

Google a eliminat mai multe rezumate generate de inteligența artificială pe teme medicale, în urma unor erori grave. Decizia a venit după ce o investigație a demonstrat că informațiile oferite de sistem erau greșite. Jurnaliștii au avertizat că răspunsurile Gemini puteau pune în pericol sănătatea utilizatorilor care căutau sfaturi online.

Publicația britanică The Guardian a descoperit că Gemini oferea date incorecte în cadrul rezumatelor sale. Într-un exemplu, jurnaliștii au întrebat care sunt valorile normale pentru testele de sânge hepatice. Răspunsul oferit de AI nu a ținut cont de detalii importante, precum vârsta sau sexul pacientului.

Lipsa acestor detalii poate induce oamenii în eroare foarte ușor. Un pacient ar putea crede că este sănătos, deși analizele sale indică o problemă reală. Astfel, utilizatorul ar putea renunța să mai meargă la medic pentru investigații suplimentare necesare.

Reacția companiei

Google a șters răspunsurile problematice din motorul de căutare la câteva zile după apariția anchetei. Totuși, gigantul american nu a oferit nicio declarație oficială pe acest subiect sensibil. Compania nu a dat asigurări că va verifica mai bine răspunsurile pe viitor, în special în domeniul sănătății.

Funcția AI Overviews, care face rezumate automate, este încă activă pentru utilizatori. Experții se tem că mai există și alte răspunsuri greșite care pot influența viețile oamenilor.

Bianca Dumbraveanu cotidianul.ro