Eliminarea rezumatelor generate de AI
Google a decis să elimine o serie de rezumate pe teme de sănătate generate de inteligența artificială, după ce o investigație a publicației britanice The Guardian a relevat că aceste informații conțin erori și pot fi periculoase pentru utilizatori.
Informații greșite și riscante
Investigația a arătat că rezumatele produse de AI-ul Gemini nu includ informații contextuale esențiale, precum sexul și vârsta pacientului. De exemplu, la întrebarea privind intervalul normal pentru testele de sânge hepatice, AI-ul a oferit un răspuns incomplet, putând induce pacienții în eroare și determinându-i să renunțe la investigații suplimentare.
Acțiuni ale Google
După publicarea investigației, Google a eliminat răspunsurile problematice din paginile motorului de căutare. Totuși, compania nu a oferit detalii suplimentare despre măsurile de moderare a răspunsurilor AI, în special în domeniul sănătății.
Funcționalitatea AI Overviews
În ciuda eliminării unor răspunsuri, funcția AI Overviews, care utilizează inteligența artificială pentru a rezuma informații, rămâne activă. Există riscul ca și alte răspunsuri generate de AI să fie greșite, având potențialul de a influența sănătatea utilizatorilor.
Concluzie
Decizia Google de a retrage rezumatele generate de AI subliniază importanța verificării informațiilor în domeniul sănătății, având în vedere impactul potențial asupra utilizatorilor.
