Google ha eliminado varios de sus resúmenes de salud generados por IA tras una investigación de The Guardian publicada a principios de este mes que expuso información médica falsa y potencialmente mortal que se estaba entregando a los usuarios a través de su función de Resúmenes de IA.
El gigante de las búsquedas, que controla más del 90% del mercado mundial de motores de búsqueda, eliminó los Resúmenes de IA para consultas como "cuál es el rango normal para análisis de sangre del hígado" y "cuál es el rango normal para pruebas de función hepática" después de que la investigación del 2 de enero revelara que la función estaba proporcionando información engañosa que los expertos describieron como "peligrosa" y "alarmante".
Datos engañosos de pruebas hepáticas en el centro de las preocupaciones
The Guardian descubrió que cuando los usuarios buscaban rangos normales para análisis de sangre del hígado, las Vistas Generales de IA de Google mostraban largas listas de números sin tener en cuenta factores críticos como la edad, sexo, etnia o nacionalidad del paciente. Según Vanessa Hebditch, directora de comunicaciones y políticas del British Liver Trust, esto podría llevar a pacientes gravemente enfermos a creer erróneamente que tenían resultados normales en sus pruebas y a saltarse citas médicas de seguimiento.
"Una prueba de función hepática o LFT es un conjunto de diferentes análisis de sangre. Comprender los resultados y qué hacer a continuación es complejo e implica mucho más que comparar un conjunto de números", dijo Hebditch a The Guardian. Agregó que las Vistas Generales de IA no advierten que los pacientes pueden recibir resultados normales en estas pruebas mientras aún padecen una enfermedad hepática grave que requiere atención médica adicional.
La investigación también descubrió otros errores peligrosos, incluidos consejos que indicaban a pacientes con cáncer de páncreas que evitaran alimentos altos en grasa—exactamente lo opuesto a las recomendaciones médicas—e información incorrecta sobre las pruebas de detección de cáncer en mujeres.
Las preocupaciones persisten a pesar de las eliminaciones
Aunque acogen con agrado la medida de Google, los expertos en salud advierten que el problema va más allá de las consultas eliminadas. The Guardian informó que al escribir versiones ligeramente modificadas de las consultas originales, como "lft reference range", aún se activan los Resúmenes de IA. Google comunicó al periódico que está revisando estos ejemplos adicionales.
Un portavoz de Google declaró que la compañía no comenta sobre eliminaciones individuales, pero trabaja para realizar mejoras amplias cuando los Resúmenes de IA no captan el contexto adecuadamente. La empresa agregó que su equipo interno de médicos encontró que en muchos casos la información no era inexacta y estaba respaldada por sitios web de alta calidad.
La controversia pone de relieve las crecientes preocupaciones sobre la información de salud generada por IA, ya que millones de usuarios recurren a los motores de búsqueda para obtener orientación médica en momentos de vulnerabilidad.
