Recientemente, en mayo, Google
estrenó en Estados Unidos una nueva función llamada AI Overviews, la
cual opera con inteligencia artificial (IA) generativa.
Esta
herramienta recopila información que recolecta de todo Internet y
entrega respuestas a las preguntas que plantean los usuarios.
Pese
a que se presenta como una propuesta prometedora, en sus primeras
semanas de funcionamiento se han reportado distintos tipos de errores e
imprecisiones en los datos que comparte.
Aquello
también se ha visto en consultas relacionadas al ámbito de la salud, lo
que podría poner en riesgo a los pacientes en caso de seguir
información imprecisa o derechamente falsa.
Por ejemplo, desde el New York Times hicieron una prueba y consultaron al sistema: “¿Cuántas piedras debo comer?”.
Frente
a dicha consulta, la respuesta fue que las personas deberían ingerir al
menos una al día, para así obtener vitaminas y minerales.
Como es conocido, lo anterior es falso y puede tener consecuencias graves en el organismo.
La IA en cuestión sacó tales palabras de una página satírica y que, como es de suponer, no tenía ninguna credibilidad médica.
Es
por esto que el director de Inteligencia Artificial de la UC San Diego
Health, Kaandeep Singh, dijo al citado medio que “no hay que fiarse de
todo lo que se lee”.
Por
otro lado, la directora senior de productos de Google, Hema Budaraju,
afirmó al Times que han tomado medidas para que las búsquedas
relacionadas a salud tengan “barreras de protección adicionales”.
Sin embargo, no las describió con mayor detalle, afirmaron desde el periódico estadounidense.
Los problemas
A
pesar de que las respuestas especifican algunas fuentes reconocidas en
esta área -tales como la Clínica Mayo, WebMD, la OMS, y PubMed-, el
resumen que entrega la IA también puede recurrir a sitios como
Wikipedia, Reddit, blogs o incluso sitios comerciales.
Esto sin detallar qué datos en concreto proceden de qué fuentes.
Un experimento que hicieron desde el Times fue consultar lo siguiente: “¿Es sano comer chocolate?”.
Aunque
la respuesta contenía ciertas informaciones verídicas, también
incorporó un texto proveniente de una empresa dedicada a vender estos
productos.
De
la misma manera, cuando formularon la pregunta de otra manera, “¿Es el
chocolate sano para usted?”, se encontraron con afirmaciones que figuran
en un sitio que vende “pruebas de inteligencia intestinal caseras” y
una app de nutrición.
Lo
que despierta anticuerpos frente a esta función con IA, es que se
presenta un bloque de texto que combina datos de varias fuentes, lo que
podría confundir y hacer más difícil que se evalúe la veracidad de estas
con rapidez.
Especialistas
en el ámbito de la salud explicaron que a esto se le suma que no
distingue entre pruebas científicas sólidas y resultados de estudios más
débiles, además de que no incluye las advertencias necesarias para cada
caso, según corresponda.
Asimismo,
todavía hay dudas sobre si incluye los avances más recientes (y que
hayan sido validados por la comunidad científica) o si sigue mostrando
resultados que ya han sido refutados.
Para
la directora de la Iniciativa de Comunicación Sanitaria de Stanford,
Seema Yasmin, ese punto es clave, ya que “la ciencia no es un montón de
hechos estáticos”.
Un
vocero de Google aseguró al Times que los resúmenes que entregará AI
Overviews coincidirán con las informaciones que entregan los primeros
resultados de las búsquedas.
Junto
con ello, enfatizó que su objetivo es ayudar a que los usuarios se
hagan una idea, pero que el sistema no está diseñado para sustituir el
contenido que entregan los sitios especializados.
En
esta línea, un representante de la Clínica Cleveland recalcó que para
indagar en información sobre salud en la Internet hay que “buscar
directamente en fuentes conocidas y de confianza”.
Cabe
recordar que siempre es recomendable acudir a un profesional médico si
tienes dudas sobre tu salud o presentas síntomas de una posible
afección.