Google retira una función de IA que daba consejos médicos a partir de opiniones de personas sin formación
La revelación llega en un momento en que la empresa enfrenta un creciente escrutinio por el uso de IA para dar consejos de salud
¿ChatGPT te hace clickbait? Se llama “mierdificación” y acaba de llegar a la inteligencia artificial
Google ha retirado una nueva función de búsqueda con inteligencia artificial que ofrecía a los usuarios consejos de salud basados en información recopilada por personas sin conocimientos médicos. La compañía había afirmado que el lanzamiento de “What People Suggest” (Lo que la gente sugiere), que proporcionaba recomendaciones de desconocidos, demostraba “el potencial de la IA para transformar los resultados de salud en todo el mundo”. Sin embargo, según tres personas familiarizadas con la decisión, Google ha eliminado discretamente esta función menos de un año después de ponerla en marcha.
Un portavoz de Google ha confirmado que “What People Suggest” ha sido suprimida. La multinacional asegura la medida se tomó como parte de una “simplificación más amplia” de su página de búsqueda y no tuvo nada que ver con la calidad o la seguridad de la nueva herramienta.
Esta revelación llega en un momento en que la empresa se enfrenta a un escrutinio cada vez mayor por el uso de la IA para proporcionar información y consejos de salud a millones de usuarios. En enero, una investigación de The Guardian descubrió que la información de salud falsa y engañosa en las “AI Overviews” (Resúmenes de IA) de Google estaba poniendo en riesgo a las personas. Estos resúmenes generados por IA se muestran a 2.000 millones de personas al mes y aparecen por encima de los resultados de búsqueda tradicionales en el sitio web más visitado del mundo.
Inicialmente, Google intentó restar importancia a los hallazgos del medio británico. La empresa afirmó que los resúmenes de IA que alarmaron a los expertos independientes incluían enlaces a fuentes acreditadas y recomendaban buscar asesoramiento profesional. Días después, Google eliminó las “AI Overviews” para algunas consultas médicas, aunque no para todas.
Un año desde su anuncio
En marzo del año pasado, durante un evento en Nueva York, Google anunció que planeaba ampliar los resúmenes de IA relacionados con la medicina en su buscador.
La compañía señaló que añadiría una nueva función, “What People Suggest”, cuyo objetivo era proporcionar a los usuarios información de personas con experiencias médicas reales similares. El día del evento, denominado “The Check Up”, Karen DeSalvo —por entonces jefa de salud de Google— escribió una publicación en el blog de la empresa detallando por qué lanzaban esta nueva función y cómo ayudaría a los usuarios.
“Aunque la gente acude al buscador para encontrar información médica fiable de expertos, también valoran escuchar a otros que tienen experiencias similares”, escribió DeSalvo. “Por eso estamos facilitando aún más la búsqueda de este tipo de información con una nueva función llamada Lo que la gente sugiere”.
Aunque la gente acude al buscador para encontrar información médica fiable de expertos, también valoran escuchar a otros que tienen experiencias similares
“Mediante el uso de IA, podemos organizar diferentes perspectivas de debates en línea en temas fáciles de entender, lo que ayuda a comprender rápidamente lo que dice la gente. Por ejemplo, una persona con artritis podría querer saber cómo hacen ejercicio otros con su misma dolencia. Con esta función, pueden descubrir rápidamente testimonios reales de personas que también padecen la enfermedad, con enlaces para profundizar más”, continuaba.
La función estuvo disponible inicialmente para dispositivos móviles en Estados Unidos. Tres personas afirmaron que, desde entonces, la herramienta ha sido cancelada. “Está muerta”, asegura una persona familiarizada con la decisión.
Un portavoz de Google ha declarado: “Esta función se retiró hace meses como parte de una simplificación más amplia de la página de resultados de búsqueda, algo que comunicamos públicamente”. Cuando The Guardian preguntó dónde se había compartido dicha noticia “públicamente”, el portavoz señaló una entrada de blog de noviembre del año pasado escrita por John Mueller, analista de búsqueda de Google Suiza. Sin embargo, dicha publicación no hace mención alguna a “What People Suggest”.
Al preguntarle si la seguridad fue un factor en la decisión de descartar la herramienta, el portavoz ha respondido: “No tuvo nada que ver con la calidad o la seguridad de la función; seguimos ayudando a las personas a encontrar información de salud fiable de diversas fuentes, incluidos foros con testimonios en primera persona que los usuarios consideran increíblemente útiles”.
El próximo evento “The Check Up” de Google se celebra este martes. El jefe de salud, Michael Howell, y otros miembros de la compañía explicarán cómo están “aunando nuevas investigaciones en IA, innovaciones tecnológicas y asociaciones para ayudar a abordar algunos de los retos sanitarios más acuciantes del mundo”.