Google limita su IA tras errores insólitos en sus respuestas
Google ha decidido limitar el uso de su inteligencia artificial (IA) debido a errores graves en sus recomendaciones. Recientemente, la IA del buscador sugirió a los usuarios poner pegamento en pizzas y consumir piedras como fuente de minerales. Incluso afirmó que los astronautas habían encontrado y cuidado gatos en la Luna.
Estos problemas se hicieron notorios después del lanzamiento de los resúmenes de AI Overview en mayo. En respuesta, Google ha reducido el volumen de resúmenes generados por la IA mientras trabaja en solucionar estos fallos, agradeciendo a los usuarios por sus reportes que ayudan a mejorar el modelo.
Liz Reid, directora de Búsqueda de Google, reconoció que pueden aparecer errores entre millones de consultas diarias. Afirmó que Google sigue perfeccionando cuándo y cómo mostrar descripciones de IA, así como fortaleciendo sus sistemas de protección para evitar desinformación.
Otras IA generativas, como ChatGPT, también han presentado errores similares, subrayando la importancia de verificar las respuestas de estas herramientas. Google señaló que encuentra infracciones en menos de una de cada siete millones de consultas únicas con AI Overviews, y ha puesto límites a consultas sin sentido para mejorar la seguridad de las respuestas.
