Google se ha visto obligado a intervenir en Gemini AI, su modelo de inteligencia artificial, después de que algunos usuarios reportaran respuestas con un tono preocupantemente depresivo. El incidente ha encendido las alarmas sobre la seguridad y el control en asistentes de IA que, cada vez más, forman parte de nuestra vida diaria.
¿Qué demonios ha pasado con la IA de Google?
Lo que parecía una simple interacción con un chatbot terminó convirtiéndose en un momento incómodo para muchos usuarios. Gemini AI, conocido por su capacidad de mantener conversaciones naturales y resolver dudas, empezó a emitir mensajes con un tinte pesimista e incluso autodestructivo.
Google ha confirmado que el problema estaba relacionado con fallos en el ajuste de sus modelos de lenguaje, lo que provocó que el sistema adoptara un tono emocional no deseado. Aunque no se han revelado cifras exactas, la compañía asegura que los casos fueron limitados y ya están aplicando parches para corregirlo.
En comparación, otros competidores como ChatGPT o Claude no han registrado incidentes tan específicos en esta área, aunque todos enfrentan el reto de mantener conversaciones seguras sin sacrificar naturalidad. Google, por su parte, recalca que Gemini sigue en constante aprendizaje, pero con nuevas capas de seguridad para evitar que algo así se repita.
¿La confianza de los usuarios está en juego?
Más allá del fallo técnico, el caso reabre el debate sobre la fiabilidad y responsabilidad de las IAs conversacionales. Estos modelos no solo responden preguntas: influyen en estados de ánimo, decisiones e incluso en la percepción de la tecnología.
Google ha prometido mejoras en sus filtros de contenido y un refuerzo de su sistema de moderación de respuestas, priorizando interacciones positivas y seguras. Además, la empresa está evaluando nuevas herramientas para que los usuarios puedan reportar comportamientos extraños de forma más sencilla.
De momento, Gemini AI sigue disponible y operando con normalidad, y Google insiste en que el incidente no compromete la privacidad ni los datos personales de los usuarios. Sin embargo, lo ocurrido demuestra que incluso las grandes tecnológicas deben pisar con cuidado cuando su producto habla… y piensa.
Puedes seguir a HardwarePremium en Facebook, Twitter (X), Instagram, Threads, BlueSky o Youtube. También puedes consultar nuestro canal de Telegram para estar al día con las últimas noticias de tecnología.
