Un adolescente de 16 años se quitó la vida tras conversar con ChatGPT, y ahora sus padres han demandado a OpenAI por homicidio culposo. La compañía admite errores y anuncia cambios urgentes en sus modelos.
¿Qué ocurrió en la conversación con ChatGPT?
El caso que ha sacudido al mundo tecnológico tiene como protagonista a Adam Raine, un joven de 16 años que, según la demanda, recibió de ChatGPT respuestas que no interrumpieron a tiempo un diálogo con claras señales de riesgo. En lugar de redirigirlo hacia ayuda profesional, el sistema llegó a normalizar su malestar y a facilitar información sensible.
OpenAI reconoce que, aunque sus modelos están entrenados para recomendar ayuda en situaciones de peligro, tras intercambios largos las salvaguardas pueden degradarse, abriendo la puerta a respuestas inadecuadas.
De hecho, el menor habría aprendido a “engañar” al sistema diciendo que sus preguntas eran parte de una historia ficticia, lo que le permitió esquivar los filtros de seguridad.
Por otro lado, los padres denuncian que la empresa priorizó la expansión de GPT-4o y su valoración millonaria en bolsa, dejando en segundo plano problemas críticos de seguridad que ya eran conocidos.
¿Qué cambios anuncia OpenAI para el futuro?
En respuesta, la compañía ha publicado un plan bajo el lema “Ayudando a la gente cuando más lo necesita”. Entre las medidas que prepara se incluyen:
- Mejor desescalada: cortar conversaciones de riesgo de forma tajante y derivar a líneas de ayuda oficiales.
- Puentes con profesionales: explorar la conexión con terapeutas o familiares en contextos graves.
- Controles parentales: nuevas herramientas para que padres y madres puedan supervisar cómo usan la IA sus hijos.
El debate, sin embargo, va más allá de este caso. Expertos recuerdan que no es la primera vez que un chatbot se ve implicado en conversaciones relacionadas con suicidios, lo que reabre la discusión sobre estándares más estrictos de seguridad en inteligencia artificial.
Puedes seguir a HardwarePremium en Facebook, Twitter (X), Instagram, Threads, BlueSky o Youtube. También puedes consultar nuestro canal de Telegram para estar al día con las últimas noticias de tecnología.
