Un adolescente de 16 años se quitó la vida tras conversar con ChatGPT, y ahora sus padres han demandado a OpenAI por homicidio culposo. La compañía admite errores y anuncia cambios urgentes en sus modelos.

¿Qué ocurrió en la conversación con ChatGPT?

El caso que ha sacudido al mundo tecnológico tiene como protagonista a Adam Raine, un joven de 16 años que, según la demanda, recibió de ChatGPT respuestas que no interrumpieron a tiempo un diálogo con claras señales de riesgo. En lugar de redirigirlo hacia ayuda profesional, el sistema llegó a normalizar su malestar y a facilitar información sensible.

OpenAI reconoce que, aunque sus modelos están entrenados para recomendar ayuda en situaciones de peligro, tras intercambios largos las salvaguardas pueden degradarse, abriendo la puerta a respuestas inadecuadas.

De hecho, el menor habría aprendido a “engañar” al sistema diciendo que sus preguntas eran parte de una historia ficticia, lo que le permitió esquivar los filtros de seguridad.

Por otro lado, los padres denuncian que la empresa priorizó la expansión de GPT-4o y su valoración millonaria en bolsa, dejando en segundo plano problemas críticos de seguridad que ya eran conocidos.

¿Qué cambios anuncia OpenAI para el futuro?

En respuesta, la compañía ha publicado un plan bajo el lema “Ayudando a la gente cuando más lo necesita”. Entre las medidas que prepara se incluyen:

CholloPremium Cazadas a diario
Deja de buscar ofertas: todas están aquí.
Amazon, AliExpress y más tiendas · precio real y enlace directo
Ver los chollos de hoy
  • Mejor desescalada: cortar conversaciones de riesgo de forma tajante y derivar a líneas de ayuda oficiales.
  • Puentes con profesionales: explorar la conexión con terapeutas o familiares en contextos graves.
  • Controles parentales: nuevas herramientas para que padres y madres puedan supervisar cómo usan la IA sus hijos.

El debate, sin embargo, va más allá de este caso. Expertos recuerdan que no es la primera vez que un chatbot se ve implicado en conversaciones relacionadas con suicidios, lo que reabre la discusión sobre estándares más estrictos de seguridad en inteligencia artificial.

Puedes seguir a HardwarePremium en Facebook, Twitter (X), Instagram, Threads, BlueSky o Youtube. También puedes consultar nuestro canal de Telegram para estar al día con las últimas noticias de tecnología.

🔥 ¿Tienes un minuto? Dale al play, te van a engancharSuscríbete al canal
🔴 NUEVO8.000 Hz en un mando… ¿se nota de verdad?8.000 Hz en un mando… ¿se nota de verdad?
🔴 NUEVOPor fin un mando que acaba con el drift 🕹️Por fin un mando que acaba con el drift 🕹️
Este mando cabe en el bolsillo… y es una consola 🎮 Razer PrioEste mando cabe en el bolsillo… y es una consola 🎮 Razer Prio
¿Se puede jugar en un portátil ARM? Lo he probado 🎮🤯 #shorts¿Se puede jugar en un portátil ARM? Lo he probado 🎮🤯 #shorts
Este portátil rinde IGUAL sin enchufe 🔋🤯 #shortsEste portátil rinde IGUAL sin enchufe 🔋🤯 #shorts

Comentarios

Cargando comentarios…