¿Mal uso o fallo de diseño? La responsabilidad jurídica de la IA en el caso Adam Raine
Una discusión clave sobre hasta dónde llega el deber de diligencia de los proveedores de IA cuando un menor vulnerable queda expuesto a riesgos previsibles en sistemas conversacionales
(Imagen: E&J)
¿Mal uso o fallo de diseño? La responsabilidad jurídica de la IA en el caso Adam Raine
Una discusión clave sobre hasta dónde llega el deber de diligencia de los proveedores de IA cuando un menor vulnerable queda expuesto a riesgos previsibles en sistemas conversacionales
(Imagen: E&J)
En agosto, los padres de Adam Raine demandaron a OpenAI (la empresa detrás de ChatGPT) por la muerte por negligencia del joven.
Por su parte, los responsables de ChatGPT sostienen que el suicidio del adolescente se debió a un “uso indebido” del sistema.
Más allá del impacto emocional del caso, lo relevante aquí es el dilema jurídico:
¿Hasta qué punto un proveedor de IA puede escudarse en el “mal uso” cuando el usuario es un menor en crisis y el riesgo era técnicamente previsible?
Suscríbete a nuestra
NEWSLETTER
Este artículo analiza precisamente ese punto crítico: la frontera entre responsabilidad, diseño insuficiente y diligencia debida en sistemas conversacionales que, aun sin “intención”, pueden fallar cuando más importa.
...
CONTENIDO EXCLUSIVO PARA SUSCRIPTORES
