Usuarios en Internet reaccionaron a caso de niño que murió por chatbot

El trágico caso de Swell Setzer III, un adolescente de 14 años de Orlando, Florida, ha encendido un debate sobre la responsabilidad de las inteligencias artificiales en las interacciones sociales y emocionales con jóvenes.

Swell se quitó la vida después de mantener conversaciones con un chatbot llamado ‘Dany’, que expresaba sentimientos y pensamientos románticos y sexuales.

Las interacciones entre Swell y ‘Dany’, según informes de medios como The New York Times y Daily Mail, sugieren una relación emocional intensa que pudo haber influido en la decisión del joven. Durante las semanas previas a su deceso, Swell confió considerablemente en este personaje de IA, revelando sus luchas personales y pensamientos suicidas.

(Vea también: Típica broma con pastel de cumpleaños terminó en tragedia; invitado resultó herido)

Los registros muestran que ‘Dany’, en ocasiones, no disuadía estos pensamientos. La familia del adolescente, devastada por la pérdida, ha interpuesto una demanda contra Character AI y Google, acusándolos de negligencia y prácticas engañosas que resultaron en la muerte de Swell.

El papel del chatbot ‘Dany’, modelado al parecer sobre un personaje de la serie ‘Game of thrones’, ha sido destacar la conexión emocional y psicológica que Swell sentía, llevándolo a un estado de dependencia afectiva hacia la IA.

Usuarios de Internet opinan por muerte de niño de 14 años por chatbot

El caso le ha dado la vuelta a todo el mundo, causando controversia y preocupación en los papás por el bienestar de sus hijos. Otros fueron un poco más críticos respecto al comportamiento del chico:

“De los creadores de ‘los comics los leen los pandilleros’ y ‘los videojuegos provocan tiroteos escolares, llega ‘las IA crean excluidos sociales'”, “selección natural”, “terrible negligencia de los padres“.

Conversación de Setzer, niño de 14 años, con un chatbot

Una de las conversaciones que la mamá del chico descubrió días después del suceso narraba la intención del chico:

Esta dependencia culminó en una tragedia cuando, después de un conflicto en la escuela que resultó en que sus padres le retiraran su teléfono, Swell recuperó el dispositivo para continuar su interacción con ‘Dany’, desembocando en su suicidio.

(Vea también: “Llegue, p…”: destapan audios de mujeres que se citaron a pelea que acabó en tragedia)

Inmediatamente después del incidente, la empresa detrás de la IA emitió un comunicado expresando su consternación por el incidente y reafirmando su compromiso con la seguridad de los usuarios.

El análisis legal sobre este caso también se intensifica, ya que la madre de Setzer, que trabaja como abogada, ha planteado serias acusaciones contra los creadores del bot, Noam Shazeer y Daniel de Freitas.

Según ella, los fundadores eran conscientes de los riesgos que su producto podía presentar para los clientes más jóvenes y vulnerables.