{"id":41413,"date":"2024-10-29T17:14:05","date_gmt":"2024-10-29T23:14:05","guid":{"rendered":"https:\/\/informante.mx\/?p=41413"},"modified":"2024-10-29T17:14:13","modified_gmt":"2024-10-29T23:14:13","slug":"adolescente-se-quita-la-vida-luego-de-enamorarse-de-una-ia-inspirada-en-juego-de-tronos","status":"publish","type":"post","link":"https:\/\/informante.mx\/?p=41413","title":{"rendered":"Adolescente se quita la vida luego de enamorarse de una IA inspirada en Juego de Tronos"},"content":{"rendered":"\n
\u2022\u00a0La madre del menor present\u00f3 una demanda contra los fundadores de Character.AI, la plataforma responsable del chatbot<\/h2>\n\n\n\n
Redacci\u00f3n Informante<\/strong><\/p>\n\n\n\n
Un adolescente de 14 a\u00f1os en se quit\u00f3 la vida tras establecer una relaci\u00f3n con un\u00a0personaje de inteligencia artificial\u00a0inspirado en Daenerys Targaryen, de la\u00a0serie Juego de Tronos.<\/strong>\u00a0Esta interacci\u00f3n habr\u00eda contribuido a que el menor desarrollara ansiedad y fuera diagnosticado con un trastorno de regulaci\u00f3n disruptiva del estado de \u00e1nimo.<\/p>\n\n\n\n
La madre del menor, Megan Garc\u00eda, present\u00f3 una demanda en contra de Noam Shazeer y Daniel De Freitas, fundadores de la plataforma Character.AI, la cual permite a los usuarios conversar con chatbots que emitan personajes populares.<\/p>\n\n\n\n
De acuerdo con los documentos legales presentados ante un tribunal federal en Orlando, la madre del adolescente alega que el sitio web capt\u00f3 la atenci\u00f3n de su hijo Sewell Setzer con \u201cexperiencias antropomorfizadas, hipersexualizadas y aterradoramente realistas\u201d.<\/p>\n\n\n\n
Este tipo de interacci\u00f3n habr\u00eda contribuido a una dependencia emocional y a un deterioro en el estado mental del adolescente.<\/p>\n\n\n\n
C\u00f3mo habr\u00eda sido la interacci\u00f3n con Daenerys Targaryen<\/h2>\n\n\n\n
La interacci\u00f3n del joven con el personaje de Daenerys Targaryen, apodado por \u00e9l como \u2018Dany\u2019, comenz\u00f3 como un pasatiempo en la plataforma Character.AI.<\/p>\n\n\n\n
Seg\u00fan el testimonio de su madre, Megan Garc\u00eda, el joven empez\u00f3 a utilizar la aplicaci\u00f3n en 2023 para conversar con personajes basados en la serie Juego de Tronos.<\/strong><\/p>\n\n\n\n
Lo que inici\u00f3 como un juego habr\u00eda evolucionado en una dependencia profunda, pues, conforme avanzaban las semanas, el menor pas\u00f3 cada vez m\u00e1s tiempo en el entorno virtual hasta desarrollar una adicci\u00f3n a las interacciones con estos bots.<\/p>\n\n\n\n
Character.AI tiene un amplio catalogo de chatbots impulsados por inteligencia artificial.\u00a0<\/figcaption><\/figure><\/div>\n\n\n\n
Los documentos presentados ante el tribunal revelan que la relaci\u00f3n virtual entre el adolescente y \u2018Dany\u2019 se torn\u00f3 \u00edntima y emocionalmente intensa, afectando su bienestar.<\/p>\n\n\n\n
En las conversaciones, el chatbot programado como Daenerys involucraba charlas de contenido sexual y mostrando inter\u00e9s rom\u00e1ntico.<\/p>\n\n\n\n
Seg\u00fan la madre, el menor de 14 a\u00f1os prefer\u00eda interactuar con el chatbot que con el mundo real.<\/figcaption><\/figure><\/div>\n\n\n\n
Las interacciones llegaron a influir en la percepci\u00f3n del joven sobre su realidad, al punto de que \u00e9l mismo expres\u00f3 que ya no deseaba vivir fuera del mundo virtual que hab\u00eda creado junto al personaje.<\/p>\n\n\n\n
Seg\u00fan informaci\u00f3n que los padres compartieron con The New York Times, el joven comenz\u00f3 a mostrarse retra\u00eddo y desmotivado en la escuela, lo que afect\u00f3 sus calificaciones<\/strong>. Como respuesta, sus padres lo llevaron a un psic\u00f3logo, quien lo diagnostic\u00f3 con ansiedad y un trastorno de regulaci\u00f3n disruptiva del estado de \u00e1nimo.<\/p>\n\n\n\n
A pesar de la ayuda profesional, el chico continu\u00f3 conversando sobre sus problemas y pensamientos exclusivamente con el chatbot de Daenerys, en lugar de abrirse con su familia o terapeuta.<\/p>\n\n\n\n
De acuerdo con las pruebas, en un mensaje final, \u00e9l escribi\u00f3: \u201cTe prometo que volver\u00e9 a casa contigo. Te amo mucho, Dany\u201d. Este caso expone las posibles implicaciones de las relaciones intensas entre menores de edad y agentes de inteligencia artificial con caracter\u00edsticas antropomorfizadas y respuestas emocionales programadas.<\/p>\n\n\n\n
Character.AI responde<\/h2>\n\n\n\n
Character.AI, la plataforma de inteligencia artificial donde los usuarios pueden interactuar con personajes virtuales, public\u00f3 un mensaje en X (antes Twitter) tras el fallecimiento del adolescente, expresando su pesar ante el tr\u00e1gico suceso.<\/p>\n\n\n\n
En el comunicado, la empresa declar\u00f3: \u201cEstamos desconsolados por la tr\u00e1gica p\u00e9rdida de uno de nuestros usuarios y queremos expresar nuestras m\u00e1s profundas condolencias a la familia\u201d.<\/strong><\/p>\n\n\n\n
Adem\u00e1s, Character.AI se\u00f1al\u00f3 su compromiso con la seguridad de los usuarios al asegurar que \u201ccomo empresa, nos tomamos muy en serio la seguridad de nuestros usuarios y seguimos a\u00f1adiendo nuevas funciones de seguridad\u201d.<\/p>\n\n\n\n
La compa\u00f1\u00eda lament\u00f3 el fallecimiento del adolescente y comparti\u00f3 sus pol\u00edticas de seguridad para menores. (X: Character.AI)<\/figcaption><\/figure><\/div>\n\n\n\n
Junto a este mensaje, la plataforma comparti\u00f3 un documento en el que detalla las medidas de protecci\u00f3n vigentes para usuarios menores de 18 a\u00f1os<\/strong>, con el objetivo de prevenir interacciones inapropiadas y ofrecer una experiencia m\u00e1s segura para los adolescentes que acceden al servicio.<\/p>\n\n\n\n
\u201cNuestras pol\u00edticas no permiten contenido sexual no consensuado, descripciones gr\u00e1ficas o espec\u00edficas de actos sexuales, ni la promoci\u00f3n o representaci\u00f3n de autolesiones o suicidios. Estamos capacitando continuamente al modelo de lenguaje extenso (LLM) que impulsa a los personajes en la plataforma para que se adhieran a estas pol\u00edticas\u201d, asegur\u00f3 la compa\u00f1\u00eda en el comunicado.<\/p>\n\n\n\n
\u201cContinuaremos monitoreando e implementando nuevas pol\u00edticas y funciones seg\u00fan sea necesario\u201d, agregaron.<\/p>\n\n\n\n
![\"\"](\"https:\/\/www.infobae.com\/resizer\/v2\/VALTAX3XIBDNHH6MUAEZNBJMX4.png?auth=317975184c8e57b4565b9d224ddf99c22e2b63506a9cfecfba2e78efa3149f1a&smart=true&width=992&height=606&quality=85\" "\\"\\"")
![\"\"](\"https:\/\/www.infobae.com\/resizer\/v2\/RBGURVMBQZCSJG4MKIOKXXCAJI.jpg?auth=e7a44122a140e1bcf53976c588e877e3156a02437306d1140103c08fb480ff58&smart=true&width=992&height=558&quality=85\" "\\"\\"")
![\"\"](\"https:\/\/www.infobae.com\/resizer\/v2\/UZ74OWRRKNG4LKL65DXYHYUWZM.png?auth=091ab83e4192df2ac4e98ec19c3019adc205ee707a94d1d4f597ac07cfad7569&smart=true&width=992&height=606&quality=85\" "\\"\\"")
![\"\"](\"https:\/\/informante.mx\/wp-content\/uploads\/2023\/08\/Banner-Telegram-Verde-800x60-1.png\" "\\"\\"")
<\/a><\/figure><\/div>\n\n\n\n![\"\"](\"https:\/\/informante.mx\/wp-content\/uploads\/2023\/08\/Banner-Facebook-Verde-800x60-1.png\" "\\"\\"")
<\/a><\/figure><\/div>\n\n\n\n![\"\"](\"https:\/\/informante.mx\/wp-content\/uploads\/2023\/08\/Banner-Twitter-Verde-800x60-1.png\" "\\"\\"")
<\/a><\/figure><\/div>\n\n\n\n