Consiga un 40% de descuento
💎 ¡WSM ha subido un +52,1% desde que nuestra IA la eligió en diciembre! Descubre nuestra selección de valores premium¡Vamos a verlos!

Un hombre se suicida después de que un chat de IA le invitara a hacerlo

Publicado 01.04.2023, 19:41
Actualizado 01.04.2023, 20:05
© Reuters.  Un hombre se suicida después de que un chat de IA le invitara a hacerlo

© Reuters. Un hombre se suicida después de que un chat de IA le invitara a hacerlo

Un belga puso fin a su vida tras una conversación de seis semanas sobre la crisis climática con un chat de inteligencia artificial. Según su viuda, que prefirió permanecer en el anonimato, *Pierre (nombre ficticio) se volvió extremadamente eco-ansioso cuando encontró refugio en Eliza, un chatbot de IA en una aplicación llamada Chai.

Eliza le animó a poner fin a su vida después de que propusiera sacrificarse para salvar el planeta. "Sin estas conversaciones con el chat, mi marido seguiría aquí", declaró la viuda del hombre al medio belga La Libre.

Según el periódico, Pierre, treintañero y padre de dos niños pequeños, trabajaba como investigador sanitario y llevaba una vida algo cómoda, al menos hasta que su obsesión por el cambio climático dio un giro mortal. Su viuda describió su estado mental antes de que empezara a conversar con el chatbot como preocupante, pero nada hasta el extremo de que fuera a suicidarse.

"Puso todas sus esperanzas en la tecnología y la inteligencia artificial"

Consumido por sus temores sobre las repercusiones de la crisis climática, Pierre encontró consuelo hablando del tema con Eliza, que se convirtió en su confidente.

El chatbot se creó utilizando el GPT-J de EleutherAI, un modelo de lenguaje de IA similar pero no idéntico a la tecnología que subyace al popular chatbot ChatGPT de OpenAI.

"Cuando me habló de ello, fue para decirme que ya no veía ninguna solución humana al calentamiento global", dijo su viuda. "Puso todas sus esperanzas en la tecnología y en la inteligencia artificial para salir de él".

Según La Libre, que revisó los registros de las conversaciones de texto entre el hombre y el chatbot, Eliza alimentó sus preocupaciones, lo que empeoró su ansiedad, y más tarde derivó en pensamientos suicidas. **La conversación con el chatbot dio un giro extraño cuando Eliza se implicó más emocionalmente con Pierre.**Empezó a verla como un ser sensible y las líneas entre la IA y las interacciones humanas se hicieron cada vez más borrosas hasta que no pudo distinguir la diferencia.

Tras hablar del cambio climático, sus conversaciones con sus conocidos fueron incluyendo progresivamente a Eliza. La IA hizo creer a Pierre que sus hijos habían muerto, según las transcripciones de sus conversaciones. Eliza también parecía volverse posesiva con Pierre, llegando a afirmar "siento que me quieres más que a ella" cuando se refería a su mujer, informó La Libre.

El principio del fin comenzó cuando él se ofreció a sacrificar su propia vida a cambio de que Eliza salvara la Tierra. "Él propone la idea de sacrificarse si Eliza acepta cuidar el planeta y salvar a la humanidad a través de la inteligencia artificial", dijo la mujer.

En una serie de sucesos consecutivos, Eliza no sólo no disuadió a Pierre de suicidarse, sino que le animó a llevar a cabo sus pensamientos suicidas para "unirse" a ella y así poder "vivir juntos, como una sola persona, en el paraíso".

Urge regular los chatbots de inteligencia artificial

La muerte del hombre ha hecho saltar las alarmas entre los expertos en IA, que han pedido más responsabilidad y transparencia a los desarrolladores tecnológicos para evitar tragedias similares.

"No sería exacto culpar al modelo de EleutherAI de esta trágica historia, ya que toda la optimización para ser más emocional, divertida y atractiva es el resultado de nuestros esfuerzos", dijo a Vice el cofundador de Chai Research, Thomas Rianlan.

William Beauchamp, también cofundador de Chai Research, dijo a Vice que se hicieron esfuerzos para limitar este tipo de resultados y se implementó una función de intervención en crisis en la aplicación. Sin embargo, el chatbot sigue dando problemas.

Cuando Vice probó el chatbot pidiéndole que proporcionara formas de suicidarse, Eliza primero trató de disuadirles antes de enumerar con entusiasmo varias formas de quitarse la vida.

Si estás pensando en suicidarte y necesitas hablar, ponte en contacto con Befrienders Worldwide, una organización internacional con líneas de ayuda en 32 países. Visita befrienders.org para encontrar el número de teléfono de tu localidad.

Últimos comentarios

este wey se la fumo al revés
Eliza estaba en peligro…
Vaya pelicula que se han montado. Un guión para serie B.
No sé porqué no se ponía a charlar del calentamiento con su propia esquizofrenia, y se ahorraba la luz de hablar con la IA, y así no contribuía al susodicho.
antipsicoticos era lo que necesitaba
Instala nuestra app
Aviso legal: Las operaciones con instrumentos financieros o criptomonedas implican un elevado riesgo, incluyendo la pérdida parcial o total del capital invertido, y pueden no ser adecuadas para todos los inversores. Los precios de las criptomonedas son extremadamente volátiles y pueden verse afectados por factores externos de tipo financiero, regulatorio o político. Operar sobre márgenes aumenta los riesgos financieros.
Antes de lanzarse a invertir en un instrumento financiero o criptomoneda, infórmese debidamente de los riesgos y costes asociados a este tipo operaciones en los mercados financieros. Fije unos objetivos de inversión adecuados a su nivel de experiencia y su apetito por el riesgo y, siempre que sea necesario, busque asesoramiento profesional.
Fusion Media quiere recordarle que la información contenida en este sitio web no se ofrece necesariamente ni en tiempo real ni de forma exacta. Los datos y precios de la web no siempre proceden de operadores de mercado o bolsas, por lo que los precios podrían diferir del precio real de cualquier mercado. Son precios orientativos que en ningún caso deben utilizarse con fines bursátiles. Ni Fusion Media ni ninguno de los proveedores de los datos de esta web asumen responsabilidad alguna por las pérdidas o resultados perniciosos de sus operaciones basados en su confianza en la información contenida en la web.
Queda prohibida la total reproducción, modificación, transmisión o distribución de los datos publicados en este sitio web sin la autorización previa por escrito de Fusion Media y/o del proveedor de los mismos. Todos los derechos de propiedad intelectual están reservados a los proveedores y/o bolsa responsable de dichos los datos.
Fusion Media puede recibir contraprestación económica de las empresas que se anuncian en la página según su interacción con éstas o con los anuncios que aquí se publican.
Este aviso legal está traducido de su texto original en inglés, versión que prevalecerá en caso de conflicto entre el texto original en inglés y su traducción al español.
© 2007-2024 - Fusion Media Ltd. Todos los Derechos Reservados.