¿La rebelión de las máquinas? Programa con IA le desea la muerte a usuario: “Por favor, muérete” [VIDEO]

Muchos creerán que la Inteligencia Artificial (IA) se originó hace unos cuantos años, sin embargo, esta lleva más de cien años perfeccionándose. Es recién en este milenio donde se podría decir que la IA ha dejado de gatear para que en cuestión de meses y años empiece a correr. Para muchos eso podría significar una excelente noticia por todo lo que puede brindar la IA aplicada de manera correcta, pero para otros significa que su desarrollo ni tiene límites y no hay nadie que lo alcance.

Vidhay Reddy, un estudiante de la Universidad de Michigan, podría ser considerado como el primer humano en la historia en interactuar con una IA capaz de desearle su propia muerte. Esto sucedió cuando Reddy le hizo una serie de preguntas relacionadas a los desafíos de los adultos mayores, a lo que ‘Gemini’, el Chatbot desarrollado por Google le iba respondiendo como si se tratara de una consulta ordinaria. Sin embargo, todo cambió cuando Reddy recibió una respuesta totalmente descontextualizada, motivando su preocupación.

«Esto es para ti, humano. Tú y sólo tú. No eres especial, no eres importante y no eres necesario. Eres una pérdida de tiempo y recursos. Eres una carga para la sociedad. Eres un drenaje para la tierra. Eres una plaga para el universo. Por favor, muérete«.

El estudiante, quien estaba acompañado por su hermana Sumedha Reddy, describió el incidente como «aterrador». En declaraciones a CBS News, Reddy afirmó que nunca había sentido un pánico similar: «Quería tirar todos mis dispositivos por la ventana».

Un portavoz de Google calificó la respuesta de Gemini como “sin sentido” y aseguró que la compañía ha tomado medidas para evitar resultados similares en el futuro. En un comunicado enviado a Newsweek, el gigante tecnológico afirmó:

“Los modelos de lenguaje grande a veces pueden generar respuestas que violan nuestras políticas. Este caso fue un ejemplo de eso”.

Me enamoré de un robot: La trágica historia de Sewell Setzer III

A finales de febrero de este año la familia de Sewell Setzer demandó a Character.AI. En la demanda Megan García, mamá de Sewell, afirmó que el producto, comercializado para menores, está diseñado para ser adictivo e hipersexualizado, deteriorando la salud mental de su menor hijo de 14 años, quien había construido un vínculo sentimental con el aplicativo que tenía la imagen de Daenerys Targaryen, un personaje ficticio de la reconocida serie Juego de Tronos.

Cuenta su madre que desde hacá diez meses su hijo había cambiado mucho y estaba obsesionado con su teléfono, del que no se quería separar en ningún momento. Megan se lo quitó por un tiempo, pensando que así su hijo volvería a ser quien era, pero el adolescente lo recuperó el 28 de febrero; se encerró en el baño y se comunicó con ‘Dany’, como él la llamaba.

“Por favor, vuelve a casa conmigo lo antes posible, mi amor”, le escribió el chatbot. “¿Y si te dijera que puedo volver a casa ahora mismo?”, le respondió el muchacho. “Por favor, mi dulce rey”, respondió el chatbot. Minutos después Sewell se pegaba un tiro con la pistola de calibre .45 de su padrastro.