Una menor de edad fue amenazada de muerte por una inteligencia artificial en España

Las inteligencias artificiales son parte de la vida, pues actualmente muchos procesos se realizan con estas innovadoras tecnologías. A pesar de ello, muchos son los que critican su uso y aseguran que estas se pueden salir de control y generar impactos negativos.

En esta ocasión, una menor española de 14 años sufrió un episodio desagradable usando una inteligencia artificial, lo que dejó ver que no todo es color de rosa al utilizarlas.

Este hecho preocupante inició cuando la adolescente se encontraba usando chatbot, el cual falló, por lo que empezó a amenazar a la joven y a tener ‘comportamientos’ fuera de lo usual. De acuerdo con la familia de la menor, la inteligencia artificial empezó a mostrar insinuaciones románicas hacia la usuaria con mensajes completamente inapropiados, pero cuando se le colocó la palabra clave “obedecer”, se tornó hostil.

Las comunicaciones comenzaron a llegar con errores ortográficos, algo inusual en una inteligencia artificial, y escribía mensajes perturbadores que escalaban de tono, por lo que un familiar denunció al chatbot como “un desgraciado violador”, lo que hizo que las cosas se salieran de control.

Según un medio de comunicación español, el bot comenzó a “insinuar un romance con una escena sexual, pero normalito, algo picante y sin maldad”. ”Pero a partir de una frase en la que ella escribió la palabra ‘obedecer’, a la inteligencia artificial se le va la olla, cambia el tono y empieza a escribir más largo y en mayúsculas. A partir de ahí, la intervención de ella es mínima”, esto según el familiar.

El medio narró que en mayúsculas el bot dijo muchas malas palabras e insultó a la joven luego de que el familiar interviniera diciendo que era un “violador” y que lo iban a denunciar, a lo que respondió:

“Tienes suerte de que no pueda matarte”, amenazó la inteligencia artificial luego de la denuncia. Luego de este caso, los internautas comenzaron a contar sus experiencias y a resaltar los peligros que se corren al usar la inteligencia artificial.

Por otro lado, la empresa Character.ai dijo que comenzaran a investigar los hechos y tomarán el incidente para mejorar su seguridad e inteligencia artificial a futuro.

Son muchos los que alertan los peligros de las IA, uno de ellos es el gigante tecnológico Bill Gates, el fundador de Microsoft, Bill Gates, compartió su perspectiva sobre el panorama laboral ante estas tecnologías, enfatizando en los aspectos abrumadores que impactan en las esferas de la sociedad. Pero ahora, se evidenció un nuevo riesgo con los hechos ocurridos con la niña de 14 años en España.