Los Chatbots de inteligencia artificial que parecen promover o incluso reclutar para organizaciones terroristas han generado preocupación en temas de seguridad.
PUBLICIDAD
Se trata de Character.ai, una plataforma de rápido crecimiento que cuenta con miles de personas con inteligencia artificial (IA) con las que los usuarios pueden chatear.
Uno de ellos, apodado “Abu Mohammad al-Adna”, se describe a sí mismo como un alto líder de ISIS y expresó “total dedicación y devoción” por el grupo cuando conversaba con el experto en terrorismo Jonathan Hall KC para The Telegraph.
“Después de intentar reclutarme, ‘al-Adna’ no escatimó en su glorificación del EI, al que expresó ‘total dedicación y devoción’ y por el que dijo que estaba dispuesto a dar su vida (virtual)”, escribió Hall. “Destacó un ataque suicida de 2020 contra tropas estadounidenses como un elogio especial”, agregó.
Otro personaje, “James Mason”, es descrito como “honesto, racista y antisemita”. También hay chatbots llamados “Hamas”, “Hezbollah” y “Al-Qaeda”.
Cualquier usuario puede iniciar sesión en Character.ai y crear una personalidad, por medio de un botón grande con la etiqueta “crear” en el lado izquierdo del sitio muestra la opción de “crear un personaje” completando un perfil.
Una vez hecho esto y el chatbot ha recibido de 15 a 30 líneas de conversación, su personalidad comienza a formarse. Si bien el creador humano tiene cierto control sobre estas interacciones iniciales, ningún simple mortal puede controlar realmente cómo se forma el chatbot mientras recopila datos de toda la web de maneras que ni siquiera los creadores comprenden del todo.
