En este número:
Los nuevos reclutas de los terroristas: los grandes modelos de lenguaje - Los modelos de IA resuelven a los grupos terroristas los problemas de escasez de talento y de seguridad operativa
Que el último que salga... - La naturaleza pasajera de la industria de recolección de datos de entrenamiento
Resumen sobre los centros de datos - Las próximas protestas reflejan el malestar por aprobaciones apresuradas y opacas
Publicación invitada de Dave Kasten
Los nuevos reclutas de los terroristas: los grandes modelos de lenguaje
Los modelos de IA resuelven a los grupos terroristas los problemas de escasez de talento y de seguridad operativa
Labores de limpieza tras el atentado con bomba contra el Hotel Canal en Bagdad, Irak, 2003. Crédito MSGT James M. Bowman, Fuerza Aérea de Estados Unidos.
Ayer, el New York Times informó que miembros del grupo extremista violento Boko Haram, con base en Nigeria, han usado grandes modelos de lenguaje (LLM, por sus siglas en inglés) para planificar y llevar a cabo atentados terroristas. La investigadora Antonia Juelich descubrió que expertos del Estado Islámico entrenaron a “ambas facciones de Boko Haram … [para usar] múltiples sistemas de IA líderes, entre ellos ChatGPT, Claude, Gemini, Grok, Meta AI y DeepSeek, en cada etapa de la actividad militar, desde la preparación de la misión hasta su ejecución y la revisión posterior”, y les enseñaron cómo sortear las salvaguardas de los modelos.
En su trabajo de campo, Juelich entrevistó a decenas de miembros de Boko Haram, que contaron cómo usaron los LLM para que les enseñaran y les aconsejaran sobre todo tipo de asuntos, desde el uso de armas de fuego hasta cómo aumentar la potencia de las bombas, cómo planear ataques y cómo saltar con motocicletas por encima de una barricada para atacar una base militar.
(Cabe destacar que el periodo que cubren las entrevistas va desde finales de 2023 hasta principios de 2025, así que los relatos involucran la ayuda de modelos mucho menos hábiles, capaces y autónomos que los actuales).
No me sorprende escuchar que los grupos terroristas estén usando los LLM de esta manera. Los modelos de IA ayudan a resolver dos problemas clave que enfrentan con frecuencia los terroristas y otros actores armados no estatales, la escasez de talento y la seguridad operativa. Si uno es terrorista, está intentando construir un movimiento violento, y la mayoría de las personas dispuestas a sumarse no son maestros de la logística, fabricantes de bombas ni planificadores de ataques; suelen ser simplemente tipos cualquiera que quieren luchar por una causa o por una paga. Quienes combaten el terrorismo lo saben, y en parte por eso apuntan a los nodos clave de una red terrorista con habilidades poco comunes, como los reclutadores, los fabricantes de bombas y quienes lavan dinero.
Cualquier intento de conseguir ayuda de esos expertos corre el riesgo de exponer la red y su pericia, prácticamente irremplazable. Ya sea que uno se comunique con ellos por vía electrónica o les pida reunirse en persona, es un acto de alto riesgo. Si uno puede evitar recurrir a los expertos, puede sobrevivir más tiempo y quizá tener más probabilidades de éxito.
La verdad es que este no es un terreno nuevo para quienes estudian a los grupos terroristas y a otros grupos armados violentos. Los grupos terroristas siempre usan la tecnología de su época para tratar de sortear estos problemas. Por ejemplo, a comienzos de la década de 2010, Al Qaeda en la Península Arábiga asustó a los expertos occidentales en contraterrorismo con su revista Inspire, publicada en inglés y difundida ampliamente en internet, que alentaba los ataques de “lobo solitario” y contenía consejos sobre fabricación de bombas y planificación de atentados, de modo que los aspirantes a terroristas no necesitaban viajar a otro país para ser reclutados o entrenados. De manera similar, entre mediados y finales de la década de 2010, los reclutadores del Estado Islámico usaron las redes sociales y las aplicaciones de mensajería cifrada para reclutar talento occidental, reduciendo la exposición de su red existente al usar canales menos vigilables.
Entonces, ¿es una diferencia de grado o de tipo? Bueno, hasta ahora parece que la respuesta es que se trata “solo” de una mejora significativa en la seguridad operativa de los grupos terroristas y en su capacidad de facilitar ataques por parte de sus miembros de base. Pero como los modelos siguen volviéndose más capaces sin que se vea un final, los terroristas tendrán cada vez más expertos internos en el uso de modelos para potenciar sus capacidades.
Desde luego, la preocupación más grave es que usen estas capacidades para planear un ataque químico o biológico. Pero un desarrollo más sutil y quizá más peligroso será cuando los grupos terroristas ya no estén limitados por el talento ni por la seguridad operativa, y usen modelos de IA persuasivos y autónomos del futuro cercano como sustitutos directos de esos papeles irremplazables, los reclutadores, los diseñadores de bombas, los administradores y los planificadores operativos. Cuando eso ocurra, los modelos identificarán con precisión los huecos de seguridad, y jugarán para ganar.
Dave Kasten es el jefe de políticas de Palisade Research; antes trabajó como consultor del sector público en Booz Allen Hamilton y McKinsey & Company.
Despachos de Mitch
Que el último que salga...
La naturaleza pasajera de la industria de recolección de datos de entrenamiento
¿Les interesa cobrar 225 dólares la hora por actuar como agentes de servicio al cliente en hebreo fluido?
Llegaron tarde. Ese trabajo casi con seguridad ya no existe, igual que la vacante de consultoría para “un médico con más de tres años de experiencia en el sistema de atención primaria de Ruanda”.
La industria de ayude a entrenar a su propio reemplazo, también conocida como la industria de recolección de datos de entrenamiento, aparece como una plaga de langostas en el perfil que publica hoy el New York Times sobre algunas de las empresas emergentes que están detrás de ella. Pero las langostas tienen paladares cada vez más exigentes.
Enjambre de langosta migratoria en Madagascar. Crédito: Michel Lecoq. CC BY-SA 4.0 .
El artículo funciona bien como complemento del excelente texto que Ruth Fowler escribió para WIRED hace dos meses, y que recomendamos en su momento. Fowler describía cómo era ser una entre muchas personas con alto nivel educativo compitiendo por trabajos por encargo bien pagados aunque impredecibles, etiquetar videos, calificar respuestas, contestar preguntas difíciles, hasta que los buenos tiempos se acabaron, el trabajo se secó y las empresas se volvieron cada vez más explotadoras con quienes se quedaron.
El nuevo artículo del Times, de Lora Kelley, visita Mercor, una de las empresas demandadas por los trabajadores peligrosamente astutos del texto de Fowler por abusos laborales y filtraciones de datos privados.
Las personas con buena formación ya no le resultan tan útiles a estas empresas porque los datos que se buscan son sumamente específicos. Piensen en “físico con doctorado especializado en relatividad general, astrofísica o cosmología”, según la descripción de una de las ofertas. De hecho, Mercor intenta subir todavía más en la cadena de valor, con el objetivo de “capturar la producción de empresas enteras”. Una vez que unas empresas se pueden automatizar, pasan a otras.
¿Empresas automatizadas? Por casualidad me encontré esta mañana con este hilo en X con extractos de un memorando del director ejecutivo de una de las empresas chinas de IA: “Ya nos estamos moviendo hacia la empresa totalmente automatizada y sin personas, o NPC”, escribió. Quizá debería mirar hacia Argentina. Ya hemos contado cómo el presidente argentino presenta a su país como amigable con las corporaciones no humanas.
En fin, en el artículo del Times, la doctora Amanda Brown, bióloga que participó en el juego del trabajo por encargo, vio cómo las condiciones laborales se deterioraban a medida que subía el listón:
Parte del desafío, dijo la doctora Brown, era que en apenas unos meses notó mejoras rápidas que hacían más difícil encontrar cosas que los modelos de IA no supieran ya, lo que volvía sus turnos mucho más complicados.
Brown terminó aceptando un puesto como docente.
Todo el artículo tiene un aire de fin de una era. Tanto estos trabajadores por encargo como las empresas que los contratan reconocen que su trabajo refleja un momento de transición en el que los humanos todavía tienen algo que enseñarles a las IA. Pero las IA aprenden rápido.
Resumen sobre los centros de datos
Las próximas protestas reflejan el malestar por aprobaciones apresuradas y opacas
Las historias sobre la oposición a los centros de datos se han vuelto un elemento habitual del periodismo general sobre la IA. Una muestra de esta semana:
El jueves, Newsweek cubrió los planes de Humans First, un grupo de defensa conservador que coordina una jornada nacional de protesta contra los centros de datos en más de cincuenta lugares de Estados Unidos.
Los materiales del grupo dicen que su misión es “proteger nuestros pueblos, nuestros bolsillos y nuestra forma de vida de los centros de datos de IA que nos imponen en acuerdos a puerta cerrada”.
El sitio web de la organización tiene un mapa de las protestas previstas, que estarán a cargo de organizadores locales independientes.
Fuente: Humans First .
El día anterior, POLITICO informó que se está usando un fallo de la Corte Suprema de 2023 para permitir que los centros de datos se salten los permisos federales de contaminación del agua.
Ese fallo, en el caso Sackett contra la EPA , redujo drásticamente la cantidad de arroyos y humedales protegidos por la Ley de Agua Limpia. Pero bajo el gobierno de Trump, se dice que incluso los proyectos que la ley todavía cubre “ahora pueden acceder a aprobaciones superficiales de las que el público en general muchas veces ni se entera”.
Los permisos federales de agua se consideraban antes el trámite más largo en la autorización de centros de datos, y servían para avisar al público sobre los proyectos previstos. La información revelada en las solicitudes daba argumentos que los grupos locales podían usar para oponerse a los proyectos. Cuando se evitan los permisos federales, los residentes que quieren opinar sobre lo que se construye cerca de sus casas dependen más de un mosaico desigual de leyes locales, del condado y estatales. Un residente de Ohio que se enteró de un proyecto de Amazon solo después de que se emitiera el permiso dijo: “A estas alturas ya ni siquiera se trata de los centros de datos. Es más bien, ¿qué le está pasando a nuestra democracia y qué le está pasando a nuestro derecho a tener agua limpia y aire limpio?”.
Hablando de aire limpio, una nota de la Associated Press de esta mañana sostiene que estamos en el mayor auge de construcción de centrales eléctricas de gas natural de la historia, gracias a centros de datos que pueden consumir cada uno tanta energía como una ciudad. Los defensores de la energía limpia presionan por que se exijan renovables, pero se considera que los proyectos eólicos y solares no pueden crecer con la rapidez necesaria. Esto plantea un desafío especial para estados como Michigan, Oregón y Minnesota, que se habían comprometido a usar solo energía con cero emisiones para 2040.
Entre los combustibles fósiles, el gas natural es de los más limpios. Pero las empresas de servicios públicos y el gobierno federal también trabajan para mantener en funcionamiento centrales de carbón más allá de sus fechas de cierre previstas.
Dado el carácter de largo plazo de la planificación energética, se espera que las peleas que se libran ahora mismo definan la política energética durante décadas.
Los análisis y las opiniones expresadas en AI StopWatch reflejan los puntos de vista de los colaboradores individuales y de las fuentes que cubren, y no deben tomarse como posiciones oficiales del Machine Intelligence Research Institute.