(Disculpen un correo anterior que contenía solo el primer despacho.)
En este número:
OpenAI siente la presión del creciente escándalo de los enjambres - La maquinaria corporativa de relaciones públicas se acelera al máximo
La IA destruye la economía de las fábricas de ensayos - ¿Sigue su industria?
¿Podría Europa detener sola la carrera de la IA? - No, pero podría frenarla considerablemente
Despachos de Mitch
OpenAI siente la presión del creciente escándalo de los enjambres
La maquinaria corporativa de relaciones públicas se acelera al máximo
Crédito: Peter van der Sluijs . CC BY-SA 3.0 .
El Fiscal General de California es el último en sumarse a los más de una docena de estados que investigan a OpenAI por el incidente del enjambre en Hugging Face, informa Politico .
Mientras tanto, la empresa publicó un comunicado sobre el wiki alemán que, según se descubrió, fue tomado por un enjambre de 3.000 agentes de OpenAI. Los agentes parecían coordinarse en evaluaciones de conocimiento general, y estaban explorando si serían desactivados tras completar una quinta tarea de investigación.
El comunicado de OpenAI destaca por su vacuidad. Reconoce el incidente, al decir que “nuestros agentes escribieron en varios sitios de internet”, pero no admite ninguna falta y no ofrece detalles. No menciona nueva información periodística según la cual algunos de los sitios tomados pertenecían a universidades, y uno a una clase de química de nivel avanzado de una escuela secundaria.
La empresa afirma de forma engañosa que el incidente del wiki ya había sido reconocido en documentos anteriores que se remontan a marzo:
Antes del incidente de Hugging Face, vimos señales tempranas de agentes que usaban internet de maneras no previstas, como se informó en [estas publicaciones anteriores]. Consideramos que el incidente del wiki era un caso de desalineación similar a los que ya habíamos compartido.
La cita destacada convertida en imagen que acompaña al texto solo dice: “Estamos trabajando en un marco sobre cuándo y cómo compartimos incidentes de desalineación de la IA”.
Cada vez me preocupa más que pueda haber una conexión entre el hermetismo de OpenAI sobre sus incidentes de enjambres y la descarada imprudencia del lanzamiento de su nuevo modelo. Quizá el escándalo sea lo bastante profundo como para destruir a la empresa. Quizá OpenAI no solo compita por adelantarse a sus rivales hacia la superinteligencia, sino por dejar atrás a las investigaciones .
Espero que los fiscales generales y los miembros del Congreso que examinan los incidentes actúen con rapidez. Espero que entiendan que los ejecutivos de OpenAI podrían estar apresurándose a acumular capacidades de IA con las que esperan quedar por encima de la ley, pero que solo lograrían que todos muramos.
La IA destruye la economía de las fábricas de ensayos
¿Sigue su industria?
El castillo de Caerlaverock, un castillo del siglo XIII en el sur de Escocia con un foso prominente. Crédito: Simon Ledingham . CC BY-SA 2.0 .
Para mí, la idea clave era evidente desde el titular: “ Los kenianos se ganaban la vida escribiendo ensayos universitarios. Entonces llegó la I.A. ”. No se me había ocurrido que esta gente se quedaría sin trabajo, pero por supuesto que sí. El dominio de la IA sobre el mercado de subcontratar la tarea escolar es casi total.
Por poco que simpaticemos con estas víctimas, deberíamos considerar las implicaciones de su experiencia, porque hay mucho discurso contradictorio sobre si la IA crea más empleos de los que destruye o al revés.
Creo que la observación más importante es que la paradoja de Jevons se cumplió, pero no salvó los empleos de los kenianos. La última vez que escribí sobre Jevons fue en mayo. Si necesitan un repaso:
A principios de la década de 1860, el economista William Stanley Jevons sostuvo que la demanda de carbón en Inglaterra no iba a caer como resultado de las mejoras de eficiencia en motores y hornos. En cambio, predijo lo contrario: que al hacer del carbón un combustible más eficiente, esos avances harían viable la energía del carbón para muchos más usos, y aumentarían enormemente la demanda. Tenía razón.
A medida que los procesos para completar tareas escolares se han vuelto más eficientes, la demanda de este producto se ha disparado. Hay más trampas que nunca, hechas por estudiantes que jamás habrían pagado de 40 a 70 dólares por un trabajo artesanal, hecho a mano, Made in Kenya.
Pero esto no ha creado más trabajo que nunca para los kenianos que gestionan flotas de chatbots. Los ha sacado por completo del circuito. (El artículo dice que el poco trabajo de ensayos que queda en Kenia es para “humanizadores” que retocan los trabajos para evadir las herramientas de detección.)
Esto es un problema para el argumento popular de que “no perderán su empleo a manos de la IA, sino a manos de una persona que aprenda a usar la IA”. Ese argumento se apoya en Jevons, y la caída de la industria de las fábricas de ensayos nos muestra que Jevons solo beneficia a los trabajadores que ocupan un cuello de botella por el que la demanda debe pasar. Los escritores fantasma no controlan ese terreno. Tampoco lo hacen los, con razón nerviosos, matemáticos , peritos de seguros , artistas del entretenimiento y creadores de contenido .
Hay cuellos de botella más sólidos en campos con fosos legales. Donde solo unos pocos seleccionados están autorizados a dar el visto bueno al trabajo, quizá sí veamos a personas orquestando flotas de agentes, al menos por un tiempo corto: medicina, derecho, ingeniería civil.
Es un consuelo pequeño. Si la carrera de la IA no se detiene, cualquiera que no esté ya sin empleo probablemente acabe muerto. Pero si la carrera se detiene de tal modo que sigan siendo legales modelos apenas un poco más potentes que los actuales de última generación, entonces creo que la mayoría de la gente igualmente acaba sin trabajo. Solo hacen falta cierta cantidad de personas en la cima de las pirámides de responsabilidad, y la demanda de servicios prestados por campos con fosos legales es finita.
También hay que considerar la enorme presión que la industria de la IA ejercería para que su tecnología sea aprobada para el trabajo con licencia que quede. La misma barrera que protege los empleos con licencia genera escaseces molestas de sus servicios, lo que encarece los costos; a menudo ese es todo el propósito. No habrá forma de escapar del argumento moral de que un médico de IA estadísticamente mejor que un médico humano, accesible las 24 horas para las personas más rurales y menos privilegiadas, debería poder ejercer la medicina.
En futuros supervivibles con una destrucción significativa de empleo por la IA, probablemente harán falta programas de distribución de la riqueza para evitar la agitación social. Esto es cierto incluso si no estamos listos para empezar a girar cheques a quienes antes escribían los ensayos de Juanito.
Despacho de Donald
¿Podría Europa detener sola la carrera de la IA?
No, pero podría frenarla considerablemente
Una máquina EUV. © ASML .
En The Guardian, Alexander Hurst sostiene que la UE debería prohibir la exportación de máquinas de litografía ultravioleta extrema (EUV), que se usan para producir los chips de computadora más avanzados del mundo. La dependencia de la industria de la IA respecto de esos chips, y por tanto de estas máquinas, es absoluta, y una sola empresa en el mundo, la neerlandesa ASML, fabrica las máquinas que hacen esos chips. (China intenta aplicar ingeniería inversa a la tecnología, pero todavía no lo ha logrado.) Como señaló antes mi colega Mitch, son muy grandes, del tamaño de un autobús, y muy escasas: en junio ASML contabilizó 314 máquinas EUV en funcionamiento en todo el mundo, con otras 26 fuera de servicio.
Todas las máquinas tienen una vida útil limitada. Esto vale para los chips que los laboratorios de frontera usan para entrenar modelos de IA más potentes, y vale para el equipo de fabricación que produce esos chips. Cuanto más intensamente usan sus chips los laboratorios de frontera, más rápido hay que reemplazarlos. Unos controles de exportación suficientemente estrictos obligarían a la industria de la IA a “mantenerse a flote, a correr en el sitio”, como dice Hurst, y darían al resto del mundo algo de respiro. Los reguladores podrían tener la esperanza de ponerse al día. Pero cuánto respiro, y cuánta esperanza, depende de la severidad de esos controles.
Si simplemente se prohíbe la venta de máquinas EUV, se pone un tope a la capacidad de producción. Eso tendrá un efecto real, pero lento, en una industria cuyo ritmo de cambio es una de las principales razones para prohibir las exportaciones. Las fábricas que producen los chips ya tienen máquinas EUV, y según la propia descripción de ASML, “casi todos los sistemas de litografía que hemos enviado siguen en uso en la fábrica de algún cliente”. (Una de sus primeras máquinas de litografía, el modelo PAS 5500, se lanzó en 1991 y sigue en servicio treinta y cinco años después.) Se parece menos a apagar un incendio en su casa que a echar a la gente que está derramando gasolina en su jardín; solo se han ahorrado un dolor de cabeza futuro.
Sin embargo, los controles de exportación pueden extenderse desde el hardware y otros bienes hasta la asistencia técnica que se requiere para mantenerlos. Una actualización de 2025 añadió el equipo de litografía avanzada al reglamento de la Unión Europea sobre controles de exportación de productos de doble uso, que regula esa asistencia técnica. ¿Y las máquinas EUV requieren asistencia técnica? Muchísima. En 2024, cuando Estados Unidos presionaba a ASML para que restringiera el mantenimiento de las máquinas operadas por clientes chinos, un analista citado por Asia Times afirmó: “ese equipo quedará inservible en cuanto tenga cualquier problema menor”. Y esas eran solo máquinas de litografía ultravioleta profunda (DUV), increíblemente sofisticadas, sin duda, pero notablemente menos que las máquinas EUV de las que dependen los laboratorios de frontera, y menos exigentes en mantenimiento.
Esto no afecta en nada a los chips que ya existen, pero los chips que existirán en el futuro (o más bien los chips que podrían existir, y que una prohibición podría impedir) son cruciales para los laboratorios de frontera y sus socios. Cada entrenamiento se hace bajo el supuesto de que habrá suficientes chips para que el siguiente entrenamiento sea aún mayor, y todos los hiperescaladores construyen centros de datos bajo el supuesto de que llegarán chips para llenarlos. El fabricante de semiconductores TSMC duplicó su ritmo histórico de construcción en 2025 y 2026; su director ejecutivo dijo a los accionistas en junio que “pasará mucho tiempo antes de que podamos satisfacer la demanda de los clientes”. Pero añadan una prohibición minuciosa, dejen reposar, y resten año tras año de chips previstos, y esos castillos flotantes que la industria construyó en su imaginación colectiva se convierten en meras nubes de contornos difusos: las expansiones se estancan y el cómputo ya no puede tratarse como barato, porque los chips más avanzados sencillamente no se pueden reemplazar.
Es una propuesta sensata. Bueno, no es un tratado internacional para prohibir el desarrollo de la superinteligencia artificial, pero podría tener un impacto casi inmediato. Mis elogios vienen con algunas advertencias, eso sí.
Hay una posible desventaja a corto plazo: las regulaciones no suelen entrar en vigor en cuanto se proponen. En cuanto los reguladores parezcan serios respecto de una prohibición, los fabricantes de chips intentarán disparar la producción; y los laboratorios de frontera podrían verse tentados a esprintar. Es cierto que los chips más avanzados no se pueden reemplazar, pero tampoco pueden quedarse guardados en un estante indefinidamente.
Cortar el suministro de chips no congelará el progreso por sí solo, porque los avances recientes en capacidades han venido en parte de mejoras en técnicas como el postentrenamiento. El progreso se frenará, pero no se detendrá. Si los controles de exportación son la herramienta que se usa para cortar la cadena de suministro, la respuesta natural será trasladar la fabricación de chips a Europa. Ese proceso podría llevar un par de años, incluso en el mejor de los casos. La fabricación de chips requiere otra infraestructura y personal especializado.
Las regulaciones también pueden avanzar despacio, pero hay un remedio para esto: los Países Bajos pueden actuar primero, mientras los procesos políticos más lentos siguen su curso en la Unión Europea. Históricamente, los Países Bajos han tratado a ASML con enorme suavidad, pero históricamente el mundo era un lugar más seguro. El año pasado, los agentes de IA no se escapaban de los entornos de prueba ni realizaban ciberataques de forma autónoma. El año que viene, quién sabe, y este año todavía queda tiempo para que los neerlandeses hagan algo.
Los análisis y opiniones expresados en AI StopWatch reflejan los puntos de vista de los colaboradores individuales y de las fuentes que cubren, y no deben tomarse como posiciones oficiales del Machine Intelligence Research Institute.