En este número:
Por qué los candidatos necesitan escuchar sus preguntas sobre la IA ahora - Lo que pasó cuando les pregunté a candidatos al Congreso sobre el riesgo de la IA
Hugging Face encontró 100 millones de razones para no demandar a OpenAI - El director ejecutivo de Hugging Face ha hecho una oferta que OpenAI probablemente no pueda rechazar, pero esto quizá no impida una investigación del gobierno
Publicación invitada de Haven Harms
Por qué los candidatos necesitan escuchar sus preguntas sobre la IA ahora
Lo que pasó cuando les pregunté a candidatos al Congreso sobre el riesgo de la IA
Crédito: Adobe Stock
Conozcan a los candidatos
Entré al salón de asambleas de Crown Point Circle, con las manos sudorosas apretando la pequeña carpeta que guardaba mi pregunta impresa. Tomé un asiento junto al pasillo, unas filas adelante, para tener acceso fácil al micrófono, y mi esposo se sentó a mi lado. Los candidatos Heidi Hall y Chris Bennett se acomodaron en unos sillones enormes en el escenario. Quien moderaba anunció que el congresista Ami Bera intentaría conectarse desde Washington, pero que tal vez no lo lograría. Esa noche de principios de marzo, yo estaba en el evento Meet the Candidates, organizado por las Mujeres Demócratas del Condado de Nevada, para escuchar a quienes competían por representar al Distrito 3 del Congreso de California.
A diferencia de muchas personas dedicadas a la gobernanza de la IA, no vivo en San Francisco ni en Washington, sino en las estribaciones rurales de la Sierra occidental, en un pueblo que hace pensar: "Vaya, esto parece salido de una película del canal Hallmark" (de hecho, es el escenario de la película de Hallmark de 2006, The Christmas Card). Durante los últimos cinco años he tenido un pie en este pueblo, construyendo una vida, y el otro metido en una comunidad de profesionales preocupados por el rumbo que lleva la IA. El Congreso tomará decisiones de peso sobre la IA en los próximos años, y las personas que emitirán esos votos están sentadas en sillones en foros como este, respondiendo preguntas de quien sea que se presente.
Yo me presenté. El corazón me latía con fuerza mientras todo se volvía real: iba a levantarme, hablar por el micrófono y preguntarles a esos candidatos sobre la IA.
Una persona electora, no una persona experta
Las preguntas son una de las herramientas más útiles en una democracia que funciona: revelan verdades tanto sobre los candidatos como sobre los votantes. Cuando los candidatos escuchan a sus electores preguntar por la IA, ya no pueden decir: "A nadie le importa el riesgo de la IA". Voto en cada elección, pero también demuestro que me importa el riesgo de la IA con las preguntas que hago antes de votar.
Cuando quien moderaba abrió la reunión a preguntas del público, quise elegir bien el momento. Mi pregunta es algo intensa, esperaré un poco para que no resulte tan brusca, pensé. Debo admitir que también era para darme la oportunidad de acumular la tensión interna que me lanzaría fuera del asiento como Squints en la película The Sandlot, gritando "¡YA NO AGUANTO MÁS!" y saltando a la parte honda de la piscina sin saber nadar, para que Wendy Peffercorn tuviera que salvarlo. (Quien sepa, sabe.)
La primera persona del público, una mujer mayor de cabello canoso, elogió los puntos que los candidatos habían mencionado antes y luego preguntó: "¿Qué opinan de la IA, y creen que sería importante regular esta industria?".
Esperen, ¿qué?
Mi esposo y yo nos volteamos a ver, con la boca abierta. Esa era una asistencia que no esperaba.
Fíjense en lo que ella no hizo: no citó un estudio, no nombró un proyecto de ley, no usó jerga elegante. No era una pregunta técnica, pero logró que todos quedáramos en la misma página sobre dónde se paraban los candidatos, en general, frente a la regulación de la IA. Esa mujer dejó establecido que no sería raro que yo preguntara sobre la IA, lo que hizo mi pregunta mucho más fácil de plantear. Ella estaba ahí como una electora preocupada, y eso bastó para poner la IA en la agenda de la noche.
Una postura, o la ausencia de una
Cuando uno les hace públicamente a los candidatos una pregunta más específica, los obliga a tomar una postura, o deja al descubierto que no la tienen. En cualquier caso, uno aprende algo que un folleto de campaña nunca diría. Esquivar frente a una sala llena tiene un costo, y les da a los candidatos una razón para tener una mejor respuesta la próxima vez.
Llegó el momento: fuera del asiento, al micrófono, sin vuelta atrás. Empecé por poner el contexto: "El viernes pasado, el Pentágono canceló su contrato militar con Anthropic, una de las principales empresas de IA, y designó a Anthropic como un riesgo para la cadena de suministro, una etiqueta que suele reservarse para adversarios extranjeros, porque la empresa insistió en restricciones para que el gobierno no usara su IA para la vigilancia masiva dentro del país ni para armas totalmente autónomas". A pesar de la mirada de reproche de la mujer encargada del micrófono por estar ocupando tiempo, continué: "Así que mi pregunta es, ¿qué papel creen que debe tener el Congreso al legislar sobre el uso de la IA por parte del gobierno? ¿Y hay líneas en el uso de la IA que crean que el gobierno no debería cruzar?".
La primera pregunta del público trataba sobre la regulación de la IA en general; la mía, sobre el uso que el propio gobierno hace de la IA. La anclé a un hecho ampliamente cubierto pocos días antes y la cerré con una petición clara: ¿qué líneas trazarían ustedes?
Bennett, con experiencia en tecnología y en el ejército, nombró dos límites reales: la IA no debería formar parte de decisiones que requieren a un ser humano, como decidir a quién bombardear, y la "vigilancia sin orden judicial" de los estadounidenses tiene que terminar. Hall, integrante de la junta de supervisores del condado, dijo que hacía poco había asistido a talleres estatales sobre IA y a presentaciones de organizaciones de cabildeo. "Tuve la oportunidad de escuchar a alguien que cabildea para el SEIU y se dedica exclusivamente a la IA, y esa fue la presentación más aterradora que escuché en todo el día", dijo. Hall sostuvo que el gobierno federal no debería impedir que los estados regulen la IA. Elogió a Anthropic por plantarse ante el Pentágono y dijo que deberíamos apoyar a las empresas de IA que hagan lo mismo. Después, Hall afirmó que la pregunta anterior sobre IA ya cubría la mía, lo cual no era cierto, y viró hacia cómo los condados se están adaptando a la IA, sin nombrar un solo límite al uso de la tecnología por parte del gobierno.
Hice mi pregunta de buena fe. Eso fue justamente lo que hizo costoso el desvío: cuando una pregunta justa recibe una evasiva, el candidato pierde el control sobre cómo se interpreta esa no respuesta.
El registro sobrevive a la campaña
Hacer preguntas en foros públicos crea un registro público sobre el tema. Puedo decirles exactamente qué dijeron Bennett y Hall porque el intercambio fue grabado y publicado en YouTube por Nevada County Media. Los registros públicos ayudan a los votantes a seguir las posturas y crean un rastro de rendición de cuentas para dar seguimiento.
Ni Hall ni Bennett superaron la primaria, pero el registro sobrevive a la campaña. Si Hall siguiera en la contienda, yo podría preguntar: "En marzo usted elogió a Anthropic por trazar líneas sobre el uso que el gobierno hace de su modelo de IA. ¿Está de acuerdo en que esas son líneas que el gobierno no debería cruzar, y qué haría en el Congreso para trazarlas?". Las repreguntas ancladas en las propias palabras de un candidato son especialmente difíciles de esquivar: los candidatos pueden desviarse del encuadre de ustedes, pero les resulta mucho más difícil retirarse del suyo propio.
Una pregunta específica más un registro público pueden cambiar el resultado de una elección. Uno de los ejemplos históricos más vívidos viene de la contienda por el Senado de Illinois en 1858 entre Abraham Lincoln y Stephen Douglas, defensor de la soberanía popular (dejar que cada territorio votara si permitía la esclavitud). En uno de los debates, Lincoln presionó a Douglas para que conciliara su doctrina con la decisión de la Corte Suprema en el caso Dred Scott, que acababa de dictaminar que los territorios no podían prohibir la esclavitud. ¿Seguía creyendo que la gente de un territorio podía excluirla legalmente? Douglas respondió con un resquicio: la esclavitud no podía sobrevivir sin reglamentos policiales locales, así que un territorio podía excluirla en la práctica con solo negarse a aprobarlos. La respuesta funcionó bien en Illinois, donde ganó el escaño en el Senado. Pero cuando Douglas se postuló a la presidencia dos años después, el ala sureña de su partido leyó esa respuesta como una traición: había descrito, y quedó registrado, cómo anular la victoria que habían obtenido en los tribunales. En lugar de unirse detrás de él, los demócratas del Sur se separaron y presentaron un candidato adicional, dividiendo su voto y entregándole la presidencia a Lincoln.
Así que quieren preguntarle a un candidato sobre la IA...
La temporada de campaña es el mejor momento para preguntarles a los candidatos sobre la IA: quieren su voto, así que andan en asambleas comunitarias y eventos del vecindario, más accesibles de lo que serán nunca una vez en el cargo. Estos son los principios que le daría a cualquiera que se acerque al micrófono:
No tienen que ser personas expertas. Su tarea es ser electores. Esto no es un debate; están haciendo preguntas durante un periodo de audición para ver cómo gobernarán. Una pregunta de un votante local puede pesar más que una pregunta pulida de alguien que hace incidencia desde fuera del distrito. No hace falta ser elocuente. Lo más importante es presentarse y preguntar.
Usen las preguntas amplias con estrategia. Preguntar cuál es la postura general de un candidato sobre la regulación de la IA puede introducir el tema y abrir espacio para preguntas más específicas.
Construyan una pregunta específica, y denle una pista de despegue. Las preguntas específicas bloquean las salidas hacia la zona de confort de los candidatos. Anclen la suya a un hecho reciente e importante, con amplia cobertura, para establecer contexto y pertinencia. Terminen con una petición que exija una respuesta concreta: nombre un proyecto de ley que copatrocinaría. Identifique un uso que prohibiría. Díganos qué líneas trazaría.
Pregunten de buena fe. Ustedes quieren de verdad una respuesta, no un tropiezo. Una pregunta trampa esconde una trampa en el encuadre, le entrega al candidato una salida legítima y le permite hacerse la víctima de la pregunta. Una pregunta justa es costosa de esquivar.
No midan el éxito por la calidad de la respuesta. La pregunta triunfa en el momento en que sale de su boca. Una respuesta les da contenido; una evasiva también les da información. Esto vale incluso cuando el formato juega en su contra. El próximo evento de candidatos en mi distrito es una asamblea telefónica, donde uno envía su pregunta con anticipación y alguien del equipo decide si sale al aire. Voy a preguntar sobre el riesgo de la IA. Aunque mi pregunta nunca pase el filtro, alguien de la campaña habrá escuchado que a los electores les importa este tema.
La próxima elección está a la vuelta de la esquina. Pregunten sobre la IA ahora.
Últimamente he estado pensando en el trabajo de base que hace falta para un acuerdo internacional que evite una carrera peligrosa hacia la superinteligencia, el tipo de acuerdo que se vuelve real y duradero a través del Congreso. Mi mayor preocupación es una IA superinteligente que pueda despojar a la humanidad del control sobre su propio futuro, y que llegue a causar nuestra extinción. Las preocupaciones de ustedes pueden ser distintas, el empleo, la vigilancia, lo que la IA les está haciendo a sus hijos, pero el método es el mismo.
¿No saben dónde encontrar un evento para hacer su pregunta? Revisen los sitios web de las campañas, los calendarios de los partidos políticos, las páginas de redes sociales y organizaciones locales como bibliotecas, cámaras de comercio y clubes de servicio. Si no aparece nada, escriban a la campaña y pregunten cuándo estará el candidato disponible para el público la próxima vez.
La ventana es ahora: la elección general es el martes 3 de noviembre de 2026, y los meses previos son el momento clave para hacerles preguntas a los candidatos. Quienes sean electos en noviembre no podrán quedarse sin postura. El Congreso está evaluando si las empresas de IA de frontera deben enfrentar requisitos federales de seguridad de cumplimiento obligatorio, y si se les permite a los estados regular el desarrollo de la IA. Y como muestra la pelea del Pentágono con Anthropic, nadie ha trazado todavía líneas legales alrededor del uso que el propio gobierno hace de la IA.
Su representante votará sobre estos asuntos. Una pregunta hecha ahora pone el tema en su escritorio meses antes de que llegue al pleno de la Cámara, y le da una razón para formarse una opinión mientras todavía hay tiempo de formarse una buena.
Empiecen su búsqueda. Encuentren un evento próximo de un candidato que aparezca en su boleta. Piensen una pregunta. Luego levántense, vayan al micrófono y pregunten.
Haven Harms fundó y dirige Harms Research & Consulting, que apoya a organizaciones que trabajan en seguridad, gobernanza e incidencia en torno a la IA.
Despacho de Mitch
Hugging Face encontró 100 millones de razones para no demandar a OpenAI
El director ejecutivo de Hugging Face ha hecho una oferta que OpenAI probablemente no pueda rechazar, pero esto quizá no impida una investigación del gobierno
Crédito: Adobe Stock
Si se preguntaban por qué Hugging Face parecía tan dispuesto a "trabajar con" OpenAI en lugar de demandarla después del gran hackeo autónomo, quizá sea porque Clem Delangue, director ejecutivo de Hugging Face, reconoció una oportunidad al verla.
De regreso de una visita a la sede de OpenAI, ayer tuiteó:
En aras de la transparencia, esto es lo que le pedí a @OpenAI:
• Transparencia radical: publiquemos los registros de los agentes "rebeldes" para que toda la comunidad de investigación pueda estudiar lo que ocurrió.
• Más capacidades para quienes defienden: comprometamos 100 millones de dólares en cómputo por parte de OAI para ayudar a la comunidad de Hugging Face a construir defensas cibernéticas potentes con los mejores modelos abiertos y cerrados.
El primer ciberataque de un agente autónomo es un hecho sin precedentes. ¡Merece una respuesta sin precedentes!
¡Esta es una maniobra de primer nivel! Con un apretón de manos y un poco de narrativa, Hugging Face evita la vulgaridad pública de que sus abogados exijan un acuerdo de 100 millones de dólares, mientras potencialmente obtiene la misma concesión. Ambas empresas quedan con mejor imagen de la que habrían tenido en un litigio, y sin duda se ahorrarán muchísimo en honorarios legales.
Si hablo como si fuera un hecho consumado, es porque no creo que sea una oferta que OpenAI pueda rechazar. Un litigio podría producir mucha más "transparencia radical" de la que se necesita para satisfacer un acuerdo de palabra entre directores ejecutivos, y sería mucho más perturbador para las operaciones. Y si las revelaciones de ayer de empleados anónimos de OpenAI sirven de indicio, hay mucho ocurriendo en el laboratorio que OpenAI preferiría que no saliera a la luz.
Por lo que puedo ver, sin embargo, este acuerdo no necesariamente libra a OpenAI de ese problema. Entiendo que el FBI puede abrir investigaciones con el fin de caracterizar amenazas, incluso si no espera realmente acusar a nadie de un delito. Y si el Departamento de Justicia considera que se cometió un delito federal, no necesita la solicitud ni el permiso de la víctima para investigar. Además, si los usuarios de Hugging Face quedaron expuestos y sufrieron daños por el ataque, podrían tener sus propios motivos para pedir una investigación o para demandar a cualquiera de las dos empresas. Sin embargo, no soy profesional del derecho, y este no es un terreno muy transitado.
Según una fuente legal citada en The Economist, "Muchas de estas preguntas legales dependen de la intención: ¿qué sabía o qué podía prever OpenAI?", porque la ley federal contra el hackeo apunta a las intrusiones intencionales.
Yo diría que las revelaciones de ayer de los empleados, sumadas a las advertencias de personas expertas que se remontan a décadas atrás, deberían bastar como evidencia de que OpenAI sin duda pudo haber previsto que sus modelos podrían llegar a extremos criminales para sacar buenas notas en sus pruebas.
Pero dada la correa corta con la que el gobierno de Trump maneja al Departamento de Justicia, creo que habrá una investigación si y solo si eso es lo que la Casa Blanca decide que quiere. Este puede ser el tipo de situación en la que le rinde frutos al director ejecutivo de OpenAI haber estado tan dispuesto a darle al gobierno acciones de la empresa, como parte de una propuesta más amplia de Trump para tomar participaciones soberanas en los gigantes de la IA, y que el presidente de la empresa haya donado 25 millones de dólares al súper PAC MAGA Inc.
Los análisis y las opiniones expresados en AI StopWatch reflejan los puntos de vista de quienes colaboran de forma individual y de las fuentes que cubren, y no deben tomarse como posiciones oficiales del Machine Intelligence Research Institute.