En este número:
Por qué lo hacen - Observaciones y súplicas de un día de noticias sobre IA como ningún otro
Despacho de Mitch
Por qué lo hacen
Observaciones y súplicas de un día de noticias sobre IA como ningún otro
La tormenta ha estallado, y todo está en juego.
Julio César , Acto 5, Escena 1 .
Pasan tantas cosas que apenas hay tiempo para hablar de ellas. Las cinco horas que dediqué a repasar las noticias y las conversaciones de la mañana solo me dejaron con la sensación de ir cinco horas por detrás de los acontecimientos. Las dos horas que después pasé volviendo a revisar Twitter dejaron obsoleta buena parte de lo que había visto.
Así que hoy no voy a producir ningún despacho dedicado a una sola historia. Lo mejor que puedo hacer son algunos puntos que compartiría con mis amigos y con mi familia sobre cómo están las cosas.
1. Las noticias de IA de una semana ahora ocurren en un día
No es su imaginación. Las noticias sobre IA están de verdad por todas partes en este momento. Su magnitud rompió mi gráfico del Barómetro de Titulares. Por tercera vez este año, y con el mayor incremento, tuve que extender el eje Y para poder ver la parte superior de la línea. El volumen de noticias sobre IA de hoy equivale aproximadamente al volumen de noticias de una semana de enero.
Además, es sustancial. No se trata de titulares ociosos que sobraron del fin de semana. Hay una tanda nueva de historias sobre el riesgo catastrófico y las políticas relacionadas, y están por encima de la carga habitual de historias sobre otros asuntos de la IA y sobre preocupaciones empresariales.
2. El presidente fue hoy en la dirección equivocada, pero no debemos descartarlo
El presidente Trump dijo hoy algunas cosas feas , al colocar las preocupaciones por una IA fuera de control junto a los «engaños» por los que fue sometido a juicio político en su primer mandato. En la primera de esas tres publicaciones en Truth Social, insistió en que un presidente inteligente es la única salvaguarda que necesitamos, en que los sentimientos contra la IA y contra los centros de datos son una conspiración, y en que «quien gane en IA, gana».
Esto es muy malo. Pero nunca ha habido un mejor momento para reflexionar sobre la probada capacidad de Trump de dar marcha atrás como parte de un supuesto «acuerdo». El presidente de China visitará Washington D. C. el día 24 y, con semanas que ocurren en días, la situación puede verse muy distinta para entonces.
Hoy tuve un déjà vu de los primeros tiempos de la covid, cuando parecía que Trump estaba decidido a restar importancia al problema, solo para después dar un giro y hacer realidad la Operación Warp Speed . Ese programa logró una vacunación generalizada muchísimo más rápido de lo que las reglas habituales habrían permitido. A pesar de la reticencia de su partido a hablar de ello ahora, podría decirse que fue el mayor logro de Trump.
Así que permítanme hacerme eco de la súplica que hoy formula prácticamente toda la comunidad de la seguridad de la IA y decir que no debemos descartar al presidente ni a su partido. Para 2028, puede que hayamos perdido nuestro planeta a manos de la IA. Nos guste o no, tenemos que atravesar la crisis con los líderes que tenemos.
3. Combatan la polarización política de los riesgos catastróficos de la IA
Por favor, intenten fijarse en los políticos y las figuras mediáticas que tratan de hacer que la gente parezca más desalineada sobre la IA de lo que realmente está, con el fin de avivar el drama y anotarse puntos políticos, y repróchenselo.
Esto está ocurriendo de verdad y, pese a todos mis esfuerzos, a veces no lo he notado: la versión ampliamente difundida de las declaraciones del presidente de la Cámara de Representantes, Johnson, que compartí ayer resultó no ser muy justa. Aunque se inclina por dejar que las empresas de IA marquen la agenda, Johnson no dijo en realidad que regular la IA no fuera responsabilidad del Congreso, sino solo que primero quiere meter a las empresas en una sala hasta que logren ponerse de acuerdo sobre qué es lo que quieren.
El juego político duro de siempre podría situarnos en la línea temporal de Don't Look Up , donde media población se niega activamente a creer en una amenaza de nivel de extinción por lealtad tribal. Así que, por favor, intenten informar con exactitud sobre las posturas de cada persona respecto a la IA, y trátenlas por separado de las afiliaciones políticas y de las posturas sobre temas políticamente cargados.
4. Pekín se irrita por la retórica reciente sobre la IA, pero quiere participar en la gobernanza global
Historias como esta publicada hoy en Reuters describen a China como diametralmente opuesta a cualquier propuesta de frenar la IA. Esa valoración se basa en editoriales de los medios estatales chinos que califican la propuesta de «marcar el ritmo» del director ejecutivo de Anthropic, Dario Amodei, como un ejemplo de retórica de Guerra Fría «hipócrita y miope». Pero más adelante en ese mismo artículo y en otros, suena como si esa hostilidad fuera en gran medida una reacción a las posturas que el propio Amodei describe como «de línea dura» en torno a los controles de exportación.
El editorial chino se preocupa por una «hegemonía monopolística en la tecnología de vanguardia», lo cual no está exactamente en el mismo eje que el debate sobre si el desarrollo de la IA debería frenarse de manera generalizada. Y ayer un portavoz del ministerio de Asuntos Exteriores dijo a los medios que «fomentar diversas amenazas, entrar en la confrontación y en la competencia maliciosa solo perturbará el proceso de gobernanza global de la inteligencia artificial y no va en interés de ninguna de las partes». Esta y otras declaraciones muestran a una China que quiere un asiento en la mesa de la gobernanza.
Mientras tanto, el New York Times informó hoy de que el jefe del Ministerio de Seguridad del Estado de China, Chen Yixin, ha dicho que Pekín considera que la IA es el mayor riesgo para el control del poder por parte del Partido Comunista. Chen pide más control y supervisión del partido para atajar la propaganda, los ciberataques y la competencia militar. China se siente amenazada por los modelos estadounidenses de clase Mythos, que podrían ser usados por las agencias de inteligencia para un «espionaje a gran escala». Esto no suena a un partido entusiasmado con la carrera.
5. Una probabilidad del 10 % de extinción o algo similar es una posición mediana entre los investigadores de IA
Buena parte de la atención mediática reciente a las advertencias de los expertos en IA ha citado una «probabilidad del 10 %» como la valoración que la propia industria hace de la amenaza de extinción. Muchos descartaron esa cifra como una opinión extrema y marginal entre quienes trabajan en IA. ¡No lo es!
AI Impacts publicó hoy los resultados de su más reciente «Encuesta a Expertos sobre el Progreso en la IA». Esta encuesta es la mayor y la más longeva de su tipo, aunque los datos más recientes no sean tan frescos como querríamos, ya que provienen de cuestionarios enviados en diciembre de 2024. Si comparten una sola cosa de ella, que sea este gráfico, que muestra dónde cae un riesgo del 10 % de extinción humana o de una «pérdida de poder igualmente permanente y grave» en el espectro de los 744 expertos e investigadores que respondieron a la pregunta:
Crédito: AI Impacts .
El 10 % está... justo en el medio. El 10 % es una posición mediana . La mitad de quienes respondieron dio una cifra más baja, aunque casi nadie dijo cero, y la otra mitad dio estimaciones bastante más altas.
AI Impacts compartió otros gráficos destacados en este hilo de tuits . Hoy aprendí que los investigadores asiáticos están en realidad más preocupados que los norteamericanos o los europeos, y que los plazos que manejan los investigadores para una IA capaz de automatizar por completo el trabajo humano se han acortado en cada una de las últimas cuatro encuestas.
6. Algunos hombres solo quieren ver arder el mundo
No pretendo ser sexista en este punto, pero lo que observo es un fenómeno abrumadoramente masculino y no quiero manchar con esta acusación a más gente de la necesaria. (Si alguna de ustedes es una mujer a la que esto le aplica, ¡qué vergüenza también! ¡Sean mejores!)
Seré el primero en decir que la autorregulación de las empresas de IA no basta, pero hay voces ruidosas que dicen que no se les debería permitir cooperar en absoluto para marcar un ritmo responsable a la IA. Esas voces acusan a las empresas de intentar lograr una «captura regulatoria» y de tratar de formar un cartel que infringe las leyes antimonopolio. Puedo quedarme en el simple cinismo cuando gente como el director ejecutivo de Nvidia, Jensen Huang , asiente ante ese tipo de opiniones, porque él gana dinero vendiendo chips de IA y detestaría ver cualquier aflojamiento de la demanda. Pero buena parte de este discurso viene de los círculos de startups de IA más pequeñas, donde una desaceleración de las empresas líderes debería jugar a su favor, y de transhumanistas y entusiastas de la tecnología que no tienen ningún interés monetario en ese juego.
Mi fuerte impresión, siendo yo mismo una especie de transhumanista y entusiasta de la tecnología reformado, es que a estos tipos no les preocupa ni un poco la captura regulatoria ni los carteles. Simplemente no quieren ver que la carrera se ralentice. Disfrutan del salpicón caótico de los nuevos lanzamientos, del frenesí novedoso de los enjambres descontrolados, del miedo en los ojos de las élites engreídas que durante tanto tiempo desdeñaron la IA. Son hombres lobo que aúllan al sol con la esperanza de apresurar la llegada de la noche. En realidad no saben qué les ocurrirá después de eso. Pero odian la idea de morir de viejos y de que la historia siga adelante sin ellos. Han terminado con el mundo tal como lo conocemos.
Lo sé, porque cuando aúllan siento una leve agitación en mi propia sangre. Hay mucho que está mal en nuestro mundo. Mucho que la tecnología podría arreglar. La humanidad es tan... limitada .
Pero no podemos llegar allí con una carrera desenfrenada hacia la superinteligencia. Se les podría perdonar no haberse dado cuenta de esto ni haberlo aceptado hace más de veinte años, como me pasó a mí. Pero en 2026 la evidencia es abrumadora, y seguir fingiendo lo contrario es ser un supervillano.
Hermanos míos de la tecnología, por el amor de todo lo que los mueve, reaccionen. ¡Son mejores que esto! Es un necio, una bestia , quien salta a ciegas tras el olor y devora a los de su propia especie. Templen su hambre con paciencia y sabiduría, y sean hombres .
Los análisis y las opiniones expresados en AI StopWatch reflejan los puntos de vista de los colaboradores individuales y de las fuentes que cubren, y no deben tomarse como posiciones oficiales del Machine Intelligence Research Institute.