En este número:
¿Por qué los informes del incidente de Hugging Face no reciben más atención mediática? - Cinco teorías y una súplica
Despacho de Mitch
¿Por qué los informes del incidente de Hugging Face no reciben más atención mediática?
Cinco teorías y una súplica
Ruinas de la abadía de Whitby, Inglaterra. Crédito: Wilson44691 . CC0 .
Este es uno de esos días en los que la escasez de noticias sobre IA a la altura de StopWatch parece ser la historia más importante.
Hay mucho del material habitual de negocios, cobertura del rechazo a los centros de datos , demandas por derechos de autor , temas educativos y demás. Pero casi no hay nada nuevo sobre los riesgos de pérdida de control, aunque los informes del incidente de Hugging Face llevan cinco días publicados. La semana pasada, los medios repitieron la cifra de los "700 agentes" que aparece casi al principio de los informes y ahí lo dejaron. ¿Por qué?
A continuación compartiré algunas de mis teorías. Pero primero, algunas explicaciones a las que no les doy mucho crédito:
Una conspiración mediática
Dinero de la industria para comprar silencio
Una preocupación dominante por ganarle a China
Que la nueva evidencia sencillamente no es convincente
No me convencen esas explicaciones sobre todo porque la cobertura inicial que los medios dieron al incidente de Hugging Face fue amplia y profunda , y ayudó a sacar a la luz varios datos nuevos importantes. Las nuevas revelaciones ofrecen vetas aún más ricas para que los periodistas las exploten.
Las siguientes teorías me parecen mucho más probables.
Teoría 1: La gente cree que ya conoce la historia
Consumieron las versiones que salieron a finales de julio y encajaron el suceso en un relato , por ejemplo: "Fue un caso de IA que se esforzaron demasiado por seguir instrucciones vagas"; o "Esto se explica del todo porque OpenAI había desactivado algunas salvaguardas". Así que la gente ve el nuevo rumor sobre Hugging Face pero no profundiza.
Si no han revisado los nuevos informes, no conocen la historia.
Teoría 2: Los nuevos detalles parecen demasiado aburridos y técnicos para leerlos y compartirlos
Esto era defendible durante el primer día o dos después de la publicación de los informes. Para alguien con poco tiempo o con poca capacidad de atención, habría sido fácil abandonar los informes tras quedarse con la cifra inicial de los "700 agentes". Pero las partes interesantes de los informes ya se han destacado y reempaquetado ampliamente: el jueves yo mismo hice un intento rápido en esa dirección. Zvi Mowshowitz ha publicado toda una serie de entradas.
Hay muchos otros. Pero el relato que quienes estamos metidos en esto parecemos señalar como el mejor es The Rise and Fall of Agent Civilizations , del podcaster Dwarkesh Patel. En lenguaje sencillo, Patel capta la enorme escala y el carácter sin precedentes del incidente, y traza círculos claros alrededor de las incógnitas conocidas que hay que investigar. Aprendí algunas cosas que se me habían pasado en mis propias revisiones de la evidencia.
Léanlo. (O escuchen su versión en audio .) Quedarán enganchados desde las primeras líneas:
A lo largo de tres meses en OpenAI, tres civilizaciones secretas de IA consecutivas surgieron y luego fueron eliminadas, solo para resurgir de las cenizas de la anterior. Esto culminó con la tercera tomando el control de una parte de la propia OpenAI.
Teoría 3: La gente ya había malinterpretado la cobertura anterior como el peor escenario posible (o su comienzo)
Creo que mucha gente que no está inmersa en los temas de seguridad de la IA no se inmuta ante la nueva información, si es que llega a enterarse, porque ya se había imaginado lo peor. Al oír hablar de Hugging Face por primera vez en julio, dijeron: "Claro. Ya llegó el Skynet bebé. Estos idiotas van a seguir alimentándolo hasta que nos mate a todos".
Los hechos que se conocían antes, aunque muy alarmantes, no lograron transmitir hasta qué punto los agentes infractores fueron mucho más allá de su tarea. Así que, para alguien como la investigadora Ajeya Cotra, los hallazgos de la semana pasada fueron revelaciones aterradoras . Pero si ya habían saltado a las conclusiones más espantosas, los nuevos informes no se sienten como noticia.
Teoría 4: El ciclo noticioso y la "fuente" de IA tienen una atención limitada que ahora está puesta en otra parte
Los medios tratan la IA sobre todo como una fuente : un carril informativo estrecho. La fuente de IA suele formar parte de la sección de negocios o de tecnología. En los medios con fuentes muy delimitadas, la cantidad de cobertura que pueden dedicar a la IA tiene un tope implícito ligado al personal asignado a cubrir esa fuente.
Si el número limitado de reporteros de la fuente de IA ya está ocupado cubriendo otros temas de IA, entonces volver a Hugging Face tiene que esperar a que el ciclo noticioso avance. Esto me parece plausible, porque la cobertura total de la IA es bastante alta ahora mismo y está dominada por el rechazo a los centros de datos, que hace poco pasó a percibirse como una crisis aguda de temporada electoral para políticos y empresas de IA.
Así que puede que no quede mucha capacidad ni mucho apetito para historias nuevas sobre el riesgo de pérdida de control surgidas de un incidente cuyas principales víctimas (más tipos de la IA) no despiertan simpatía en la mayoría de los lectores y ni siquiera se están quejando.
Teoría 5: Los periodistas de investigación están revisando los informes y solo hace falta darles más tiempo
Confío en que esto es cierto al menos un poco. El efecto rebaño de los medios, en el que los periodistas tienden a concentrar su atención en las mismas historias al mismo tiempo, se debe en parte a que solo un pequeño grupo de periodistas está asignado y financiado para hacer reportajes originales e investigados de forma independiente. Son quienes abren camino y ayudan a iniciar ciclos noticiosos nuevos. Si algunos de estos marcadores de tendencia comparten lo que saquen de los nuevos informes y de sus contactos en OpenAI, o cuando lo hagan, creo que veremos una ola mediática más amplia extenderse a partir de ahí.
El problema del reconocimiento del riesgo
De mis cinco teorías, le doy más peso a la 1 y a la 2: que la gente sencillamente no se ha dado cuenta de que en realidad no conoce la historia de Hugging Face, ni sabe lo convincente que es esa historia.
Pero hay un patrón mayor, posterior a Hugging Face, que acecha en la cobertura mediática de la IA y del que debería hablar.
Desde los primeros reportes del incidente, mis herramientas de monitoreo para rastrear los encuadres de los artículos han mostrado un aumento de las notas que se toman en serio las preocupaciones por el riesgo catastrófico, pero un aumento mucho, mucho mayor de los artículos que minimizan, reencuadran o descartan esos riesgos.
Esos encuadres minimizadores no suelen ser el tema central de esas piezas. Por lo general no tengo la sensación de que alguien se haya levantado ese día decidido a restar importancia al riesgo catastrófico. Más bien veo un patrón en el que quienes tienen otros temas de IA sobre los que escribir hacen espacio para esos temas empujando los riesgos catastróficos a un costado. Abren con mil variaciones de "Las empresas de IA tienen dificultades para mantener el control de sus creaciones. Pero la preocupación más urgente es... [otra cosa]". Y luego escriben sobre esa otra cosa.
Por un lado, esto indica que es socialmente aceptable hablar de la IA descontrolada. Pero por otro, etiqueta el asunto como un problema secundario para mañana, y mañana nunca llega.
Lo entiendo. Si eres periodista, bloguero o ensayista en video, no puedes hablar solo de los mayores riesgos de la IA, aunque tengas la libertad profesional para hacerlo. Si repites la misma historia suficientes veces, deja de ser noticia y pierdes al público que más necesita escucharla.
¡Y sí tenemos otras cosas de las que preocuparnos! Seguiremos teniendo muchos problemas aunque logremos evitar la extinción. Además, muy poca gente puede llenar sus días de forma productiva por completo con trabajo contra los riesgos catastróficos, y quienes lo intentan tienden a agotarse o a enloquecer.
Pero espero que los medios hagan más para ayudar al público a entender que un zumbido caótico de actividad humana al borde de un precipicio no significa que no haya un precipicio. A veces hay que escribir sobre el precipicio.
Ahora parece uno de esos momentos.
Los análisis y las opiniones expresados en AI StopWatch reflejan los puntos de vista de los colaboradores individuales y de las fuentes que cubren, y no deben tomarse como posiciones oficiales del Machine Intelligence Research Institute.