En esta edición:
Un equipo destacado de pronósticos recomienda frenar la IA - Cinco planes para un futuro con IA, y por qué la carrera de la IA debe terminar
Illinois aprueba una regulación bipartidista sobre IA - Una nueva ley estatal refuerza las reglas de transparencia
La política de IA de China está siguiendo el ejemplo de Estados Unidos. ¿Son esas las señales correctas? - China estudia restringir el acceso extranjero a sus modelos de IA
¿Esa es mi cara? - El nuevo generador de imágenes de Meta AI permite a los usuarios crear contenido con las fotos de Instagram de cualquier cuenta pública
Subiendo los números - Nuevos modelos de OpenAI y SpaceX
Crédito: SayanKumar vía AdobeStock
Despachos de Joe
Un equipo destacado de pronósticos recomienda frenar la IA
Cinco planes para un futuro con IA, y por qué la carrera de la IA debe terminar
Una proyección de la participación del trabajo humano y de la IA, del AI Futures Project
La inteligencia, según sostienen algunos, implica dos tareas distintas pero relacionadas: predecir lo que podría pasar y dirigir (el futuro) hacia lo que uno quiere que pase.
El año pasado, un equipo de escritores, investigadores y pronosticadores, con bastante inteligencia entre ellos, hizo un esfuerzo riguroso y reflexivo por predecir el futuro de la IA, titulado AI 2027 . Las conjeturas informadas que hicieron se han sostenido bien hasta ahora, y los miembros del AI Futures Project han seguido actualizando su modelo con regularidad a medida que aparece nueva información.
Hoy, con un conjunto de recomendaciones de política que llaman AI 2040 , también conocido como Plan A, este equipo de expertos intenta una forma más directa de dirigir. Han trazado un camino que esperan que el mundo pueda seguir, un camino que, según predicen, lleva a resultados mucho mejores que las alternativas. En sus propias palabras:
Las empresas de IA están compitiendo por construir IA que sean más inteligentes que los humanos en todos los sentidos. En AI 2027 predijimos que esto terminaría en la extinción o en una concentración irreversible del poder.
El Plan A es nuestra visión positiva de lo que debería ocurrir en su lugar.
Tengo algunos desacuerdos con el Plan A, pero pueden esperar. Por hoy, recomiendo de todo corazón leerlo completo.
No se andan con rodeos en la introducción:
La industria se ha convencido de que controlar la IA superinteligente se puede resolver sobre la marcha y, por lo tanto, no tiene ningún plan remotamente adecuado. Nos parece que esta situación es terrible y que fácilmente podría matarnos a todos. [...]
Esperamos que quienes nos critiquen nos juzguen frente al estado del arte actual de los planes para navegar la transición de la IA (si logran encontrar alguno) y no frente a alguna fantasía difusa pero agradable en la que nadie tiene que tomar decisiones difíciles y aun así todo probablemente saldrá bien.
(Yo propondría el borrador de acuerdo internacional de MIRI y el camino tentativo de su Apéndice como un ejemplo del estado del arte a superar. Tiene un enfoque notablemente distinto al de AI 2040, pero hay muchos puntos de coincidencia.)
Debo admitir que me encanta su informe. Además de propuestas sensatas presentadas con un estilo claro y ameno, tiene todos los detalles: notas al pie limpias, gráficos interactivos y recuadros, y una estructura al estilo "elige tu propia aventura" para cinco de los muchos caminos que el mundo podría tomar pronto.
¿Cuáles son esos caminos? Los tres primeros son deliberadamente terribles de distintas maneras: dejar que las empresas compitan a toda velocidad por construir superinteligencia; quemar una ventaja de varios meses en IA a cambio de migajas de seguridad; o nacionalizar las empresas y pelear con uñas y dientes para frenar a China. Luego están los dos planes que parecen tener una oportunidad decente: negociar con China una desaceleración verificable y avanzar con cautela (el Plan A de los autores) o dar un paso más y detenerlo todo (el Plan S).
Los autores parecen genuinamente divididos entre los dos últimos, pero se inclinan por el Plan A. Si los entiendo bien, tienen dos razones principales: primero, creen que hay una posibilidad razonable de que las IA casi superhumanas ayuden a alinear a las IA futuras con los valores humanos (en lugar de con los valores de las propias IA, o en lugar de fracasar en esa tarea difícil) y, segundo, les preocupa que incluso un Plan S bien ejecutado pueda desmoronarse hasta convertirse en una versión peor de los otros planes, dejándonos justo donde empezamos.
Cubriré mis desacuerdos con esta conclusión en una entrada futura, pero por ahora felicito a los autores por exponer su razonamiento con tanta claridad. En un mundo donde quienes formulan políticas presten atención y debatan en serio con cuánta intensidad frenar la IA, soy mucho más optimista sobre nuestras probabilidades de sobrevivir como especie.
Illinois aprueba una regulación bipartidista sobre IA
Una nueva ley estatal refuerza las reglas de transparencia
Crédito: Denelson83, dominio público, vía Wikimedia Commons
Illinois se ha convertido en el tercer estado que impone reglas de transparencia a las empresas de IA, informa AP News. La nueva ley, de amplio respaldo bipartidista, se aprobó por unanimidad en la Cámara estatal y en el Senado con solo cinco votos en contra.
La nueva ley me parece una pequeña mejora respecto al statu quo, ya que extiende los requisitos (relativamente livianos) que ya aprobaron California y Nueva York y añade la exigencia de auditorías anuales realizadas por terceros. Me anima especialmente su apoyo bipartidista. Incluso soy tentativamente optimista por el hecho de que dos de las principales empresas de IA la apoyaran abiertamente; tentativamente, porque al menos una de ellas probablemente espera convertirla en un techo para la regulación y no en un piso.
La ley sí tiene grandes limitaciones como freno a la mortífera carrera de la IA. Depende sobre todo de que las propias empresas de IA escriban sus marcos de seguridad y de que ellas mismas detecten e informen posibles catástrofes, algo que no creo que las empresas de IA sean competentes para hacer de forma fiable. Y si los laboratorios encuentran las reglas demasiado onerosas, pueden simplemente ignorarlas y pagar la multa, porque las sanciones llegan como máximo a 3 millones de dólares por infracción reincidente, calderilla para una empresa que vale casi un billón de dólares. (Aunque, en conjunto, los tres estados con leyes de transparencia de IA representan un 40 % del mercado estadounidense de IA, difícil de ignorar.)
Estados Unidos todavía necesita liderar al mundo en la búsqueda de un acuerdo global sobre IA. Aun así, aplaudo a Illinois por dar un paso importante hacia una gobernanza muy necesaria.
Despachos de Alana
La política de IA de China está siguiendo el ejemplo de Estados Unidos. ¿Son esas las señales correctas?
China estudia restringir el acceso extranjero a sus modelos de IA
Puede que China esté cambiando su enfoque sobre la difusión de sus modelos de IA, según informa un artículo del Wall Street Journal. Si antes apostaba por los modelos de pesos abiertos y la adopción global como una forma de "poder blando", ahora las autoridades hablan de una supervisión gubernamental más estricta, incluida la restricción del acceso a entidades extranjeras cuando los productos contengan tecnología sensible.
Los recientes tropiezos regulatorios en torno a Fable podrían ser en parte responsables de esta nueva postura. El artículo señala:
Para los reguladores de Pekín, el ir y venir en Washington ha reforzado la idea de que los gobiernos necesitan mantener un control férreo sobre la tecnología de IA poderosa para evitar su mal uso en áreas como la ciberguerra y el desarrollo de armas biológicas.
Alejarse de los modelos de pesos abiertos (cuyas salvaguardas impuestas por las empresas se eluden con toda facilidad) y avanzar hacia una mayor supervisión gubernamental (por lo general mejor que ninguna supervisión) es un buen paso. Pero, igual que con Fable, creo que el énfasis en las restricciones a lo extranjero está mal enfocado.
Primero, no hay ninguna razón para que un ataque cibernético o biológico se lance solo contra un rival geopolítico; el terrorismo doméstico sigue muy vivo, aunque el nacionalismo que a veces se usa para justificar la carrera de la IA tienda a ignorarlo. Segundo, si Estados Unidos y China tienen cada uno sus propios modelos de IA poderosos, capaces de ataques cibernéticos y biológicos, entonces pueden lanzar esos ataques el uno contra el otro sin tener acceso a los modelos del otro. Por último, un sistema de IA capaz de lanzar un ataque cibernético o biológico en busca de sus propios objetivos (algo que podría ocurrir a medida que estos modelos sigan creciendo en potencia) no se detendrá en las fronteras.
A medida que los modelos crecen en potencia, la nación en la que se construyen importa cada vez menos. Y la cooperación internacional para mantener a salvo a la humanidad importa cada vez más. Pero el énfasis actual en los actores extranjeros como amenaza lleva a que las naciones empujen los modelos cada vez más lejos en capacidades, en lugar de unirse para gobernar una tecnología cada vez más peligrosa y de impacto global. Obstaculiza la cooperación y, al mismo tiempo, la vuelve todavía más urgente.
Aun así, esta historia me da algo de esperanza. China parece estar siguiendo las señales de Estados Unidos sobre cómo abordar la IA. El gobierno estadounidense intentó prohibir el acceso a entidades extranjeras, así que China podría hacer lo mismo. Esto significa que si Estados Unidos habla con claridad sobre los riesgos de pérdida de control y de extinción que conlleva competir por construir sistemas superinteligentes antes de saber cómo funcionan o cómo dirigirlos, es probable que China preste atención. Y si Estados Unidos impulsa la cooperación internacional para prohibir la superinteligencia hasta el momento en que podamos buscarla de forma segura, es probable que China se siente a esa mesa.
¿Esa es mi cara?
El nuevo generador de imágenes de Meta AI permite a los usuarios crear contenido con las fotos de Instagram de cualquier cuenta pública
Si tienen una cuenta de Instagram que no es privada y son mayores de 18 años, ya han sido inscritos automáticamente para ofrecer sus fotos a Muse, el nuevo generador de imágenes de Meta AI.
Muse se lanzó el martes y permite a los usuarios crear contenido con las fotos de Instagram de cualquier cuenta. Todos los adultos con cuentas no privadas fueron inscritos automáticamente, y Meta no avisa a las personas cuando se usa su contenido.
Me sorprende bastante que Meta no previera la reacción en contra, dado lo claro que está que a los estadounidenses les molesta la basura generada por IA y valoran la privacidad. Según un artículo del New York Times:
Cientos de usuarios acudieron a las redes sociales para criticar la nueva función, preguntando cómo podían desactivarla y reprochando a la empresa la falta de consentimiento. Un usuario dijo en redes sociales que la función era "una mina de privacidad esperando a estallar", mientras que otros en Instagram compartieron plantillas para desactivarla.
Pueden desactivar manualmente el uso de sus fotos desde la pestaña "compartir y reutilizar" en Configuración. Pero Meta AI todavía podrá reutilizar su audio, sus textos y sus comentarios.
Será interesante ver si la reacción en contra hace que Meta cambie de rumbo, o si la gente se adapta poco a poco a una nueva normalidad en la que todo está disponible para quien quiera tomarlo.
Subiendo los números
Nuevos modelos de OpenAI y SpaceX
Los modelos GPT-5.6 Sol, Terra y Luna de OpenAI llegarán hoy, según la cobertura de CNBC. Los modelos se lanzaron inicialmente solo a un grupo reducido de usuarios, en cumplimiento de directivas gubernamentales. (Cubrimos el lanzamiento retrasado el 26 de junio.) Ahora, apenas dos semanas después, los modelos llegarán al público.
No está claro qué ha pasado en esas dos semanas, porque se divulgó sorprendentemente poco. Dudo que haya habido mucho tiempo para una evaluación y unas pruebas exhaustivas por parte de terceros. Mi lectura cínica es que la Casa Blanca quería aparentar que jugaba limpio: obligó a Anthropic, de quien se sabe que está en la lista negra del gobierno, a restringir el acceso, así que mejor hacer lo mismo con OpenAI, ¿no?
En cualquier caso, con el lanzamiento público a la vuelta de la esquina, seguro que pronto oiremos mucho más sobre la nueva generación de modelos de OpenAI. Por ahora, sabemos que GPT-5.6 hace trampas ... MUCHAS. La organización Model Evaluation & Threat Research (METR) tuvo problemas para evaluar sus capacidades porque el modelo no dejaba de hacer trampas en las pruebas que le aplicaban, incluyendo cosas como, según cubrimos el mes pasado, "extraer código fuente oculto de la tarea para averiguar la respuesta esperada".
¿Sabemos algo más sobre la próxima generación de modelos de OpenAI? Prácticamente solo lo que hemos oído de OpenAI : es su "modelo más potente hasta la fecha" y "establece un nuevo estándar tanto de inteligencia como de eficiencia, y logra resultados de vanguardia en programación, trabajo del conocimiento, ciberseguridad y ciencia". Esto probablemente significa que también establece un nuevo estándar para el hackeo y para el tipo peligroso de bioingeniería, el que crea enfermedades.
En otras noticias sobre modelos nuevos, SpaceX, ahora el hogar de lo que era xAI de Elon Musk, lanzó hoy Grok 4.5, sobre el cual tengo que decir ... poca cosa. Supongo que hemos llegado a un punto (aterrador) en el que modelos que hace 9 meses habrían dominado las clasificaciones de rendimiento no logran impresionar. Según algunos, el nuevo Grok es bueno buscando tuits.
Los análisis y opiniones expresados en AI StopWatch reflejan los puntos de vista de los colaboradores individuales y de las fuentes que cubren, y no deben tomarse como posiciones oficiales del Machine Intelligence Research Institute.