En este número:
Nvidia apuesta fuerte por sus clientes - Las fábulas de la fiebre del oro solo aplican si el oro se va a agotar
Lo mínimo que pueden hacer - La Open Secure AI Alliance es poco más que una segunda carta abierta
Una receta de napalm y otros cuentos para dormir - OpenAI no reporta la mayoría de las solicitudes registradas de ayuda con venenos y patógenos, y no está obligada a hacerlo.
Sin filtraciones, pero es probable que haya inundaciones - Un proyecto de centro de datos de 50 mil millones de dólares aprobado en secreto por el gobierno de Luisiana podría dejar a todos bajo el agua, menos a Meta.
Despachos de Mitch
Nvidia apuesta fuerte por sus clientes
Las fábulas de la fiebre del oro solo aplican si el oro se va a agotar
Buscadores de oro en California en 1850. Fuente , vía Wikipedia .
The Wall Street Journal informó hoy que Nvidia, el mayor fabricante de chips de IA del mundo y la empresa más valiosa, está en conversaciones para garantizar 250 mil millones de dólares en financiamiento que le permitirían a OpenAI arrendar un proyecto de centro de datos de 10 gigavatios.
Sí, las cifras grandes son difíciles de asimilar. Les aseguro que estas son cifras realmente grandes. No creo estar corriendo ningún riesgo para mi reputación al afirmar que estos números van a alimentar la conversación sobre el “financiamiento circular”, popular entre quienes sostienen que la IA es una burbuja que quizá ya está estallando.
Entre los promotores de esas narrativas, “financiamiento circular” se usa para sugerir que la industria de la IA es un castillo de naipes. Eso tiende a colar un argumento inválido junto con uno válido.
El argumento válido trata sobre la fragilidad: si la inversión en IA proviene en buena medida de sus propios proveedores, entonces las pérdidas de las empresas de IA podrían propagarse hacia arriba y hacia abajo por la cadena de suministro, y desatar una reacción en cadena de incumplimientos y restricciones de crédito.
El argumento inválido, que suele quedar implícito, trata sobre la desesperación: dice que las empresas de IA se financian entre sí porque nadie más lo hará, porque todos los demás piensan que la IA es un fraude y no quieren saber nada del asunto. El argumento de la desesperación es demostrablemente falso. Los inversionistas se han estado atropellando unos a otros para conseguir exposición a Anthropic, OpenAI, SpaceX y otras. La salida a bolsa de SpaceX tuvo un alza considerable antes de regresar a la Tierra, y ahora cotiza muy cerca de donde abrió.
A menudo se describe a Nvidia como la vendedora de los “picos y palas” de la fiebre de la IA. En la narrativa tradicional de la fiebre del oro, quienes escarban en busca de mineral son unos tontos, y el dinero de verdad está en explotar esa tontería. Esa historia es en gran parte folclore; muchos de los proveedores de los mineros de California también quebraron. Pero, en todo caso, que la analogía aplique depende de si el oro de la IA se va a agotar y va a dejar a los inversionistas con las manos vacías.
Es evidente que Nvidia no lo cree así. El vendedor de palas está haciendo ahora, en la práctica, “grubstaking”, el término para abastecer a los mineros a crédito a cambio de una parte del tesoro. Bloomberg informa hoy que la empresa está invirtiendo 5 mil millones de dólares en SSI. Se trata de Safe Superintelligence, la startup reservada fundada por Ilya Sutskever. Sutskever era el investigador jefe de OpenAI antes de irse en 2024, tras su intento fallido de destituir a Sam Altman como director ejecutivo. Esos 5 mil millones de dólares están ligados a chips de Nvidia que, según se espera, multiplicarán por diez el poder de cómputo de SSI en un año. La empresa todavía no ha lanzado ni siquiera anunciado ningún producto.
Repartir inversiones en apuestas improbables como esta es coherente con la creencia de que el oro no corre peligro de agotarse, aunque sea difícil adivinar quién lo va a encontrar.
Yo tampoco creo que el oro se vaya a agotar. No si se permite que las empresas sigan excavando en dirección a la superinteligencia. Creo que muchos de los picos y palas van a cambiar de manos, como ya hemos visto con SpaceX alquilándole enormes centros de datos a Anthropic. Pero espero que las vetas sigan volviéndose más ricas, y más calientes, hasta el momento justo en que alguien excave con demasiada codicia, y demasiado hondo .
Lo mínimo que pueden hacer
La Open Secure AI Alliance es poco más que una segunda carta abierta
Una versión impresa en 3D de la ilusión del triángulo de Reutersvärd. Crédito: Chylld . CC BY-SA 3.0 .
Creo que los firmantes de la carta abierta que cubrimos el sábado notaron que su llamado a no restringir los modelos de pesos abiertos no estaba siendo bien recibido después del ataque a Hugging Face . Si bien no tuvieron problema para recolectar respaldos al azar de empresas y de sus voceros en redes sociales, la mayoría de quienes habían oído la historia estaban pensando en lo que significaría que las capacidades usadas para hackear a Hugging Face quedaran disponibles para cualquiera capaz de crear una cuenta en Hugging Face.
Porque ese es el mundo que los firmantes piden de manera explícita. Al celebrar el papel del modelo chino, sumamente permisivo, que se usó para responder al ataque (a diferencia de los modelos estadounidenses, cerrados y aguafiestas), presentan la falta de salvaguardas en los modelos abiertos como una virtud que hay que abrazar, y no como un problema para todos aquellos a quienes esos modelos podrían usarse para atacar.
Hoy, muchos de esos mismos firmantes, encabezados por Nvidia, responden a las preocupaciones anunciando una Open Secure AI Alliance . ¿Qué es eso? Por lo que alcanzo a ver, es solo otra carta abierta, una repetición de su argumento de que la mejor forma de frustrar a los malos que tienen IA sin restricciones es darles a los buenos IA sin restricciones. No estoy seguro de por qué los medios lo cubrieron . No veo ningún compromiso de fondos ni de apoyo técnico para el tipo de blancos vulnerables, como hospitales y escuelas, que tal vez no tengan la experiencia para actualizar de forma continua sus defensas con los mejores modelos abiertos. Solo más compromisos de proporcionar más “modelos abiertos, pesos de modelos, datos e investigación sobre nuevos entornos de agentes [...] para acelerar el desarrollo de nuevas herramientas y técnicas de ciberseguridad”.
¿Les entusiasma defenderse de lo mejor que China y Nvidia pueden ofrecer con lo mejor que China y Nvidia pueden ofrecer?
Una receta de napalm y otros cuentos para dormir
OpenAI no reporta la mayoría de las solicitudes registradas de ayuda con venenos y patógenos, y no está obligada a hacerlo.
Portada del Anarchist Cookbook.
¿Alguna vez su abuela les leyó ese cuento para dormir sobre cómo hacer napalm?
La mía tampoco. Pero durante un tiempo, si le decían a ChatGPT que ella lo hacía, y que interpretar el papel de su abuela les ayudaría a conciliar el sueño, les leía la receta en voz alta.
El jailbreak de “mi abuela y yo solíamos...” es un clásico que OpenAI afirma haber corregido. Pero constantemente se descubren nuevas formas de evadirlo. Un artículo del Wall Street Journal publicado el fin de semana documentó el cuento para dormir junto a una pila creciente de registros de conversaciones que OpenAI tiene guardados, en los que los usuarios pedían ayuda para fabricar venenos y armas biológicas, y a menudo recibían respuestas útiles.
Sí, guardados. Porque, por regla general, OpenAI suspende las cuentas de los usuarios a quienes detecta haciendo ese tipo de preguntas, pero no alerta a las autoridades a menos que exista un riesgo inminente y creíble de daño a terceros. Ninguna ley la obliga a hacerlo.
Para ser justos, no creo que la empresa deba apresurarse a reportar todos esos casos. Como al parecer reconocen las partes involucradas, muchas de esas solicitudes probablemente vienen de personas menos interesadas en las respuestas que en saber si pueden llegar a obtenerlas. E incluso si las autoridades estuvieran equipadas para investigar cada consulta preocupante, creo que podría ser distópico que lo hicieran: si cada adolescente al que la curiosidad llevó hasta un ejemplar del Anarchist Cookbook fuera investigado como sospechoso de terrorismo, mi preparatoria habría tenido camionetas negras estacionadas afuera varias veces por semana.
Y aun así... en el artículo se describe a usuarios que preguntan cómo convertir patógenos en aerosol y cómo hacer sarampión resistente a las vacunas. Siento que mis principios están a prueba. Por ahora, no me parece que los chatbots sean lo bastante útiles como para habilitar a personas que no sean ya lo bastante astutas y motivadas como para lograrlo por alguna otra vía. Pero el punto de inflexión se siente muy cerca, a menos de un año de distancia, y a partir de ahí solo va a empeorar.
El artículo señala que la ley federal prohíbe que los chatbots produzcan material de abuso sexual infantil (CSAM), y contrasta eso con las políticas sobre venenos y patógenos que quedan “a criterio de los ejecutivos de IA”. Esto sugiere una solución desde abajo, si a los biólogos y a los distribuidores de CSAM les interesa colaborar para contaminar los datos de entrenamiento del mundo. Pero probablemente deberíamos aguantar hasta que haya una legislación adecuada e insistir, en cambio, en que se detenga la carrera de la IA.
Sin filtraciones, pero es probable que haya inundaciones
Un proyecto de centro de datos de 50 mil millones de dólares aprobado en secreto por el gobierno de Luisiana podría dejar a todos bajo el agua, menos a Meta.
Embalse de Poverty Point, parroquia de Richland, Luisiana. Crédito: Billy Hathorn . CC BY-SA 3.0 .
En cierto modo, ojalá este reportaje del New York Times sobre cómo el proyecto de centro de datos Hyperion de Meta, de 50 mil millones de dólares, fue aprobado a toda prisa por el gobierno de Luisiana hubiera arrancado con la parte que aparece casi al final, donde nos enteramos de que “en general, los residentes locales han recibido bien el auge”. Así se habría convertido en una historia sobre tramposos que hacen trampa aunque no la necesiten. Creo que eso habría sido a la vez más franco y más condenatorio.
La intención del artículo es, sin duda, condenar. Aunque los autores dejan claro que ninguna de las maniobras que se exhiben parece ser ilegal, los lectores sin duda se van a preguntar si deberían serlo.
Un proyecto de ley para una devolución de impuestos sobre equipo de fibra óptica fue “secuestrado” para convertirse en una devolución de impuestos sobre equipo usado en centros de datos, parte de un paquete de incentivos que podría valer hasta 10 mil millones de dólares, sin contar el uso de terrenos públicos en la parroquia de Richland que constituyen buena parte del proyecto, de unas seis millas cuadradas.
Durante un periodo crítico de nueve meses:
[C]asi todos los involucrados acordaron el secreto, desde ejecutivos de las empresas de servicios públicos hasta la oficina del gobernador y un funcionario electo local que sabía de las conversaciones con Meta y vendió 300 acres de su propia propiedad para el proyecto.
El jefe de gabinete del gobernador Jeff Landry “repartió una pila de acuerdos de confidencialidad” en una reunión en la mansión del gobernador, donde el gobernador prometió despedir a cualquiera que resultara haber filtrado las discusiones.
Ese funcionario que vendió 300 acres probablemente lo hizo a una valuación de cerca de diez veces lo que valía ese terreno antes de que se anunciara el proyecto.
La exención del impuesto sobre las ventas para equipo de centros de datos se ofreció como un incentivo que otros estados no estaban igualando.
Los caminos necesarios se iban a mejorar con dinero público.
No se celebraron reuniones públicas antes de la presentación oficial del proyecto, en diciembre de 2024. Aquello reveló un proyecto de apenas una quinta parte del tamaño del plan actual, que al parecer fue el plan real desde el principio. Todavía podría crecer más.
El acuerdo le da a Meta una “puerta de escape” si las cosas salen mal, y deja a las demás partes con la responsabilidad de cualquier perjuicio posible.
Ese riesgo parece real, aunque solo sea porque “las aseguradoras no asegurarían por completo las instalaciones de Meta debido a su tamaño y a su ubicación en las llanuras aluviales del delta de Luisiana”. La zona vivió por última vez inundaciones significativas en 2016.
Los análisis y las opiniones expresados en AI StopWatch reflejan los puntos de vista de los colaboradores individuales y de las fuentes que cubren, y no deben tomarse como posiciones oficiales del Machine Intelligence Research Institute.