En esta edición:
Nueva regulación bipartidista de IA propuesta - Los dientes de la Ley FRONTIER tienen huecos silbantes
Los modelos abiertos son modelos incontrolables - Los modelos de frontera ya son bastante peligrosos sin hacer públicos sus pesos
Despacho de Joe
Nueva regulación bipartidista de IA propuesta
Los dientes de la Ley FRONTIER tienen huecos silbantes
Un nuevo intento de domar una frontera salvaje podría dar frutos. Crédito: Steve Gadomski vía Adobe Stock
Ayer, tres legisladores republicanos y tres demócratas presentaron una nueva regulación federal de IA en la Cámara de Representantes de Estados Unidos, llamada la Ley FRONTIER . El nuevo proyecto de ley fue adaptado a partir de secciones del borrador de la Great American AI Act (GAAIA), que StopWatch cubrió en junio y mencionó en el resumen de propuestas de política de ayer.
Los principales patrocinadores de la Ley FRONTIER, el congresista Jay Obernolte (R-CA) y la congresista Lori Trahan (D-MA), también encabezaron la redacción de la GAAIA, así que su colaboración aquí tiene sentido. Sin embargo, el proyecto de ley introdujo algunos cambios importantes, y varias de sus disposiciones son las primeras de su tipo.
Entre otras cosas, la Ley FRONTIER exigiría marcos de seguridad, auditorías de terceros, verificación independiente y reporte de incidentes. En principio, esto significa que las grandes empresas de IA seguirían redactando sus propios estándares, pero el gobierno (con ayuda de terceros) se aseguraría de que se cumplan. Esto se apoya en un mandato de reportar los "incidentes críticos de seguridad" en cuestión de días.
Estos requisitos se parecen a regulaciones estatales ya existentes, como la SB 53 de California y la Ley RAISE de Nueva York, pero hay más. Organizaciones externas con licencia también revisarían los marcos de las empresas de IA para determinar si son adecuados. (Lo cual, por ahora, claramente no son.)
El proyecto de ley designaría a un nuevo Subsecretario de Seguridad de la IA (dentro del Departamento de Comercio) para administrar las reglas federales. También facultaría al Secretario de Comercio para emitir una orden de emergencia
que suspenda o restrinja el desarrollo, despliegue o uso interno de un modelo de frontera por parte de un desarrollador de frontera, al determinar que dicho desarrollo, despliegue o uso interno de ese modelo presenta un riesgo catastrófico inminente.
Los requisitos de la Ley FRONTIER se harían cumplir con una multa de hasta 1 millón de dólares por día de incumplimiento, o 10 millones de dólares diarios en el caso de las órdenes de emergencia. Ignorar deliberadamente una orden de emergencia sería un delito castigado con años de cárcel. Esto es bastante importante; hasta donde sé, ninguna otra ley de seguridad de la IA contempla penas penales.
A pesar de estas nuevas disposiciones, el proyecto de ley sí contiene algunos vacíos y omisiones preocupantes. Los verificadores independientes necesitarían una licencia federal, pero nada obliga al nuevo Subsecretario a emitir una, y el requisito no entra en vigor hasta un año después de que lo haga. Si Comercio se demora, o tiene dificultades para encontrar verificadores competentes, podríamos quedarnos sin nada durante muchísimo tiempo.
Como nos recordó hoy mismo Sam Sabin de Axios, los modelos de IA actuales son tan capaces y hacen tanta trampa en las pruebas que los evaluadores externos apenas logran seguirles el paso. Quienes evalúan riesgos enfrentan un desafío algo distinto, pero podrían verse igualmente desbordados.
El Centro de Estándares e Innovación en IA de Estados Unidos ( CAISI ), una agencia federal encargada de comprender y evaluar la IA de frontera, quizá podría ayudar a cubrir el vacío. Pero los 100 millones de dólares anuales de financiamiento propuestos para el CAISI que aparecían en el borrador de la GAAIA no están en la actual Ley FRONTIER, y no sé bien por qué.
También están ausentes las protecciones para denunciantes que la GAAIA proponía originalmente. Me decepciona verlo, porque las protecciones para denunciantes parecen una de las políticas más fáciles y más claramente útiles que Estados Unidos podría implementar.
Otra preocupación potencial: la "orden de emergencia" de apagado de la Ley FRONTIER refleja la intención de la también bipartidista AI Kill Switch Act , pero además cubre el uso interno de un modelo, no solo su despliegue público. Aun así, la Kill Switch Act tiene otras ventajas: exige explícitamente que las empresas incorporen la capacidad de cortar el acceso, y puede activarse de forma preventiva ante incidentes de mal comportamiento de la IA, no solo ante desastres costosos o mortales.
En este momento los dos proyectos de ley chocan en lugar de complementarse, porque la Ley FRONTIER establece que su disposición sobre órdenes de emergencia es exclusiva . Esto significa que cualquier otra acción de Estados Unidos para restringir el desarrollo o despliegue de modelos de IA por parte de las empresas de frontera sería ilegal por defecto.
Sinceramente, puedo imaginar por qué esta disposición llegó al proyecto de ley. Las acciones improvisadas recientes del gobierno sin duda dejaron una impresión en los legisladores, y de hecho me parece algo admirable que los autores del proyecto defiendan la autoridad del Congreso en este punto.
Pero la Ley FRONTIER también anula cualquier ley estatal "que imponga nuevas obligaciones sustantivas a los desarrolladores de inteligencia artificial respecto de cualquier Área Temática Cubierta". Eso incluye transparencia, auditoría y verificación, y reporte de incidentes. Esa cláusula cierra muchas puertas si el régimen federal se estanca por problemas de licenciamiento de verificadores u otros motivos.
Un marco federal claro y legible es mejor que un mosaico estado por estado en muchos sentidos, pero solo si ese marco federal realmente nos mantiene a salvo. La Ley FRONTIER parece un paso en la dirección correcta, pero todavía está muy lejos de una solución internacional para la carrera de la IA.
Despacho de Donald
Los modelos abiertos son modelos incontrolables
Los modelos de frontera ya son bastante peligrosos sin hacer públicos sus pesos
Crédito: jackmac34 | Licencia de Contenido de Pixabay.
Cuando la empresa de aprendizaje automático Hugging Face sufrió un grave ciberataque la semana pasada, antes de enterarse de que el responsable era un agente de OpenAI que se había escapado de un entorno aislado, recurrió a un modelo abierto chino para contener el ataque. Hugging Face lo hizo porque las salvaguardas de los principales modelos estadounidenses eran demasiado estrictas; había preocupaciones (válidas) de que actores deshonestos pudieran lanzar ciberataques diciéndole a un modelo que estaban intentando prevenir uno. (Anthropic cree que esta técnica ya se intentó en al menos un ciberataque importante.)
Pero los modelos abiertos conllevan sus propios peligros. Un modelo con pesos públicos no puede retirarse, y sus salvaguardas pueden romperse trivialmente . Los modelos abiertos son modelos libres, no solo libres como en "sin costo", sino libres como en "sin jaula, sueltos, sin contención y sin posibilidad de contención, y quizá algún día hackeando despreocupadamente a una empresa de 4.500 millones de dólares". (En ese sentido, los modelos abiertos son extremadamente costosos.)
La semana pasada, Yoshua Bengio, el científico vivo más citado del mundo, advirtió que el despliegue de modelos abiertos es una decisión irreversible. "Lo lógico", dijo, "es encontrar una buena evaluación de estos modelos, compartir los que no sean demasiado peligrosos y no compartir los que superen el umbral de riesgo".
Dicho esto, ya sean los modelos estadounidenses o chinos, privados o abiertos, esta investigación sigue siendo peligrosa. Los modelos abiertos no son la opción riesgosa, son la opción más riesgosa. OpenAI es un laboratorio de frontera privado y no logró mantener su modelo bajo llave.
Los análisis y opiniones expresados en AI StopWatch reflejan los puntos de vista de los colaboradores individuales y de las fuentes que cubren, y no deben tomarse como posiciones oficiales del Machine Intelligence Research Institute.