En esta edición:
La cordura marcha - Manifestantes se reúnen en San Francisco para pedir que se detenga la carrera de la IA
Conversando con las bases - Los bots de mensajes de texto de campaña pueden mantener conversaciones completas, a gran escala
¿Cuál es su plan? - "IA 2040: Plan A" y la necesidad de tomar decisiones difíciles
Despachos de Mitch
La cordura marcha
Manifestantes se reúnen en San Francisco para pedir que se detenga la carrera de la IA
Crédito: Rob Miles
El San Francisco Chronicle informó sobre la marcha "Detengan la carrera de la IA" de ayer. Alrededor de doscientas personas pasaron caminando frente a las oficinas de OpenAI, Anthropic y Google DeepMind en San Francisco, exigiendo que cada empresa se comprometa a dejar de entrenar modelos de frontera si las demás asumen el mismo compromiso.
Esta es una buena exigencia para una protesta. Aceptarla le costaría poco a las empresas y sería una manera de reafirmar las preocupaciones que sus líderes han expresado, en distintos momentos, sobre los peligros extremos de desarrollar superinteligencia artificial en condiciones de carrera competitiva.
Un compromiso de las principales empresas de IA no bastaría para detener la carrera, eso requeriría una acción internacional coordinada para impedir que alguien, en cualquier lugar, persiga la superinteligencia, pero enviaría una señal fuerte que podría impulsar dicha coordinación. Creo que al gobierno de Estados Unidos le interesaría evitar una situación en la que otros países siguieran avanzando hacia el precipicio mientras las empresas estadounidenses mostraran más sensatez.
El organizador principal de la protesta de ayer, Michaël Trazzi, había participado en una huelga de hambre frente a la oficina de Google DeepMind en Londres el año pasado, con la misma exigencia de un compromiso condicional para dejar de competir. En los meses siguientes, el director ejecutivo de DeepMind, Demis Hassabis, estuvo de acuerdo en lo esencial. Cuando le preguntaron en una entrevista en enero si estaría dispuesto a pausar si otros hicieran lo mismo, Hassabis dijo: "Creo que sí", y reiteró su antiguo sueño de que los investigadores trabajaran juntos y con cuidado en esto una vez que la IA estuviera lo bastante avanzada.
AI StopWatch tiene prevista más cobertura de la protesta de ayer, con testimonios de primera mano de quienes participaron. El ambiente, según me cuentan , fue increíble.
Conversando con las bases
Los bots de mensajes de texto de campaña pueden mantener conversaciones completas, a gran escala
Crédito: Santeri Viinamäki. CC BY-SA 4.0 .
A principios de este mes, expresé un entusiasmo moderado por la práctica de que los votantes usen chatbots para investigar a los candidatos. Estoy algo menos entusiasmado cuando esos chatbots son entrenados o alojados específicamente por campañas políticas y, en algunos casos, se hacen pasar por los propios candidatos.
Maham Javaid, de NPR, informa que estas IA se están usando para ampliar el uso de los mensajes de texto como herramienta de contacto con votantes. Donde antes responder a esos mensajes podía ser tarea de unos pocos voluntarios sobrecargados, si es que alguien los atendía, ahora un chatbot puede responderlos todos con paciencia y esmero.
Un representante de una empresa que provee chatbots de campaña dijo que "en algunos casos, tenemos personas que hablan con nuestro agente durante horas" y que las tasas de respuesta a los mensajes llegan al 5-10%. Afirma que medio millón de mensajes enviados este año han derivado en un total de veinte a treinta mil conversaciones.
Creo que estos bots podrían ser buenos para la democracia siempre que los votantes sepan que están hablando con un bot y quién lo financia. Pero no confío en que eso ocurra de manera confiable. Dakota del Norte y California tienen leyes que exigen que los bots de campaña revelen que son IA en el primer mensaje, pero incluso en esos estados espero que las cosas se vuelvan turbias y que las reglas sean ignoradas por terceros dudosos que aparecen y desaparecen justo antes de la elección.
Como hemos visto en otra cobertura reciente, el artículo de Javaid sostiene que las campañas republicanas están aprovechando estas herramientas con más entusiasmo, porque las campañas demócratas suelen preocuparse más por la imagen que da el uso de IA.
Pero, como siguen mostrando las encuestas, la preocupación por los riesgos de la IA sigue siendo muy bipartidista .
¿Cuál es su plan?
"IA 2040: Plan A" y la necesidad de tomar decisiones difíciles
La galaxia de Andrómeda. Crédito Brody Wesner . CC0 .
Durante la última semana, mi colega Joe ha animado dos veces a nuestros lectores y oyentes a interesarse por AI 2040: Plan A , el nuevo escenario del AI Futures Project.
Ahora es mi turno.
No voy a repetir lo que Joe ya cubrió, pero sí señalaré que uno de los pasajes que Joe citó (posiblemente mi favorito) ya ha resultado profético de la peor manera. El pasaje dice:
Esperamos que los críticos nos juzguen frente al estado del arte existente en planes para navegar la transición hacia la IA (si es que encuentran alguno) y no frente a alguna fantasía difusa pero agradable en la que nadie tiene que tomar decisiones difíciles y aun así todo probablemente saldrá bien.
Lamentablemente, los comentarios que he visto sobre este plan en X (Twitter) han sido abrumadoramente del tipo que busca fallas, sin ofrecer respuestas alternativas a las decisiones difíciles que vienen.
¡Las decisiones difíciles sí tendrán que tomarse! Eso es cierto incluso en los futuros en los que tenemos bastante suerte, en los que resulta sospechosamente fácil evitar que las IA poderosas nos roben el planeta para perseguir las preferencias extrañas que su entrenamiento, de forma involuntaria pero inevitable, las llevará a desarrollar .
El Plan A ya es el modo fácil. Transcurre dentro de uno de esos futuros sospechosamente afortunados en los que se puede confiar en que las IA hagan por nosotros la tarea de alineamiento , diseñando IA más poderosas y más confiables que los propios humanos no podrían crear. Solo en esos futuros bastará con frenar la IA durante apenas una década más o menos, como propone el Plan. El Plan S del grupo, con el que dicen simpatizar y que creen que podría ser mejor que el Plan A, es el plan "más simple" que intenta impedir la superinteligencia durante todo el tiempo que les tome a los humanos saber cómo hacerlo bien al primer y único intento, lo que podría llevar unas décadas o más.
Ambos planes describen el equilibrio delicado que nos espera si pisamos el freno pero no damos la vuelta al auto. Evitamos caer de golpe por el precipicio, pero seguimos acercándonos a él, tomando velocidad, porque las IA que ya se habrán creado para cuando se imponga una pausa serán lo bastante poderosas como para transformar el mundo, económica, militar y socialmente, aunque no en el sentido literal de causar la extinción, que es lo que obtendríamos con la superinteligencia.
Es un equilibrio delicado porque estas transformaciones serán desestabilizadoras. De un lado de la cuerda: guerra, caos, anarquía. Del otro lado: explotación, tiranía, opresión. Mantener el equilibrio exigirá decisiones difíciles sobre asuntos que nuestras instituciones no fueron construidas para manejar. ¿Qué pasa cuando la vigilancia total es barata y fácil? ¿Cuando la disuasión nuclear queda debilitada ? ¿Cuando cualquier terrorista puede diseñar un arma biológica? ¿Cuando empresas individuales son más poderosas que los Estados nacionales? ¿Cuando una enorme parte de la población es inempleable ? Los críticos del Plan A lo llaman ingenuo, pero suponer que todo saldrá bien si seguimos como siempre es el plan más ingenuo de todos.
Como otros han señalado , el ritmo de progreso económico y tecnológico que describe el Plan A sigue siendo vertiginoso, más rápido, de hecho, que lo que la mayoría de los promotores de la IA esperan del curso habitual de las cosas, porque los promotores suelen no captar todas las implicaciones de la IA. Así que, en teoría, quienes quieren acelerar la IA deberían estar tan contentos con el Plan A como quienes quieren frenarla.
Quien se queje de que el Plan A es una fantasía ludita de estancamiento necesita leer la sección Perspectiva pública que aparece al final. Se presenta como una "historia más corta y accesible que escribimos para transmitir cómo se sentiría el Plan A para un estadounidense típico", y es más delirante que casi toda la ciencia ficción a la que ustedes hayan estado expuestos. Recién en 2028 finalmente pierden su empleo y empiezan a ver robots caminando por ahí en cantidad, haciendo trabajo real, pero para 2034 viven en una torre de lujo en una ciudad que no existía cinco años antes, y para 2040 están reflexionando sobre si quieren permanecer en su cuerpo biológico y qué querrían hacer con la diezmilmillonésima parte del universo que les corresponde recibir.
Y eso es apenas el comienzo. Lean el Epílogo y las Propuestas de Gobernanza Espacial para las cosas realmente delirantes.
Quizá no les guste el Plan A, ni el Plan S, ni ningún plan que hayan visto hasta ahora. ¡Está bien! A mí tampoco me encanta del todo ninguno de los planes que he visto. Pero si no aceptan algo como el Plan A o el Plan S como punto de partida, ¿cuál es su alternativa? Si no la tienen, ¿en quién confían para que se les ocurra una mejor y cómo le darán el poder para llevarla a cabo? Las decisiones se acercan, y hay que tomarlas.
Quizá miren todo esto y deseen que la humanidad no tuviera que enfrentar ninguna de estas decisiones en su época . ¡Está bien! ¿Cómo harán no solo para detener el auto, sino para darle la vuelta? Creo que es posible. Incluso quizá logren convencerme de apoyarlo.
Pero van a necesitar un plan.
Los análisis y opiniones expresados en AI StopWatch reflejan las opiniones de los colaboradores individuales y de las fuentes que cubren, y no deben tomarse como posiciones oficiales del Machine Intelligence Research Institute.