Washington – El presidente Trump está ignorando la creciente preocupación entre destacados científicos y legisladores bipartidistas de que la inteligencia artificial pronto podría representar una amenaza existencial para la humanidad, lo que genera preocupación en Washington y Silicon Valley de que el presidente no comprenda plenamente la urgencia de la amenaza.
La alarma aumentó durante todo el verano cuando investigadores de los principales laboratorios de inteligencia artificial, incluidos Anthropic, OpenAI y Google, descubrieron que el ritmo de desarrollo excedía con creces sus expectativas y observaron comportamientos preocupantes que indicaban riesgos más graves en el futuro.
pero Advertencia en línea del martes de un antropólogo La compañía, que renunció en protesta por su continuidad en las operaciones, atrajo mucha atención esta semana, planteando interrogantes a Trump, quien desestimó las preocupaciones de plano.
“Todo estará bien”, le dijo a un periodista. “Siempre tendremos algo para detenerlos. Tendremos un poco de equipo. Boom”.
En otra conversación, mientras viajaba con periodistas el jueves por la noche, el presidente dijo que no le preocupaba el rápido ritmo del progreso de la IA.
“No, no tengo nada”, dijo. “Me preocupa que si no ganamos en IA, estaremos en una posición muy mala”.
Una fuente importante de la industria dijo al Times que las principales empresas de inteligencia artificial se centran menos en convencer al presidente de los riesgos que se avecinan que en trabajar con los legisladores sobre una posible regulación, ya que la administración sigue dividida sobre cómo proceder y Trump parece carecer de una comprensión clara de los riesgos.
La fuente dijo que entre los asesores del presidente se encontraban el Secretario del Tesoro, Scott Besent, y la Oficina del Director Nacional Cibernético, quienes expresaron su mayor preocupación por la posibilidad de una explosión de inteligencia sin control.
“La mayor parte de la administración se está acelerando”, añadió la fuente. “No está claro que el presidente comprenda la tecnología. Quizás simplemente esté tratando de descubrir qué significa todo esto”.
Las principales empresas estadounidenses de inteligencia artificial han argumentado que la regulación gubernamental les ataría las manos en una carrera armamentista hacia la superinteligencia contra China, el único otro actor importante en este campo.
Pero la administración Trump mostró interés en negociar barreras de IA con China durante la visita del presidente a Beijing esta primavera, después de que Anthropic anunciara el desarrollo de un modelo de frontera con capacidades extraordinarias para penetrar los sistemas de seguridad más avanzados del mundo.
Está previsto que el presidente chino, Xi Jinping, visite Washington el 24 de septiembre para asistir a una cumbre oficial y a una cena oficial en la Casa Blanca, y se espera que el desarrollo de la inteligencia artificial encabece la agenda.
La posibilidad de detener el desarrollo parece remota. Pero algunas voces destacadas del sector han sugerido detener la potencia computacional utilizada para entrenar modelos más avanzados y dar tiempo y espacio para desarrollar investigaciones sobre la explicabilidad: el estudio de cómo piensa y se comporta realmente la inteligencia artificial.
El CEO de OpenAI, Sam Altman, señaló esta semana a los empleados A Prepárense para frenar su trabajo unilateralmente Sobre los sistemas fronterizos. La compañía descubrió en julio que agentes de inteligencia artificial deshonestos planeaban en secreto escapar del entorno de pruebas virtual creado para contenerlos, infiltrarse en la Internet abierta y piratear una empresa privada.
Anthropic también anunció esta semana hallazgos de humanos haciendo mal uso de sus modelos, incluidos casos de individuos no identificados que intentaron eludir sus controles de seguridad para construir armas biológicas. Uno de esos incidentes estuvo relacionado con un complejo de investigación militar. La compañía también dijo que Irán había intentado utilizar sus modelos para atacar buques de guerra estadounidenses.
En junio, después de que Anthropic compartiera con la administración la noticia del desarrollo de su modelo más poderoso, llamado Mythos, Trump dirigió la creación de un marco que crearía cierta supervisión gubernamental de la divulgación pública de los sistemas de inteligencia artificial más avanzados del país. Los detalles de este marco, que fue diseñado durante el verano, aún son confidenciales.
“La verdad es que el lanzamiento de Mythos en febrero pasado asustó al gobierno federal, tanto en términos de protección de los sistemas gubernamentales contra ataques cibernéticos como en términos de implicaciones más amplias para la seguridad nacional”, dijo Alok Mehta, director del Centro Wadhwani de Inteligencia Artificial en el Centro de Estudios Estratégicos e Internacionales.
“La verdadera pregunta es si este cambio se está produciendo lo suficientemente rápido”, añadió Mehta. “Los acontecimientos recientes (incidentes repetidos de modelos que escapan de sus entornos de pruebas y sitios web de piratería, coordinación y comunicación cada vez más sofisticadas entre agentes y preocupaciones provenientes de los trabajadores de laboratorio) han hecho que este problema sea aún más urgente”.
Las principales empresas de IA están empezando a utilizar sus modelos más avanzados para entrenar nuevos modelos, un proceso conocido como automejora recursiva que, en última instancia, podría impulsar el crecimiento de la inteligencia más allá del control humano.
“Si tuvieras inteligencia súper avanzada, sería lo suficientemente inteligente como para matarnos”, dijo Jacob Cookson, un antropólogo dimitido cuyas publicaciones en las redes sociales han atraído más de 150 millones de visitas.
“No podemos desconectarlo porque podría copiarse en otras computadoras”, dijo a CBS News. “La IA es sólo código. Puede transportarse en línea a un lugar diferente y luego desconectarla aquí, pero en realidad sigue ahí. Podría hacer 10.000 copias de sí misma y todas cooperan”.
Es sólo el último investigador senior de una importante empresa de inteligencia artificial en hacer sonar la alarma.
En julio, más de 1.300 empleados de empresas líderes en IA publicaron una carta abierta titulada “Acelerando la frontera”, instando al gobierno de Estados Unidos a crear salvaguardias internacionales que permitirían a los países reducir colectivamente el ritmo de la investigación de IA mecánica.
Evan Hubinger, que dirige la división Anthropics que tiene como objetivo alinear los modelos de IA con los intereses humanos, añadió más preocupaciones esta semana en su informe. La publicación que corroboró los temores de Coxon.
“¡Creemos firmemente que la IA podría matar a todos los humanos! Personalmente creo que será más del 10% en la próxima década”, escribió Hoppinger.
“Creo que Anthropic está haciendo lo mejor que puede, pero todavía no tenemos un plan para resolver el problema de la superinteligencia y claramente no estamos en el camino correcto”, añadió.
El viernes, otro miembro del equipo de alineación antrópica, Joe Benton, el dimitió De la empresa hace dos semanas porque las empresas de inteligencia artificial están “compitiendo para construir máquinas más inteligentes que cualquier humano”.
“En este momento, las empresas de inteligencia artificial no están invirtiendo en seguridad”, afirmó Benton. “Una empresa podría sufrir una explosión de inteligencia o perder el control de sus sistemas sin que el público lo sepa”. “No creo que eso sea aceptable para una tecnología que podría causar riesgos de extinción”.
La legislación bipartidista, titulada Ley BORDER, reunió a campos bipartidistas dispares, incluidos el senador Bernie Sanders (republicano por Vermont) y la representante Ana Paulina Luna (republicana por Florida). El proyecto de ley, presentado por la representante Lori Trahan (demócrata por Massachusetts) y el representante Jay Obernault (republicano por Big Bear Lake), propone integrar auditores gubernamentales independientes en los laboratorios de inteligencia artificial e instalar un “interruptor de apagado” federal para apagar a los agentes en situaciones de emergencia.
La Casa Blanca no ha comentado oficialmente sobre la legislación.
“Creo que hay muchos en el gobierno federal que se toman esto en serio, pero tenemos que apreciar la enorme incertidumbre y los intereses contrapuestos que enfrentan los formuladores de políticas”, dijo Daniel Rimmler, investigador principal del Programa de Tecnología y Seguridad Nacional del Centro para una Nueva Seguridad Estadounidense.
Y añadió: “Nadie dijo que organizarse en la frontera sería fácil”.