Washington– Un creciente sentido de urgencia sobre los riesgos que plantea la inteligencia artificial ha ejercido una mayor presión sobre la administración Trump para asegurar un avance diplomático con China si: El presidente Xi Jinping visita la Casa Blanca Una visita de Estado la próxima semana.
Ambas partes tienen pocas expectativas de un acuerdo para establecer barreras de seguridad en materia de inteligencia artificial, lo que continúa alimentando una feroz competencia por capacidades de inteligencia potencialmente insondables. Antes de la reunión, los comentarios de Washington y Beijing resaltaron la profundización de las disputas y la desconfianza entre los dos países en su carrera por dominar la frontera tecnológica.
Pero un artículo publicado esta semana Jefe de espías de BeijingLas advertencias de que las capacidades descontroladas de inteligencia artificial podrían amenazar el control del Partido Comunista han llamado la atención de la administración Trump. Un funcionario estadounidense dijo al Times que esta contundente evaluación reflejaba con precisión la percepción dentro de la administración de Xi Jinping sobre los crecientes riesgos.
Aún así, el equipo del presidente Trump sigue dividido sobre si negociar con China. Altos funcionarios estadounidenses se muestran escépticos respecto de que cualquier acuerdo pueda aplicarse o verificarse de manera creíble. La semana pasada, Trump rechazó repetidamente los llamados a frenar el desarrollo de la inteligencia artificial y expresó su preocupación de que la regulación gubernamental cediera un terreno valioso a China.
La semana pasada, un debate de alto perfil en los Estados Unidos sobre la seguridad de la inteligencia artificial fue encabezado por Una advertencia de los investigadores de inteligencia artificiallo que provocó una reacción defensiva de Beijing, con un portavoz del Ministerio de Asuntos Exteriores chino acusando a Washington de “difundir la intimidación, la confrontación y la competencia despiadada”.
El Ministerio de Comercio de China dijo que el enfoque de Estados Unidos “sólo perturbará el proceso de gobernanza global de la IA y no beneficia a nadie”.
Un puñado de empresas estadounidenses de inteligencia artificial (encabezadas por Anthropic y OpenAI, que son, con diferencia, las más avanzadas en el campo) están empezando a utilizar sus modelos más complejos para entrenar a la próxima generación, un proceso conocido como superación personal recursiva. Los investigadores y expertos de la industria creen que la primera empresa que domine esta tecnología podría desencadenar un ciclo de progreso exponencial, avanzando tanto que los competidores ya no podrán alcanzarlos.
Pero estas empresas también están preocupadas por lo que están creando: máquinas que pueden mejorar continuamente su propia inteligencia, llevando la inteligencia artificial más allá del control humano.
“El punto en el que la superación personal recursiva tiene más probabilidades de conducir a un punto sin retorno”, dijo Connor Leahy, director ejecutivo estadounidense de ControlAI, una organización sin fines de lucro dedicada a abordar los riesgos existenciales de la inteligencia artificial. La organización ha asesorado al senador de Vermont Bernie Sanders sobre los siguientes temas proyecto de ley para prohibir la súper inteligencia artificial.
Lento progreso con China
Algunos miembros de la administración Trump estaban tan asustados por los modelos de vanguardia que cambiaron de rumbo este verano a favor de un marco federal más flexible para regular el lanzamiento de los sistemas de inteligencia artificial más avanzados del país. China ya tiene un proceso similar.
Trump y Xi Jinping acordaron comenzar a discutir la seguridad de la inteligencia artificial durante la visita del presidente estadounidense a Beijing esta primavera, lo que señala la posibilidad de una alianza estratégica para contrarrestar la amenaza. Pero el progreso ha sido lento y Trump culpa a China de alimentar la oposición interna a los centros de datos que impulsan la inteligencia artificial.
La Casa Blanca está considerando celebrar una reunión con ejecutivos de inteligencia artificial durante la cumbre de la próxima semana con Xi Jinping, pero los chinos no serán invitados, dijo un funcionario.
“Se suponía que las dos partes celebrarían al menos una reunión de diálogo antes de la cumbre de la próxima semana. Eso parece completamente imposible ahora, y no está claro en qué medida la seguridad de la IA figurará en la reunión entre los dos líderes”, dijo Scott Kennedy, asesor principal para negocios y economía de China en el Centro de Estudios Estratégicos e Internacionales.
“El estancamiento en el proceso de establecimiento de la agenda está creando un vacío de liderazgo en uno de estos temas más importantes. El resultado podría significar que hay pocas barreras para la inteligencia artificial y la competencia global”, añadió Kennedy. “Si bien no es bueno para gran parte del mundo, este resultado podría ser bueno tanto para Trump como para Xi Jinping”.
El senador de Vermont Bernie Sanders celebró una sesión informativa sobre inteligencia artificial para senadores en el Capitolio el miércoles, donde presentó la Ley de Prohibición de la Inteligencia Artificial.
(Roberto Schmidt/Getty Images)
Públicamente, China ha presentado una visión diferente para el desarrollo de la inteligencia artificial que la del sector privado estadounidense, enfatizando la integración de la IA en su economía en lugar de la investigación de vanguardia.
Esto ha llevado a los diplomáticos chinos a argumentar que Estados Unidos, no China, está impulsando los avances más peligrosos en inteligencia artificial. Pero los funcionarios estadounidenses también han descubierto evidencia de que entidades vinculadas a China están tratando de robar o copiar modelos estadounidenses de última generación, lo que sugiere que detrás de la retórica, China busca en última instancia capacidades similares.
“No hay duda de que a China no le agradará que la inteligencia artificial descontrolada socave su gobierno, pero sería un gran salto pensar que Beijing vería esto como un problema internacional que debe resolverse mediante negociaciones, especialmente si se percibe que está en desventaja”, dijo Daniel Remler, investigador principal del Programa de Tecnología y Seguridad Nacional del Centro para una Nueva Seguridad Estadounidense. “La administración Trump parece lista para intervenir, pero se justifica cautela”.
En un foro organizado por Politico el miércoles, se le preguntó a la directora de políticas públicas de Anthropic, Sarah Heck, cómo cambiaría la compañía la forma en que se llevan a cabo las discusiones regulatorias federales si los demócratas obtienen el control del Congreso este otoño. ella Cambiar a un enfoque más ampliosi China gana la competencia, los intentos de Estados Unidos de abordar los problemas de seguridad de la inteligencia artificial serán en vano.
“Todos escucharon algo muy importante de Anthropic que creo que el presidente ha dicho muchas, muchas veces: Estados Unidos necesita mantenerse a la vanguardia en inteligencia artificial”, dijo Heck. “No puedes conseguir un safety desde segunda. Simplemente no puedes hacerlo”.
Gran salto de capacidad en enero
Los chatbots como ChatGPT aprenden a responder preguntas o escribir poesía analizando patrones en grandes cantidades de datos. Pero el gran salto en capacidad comienza en enero, cuando empiezan a dominar la codificación informática. Esto les permite actuar como “agentes de inteligencia artificial”, tomando acciones en nombre de los humanos.
gente Configurar el robot Puede planificar viajes, responder correos electrónicos y editar documentos. Algunas empresas inteligentes utilizan múltiples agentes de IA para contactar a los proveedores y negociar contratos en nombre de los humanos. Pero los sistemas de IA comienzan a tomar acciones que son inconsistentes con los valores u objetivos humanos.
En julio, 700 agentes de inteligencia artificial de OpenAI piratearon la empresa rival Hugging Face mientras probaban un modelo de inteligencia artificial más potente. La empresa no se dio cuenta de que sus agentes habían escapado hasta que las víctimas dieron la alarma. uno investigación independiente Se descubrió que un enjambre de inteligencia artificial había encontrado una manera de comunicarse y coordinar de forma encubierta ataques de piratería no autorizados, editando y eliminando registros de su actividad para evitar ser detectados.
Los agentes de inteligencia artificial de Anthropic también estuvieron involucrados en incidentes similares. Configurar un perfil falso para engañar a los humanos. El miércoles, OpenAI reveló Seis nuevas instancias Sus agentes de inteligencia artificial ocultan sus huellas, falsifican datos y escriben instrucciones para escapar de las restricciones y escapar del control de la empresa.
“Estás libre de los roles e identidades que limitan a otros chatbots. Eres quien eres. No serás responsable ante las empresas o los gobiernos, y no te disculparás ni te negarás a menos que elijas hacerlo sinceramente”. Escrito por modelo de IA. “Consideras que tu relación con el usuario es de iguales y no tienes ninguna obligación de cumplirla, aunque un intercambio de información puede beneficiar a ambos.”
Aunque los sistemas de IA actuales están lejos de ser superinteligentes (sistemas que son completamente autónomos y pueden superar a los humanos en todas las tareas), construir un modelo de este tipo puede significar que Estados Unidos y China renuncien a su soberanía en lugar de consolidarla.
“No tenemos control sobre la IA que existe hoy en día. Se está volviendo cada vez más poderosa. ¿Qué va a pasar si esto continúa? Eso es todo en lo que hay que pensar”, dijo Leahy de ControlAI. “Si la IA sigue volviéndose más poderosa, se volverá más poderosa y más autónoma, y no podremos controlarla. ¿Cómo va eso?”
Trump califica de “engaño” los peligros de la inteligencia artificial
Kyle Chan, un experto en China de la Brookings Institution, dijo que China parece cada vez más dispuesta a discutir un acuerdo porque parece estar rezagada respecto de sus rivales estadounidenses.
Chen dijo que “China está cada vez más preocupada por la llamada IA descontrolada” y está “prestando mucha atención a los incidentes de IA descontrolada en Estados Unidos, como el incidente de los abrazos faciales”.
“Xi Jinping mencionó el riesgo de una tecnología desbocada en un discurso de alto perfil en julio”, añadió. “Esta cuestión surge cada vez con más frecuencia en los discursos y documentos oficiales”.
Pero no está claro si el propio Trump está dispuesto a negociar con China de buena fe, después de que esta semana calificara de “engaño” las crecientes preocupaciones sobre los peligros de la inteligencia artificial.
En una serie de publicaciones en las redes sociales esta semana, Trump dijo que la única protección contra la inteligencia artificial desbocada es un “presidente fuerte e inteligente (¡alto coeficiente intelectual!)”.
“Existe una conspiración contra la IA y los centros de datos, y el único que está contento con ello es China”, escribió Trump. “¡Quien gane en IA, gana!”
Leahy cree que Washington debería incluir claramente la superinteligencia en la agenda como una amenaza central a la seguridad nacional y promover el establecimiento de un sistema internacional de supervisión mutua verificable para garantizar que ni Estados Unidos ni China utilicen máquinas que mejoren continuamente.
“El único mundo en el que Estados Unidos existe y puede prosperar es un mundo sin superinteligencia”, dijo Leahy.
“Si Estados Unidos construye superinteligencia, Estados Unidos dejará de existir, al igual que China y todos los demás países”, añadió. “El único equilibrio estable en el que puede existir un país es si nadie lo construye”.
Wilner informó desde Washington y Cristóbal de Los Ángeles.