Los demócratas están tratando de obligar a la Casa Blanca a cambiar las conversaciones del presidente Donald Trump con los chatbots de inteligencia artificial, incluido el consejo de Elon Musk a Croc sobre la destitución del expresidente de Venezuela. Nicolás Maduro A principios de año.
En Una carta conjunta a Trump La semana pasada, el representante demócrata de Maryland Jamie Raskin y el demócrata de California Robert García argumentaron que las indicaciones de la IA del presidente (y las respuestas que recibió) deberían considerarse registros públicos según 1978. Ley de registro presidencial. Los legisladores también plantearon preocupaciones éticas y de seguridad sobre la dependencia del presidente de “sistemas de inteligencia artificial inseguros y operados de forma privada”, acusando a Trump de consultar a Groke, pero no al Congreso, sobre el despliegue militar en Venezuela.
Según el público La declaración a que se refiere la carta.En diciembre de 2025, pocas semanas antes de ordenar la acción militar y el arresto de Maduro., Trump pasó horas presionando a Croce sobre cómo respondería el pueblo venezolano Captura del líder. Según se informa, Trump “salió pensando que Kroc era brillante”.
García y Ruskin argumentan que el uso de IA por parte de Trump “expone al país a la influencia maligna de terceros desconocidos e irresponsables”. Resumen ejecutivo de enero del informe de la Administración de Servicios Generalesrevisado periódico de Wall Street, xAI concluyó que Grok “no cumple con las expectativas de seguridad y alineación requeridas”. Puede suponer un riesgo de seguridad en sistemas clasificados..
Utilizar a Kroc como asesor político informal plantea dudas sobre la influencia política de Musk. “Si el presidente de los Estados Unidos confía en el consejo político de un chatbot amigable con Hitler, diseñado por un mosquetero, para llevar a cabo sus deberes oficiales, los estadounidenses tienen derecho a saberlo”. Lee la carta conjunta (PDF), hace referencia al infame episodio antisemita de Kroc en 2025, cuando el chatbot se refirió a sí mismo como “McHitler”.
La carta también señala el uso continuo de chatbots de IA por parte de la Casa Blanca en aventuras militares en el extranjero, incluida la guerra con Irán: “Si el ejército estadounidense ha matado a docenas de escolares inocentes basándose en los consejos imprudentes de un chatbot de IA, tenemos derecho a saberlo también”. En junio, meses después de que un ataque militar estadounidense contra una escuela primaria iraní matara al menos a 123 niños, El jefe de inteligencia artificial del Pentágono Kroc calificó la operación continua del chatbot como “una cuestión de seguridad nacional vital”.
La Casa Blanca remitió a CNET al Pentágono para que hiciera comentarios, que no respondieron de inmediato. La oficina del representante García no respondió a una solicitud de comentarios.
Riesgos de los chatbots de IA en operaciones militares
El argumento a favor del uso de un chatbot de IA para la toma de decisiones tácticas suele formularse en términos de eficacia. Pero los grandes modelos de lenguaje, o LLM, son meramente generadores de texto probabilísticos que a menudo suenan autoritarios cuando producen información sesgada o fabricada. En un contexto militar, esos puntos de falla pueden resultar en ataques con misiles, arrestos y muertes de civiles.
Se sabe que los modelos de IA amplifican los sesgos preexistentes y alimentan a los usuarios con respuestas que concuerdan con sus creencias más sólidas. Esta adulación a menudo refleja las respuestas que se encuentran en las cámaras de eco en línea. Un periodista se enteró Los modelos anteriores de Grok habían “triplicado” las tasas de adulación en comparación con los populares modelos ChatGPT y Claude, lo que “indicaba un cambio de comportamiento”. investigadores del MIT identificar como causante de daño en acción”.
En otras palabras, si el presidente cree que tiene un brillante plan de invasión, la función de Groke es servir como “hombre que dice sí” y confirmar la medida.
Otro problema con el uso de un chatbot de IA para decisiones militares es un objeto estructurado modelo. Un LLM es una colección de código que genera respuestas contextuales basadas en sus datos de capacitación masivos: publicaciones de blogs, artículos científicos, documentos legales y (pero no limitado a) una gran cantidad de información extraída de la web. Código. Los modelos Grok también en particular Formada en relaciones públicas. De X, un sitio infestado de granjas de bots y cebos de participación de derecha.
Cuando Trump invocó a Croce en diciembre de 2025, Funcionarios acusados Chatbot le dijo al presidente que “Maduro es un dictador represivo y profundamente impopular y muchos venezolanos pueden celebrar su caída”. A raíz de la invasión venezolana, los usuarios de X continuó Croce Respecto a la medida, el país sudamericano preguntó si era “apropiada” para el bombardeo.
El otro problema se conoce comúnmente como “alucinaciones”. Se sabe que los LLM encuentran resultados si no tienen la información necesaria para responder a una pregunta en particular. de Casos fabricados en escritos legales, Citas fantasma en informes gubernamentales y otros documentos serios vinculados por IA, no hay forma de evitar por completo que la inteligencia falsa haga trampa.
A principios de este año, según un informe citado en la carta, Oficiales militares estadounidenses recibieron un informe de inteligencia Un barco chino en Oriente Medio ha sido acusado de transportar componentes para un programa de armas nucleares. Sólo cuando los militares se prepararon para interceptar el barco (lo que muchos dicen podría haber escalado a una confrontación con China) que los funcionarios descubrieron que el autor del informe se había basado en un chatbot de inteligencia artificial para identificar erróneamente la carga. El error no provocó una guerra, pero sí reveló cuán peligrosamente una salida de IA fabricada podría deslizarse en la cadena de decisiones militares.
Y si el presidente o sus asesores utilizan un producto de inteligencia artificial para el consumidor en lugar de un sistema gubernamental rígido, esos chats podrían ser impulsados por la infraestructura de una empresa privada. García y Raskin han pedido a la Casa Blanca que aclare si controla la información confidencial de los chatbots de IA y si los proveedores, subcontratistas u otras partes externas pueden acceder a indicaciones, resultados, grabaciones o metadatos.
Sala de situación de la IA
El uso de IA por parte de Trump en la operación en Venezuela sería preocupante incluso si fuera aislado. Pero García y Ruskin sostienen que esto se aplica a una forma más amplia de IA que entra en decisiones gubernamentales de alto riesgo sin las salvaguardias adecuadas.
El Pentágono dijo en un Declaración jurada (PDF) Los últimos prototipos de xAI ayudaron a las fuerzas estadounidenses a desplegar más de 2000 municiones para apuntar a 2000 lugares diferentes en 96 horas durante la Operación Furia Épica, la campaña de Estados Unidos contra Irán. Croce no es toda la historia. Sistema inteligente Maven de PalandireAl integrar inteligencia de satélites, drones y otras fuentes para identificar objetivos militares, supuestamente ha desempeñado un papel clave en la campaña de Estados Unidos contra Irán. El Departamento de Defensa también ha adjudicado contratos Cada uno vale hasta 200 millones de dólares. Anthropic, Google, OpenAI y xAI para acelerar la adopción militar de IA avanzada.
A nivel mundial, los sistemas de inteligencia artificial se utilizan para tomar decisiones sobre quién vive y quién muere. Los investigadores han señalado consistentemente que El bombardeo indiscriminado de Israel a Gaza Un claro ejemplo de combate en el que la IA es lo primero. Según el análisis citado Revisión de estudios de seguridad de GeorgetownEl sistema Lavender de Israel identificó a unos 37.000 palestinos como sospechosos de pertenecer a Hamas o a la Jihad Islámica, con una tasa de error estimada del 10%.
La organización Lavender “amplió drásticamente” la lista de asesinatos de Israel al confiar en métodos de comunicación y señales como la membresía en chats grupales, creando identidades falsas que incluían a policías palestinos, trabajadores humanitarios, familiares de militantes y personas con nombres o apodos similares. Una organización israelí relacionada, “¿Dónde está papá?” monitoreado Sobre los palestinos También alertaron al ejército cuando entraron en sus casas y atacaron varias residencias familiares privadas.
Si bien el impacto político de los chatbots de IA que influyen en la estrategia militar domina los titulares, el verdadero campo de batalla es legal. La solicitud del presidente Trump de que las indicaciones y resultados del chatbot de IA se marquen como propiedad oficial del gobierno según la Ley de Registros Presidenciales haría que las conversaciones de IA sean registros públicos y abriría la puerta para que el Congreso cite al poder ejecutivo. Raskin y García exigen una explicación completa sobre el uso de tecnología personal por parte del presidente y una sesión informativa a puerta cerrada antes del 11 de noviembre para revisar la ética de la IA y las salvaguardas de ciberseguridad de la administración.
Independientemente de cómo resulte el aspecto legal, la cuestión no es si la IA se utilizará en la guerra, sino si se permitirá al público ver dónde comienza la IA y termina la responsabilidad humana.