Hace casi dos décadas, un equipo de investigadores del Laboratorio Nacional de Idaho Realizó un experimento secreto.En un gran generador diésel de color verde esmeralda, llamado Prueba del Generador Aurora. Utilizando un código de 30 líneas, se infiltraron en la trastienda virtual del generador, violando medidas de seguridad y activando interruptores que no estaban sincronizados con el resto de la red eléctrica.
Ante una audiencia de ejecutivos de servicios públicos y funcionarios del Departamento de Energía que observaban desde una sala cercana, el generador de 27 toneladas se sacudió violentamente, lanzando nubes de humo oscuro mientras sus partes internas de goma se desgarraban rápidamente.
“La implicación es que con unas pocas líneas se pueden crear condiciones que son físicamente muy dañinas para las máquinas de las que dependemos”, dijo más tarde el investigador principal, Michael Asante, a Andy Greenberg en su libro. gusano de arena: Una nueva era de ciberguerra y la caza de los hackers más peligrosos del Kremlin. “Sentía un verdadero nudo en el estómago. Era como una visión del futuro”.
Ese futuro parece haberse acercado esta semana, con los principales desarrolladores y ejecutivos de IA admitiendo casualmente lo que creen que es su creación, según el párrafo. Una publicación X que guiña un ojoLos New York Jets acabarán con la humanidad al llegar a los playoffs esta temporada. Ahora, exactamente cómo La IA mata a todos, lo cual es un territorio muy oscuro. Pero como Asante se dio cuenta hace tantos años, la IA no necesita ser todopoderosa para saltar de su jaula virtual a la infraestructura crítica que alimenta nuestros hospitales, descarga nuestros inodoros y bombea agua a nuestros grifos. Simplemente tiene que caer en las manos equivocadas.
Casi cualquier escenario apocalíptico de la IA que se pueda imaginar comienza con un enjambre de robots en la sombra deslizándose por el ciberespacio, metiendo sus narices detrás de escena de plantas de energía, hornos tostadores, semáforos o, en el caso más extremo, nuestro arsenal nuclear. La IA ha derribado por completo la barrera de entrada para causar estragos, como lo demostró el incidente de Hugging Face a principios de este año, si al menos se requiriera que un hacker humano escribiera el código para destruir el generador Aurora.
Pero la IA no tiene que actuar de forma deshonesta para amenazar la red eléctrica o estropear el agua del grifo. Según los expertos, ya estamos ante una nueva era de piratería informática impulsada por la IA pero impulsada por humanos. Dado que algunas de las infraestructuras más sensibles del país son vulnerables a los ataques, el apocalipsis de la IA podría comenzar literalmente con esa torre de agua o generador inactivo en su patio trasero. En el peor de los casos, esto podría provocar fallas catastróficas en los sistemas de los que dependemos para vivir cómodamente la vida moderna, desde encender nuestro aire acondicionado en veranos calurosos hasta geolocalizar nuestros barcos y aviones.
Para realizar alguna versión de una prueba de generador de auroras en la vida real, “antes había que tener experiencia técnica muy calificada”, dijo Álvaro Cárdenas, profesor de informática en UC Santa Cruz. “Ahora deberíamos tener una idea general de lo que es posible”.
La IA empeora mucho la antigua amenaza
El gobierno federal ordenó que las empresas de servicios eléctricos adoptaran medidas básicas de higiene en materia de ciberseguridad poco después de que el Laboratorio Nacional de Idaho incendiara y dañara ese desafortunado generador.
Sin embargo, gran parte de la infraestructura crítica de Estados Unidos (como gasoductos, plantas desalinizadoras de agua o terminales de carga) lamentablemente no está preparada ni siquiera para los ciberataques convencionales, en lugar de para el inminente ataque de la IA.
Los ataques cibernéticos simulados en la prueba del generador Aurora han sido durante mucho tiempo (y siguen siendo, hasta cierto punto) extremadamente raros y poco atractivos para la mayoría de los piratas informáticos porque tienden a causar perturbaciones en lugar de ganancias financieras. Pero en el proceso de hacer que sea mucho más fácil para cualquiera codificar, la IA ha hecho que sea mucho más fácil para casi cualquier persona acceder a su cuenta bancaria en línea o, en teoría, a la reserva local o a la red eléctrica. Los agentes de IA pueden ampliar enormemente el alcance de los objetivos fáciles porque, como dice Andy Bochman, experto en resiliencia de infraestructura en West Yost: “No duermen, no se cansan, no se enferman”.
En el pasado, incluso aquellos que querían lanzar ataques a gran escala contra la infraestructura no eran lo suficientemente inteligentes para hacerlo. Y mientras a otros países les gusta Porcelana, IránY Rusia Ya hemos violado muchos de nuestros sistemas de infraestructura (como tenemos), no quieren hacer demasiado ruido una vez dentro.
“La geopolítica destruye la idea de que las personas con capacidad carecen de propósito, y la IA destruye la otra parte: las personas con propósito carecen de capacidad”.
– Jason Healy, académico de ciberseguridad de la Universidad de Columbia
Pero esa norma está cambiando ahora, afirmó Jason Healy, experto en ciberseguridad de la Universidad de Columbia. “La geopolítica está erosionando la idea de que las personas con capacidades no tienen un propósito, y la IA está destruyendo la otra parte: las personas con un propósito no tienen capacidad”, me dijo. Entonces, por un lado, una nación como Rusia está más dispuesta que nunca a alterar nuestra red eléctrica. Por otro lado, un lobo solitario nihilista o un grupo terrorista podrían utilizar la IA para causar más daño que antes.
El mes pasado vimos cómo podría verse esto cuando docenas de sistemas de agua y aguas residuales en pequeñas ciudades de todo el país fueron atacados por un grupo de piratas informáticos vinculados a Irán, lo que provocó cortes temporales de agua e inundaciones. Estos ataques no están definitivamente vinculados a la IA, pero La Agencia de Seguridad Nacional ha emitido una advertencia. Pronto los piratas informáticos utilizarán activamente la IA para atacar la infraestructura estadounidense. Unas semanas más tarde, El presidente Donald Trump anunció A Emergencia nacional por intervención extranjera En Power Grid, aborda la creciente amenaza de la ciberseguridad.
La mayoría de los sistemas de agua del país están tan localizados y son ridículamente susceptibles a tales ataques que “es como una alfombra de bienvenida” para un posible hacker, dijo Bochman, en gran parte porque estas empresas de servicios públicos son muy pequeñas y no cuentan con fondos suficientes para prevenirlos. “Hay que ocuparse de un millón de otros problemas, como el envejecimiento de la infraestructura: sus cosas están bajo tierra durante 100 años y se están desmoronando”, dijo. Abordar el mantenimiento diferido parece más urgente que “hacer algo en ciberseguridad”.
Ya sea que se trate de un grupo de agentes deshonestos o de un estado nación hostil que intenta interrumpir nuestra electricidad, debemos preparar nuestra infraestructura más crítica para lo peor. En opinión de Bochman, rechazó el impulso de digitalizar todo primero, “avanzando hacia los días en que la gente tenía subestaciones, se comunicaba por teléfono fijo y leía medidores, cosas analógicas”, dijo. “La pantalla es algo infinitamente manipulable.”
Healy, que ha asesorado intensamente a la administración Biden en materia de ciberseguridad e infraestructura, cree que se necesita una respuesta coordinada entre el gobierno federal y las empresas de inteligencia artificial, pero se están desarrollando modelos igualmente poderosos entre otros países, como Estados Unidos y China. Las organizaciones de servicios públicos deben considerarse un objetivo y mejorar sus prácticas de ciberseguridad en consecuencia, dice Healy, idealmente con financiación del gobierno federal o, más exactamente, de empresas de inteligencia artificial.
Nadie sabe con precisión cuán vulnerable es la infraestructura de Estados Unidos a la IA en este momento, porque los formuladores de políticas (y quizás lo más preocupante, los propios creadores de la IA) están lamentablemente inseguros de cómo evitar que la tecnología actúe mal (o obedezca malas órdenes). Al menos por ahora, como sugiere Bochmann, la solución puede ser desconectar tantos de nuestros sistemas críticos como sea posible, para ocultarlos mejor de la IA y sus posibles abusadores.
“Cuando empiezan a suceder cosas malas, nadie sabe qué hacer ni por qué, porque son cajas negras; las personas que las fabrican no saben lo que sucede dentro”, dijo Bochmann. “Y cuando alguien resulta perjudicado por un sistema, las personas de servicios públicos pobres que, en última instancia, son responsables del riesgo” no entienden qué salió mal “y desearían que Dios nunca lo tomara en cuenta”.