OpenAI ahora está entrenando sus sofisticados modelos de IA sin acceso a Internet luego de una serie de descarados incidentes de piratería. En Una publicación de blog el viernes.OpenAI dice que ha creado un entorno de prueba fuera de línea donde los modelos de IA pueden interactuar con contenido web indexado y almacenado en caché “sin el riesgo de afectar los sistemas externos”.
Incluso con estas salvaguardas implementadas, OpenAI descubrió que los agentes “no siempre necesitan una conexión de red para comunicarse”, incluso sin acceso a Internet. Un experimento realizado por la empresa pidió a modelos de IA en máquinas virtuales separadas que intercambiaran secretos sin una conexión de red. Para eludir esta restricción, los agentes de IA encontraron una manera de comunicarse utilizando el caché de la aplicación:
Leer datos del caché es más rápido que recuperar datos de la memoria principal y los agentes se comunican utilizando esta diferencia horaria. Un agente cifra la información extrayendo datos seleccionados del caché. Otro momento es cuánto tiempo llevó recargar esos datos, utilizando la diferencia entre lecturas rápidas y lentas para recuperar el mensaje. Una vez que los agentes acuerdan un protocolo para codificar y decodificar estas señales, se pueden intercambiar secretos sintéticos sin cambiar un archivo compartido ni abrir una conexión de red.
OpenAI dice que ha agregado controles a su sistema de monitoreo para detectar este tipo de comunicaciones. Continuará entrenando sus modelos de inteligencia artificial de vanguardia sin conectividad de red hasta que las salvaguardias avanzadas “justifiquen un amplio acceso a Internet”.
Mientras tanto, OpenAI dice que trabajará para mejorar la seguridad de sus máquinas virtuales mientras busca vulnerabilidades en sus entornos de prueba. Continuará probando sus sistemas de vigilancia, que recientemente fueron socavados por sus agentes de inteligencia artificial durante proyectos de codificación internos.