El gobernador de California, Kevin Newsom (D), lidera el estado en materia de supervisión de la IA, incluida la posibilidad de exigir un “interruptor de apagado” para los modelos fronterizos. Una nueva orden ejecutiva Publicado el viernes.
La orden de Newsom ordena al estado que convoque un panel de expertos dentro de dos meses para hacer recomendaciones sobre cómo fortalecer las medidas de protección de la IA en la ley estatal. El equipo de Newsome considera exigir a las empresas de IA que incorporen equipos de verificación independientes en el sitio para auditorías periódicas, sometan sus informes de transparencia y evaluaciones de riesgos a los estándares de auditores independientes, creen un “interruptor de apagado” y exijan a las empresas que informen sobre “incidentes de pérdida de control de seguridad”, como “incidentes de pérdida de control de seguridad”. También ordena a una agencia estatal que acelere la implementación de dos leyes recientes que firmó, creando un marco para que verificadores independientes evalúen la seguridad de la IA y creando un registro estatal de auditores de IA.
Los debates sobre el proyecto de ley en el Congreso se intensificaron después de la publicación del ex antropólogo Jacob Coxon de que había más de un 10 por ciento de posibilidades de que la IA pudiera “matar a todos los humanos” en una década. Pero en Washington hay pocas esperanzas de que se pueda aprobar un proyecto de ley sustancial en el corto plazo, ya que la Cámara está en receso hasta noviembre y las inminentes elecciones intermedias hacen poco probable que se produzcan movimientos legislativos importantes en el Senado. Mientras tanto, el presidente Donald Trump enfatizado“El único control o ‘guardia’ que la IA necesita es un presidente fuerte e inteligente (¡alto coeficiente intelectual!), ¡y Estados Unidos tiene eso!”
Newsom pide al Congreso y a Trump que “revisen y adopten la estructura del estado”.
Lo que escuchamos de California sobre este tema no es la orden ejecutiva de Newsom. El miércoles, publicó una oferta para invitar a los legisladores de California a una sesión legislativa especial sobre IA. Entrevista con Políticacon posible acción administrativa. Específicamente, presenta la orden como modelo para la acción federal, y pide al Congreso y a Trump que “reconsideren y acepten el marco del estado para el bienestar y la seguridad de todos los estadounidenses, o utilicen la principal regulación de su país como un piso, no un techo”.
“El abyecto fracaso del gobierno federal a la hora de crear algún tipo de supervisión o responsabilidad significativa sobre la IA debería alarmar a todos los estadounidenses, especialmente porque los directores ejecutivos de la IA abogan por una regulación ellos mismos”, dijo Newsom en un comunicado. “No estamos esperando para actuar: vamos a acelerar nuestro trabajo sobre una supervisión significativa y responsable de la IA antes de que sea demasiado tarde. Vamos a hacer esto cuidadosamente pero con rapidez urgente; hay demasiado en juego para esperar o retrasar”.