Los legisladores de California han aprobado una legislación que facilita a las agencias gubernamentales protegerse del uso cada vez mayor de inteligencia artificial para comentarios públicos, solicitudes de registros y otras formas de participación ciudadana.
Proyecto de ley del Senado 1159 El senador Christopher Cabaldon (D-West Sacramento) prohibió a cualquier persona utilizar deliberadamente inteligencia artificial para representar falsamente a personas reales que interactúan con agencias gubernamentales. También establece que las agencias no necesitan tratar la participación de inteligencia artificial o robots como si fueran personas reales.
“El resultado de lo que estamos viendo con el surgimiento de la inteligencia artificial y otras tecnologías similares es que estos sistemas tienen la capacidad de abrumar a la región, a los gobiernos locales y potencialmente incluso a las agencias estatales, para involucrarse de maneras irreales y subhumanas”, dijo Cabaldon en una reunión de marzo del Comité Judicial del Senado.
La legislación fue informe de febrero El Times informa sobre una campaña para influir en los votos sobre aparatos de gas en el Distrito de Gestión de la Calidad del Aire de la Costa Sur. Matt Klink, consultor de asuntos públicos del sur de California Toma el crédito por esta campaña.afirma que utilizó una plataforma llamada CiviClick para enviar 20.000 comentarios públicos oponiéndose a la regla al distrito antes de la votación de la junta aérea.
CiviClick se describe a sí mismo en sitio web Como “la primera y mejor plataforma de promoción de base impulsada por IA”. Los funcionarios de la compañía insistieron en que no se utilizó inteligencia artificial en el evento de AQMD, pero dijeron que era una herramienta que proporcionan y utilizan en otros eventos. El director ejecutivo Chazz Clevinger dijo que no podía revelar cómo se generaron los 20.000 comentarios enviados a la junta aérea ni cómo se identificó y contactó a los votantes.
Los expertos de la agencia dicen que es casi seguro que la avalancha de correos electrónicos influyó en la decisión de la junta de aviación. Rechazar la regla propuestaque impondrá una tarifa a las nuevas calderas de gas y calentadores de agua para aproximadamente 10 millones de electrodomésticos en toda la costa sur.
Al presentar la legislación, Cabaldon citó el informe del Times, señalando que al menos tres personas contactadas por la agencia de control de tráfico aéreo dijeron que aún no habían presentado comentarios públicos con nombres adjuntos.
También citó un informe Extraído del Crónica de San Francisco En cuanto a una campaña similar lanzada en el Distrito de Administración del Área de la Bahía para influir en una regla diferente, la campaña se llevó a cabo a través de una plataforma llamada Speak4, que promocionaba su capacidad para generar letras personalizadas impulsadas por inteligencia artificial.
El grupo de defensa empresarial responsable de la campaña también negó el uso de inteligencia artificial. Sin embargo, 10 personas contactadas por Crónica dijeron que no escribieron las cartas. “Esto es falso”, dijo una persona.
Cabaldon dijo por teléfono que la legislación ayudaría a las agencias públicas a comprender cómo responder al despliegue de inteligencia artificial, cuyo uso está cada vez más “abrumando nuestros procesos de participación ciudadana pero también paralizando por completo a nuestros gobiernos estatales y locales”.
Por ejemplo, la Ley de Registros Públicos de California exige que las agencias gubernamentales respondan a las solicitudes de registros públicos dentro de los 10 días, mientras que la Ley Brown y la Ley de Reuniones Abiertas Bagley-Keene garantizan el derecho a participar en reuniones públicas y brindar comentarios públicos.
“El objetivo del proyecto de ley es decir que estas leyes se refieren a los humanos, y sólo porque tengan la forma de un escrito humano, no significa que haya que tratar esas comunicaciones de la misma manera que los humanos, por lo que la IA no tiene derecho a 10 días en una reunión de la junta escolar, ni a tres minutos en una reunión de la junta escolar”, dijo.
Los expertos dicen que el uso de inteligencia artificial para “astroturfing”, o falsa participación ciudadana, es una tendencia creciente. En el Reino Unido, un servicio llamado Objector.ai está utilizando inteligencia artificial para identificar y generar objeciones formales a las aplicaciones de planificación local, lo que genera preocupación entre los expertos. Según el guardián.
Los funcionarios del gobierno de California también están preocupados. El vicealcalde de Vacaville, Michael Silva, dijo que la ciudad ha estado recibiendo solicitudes de registros públicos generadas por inteligencia artificial, lo que ha ralentizado la capacidad de la ciudad para responder a otras solicitudes legítimas presentadas por los residentes.
Dylan Plummer, director asociado de la campaña Clean Heat del Sierra Club, dijo que muchas campañas de IA benefician a la industria de los combustibles fósiles y representan “una amenaza existencial para la participación pública en nuestra democracia”.
“La aprobación del Proyecto de Ley Senatorial 1159 es un paso importante hacia la clarificación de la ley y la disuasión del uso de tecnologías emergentes para falsificar registros públicos y engañar a los reguladores de California”, dijo. “Dicho esto, todavía tenemos mucho trabajo por hacer para comprender cuán extendida está esta práctica y responsabilizar a los malos actores por las leyes que puedan haber violado”.
Los legisladores reconocieron que la legislación es solo el comienzo, ya que a los funcionarios públicos les resulta cada vez más difícil detectar cartas personalizadas, videos falsificados u otros tipos de campañas de participación impulsadas por inteligencia artificial. El proyecto de ley autoriza a las agencias gubernamentales a utilizar herramientas de verificación de divulgación para determinar la presencia de inteligencia artificial, algo que el Distrito de Aviación del Área de la Bahía ha dicho que podría hacer reemplazando el sistema de correo electrónico con un sitio de envío de comentarios públicos.
La legislación no impide que personas reales utilicen IA para facilitar la participación pública genuina, como alguien que usa ChatGPT o Perplexity para mejorar el texto de una carta, siempre que el volumen y la frecuencia de su participación sean consistentes con la participación ordinaria de personas reales.
CiviClick señala en su sitio web que apoya la SB 1159 y dice que su plataforma ya cumple con las recomendaciones del proyecto de ley.
Algunos legisladores dicen que el uso de la inteligencia artificial en la ciudadanía representa una nueva frontera.
“Si hubiera leído este proyecto de ley cuando estaba en la Junta de Supervisores del Condado de Sacramento, me habría preguntado qué estaba fumando”, dijo el senador Roger Nile (D-Fair Oaks) durante una reunión del Comité Judicial en marzo.
“Pero así son las cosas: el desarrollo de la tecnología siempre superará el desarrollo de las defensas contra los efectos nocivos de la tecnología”, afirmó.
La SB 1159 fue aprobada por la Legislatura este mes y será enviada al gobernador Gavin Newsom para su firma en septiembre.