A Publicación larga en XEl director ejecutivo de Microsoft ofreció su opinión sobre los riesgos que plantean los modelos de IA más avanzados y cómo contrarrestar esos riesgos. Nadella dice que ya no podemos aceptar un mundo en el que la IA sea tratada como un “conjunto de cajas negras incorporadas” cuyas sugerencias y acciones aceptamos o rechazamos. Pide un sistema más transparente que incluya muestras, observe y deje “pruebas legibles por humanos a prueba de daños”.
Muchas de sus recomendaciones son consistentes con lo que hemos escuchado de otros en la industria: divulgación oportuna de incidentes, auditorías independientes, datos y regulaciones verificables. Es en este último punto donde parece ir un poco más lejos que algunos en el campo:
Suponiendo que un modelo esté comprometido, debe contenerlo desde el principio. Piense en ello como un freno de emergencia. Una persona autorizada siempre puede suspender o detener la ejecución de un modelo. Los modelos más avanzados requerirán tecnologías de control más avanzadas que debemos estandarizar.
Desafortunadamente, Nadella también se refiere a la IA como “superinteligencia” en toda la publicación.