Para citar a George Santayana“Aquellos que no pueden recordar el pasado están condenados a repetirlo”. ¿Por qué las grandes empresas tecnológicas a menudo sienten que tienen tan poca memoria?
El último contratiempo proviene del meta. A mediados de septiembre, lanzó una prueba beta de una función para su nuevo agente Muse AI, que realizará llamadas a empresas para completar tareas como reservas y citas por usted.
Según informes de Reuters Y 404 medios El martes, estos agentes autónomos podrán delegar estas tareas a recepcionistas humanos capacitados en los centros de llamadas, sin revelarlo de antemano.
El 16 de septiembre, Ryan Fox, ingeniero principal de Meta’s Superintelligence Labs, anunció el lanzamiento beta de la función de llamadas salientes de Muse y publicó una solicitud de comentarios sobre X, señalando que una de las principales solicitudes de los usuarios era “llamada telefónica”.
Pero 404 medios Según publicaciones internas de Facebook, la compañía dice que estaba trabajando en algo detrás de escena con su asistente personal. Al anunciar las funciones a los empleados internamente, el gigante tecnológico dijo que “agregó una capa de agente humano para completar las llamadas”, refiriéndose a ellas como “llamadas de agentes humanos de Muse”.
Algunos empleados de Meta se quejaron, incluido uno que publicó internamente: “Esto tiene el potencial de generar relaciones públicas muy negativas. Podría retratarnos como ‘su IA no es lo suficientemente buena, por lo que esta versión aún necesita protección humana'”.
La verdad rara vez es pura…
El problema con la capa de carne humana agregada no es solo las habilidades de Muse para lavar la IA. Tampoco es trampa no revelar que puede haber un eslabón humano en la cadena. Algunos sistemas de agentes introducen la supervisión humana como “humano dentro de humano” para garantizar la seguridad y el cumplimiento.
No está claro cuánta seguridad y cumplimiento había en el menú de Meta. Pero los empleados plantearon una preocupación mayor sobre la privacidad, con una advertencia (según Reuters): “Estamos a un error de filtrar información no deseada a personas que llaman”. Y hay errores.
Normalmente se sacrifica la privacidad cuando se utilizan agentes de IA para realizar tareas personales como reservar, comprar o programar una cita médica. Descubrir que un completo desconocido ha registrado tu prueba de ITS puede resultar muy desagradable.
Eso también es una caja negra. Si vio tu chat o supo dónde vives y cómo contactarte por eso, no sabes en qué contexto se le dio. Se pueden aportar aún más datos a medida que los vasos de la empresa se llenan de musas.
También proporciona a los llamados agentes autónomos (en este caso, un contratista humano en un centro de llamadas no divulgado) información confidencial como un número de teléfono, identificación del paciente o información bancaria.
Es parte de una tendencia creciente de dar a los modelos de IA el poder de realizar tareas como asistentes personales. Esta misma semana, Google presentó la capacidad de su agente Gemini para manejar llamadas telefónicas cotidianas. Esa implementación cambia la parte de la transacción de la llamada, como proporcionar información de la tarjeta de crédito. Pero los riesgos todavía existen.
…y no simple
Meta ha roto la confianza en la privacidad muchas veces antes. En 2019, Facebook tuvo que poner fin a un programa que utilizaba contratistas para escuchar y transcribir llamadas de Messenger.
Dado que agentes de IA como estos a menudo requieren intervención humana para verificar que están entregando los resultados que desean, el error de “Oh, este empleado vio esto” parece inevitable.
La IA de Potemkin, un ejército oculto de trabajadores humanos, realiza parte del trabajo real de los modelos detrás de escena y no se limita a las llamadas. En febrero se reveló Waymo tenía operadores remotos Apoyar las operaciones de vehículos autónomos en el extranjero.
Nuevamente, se revirtió el lanzamiento de la función de llamadas salientes de Meta Muse. Reuters informa que la compañía detuvo temporalmente la función después de que un vicepresidente de la división Superintelligence Labs de Meta admitiera que estaba “mal” comenzar a probar la función sin suficiente exposición por parte de los contratistas humanos involucrados.
Al igual que la historia de las Big Tech de “hacer el mal, ser atrapado, disculparse, retractarse, pagar una multa mínima. Enjuagar, repetir”, un error real no es un mal recuerdo. En algún momento, cuando estamos colectivamente hartos, el ciclo se reduce a “hacer el mal, pero obtener ganancias de todos modos”.
Nos comunicamos con Meta para obtener comentarios y aclaraciones, pero no recibimos respuesta de inmediato.