Oversight Labs, un grupo de derechos digitales de Kenia, ha pedido a la Oficina del Comisionado de Protección de Datos (ODPC) que investigue si las imágenes capturadas por las gafas inteligentes Ray-Ban Meta se están utilizando ilegalmente para entrenar sistemas de inteligencia artificial.
La solicitud añade presión regulatoria a la cadena global de suministro de datos que canaliza el trabajo de capacitación en IA a través de Nairobi. (aqui) que los trabajadores contratados en Kenia revisen imágenes y vídeos grabados por las gafas para ayudar a entrenar los sistemas de IA desarrollados por Meta.
Según una denuncia formal vista por TechCabal, el grupo solicitó al regulador de datos que examinara si las personas grabadas por las gafas consintieron que sus imágenes y conversaciones se utilizaran para entrenar las herramientas de inteligencia artificial de Meta, y si dicho procesamiento cumple con la Ley de Protección de Datos de Kenia.
El grupo también pidió a la ODPC que determinara si los dispositivos podrían permitir la grabación encubierta de personas en espacios públicos o privados sin su conocimiento.
La denuncia podría poner el papel de Kenia en la cadena de suministro global de IA bajo un nuevo escrutinio, ya que miles de trabajadores contratados en Nairobi revisan imágenes y vídeos utilizados para entrenar sistemas de IA para importantes empresas tecnológicas.
La petición sigue Una investigación de los periódicos suecos Göteborgs-Posten y Svenska Dagbladet, que informó que los trabajadores kenianos empleados por la empresa de subcontratación Sama revisan las imágenes capturadas por las gafas para ayudar a entrenar los sistemas de inteligencia artificial de Meta.
La investigación indicó que se recopilan imágenes de usuarios de gafas inteligentes en todo el mundo y luego se envían a equipos de anotación de datos que clasifican objetos, escenas y comportamientos para mejorar los modelos de inteligencia artificial de Meta.
Según la denuncia, el material enviado a los etiquetadores de datos puede contener escenas altamente sensibles, incluyendo visitas al baño, encuentros íntimos, detalles de tarjetas bancarias y grabaciones de personas viendo contenido explícito.
Los trabajadores revisan y etiquetan las imágenes y los videos para que los sistemas de inteligencia artificial de Meta puedan reconocer objetos, actividades y entornos capturados por las gafas, afirma el documento.
Las gafas Ray-Ban Meta permiten a los usuarios capturar fotos y vídeos en primera persona gracias a sus cámaras y micrófonos integrados. Algunas funciones son procesadas por los servicios de inteligencia artificial (IA) de Meta en la nube.
El Laboratorio de Supervisión dijo que la práctica plantea preguntas sobre si las personas grabadas por las gafas fueron informadas de que sus datos personales podrían ser procesados en Kenia y utilizados para entrenar sistemas de IA.
“Estamos profundamente preocupados por el desarrollo de tecnología dañina a través de la explotación de comunidades vulnerables”, dijo Mercy Mutemi, directora ejecutiva de The Oversight Lab, en una declaración que acompaña a la solicitud.
El grupo también pidió al regulador que determinara si los datos recopilados a través de las gafas se transfirieron a través de las fronteras y si las empresas involucradas realizaron una evaluación de impacto de la protección de datos antes de procesar la información.
Las gafas inteligentes, desarrolladas por Meta en asociación con el fabricante de gafas EssilorLuxottica, incluyen cámaras, micrófonos y un asistente de inteligencia artificial que puede capturar fotos y videos desde el punto de vista del usuario.
Los dispositivos son parte del impulso de Meta hacia la inteligencia artificial de consumo y la informática portátil, un área que muchas empresas tecnológicas ven como el siguiente paso después de los teléfonos inteligentes.
El Laboratorio de Supervisión dijo que estaba en contacto con los etiquetadores de datos que manejaron el material y estaban dispuestos a proporcionar evidencia al regulador de forma anónima.
La denuncia también hace referencia a disputas laborales anteriores que involucraron a contratistas de Meta en Kenia, donde Los moderadores de contenido demandaron a la empresa y sus socios sobre las condiciones laborales vinculadas a las operaciones de revisión de contenidos.
El grupo pidió a la autoridad de protección de datos que complete su investigación en 90 días y determine si las empresas involucradas cumplieron con la ley keniana.
La denuncia vuelve a centrar la atención en el papel de Kenia en la industria global de la inteligencia artificial, donde miles de trabajadores contratados etiquetan imágenes, vídeos y textos utilizados para entrenar sistemas de aprendizaje automático para importantes empresas tecnológicas.
Kenia se ha convertido en un importante centro para ese tipo de trabajo debido a su gran fuerza laboral de habla inglesa y a su sector de subcontratación establecido, aunque los grupos laborales tienen levantó preocupaciones sobre los bajos salarios y la exposición a contenidos nocivos.
