An investigación del periódico sueco Svenska Dagbladet y el Göteborgs-Posten ha revelado que los trabajadores contratados en Kenia por Sama (una empresa de subcontratación keniana que proporciona servicios de anotación de datos) para ayudar a entrenar los sistemas de inteligencia artificial de Meta Platforms están profundamente expuestos a imágenes y videos personales capturados por los usuarios de Las gafas inteligentes Ray-Ban de la empresaass.
El informe, publicado el 27 de febrero, arroja luz sobre el trabajo humano oculto detrás del impulso de Meta hacia la inteligencia artificial portátil y plantea nuevas preguntas sobre la protección de datos, las transferencias de datos transfronterizas y la El impacto psicológico que sufren los moderadores de contenidos que trabajan para Sama en Nairobi.
Las gafas inteligentes Ray-Ban de Meta, desarrolladas en colaboración con EssilorLuxottica, se comercializan como un asistente impulsado por IA que puede traducir idiomas, describir entornos, capturar fotografías y vídeos con manos libres y responder preguntas sobre lo que ve un usuario.
Sin embargo, más allá del discurso futurista, las entrevistas con empleados actuales y anteriores de Sama y Meta realizadas por Svenska Dagbladet revelaron que las imágenes grabadas a través de las gafas terminan a miles de kilómetros de distancia, en Kenia, donde los anotadores de datos las revisan y etiquetan para mejorar el rendimiento del sistema.
Privacidad, silenciosamente rota
Varios trabajadores kenianos dijeron al periódico sueco que a menudo se encuentran con material sensible en el curso de su trabajo, desde escenas domésticas comunes hasta momentos íntimos que los usuarios pueden no haberse dado cuenta de que estaban siendo capturados.
En algunos casos, dijeron los trabajadores, las imágenes incluyen información financiera, como tarjetas bancarias visibles en el cuadro, o grabaciones realizadas en espacios privados como dormitorios y baños.
“En algunos videos, se ve a alguien yendo al baño o desvistiéndose”, dijo un trabajador de Sama a los periodistas. “No creo que lo sepan, porque si lo supieran, no estarían grabando”.
Otro contratista afirmó haber revisado imágenes que mostraban al usuario de las gafas colocándolas sobre una mesita de noche, solo para que su esposa entrara en la habitación y se desvistiera, presumiblemente sin darse cuenta de que la observaban. Otras imágenes, según se informa, mostraban al usuario viendo pornografía o incluso grabándose teniendo relaciones sexuales.
Según la investigación, hubo poca transparencia en el uso de wearables. Los minoristas europeos proporcionaron información inconsistente sobre si los datos capturados por las gafas permanecen en el dispositivo o se transmiten a los servidores de Meta. Pruebas independientes citadas en el informe indicaron que muchas de las funciones de inteligencia artificial de las gafas requieren conectividad en la nube, lo que significa que las imágenes y las entradas de voz se pueden procesar de forma remota en lugar de local en el dispositivo.
La conexión Sama
Sama, anteriormente Samasource, ofrece servicios de anotación de datos a grandes empresas tecnológicas como Meta y OpenAI. La empresa cuenta con ha sido acusada en el pasado de violaciones laborales en algunos de sus contratos, particularmente con OpenAI.
Sama exige acuerdos de confidencialidad estrictos que limitan lo que los empleados pueden divulgar públicamente. Sin embargo, los informes publicados por los periódicos suecos sugieren que la promesa de una IA sin fricciones se sustenta en un sistema laboral en el que revisores humanos filtran grandes volúmenes de datos sin procesar para que los algoritmos aprendan a reconocer objetos, entornos y contextos.
Meta afirma en sus políticas de privacidad El contenido del usuario puede estar sujeto a revisión humana para mejorar los productos y garantizar la seguridad. Para los usuarios europeos, la filial irlandesa de la empresa es responsable del cumplimiento del Reglamento General de Protección de Datos (RGPD) de la UE.
Sin embargo, la investigación plantea interrogantes sobre cómo se transfieren y procesan los datos recopilados en Europa o Estados Unidos en países como Kenia, que no cuentan con una decisión de adecuación de la UE que reconozca sus regímenes de protección de datos como equivalentes al RGPD.
Si bien la anotación de datos, la moderación de contenido y la capacitación en inteligencia artificial se han vuelto fundamentales para las ambiciones tecnológicas de Nairobi, estos trabajos, principalmente para estudiantes universitarios y jóvenes graduados, vienen con bajos salarios, cargas de trabajo pesadas y exposición a material perturbador.
Meta ha defendido sus prácticas en declaraciones públicas anteriores, afirmando que invierte en la protección de la privacidad y minimiza la cantidad de datos utilizados para el entrenamiento. Aun así, los informes publicados por los periódicos suecos sugieren que la línea entre la inteligencia automatizada y la supervisión humana es más difusa de lo que muchos consumidores creen.
