Facebook inhabilita el reconocimiento facial, ¿es suficiente protección?

El pasado martes Facebook anunció la eliminación de la opción de reconocimiento facial en los álbumes de fotos de los usuarios, una acción en pro de la “protección a la privacidad” de quienes aún utilizan la red social como su fuente primaria de conexión con familiares, amigos, colegas y demás. La preocupación general ante lo que podría representar la tecnología del reconocimiento facial para la sociedad es uno de los pilares para la inhabilitación de esta herramienta, según indicó Meta (la renombrada empresa de Facebook) en un comunicado.

En el mismo comunicado, publicado en el sitio web oficial de Meta, el vicepresidente para Inteligencia Artificial, Jerome Pesenti, explicó que “con el cambio aquellas personas que tengan la opción de reconocimiento facial activada dejarán de ser identificadas en las imágenes en que aparezcan”. Además, se eliminarán las plantillas de más de mil millones de caras de usuarios que ya pertenecen a un catálogo de la red social.

Este cambio también afectará al texto alternativo automático (AAT), herramienta que crea descripciones de imágenes para personas ciegas y con discapacidad visual. Después de este cambio, las descripciones de AAT ya no incluirán los nombres de las personas reconocidas en las fotos, pero funcionarán normalmente.

La decisión es uno de los cambios más significativos en el uso de la tecnología de Facebook. Más de un tercio de los usuarios activos diarios de Facebook han optado por la configuración de reconocimiento facial y pueden ser reconocidos por otros usuarios. “Todavía vemos la tecnología de reconocimiento facial como una herramienta poderosa, por ejemplo, para las personas que necesitan verificar su identidad o para prevenir el fraude y la suplantación de identidad”, señaló Pesenti, “creemos que el reconocimiento facial puede ayudar para productos como estos con privacidad, transparencia y control, para que usted decida si se usa su rostro y cómo”.

Si bien los beneficios de esta tecnología están presentes, Pesenti indicó que se deben “poner en la balanza” junto a las desventajas y peligros del uso del reconocimiento facial en algunos países. “Hay muchas preocupaciones sobre el lugar de la tecnología de reconocimiento facial en la sociedad, y los reguladores aún están en el proceso de proporcionar un conjunto claro de reglas que rijan su uso”, apuntó el vicepresidente para la Inteligencia Artificial, “pero cada nueva tecnología trae consigo un potencial tanto de beneficio como de preocupación, y queremos encontrar el equilibrio adecuado”.

El uso del reconocimiento facial ha ganado popularidad en la integración de esta tecnología en dispositivos cotidianos, como teléfonos inteligentes (smartphones), tabletas y computadoras portátiles, dado que al utilizar el reconocimiento facial se permite el desbloqueo de funciones o acceso a cuentas específicas (ya sea bancarias u otros servicios que lo aprueben). Otras firmas tecnológicas como Amazon y Microsoft han suspendido las ventas de productos de reconocimiento facial a la policía a medida que los usos de la tecnología se han vuelto más controvertidos.

La principal preocupación que envuelve el uso del reconocimiento facial es el peligro que podría representar para los usuarios en la protección de su privacidad y vida personal, en el caso de que los rostros guardados en las redes sociales (plantillas obtenidas a través de la tecnología) fueran filtrados a organizaciones criminales, de fraude o delitos mayores que pudieran comprometer el bienestar de los usuarios.

Sin embargo, Facebook seguirá utilizando el reconocimiento facial en un “conjunto reducido de casos de uso específico”, dijo Penseti, que incluye (pero no se limita a) la verificación de identidades y el desbloqueo de cuentas filtradas por hackers. Esto significa que se eliminarán las plantillas faciales específicas para el etiquetado de fotos, pero DeepFace —el algoritmo detrás del reconocimiento facial—, que ha sido entrenado utilizando los datos de los mil millones de escaneos, permanecerá. La empresa no ha descartado utilizar esta tecnología en productos futuros.

Pero pese a los movimientos de Facebook, el eliminar la opción abierta para los usuarios no deja en claro cómo se implementará esta tecnología en los planes para el Metaverse, pensado como un mundo digital donde los usuarios encarnan avatares realistas según su apariencia física. De verse implementada en un futuro, y si Zuckerberg desea hacerlo accesible a todo Estados Unidos, se deberá trabajar alrededor de las prohibiciones estatales contra este tipo de tecnologías.

Según un reporte del sitio especializado y de noticias Wired, las ciudades de Nueva York (Nueva York), Oakland (California), San Francisco (California) y Somerville (Massachusetts), ya han aprobado leyes en contra del uso de la tecnología de reconocimiento facial en vista de proteger la identidad de sus ciudadanos, y con ella, sus posesiones o bienes incluidos en sistemas digitales gubernamentales. A los equipos policiales de ciudades estadounidenses como Portland (Oregon), Boston (Massachusetts), Portland (Maine), y Jackson (Mississippi) se les ha prohibido utilizar métodos de reconocimiento facial en denuncias delictivas.

“El reconocimiento facial corre el riesgo de ser utilizado como arma por la policía contra las comunidades marginadas de todo el mundo. Desde Nueva Delhi hasta Nueva York, esta tecnología invasiva pone nuestras identidades en nuestra contra y socava los derechos humanos”, dijo en un comunicado oficial Matt Mahmoudi, investigador de Inteligencia Artificial y Derechos Humanos de Amnistía Internacional.

A inicios de 2021, la organización internacional dedicada a la protección de los derechos humanos, junto a las organizaciones AI for the People, Surveillance Technologies Oversight Project, Immigrant Defence Project, New York Civil Liberties Union, la Oficina del Defensor Público de la Ciudad de Nueva York, la Coalición de Privacidad de Nueva York, Rada Studios, y el apoyo del Senador estatal Brad Hoylman, impulsaron la campaña 'Ban the Scan' (Prohíbe el escáner) en contra del uso de tecnología de reconocimiento facial para la vigilancia masiva por parte de la policía en la ciudad.

El aprendizaje automático, mejor conocido como machine learning, es el sistema utilizado para la base del reconocimiento facial, ya que predice resultados basados en datos históricos o algoritmos que se han introducido en el sistema. Para el reconocimiento facial, la base del machine learning predice la identidad asociada con una representación digital del rostro de una persona, o “huella facial”, basada en una base de datos de imágenes faciales. El software se adapta a través de esta experiencia, con el tiempo aprendiendo a generar predicciones con mayor facilidad.

Ante la decisión de Facebook, la investigadora de IA, Deb Raji, comentó a Wired: “Si esto impulsa a un legislador a tomar la conversación sobre el reconocimiento facial lo suficientemente en serio como para aprobar alguna ley en el Congreso y realmente abogar por ella y apoyarse en ella, entonces esto se convertiría en un punto de inflexión ante un momento crítico”.

Raji, quien también ha trabajado como encargada de política y ética para organizaciones como AI Now, Google y Algorithmic Justice League, señaló que la decisión de Facebook era “significativa” dado que DeepFace jugó un papel notable en la historia de la visión por computadora. El modelo de aprendizaje profundo se creó en 2014 con 4 millones de imágenes de 4 mil personas, el mayor conjunto de datos de rostros de personas hasta la fecha.

DeepFace fue el primer modelo de inteligencia artificial en lograr un rendimiento a nivel humano en el reconocimiento facial, y provocó una tendencia a comercializar la tecnología y acumular datos faciales para mejorar el rendimiento de las redes sociales. Sin embargo, el uso del reconocimiento facial ha llegado a levantar diversas banderas rojas en la protección de derechos humanos, por lo que muchos defensores humanitarios se han dedicado a promover su inhabilitación.

Por su parte, el profesor asistente en la Universidad de Western Ontario y crítico desde hace mucho tiempo del reconocimiento facial, Luke Stark, comentó a Wired que “la acción de Facebook equivale a una táctica de relaciones públicas y una desviación destinada a captar buenos titulares, no a un cambio fundamental en la filosofía”. Pero, destacó que la medida también muestra “una empresa que no quiere estar asociada con tecnología tóxica”.

Entre quienes apoyan enteramente a Facebook, y quienes se preocupan porque la empresa busque crear tecnología más preocupante en términos de protección del usuario, queda un velo de incertidumbre debido a que no se conoce cómo se podrá utilizar esta tecnología sin que afecte la seguridad de quienes utilizan las redes sociales a nivel global.

Stark señaló la conexión entre la decisión de la red social y el enfoque reciente en la realidad virtual y el 'metaverso'. “Impulsar avatares personalizados requerirá recopilar otros datos fisiológicos e invita a nuevas preocupaciones de privacidad”, comentó.