Facebook asegura que su IA lucha contra el odio en la red social pero estudios revelan que no es así

Facebook ha publicado una nota sobre la lucha de su inteligencia artificial contra los discursos de odio y violencia, a la que se acusa de no ser efectiva en absoluto. Según la compañía, su IA ha ayudado a eliminar hasta el 50% de las publicaciones que contenían este contenido negativo en los últimos nueve meses. Pero hay dudas palpables, sobre todo entre los ingenieros y los usuarios de esta red social.

La empresa de Menlo Park ha actualizado recientemente sus políticas de uso y tiene la intención de eliminar aquellas publicaciones que apuntan y acosan a las celebridades en su plataforma. Facebook ha recibido informes negativos y denuncias sobre irregularidades, por no preocuparse por la salud mental de sus usuarios adolescentes. Su vicepresidente de integridad, Guy Rosen, ha argumentado que la compañía está haciendo todo lo posible para hacer de la plataforma un lugar seguro, y que su IA es “súpereficiente” y detecta el 97% del discurso de odio en su red social.

Algunos ingenieros de Facebook afirman que la IA de la red social sólo elimina el 2% de los mensajes de odio

Sin embargo, un grupo de ingenieros de Facebook filtró información confidencial y compartió sus especulaciones sobre el enfoque de la compañía en limpiar su plataforma para conseguir un entorno más seguro. Un informe del Wall Street Journal glosaba las deficiencias de Facebook en este sentido. Los ingenieros de la red social aseguraban tener dudas más que razonables de que la inteligencia artificial de la compañía no era capaz de identificar correctamente los mensajes de odio en Facebook (en realidad sólo llega al 2%), y muchas experiencias de usuarios lo han confirmado, al señalar que el algoritmo de la compañía no es capaz de reconocer, por ejemplo, el sarcasmo o la ironía, tomándolos como mensajes de odio, lo que provoca expulsiones temporales injustas de usuarios. Y hay que tener en cuenta que las apelaciones no son posibles, ya que Facebook asegura haber disminuido su plantilla debido al COVID-19, y no puede, según su propia información, hacerse cargo de ellas.

Sin embargo, Facebook parece que insistirá en dotar a su IA de plenos poderes, para facilitar a la mayoría de sus usuarios un lugar “seguro”, sin importar las experiencias negativas que puedan tener otros. No queda claro qué harán cuando quede patente que ese entorno seguro es una utopía (ya sea por los déficits de su código policía o por las actitudes de muchos usuarios), y hayan expulsado definitivamente (por pasiva o por activa) a los usuarios damnificados por sus algoritmos, aquellos que eran conscientes que sus comentarios iban a tomarse de forma sarcástica o irónica por sus compañeros usuarios y que reciben, a cambio, un correctivo por parte de Facebook.

La IA no distingue el sarcasmo ni la ironía, y tiene plenos poderes

Mientras, existen páginas de Facebook, grupos y eventos que claramente abogan de forma organizada por sembrar el odio, ya sea a través del racismo, del machismo, la xenofobia o la aporofobia, y que no terminan de ser eliminadas o correctamente apercibidas. “Estoy renunciando porque ya no soporto contribuir a una organización que se está beneficiando del odio en Estados Unidos y a nivel mundial”, señalaba en septiembre del año pasado en su renuncia el exingeniero de Facebook Ashok Chandwaney, quien dimitió de su cargo y que llevaba 5 años trabajando para la compañía. Ese verano, otros dos ingenieros, Max Wang y Timothy Aveni, se fueron por su propia voluntad denunciando prácticas semejantes.

Chandwaney escribió en su renuncia que “esperaba que Facebook asumiera todas las recomendaciones de su auditoría de derechos civiles en julio”, que halló “graves incumplimientos” que habían lastrado el aparente esfuerzo de la red social “en cuestiones como el discurso de odio, la desinformación y la discriminación. La compañía estaba más enfocada en las ganancias que en promover el bien social. Han hecho poco por combatir el auge del racismo, la desinformación y la incitación a la violencia en la plataforma”.

Parece que esta lucha por crear un entorno más seguro de Facebook parece más bien cosmética, y que a Mark Zuckerberg no le importa el funcionamiento de su IA, mientras proporcione una apariencia de esfuerzo en la lucha por erradicar el racismo, el machismo, la xenofobia o la aporofobia.