El Consorcio Internacional de Periodistas de Investigación (conocido por sus siglas en inglés ICIJ) acaba de poner a disposición de periodistas, investigadores y activistas una nueva herramienta, DataShare, que permite analizar y conectar informes largos y tediosos, así como documentos en diferentes formatos, como fotografías y PDF, con unos pocos clics. DataShare se basa en parte en la tecnología que el grupo de investigación desarrolló para analizar los Papeles de Panamá, por ejemplo. Una buena noticia.

Los periodistas estábamos pensando en sus posibles aplicaciones cuando nos cayó una losa informativa: la empresa de software financiada por la CIA e involucrada en tareas de inteligencia y contratos con el Ejército de Estados Unidos para diversas agencias de US, Palantirhabía firmado un acuerdo con el Programa Mundial de Alimentos de la ONU (conocido como WFP) para analizar datos. Estamos hablando de los datos de 90 millones de personas muy vulnerables que el WFP ayuda a sobrevivir de diversas partes del mundo azotadas por guerras, hambrunas y desastres.

Las reacciones de los activistas que trabajan en el terreno de la protección de datos y privacidad se produjeron inmediatamente. Un grupo de 62 organizaciones, iniciativas y personas relevantes enviaron una carta abierta a David Beasley, director del WFP, y a varios de sus colegas para expresar su alarma y demandar que, entre otras cosas:

– Dé a conocer los términos del acuerdo en una muestra de transparencia y se comprometa a ser transparente con los contratos que firme con empresas privadas en el futuro.

– Divulgue información tanto sobre el proceso que llevó a la decisión de comprometerse con Palantir, como sobre la evaluación que acredita que Palantir cumple con las Directrices de Negocios y Derechos Humanos de la ONU.

– Establezca un panel independiente para revisar el plan del proyecto y las salvaguardas.

– Tome todas las medidas necesarias para enmendar el acuerdo a fin de garantizar la privacidad y la seguridad de las personas a las que presta servicios el WFP.

¿Por qué la alarma? Para empezar, el WFP está dirigido por David Beasley, partidario del presidente de los Estados Unidos, Donald Trump; irónicamente, Trump ha estado reduciendo las contribuciones de los EEUU a la ONU. Las tácticas predatorias de Palantir para captar datos y código han llamado ya la atención.

En 2011, una empresa llamada I2 Inc demandó a Palantir alegando que había obtenido ilícitamente su algoritmo. Al final Palantir acordó pagar a 12 Inc unos 10 millones de dólares. También en 2011, Anonymous reveló un plan, que involucra a Palantir, para atacar a WikiLeaks. Palantir terminó disculpándose por su participación en el plan. Y en 2018, Christopher Wylie, un directivo de Cambridge Analytica (la compañía que obtuvo los datos de Facebook de 50 millones de votantes de EEUU), respondió en una investigación parlamentaria en el Reino Unido que los empleados de Palantir habían obtenido los datos en el “centro del escándalo de privacidad” que involucraba a Facebook. Palantir primero negó cualquier contacto con Cambridge Analytica, pero luego admitió que uno de sus empleados sí se había comunicado con dicha empresa. Este es el tipo de compañía con la que se asocia la agencia de la ONU.

Las 62 organizaciones que han firmado la carta a Beasley aseguran que algunos riesgos que conlleva este acuerdo incluyen:

– Desanonización. Cuando se fusionan y analizan grandes conjuntos de datos aunque sean anonimizados, que es la base del modelo de negocio de Palantir, se puede llegar a la identificación de las personas detrás de ellos. Incluso cuando los datos se almacenan por separado, el “efecto mosaico” presenta un riesgo. Una investigación de Harvard  indica que las formas tradicionales de privacidad y anonimización de datos que se centran en  eliminar información personal de los datos son “insostenibles e ineficaces”.

– Parcialidad. Otro riesgo involucra el uso de algoritmos para lanzar alarmas de “posible uso indebido”. El problema es que, para analizar los datos de WFP, seguramente Palantir usará sus propios algoritmos que (como todos los algoritmos) pueden contener sesgos. Pero es imposible saber qué sesgos pueden incorporarse a estos modelos. Se sabe que el filtrado algorítmico tiene un alto riesgo de incorporar sesgos y produce resultados de confiabilidad variable,  especialmente en el contexto de los datos relativos a poblaciones muy diversas.

– Derechos de datos. La última declaración del WFP indica que conserva el control total sobre los datos, el análisis y los resultados. Sin embargo, no explica qué significa “control” en un sentido legal, o si ese control incluye los algoritmos, datos con los que se les “entrena”, o inferencias hechas por tales modelos.

– Costos futuros: Si bien el acuerdo puede ahorrar dinero a corto plazo, también se deben evaluar los costos a largo plazo. Los costos de usar el sistema pueden aumentar con el tiempo, como lo experimentan otros clientes de Palantir, quienes se han quejado sobre la política de precios opacos de Palantir.

– Perjuicio de los principios humanitarios. El acuerdo puede socavar los principios humanitarios fundamentales del WFP. Por ejemplo, el WFP es un signatario de los Principios para el Desarrollo Digital, que establecen el uso transparente, inclusivo y equitativo de la tecnología.

– Transparencia y rendición de cuentas. Nada se ha compartido de forma transparente sobre el proceso en el que el WFP se ha comprometido con Palantir. Dada la gravedad de estas preocupaciones, la construcción de controles transparentes, tales como auditorías de terceros, adquisiciones abiertas y transparencia de contratos, parece esencial, dado el mandato que tiene el WFP de  defender la protección de los derechos humanos en todo el mundo.

Los gigantes Goliat siempre dominarán el panorama tecnológico; pero ¿tenemos que darles también acceso e información sobre las personas vulnerables que dependen de los programas de alimentos del WFP? Es verdad que las agencias de la ONU tienen enormes presiones de sus donantes para parecer y ser eficientes. Pero ¿no sería mejor que la ONU desarrollara herramientas propias, que pueda controlar, con organizaciones sin afán de lucro que compartan los valores de transparencia? No puedo dejar de preguntarme acerca de los David de este mundo que, como ICIJ, están tratando de utilizar la infraestructura de datos (es decir, el hardware, el software y los procesos necesarios para transformar los datos en valor) para aumentar la transparencia y la responsabilidad de los poderosos. El acuerdo entre Palantir y WFP suena como pedirle al despiadado Goliat que gobierne con justicia, responsabilidad y empatía.

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out /  Change )

Google photo

You are commenting using your Google account. Log Out /  Change )

Twitter picture

You are commenting using your Twitter account. Log Out /  Change )

Facebook photo

You are commenting using your Facebook account. Log Out /  Change )

Connecting to %s