Hacia una nueva construcción de la justicia algorítmica

El desarrollo y uso de la Web 2.0 representó posibilidades que no habían sido concebidas hasta el momento. El contenido generado por el usuario y las páginas devenidas en plataformas en las cuales quedarse supusieron un cambio de paradigma en la manera en que entendemos la circulación de información. Años después, la cantidad de contenido accesible para el ciudadano de a pie es hoy inconcebible. Los motores de búsqueda y los intermediarios se han posicionado como indispensables brújulas para navegar la información. En este océano de data heterogénea, solamente el megagigante Google intermedia más de un 80% del tráfico, incluyendo también el acceso a las redes sociales (buscar la palabra “facebook” para acceder al portal), las cuales representan el segundo escalafón en la jerarquía de mediadores de información. Para acceder a las páginas pasamos por las rutas de los mediadores, y aunque los peajes sean invisibles, Internet está lentamente siendo comprendido como el nuevo espacio “público” a ser regulado.

En este contexto, el proyecto de Ley argentino Pinedo-Fellner (que ya cuenta con media sanción en el Congreso Nacional) exime por default de responsabilidad a las grandes plataformas de cualquier contenido subido a ellas por sus usuarios, exceptuando solamente los casos en los que las mismas sean notificados por una orden judicial. Basicamente hace que para denunciar baja de contenidos por violación a derechos de autor haya que pasar si o si por el Poder Judicial. A esto se lo llama la judicialización de los derechos de autor. Las cámaras de representantes de autores y editores se oponen de base a este proyecto ya que la vorágine que tiene Internet poco se corresponde con los tiempos actuales de los procesos judiciales, donde a lo mejor una duración de meses es necesaria antes de la baja efectiva de un contenido.
Las fronteras transnacionales difusas en el campo de lo digital y la vertiginosa velocidad con la que estás herramientas formaron parte de nuestra vida cotidiana ocasionaron que los sistemas jurídicos recién estén compensando su retraso para actualizarse. El acceso a la cultura es un derecho básico, pero las grandes plataformas no son sus principales defensores. En nombre del acceso a la cultura, defienden su derecho a comercializar mediante el contenido. Aunque los intentos de autorregularse fueran honestos, la responsabilidad no ha de delegarse por fuera de los Estados. En esta línea, el proyecto de Ley argentino recibe rechazo unánime de los sectores de la sociedad civil a los llamados “criterios de autorregulación”. Bajo estos términos, los intermediarios decidirían sus propias reglas sobre qué contenidos permitir, decisión peligrosa para dejar en manos de empresas privadas cuyos intereses no siempre corresponden con los de la ciudadanía.

La alternativa que las grandes editoriales y cámaras defensoras de derechos de autor están reclamando es el sistema conocido como “Notificación y baja” o Notice and take down. Este sistema implementa la obligación a los mediadores de información de retirar contenido de sus góndolas cibernéticas en tanto y en cuanto un dueño de copyright denuncie que este está infringiendo sus derechos de autor. El problema fundamental recae en que quien recibe esta denuncia no tiene manera de comprobar su veracidad y, en un acto de presunción de culpabilidad, la premisa es silenciar primero, preguntar después. La justicia — y por ende el Estado—no intervienen. Uno de los grandes opositores a este sistema es el foro devenido en red social Taringa!, quienes otrora supieron adoptar el Notice and Takedown internamente, pero que según uno de sus dueños, de su experiencia aprendieron que dicho sistema es inviable: “Un juez va a tener una visión neutral y podrá dictaminar si se está violando algún derecho o no. El problema es que cualquiera puede estar pidiendo la baja de cualquier cosa” dice Matías Botbol, actual CEO y uno de los fundadores de Taringa!.

En Estados Unidos, donde el notice and takedown funciona desde la implementación del “Acta de Copyright del Milenio Digital”, más conocida como DMCA, se están analizando los dudosos resultados de tener ese sistema tras 10 años. Un informe de transparencia del mismo Google, demuestra que más de la mitad de las denuncias para bajar contenido resultaron ser ilegítimas en cuanto a contenido de derechos de autor en infracción. También hay estudios que han analizado que este sistema es normalmente usado para afectar a la competencia en marcos empresariales, en marcos de competencia electoral y para disminuir críticas en ámbitos políticos y sociales. Incluso bajo este marco proliferan compañías que se dedican exclusivamente a remover contenido. Lo complicado de este panorama sería la imposibilidad de aseverar que cada una de estas denuncia es legítima, sabiendo que hay muchas que se hacen de forma automatizada en tanto y en cuanto el contenido contenga ciertas palabras clave (si dice “Spider man”, lo bajamos por las dudas).

El informático Tim Berners-Lee predijo que nuestro horizonte digital se encontraba ahora un escalón más arriba: la Web 3.0. Donde la mayor parte de la información que circulara por la red fuera interpretable por “máquinas”. A pesar de que él mismo reconoció que faltaba mucho para este panorama, la realidad es que estamos tendiendo hacia ese lugar. Los algoritmos son hoy en día los pilotos automáticos que los grandes intermediarios de información emplean para automatizar nuestro camino. Un reciente informe de la World Wide Web Foundation relevó como estas “máquinas automatizadas” son los únicos que pueden hacer sentido en una cacofonía de información. Sin embargo advierten que cada vez más las decisiones que toman reproducen patrones de discriminación. No porque los programadores lo quisieran, pero porque la información de la cual se alimentan es en sí tendenciosa. Si por ejemplo, a mayor nivel socioeconómico significa mayor acceso a los datos, mayor tráfico y por ende más relevancia para los algoritmos, la representación digital de quienes menos acceso tienen a la red se ve denigrada. El concepto de justicia algorítmica se introduce, pero no refiriéndose al poder Judicial, que a veces nos gustaría tuviera la efectividad de ciertos programas.

¿Como superar entonces los tiempos lentos de la justicia y evitar el uso tendencioso de los mecanismos de baja automatizados? “Crear un organismo administrativo que sea un ente descentralizado autárquico” dice Rodrigo Iglesias, abogado especialista en Derecho Informático “ Y que tenga el mismo poder equivalente que un Juez, al cual se podría recurrir en caso de ser necesario”. De esta manera, la opción más viable sería una especie de punto medio entre ambas metodologías. La notificación se haría a este organismo y la baja tendría una evaluación humana diligente, por fuera de la automática y ciega de un algoritmo o un servicio de recepción digital. Así, el camino inverso podría probar que la reforma de los sistemas burocráticos y administrativos podría servirse de las herramientas digitales, sin necesariamente reducir su poder de decisión o delegarla en desarrolladores externos. En tiempos donde la toma de decisiones por parte de algoritmos se encuentra in crescendo, el factor humano y la innovación criteriosa se vuelven más necesarios que nunca.