Esclavitud 2.0 y cómo evitarla: una guía práctica para cíborgs

Esta es una traducción del artículo de Aral Balkan publicado el 02/05/2019. Lee la versión original en inglés.

Probablemente eres un cíborg y ni siquiera lo sabes.

¿Tienes un teléfono inteligente?

Eres un cíborg.

¿Usas una computadora? ¿O la web?

¡Cíborg!

En términos más generales, si hoy en día utilizas tecnología digital y conectada a Internet, eres un cíborg. No tienes que implantarte un microchip. No tienes que parecerte a Robocop. Eres un cíborg porque amplías tus habilidades biológicas utilizando la tecnología.

Al leer esa definición, pueda que digas: “Espera, los seres humanos han estado haciendo eso durante mucho más tiempo del que la tecnología digital existe”. Y tendrías razón.

Éramos cíborgs mucho antes de que el primer error sucediera dentro del primer tubo al vacío de la primera computadora.

El hombre de las cavernas alzando una lanza y prendiendo fuego era el cíborg original. Galileo, quien miraba al cielo con su telescopio, era a la vez un hombre del Renacimiento y un cíborg. Cuando te pones los lentes de contacto por la mañana, eres un cíborg.

A lo largo de nuestra historia como especie, la tecnología ha mejorado nuestros sentidos. Nos ha brindado un mayor dominio y control tanto de nuestras propias vidas como del mundo que nos rodea. Del mismo modo, la tecnología se ha utilizado para oprimirnos y explotarnos, como cualquier persona que haya visto el cañón del rifle de su opresor atestiguará fácilmente.

La “tecnología”, según la primera ley tecnológica de Melvin Kranzberg, “no es ni buena ni mala; ni tampoco es neutral”.

Entonces, ¿de qué depende si la tecnología contribuye a nuestro bienestar, los derechos humanos y la democracia o si los erosiona? ¿Qué separa la buena tecnología de la mala tecnología? Y, ya que estamos en estas, ¿qué separa el telescopio de Galileo y sus lentes de contacto de Google y Facebook? ¿Y por qué importa si nos vemos como cíborgs o no?

Todos debemos tratar de entender las respuestas a estas preguntas. El precio de no hacerlo puede ser muy alto. Estas no son simples preguntas sobre tecnología. Son preguntas que van al grano de lo que significa ser humano en la era digital y del Internet. La forma en que elegimos responder estas preguntas tiene consecuencias fundamentales para nuestro bienestar, tanto personal como social. Las respuestas que elijamos determinarán el carácter de nuestras sociedades y, a largo plazo, posiblemente incluso afecten la supervivencia de nuestra especie.

Propiedad y control del yo en la era digital y del Internet

Imagina un mundo en el que se te asigna un dispositivo al nacer que te mira, escucha y sigue desde ese momento en adelante. Además puede leer tu mente.

Con los años, este dispositivo registra cada pensamiento, cada palabra, cada movimiento y cada interacción. Envía toda esta información sobre ti a una poderosa computadora central, la cual pertenece a una corporaciónqp. Allí, esta información personal se recopilan utilizando algoritmos para crear una simulación tuya. La corporación usa tu simulación como tu doble digital para manipular tu comportamiento.

Tu doble digital es invaluable. Es todo lo que te hace ser quien eres (aparte de tu cuerpo físico). La corporación entiende que no tiene que ser dueña de tu cuerpo físico para ser dueña de ti. Aquellos que se oponen, llaman al sistema Esclavitud 2.0.

Durante todo el día, la corporación somete tu simulación a pruebas. ¿Qué te gusta? ¿Qué te hace feliz? ¿Qué te entristece? ¿Qué temes? ¿A quién amas? ¿Qué vas a hacer esta tarde? Utiliza la información que deriva de estas pruebas para que hagas lo que quiere. Quizás para comprar un vestido nuevo o votar por cierto político.

La corporación es política. Debe continuar sobreviviendo, creciendo y prosperando. No puede ser obstaculizada por las regulaciones. Por lo tanto, debe influir en el discurso político. Afortunadamente, a todos los políticos de hoy también se les asignó el mismo dispositivo que tú al nacer. Así que la corporación también posee sus dobles digitales. Esto hace que sea mucho más fácil para la corporación salirse con la suya.

Dicho todo esto, la corporación no es omnisciente. Todavía puede cometer errores. Podría inferir equivocadamente, según tus pensamientos, palabras y acciones, que eres un terrorista aun cuando no lo seas. Cuando la corporación te interpreta correctamente, tu doble digital es una herramienta invaluable para manipular tu comportamiento. Cuando se equivoca, puede enviarte a prisión. De cualquier manera, pierdes.

Esto suena como una distopía de ciencia ficción, ¿verdad?

Reemplaza “la corporación” con “Silicon Valley”. Reemplaza la poderosa “computadora central” con “La nube”. Reemplaza “el dispositivo” con “tu teléfono inteligente” (y tu asistente inteligente, ciudad inteligente, o cualquier otra cosa “inteligente”.

Bienvenido a la Tierra en la actualidad.

Capitalismo de vigilancia

Vivimos en un mundo donde un puñado de corporaciones multinacionales tienen acceso ilimitado a los detalles más íntimos de nuestras vidas. Sus dispositivos nos miran, escuchan y siguen a donde vamos, en nuestros hogares, cuando navegamos por Internet y (cada vez más) en nuestras aceras y en nuestras calles. No somos dueños de estas herramientas ni las controlamos. Son los ojos y los oídos del sistema socio-tecno-económico que Shoshana Zuboff llama “capitalismo de vigilancia”.

Al igual que en nuestra distopía de ciencia ficción, los ladrones, que son dueños de Silicon Valley no se contentan simplemente con mirar y escuchar. Por ejemplo, Facebook anunció en su conferencia de desarrolladores en 2017 que tenían 60 ingenieros trabajando en como leer nuestra mente, literalmente1.

Anteriormente, pregunté qué es lo que separa el telescopio de Galileo y sus lentes de contacto de los productos de Facebook, Google y otros capitalistas de vigilancia. Comprender la respuesta a esa pregunta es crucial para comprender hasta qué punto el concepto mismo de persona se ve amenazado por el capitalismo de vigilancia.

Cuando Galileo usó su telescopio, solo él vio lo que estaba viendo y solo él sabía lo que estaba mirando. Lo mismo es cierto para cuando usas tus lentes. Si Galileo hubiera comprado un telescopio marca Facebook, Facebook habría registrado todo lo que vio en su sistema. Del mismo modo, si compras tus lentes de contacto marca Google, vendrán con cámaras integradas y Google verá lo que estas viendo. (Google todavía no fabrica estos lentes, pero tienen una patente para ello2. Mientras tanto, si no puedes esperar, Snapchat hace gafas con cámaras integradas).

Cuando usas un lápiz para escribir en tu diario, ni el lápiz ni tu diario saben lo que has escrito. Cuando escribes tus pensamientos en un documento de Google, Google conoce cada palabra.

Cuando envías una carta a un amigo por correo postal, la oficina de correos no sabe lo que has escrito. Es un delito que alguien más abra tu sobre. Cuando le envías un mensaje instantáneo a su amigo en Facebook Messenger, Facebook lee cada palabra.

Cuando inicias sesión en los Servicios de Google Play en un teléfono Android, todos tus movimientos e interacciones se registran meticulosamente, se envían a Google, se almacenan para siempre, se analizan y se usan en tu contra en el tribunal del capitalismo de vigilancia.

Solíamos leer periódicos. Hoy, los periódicos nos leen. Mientras miras YouTube, YouTube también te mira a ti.

Entiendes el concepto.

A menos que nosotros (como individuos) seamos dueños y podamos controlar nuestra tecnología, “inteligente” es un eufemismo para “vigilancia”. Un teléfono inteligente es un dispositivo de rastreo, una casa inteligente es una celda de interrogación y una ciudad inteligente es un panóptico.

Google, Facebook y otros capitalistas de vigilancia son granjas industriales para seres humanos. Ganan miles de millones al cultivar tus datos y explotar lo que conocen tan íntimamente de ti para manipular tu comportamiento.

Son escáneres para los seres humanos. Existen para digitalizarte, poseer esa copia digital y usarla como doble para crecer aún más y ser más potentes.

Debemos entender que estas corporaciones no la excepción. Ellos son la norma. Ellos son la corriente principal. La corriente principal de la tecnología actual es un derrame tóxico del capitalismo de compinches estadounidenses que amenaza con engullir todo el planeta. No somos inmunes a sus vapores aquí en Europa.

Menos aún en América Latina donde los Estados Unidos tiene tanta influencia.

Nuestros políticos se emocionan rápidamente por los millones que estas corporaciones gastan haciendo lobbying en Bruselas. Están engañados por la sabiduría de la Universidad de la Singularidad (la cual no es una universidad real). Mientras tanto, nuestras escuelas almacenan Chromebooks para nuestros hijos. Nuestros impuestos se reducen, de modo que los capitalistas de vigilancia no se vean sobrecargados cuando quieran pedir otra Guinness. Y nuestros políticos, institucionalmente corruptos, están demasiado ocupados organizando conferencias de protección de datos con la intervención de Google y Facebook para proteger nuestros intereses. Lo sé, porque hablé en una el año pasado. El orador de Facebook acababa de terminar su trabajo en la oficina de protección de datos de Francia, famoso por su alta rotación de personal.

Algo tiene que cambiar.

Y estoy cada vez más convencido de que para que ese cambio llegue, debe venir de Europa.

Silicon Valley no va a resolver el problema que creó. Principalmente porque compañías como Google y Facebook no ven miles de millones en ganancias como un problema. El capitalismo de vigilancia no está roto bajo sus propios criterios de éxito. Funciona perfectamente para empresas como Google y Facebook. Se están riendo ante los reguladores cuyas multas insigificativas apenas superan un par de días de sus ingresos. Se ha dicho que “castigable con multa” significa “legal para los ricos”3. Eso es doblemente cierto cuando se trata de regular corporaciones multinacionales que generan miles de millones de dólares.

Del mismo modo, los inversionistas no van a buscar soluciones que destruyan el modelo de negocio inmensamente lucrativo que financiaron.

Entonces, cuando veas iniciativas como el supuesto Centro de Tecnología Humana con inversionistas y ex empleados de Google en la junta directiva, mejor cuestiónelo. Y también cuestione las organizaciones que pretenden crear alternativas éticas mientras son financiadas por los capitalistas de vigilancia. Mozilla, por ejemplo, toma cientos de millones de dólares de Google cada año4. En total, han recibido más de mil millones de dólares. ¿Estás tranquilo con confiarles el desarrollo de alternativas éticas?

Si queremos trazar un camino diferente en Europa, debemos financiar y construir tecnología de manera diferente. Debemos tener el coraje de separarnos de nuestros amigos al otro lado del charco. Debemos tener la confianza en nosotros mismos para decirles a Silicon Valley y a sus cabilderos que no estamos comprando lo que están vendiendo.

Y debemos fundamentar todo esto en la base sólida de los derechos humanos. ¿Dije “derechos humanos”? Quise decir derechos de los cíborgs.

Los derechos de los cíborgs son derechos humanos

Nos enfrentamos a una crisis legal en derechos humanos que se remonta a lo que entendemos por “humano”.

Tradicionalmente, nos basamos en nuestros límites biológicos para definir que son los seres humanos. Además, tenemos un sistema de leyes y justicia que tienen como objetivo proteger la integridad de esos límites y, por lo tanto, la dignidad del individuo. A este sistema lo llamamos derecho internacional de los derechos humanos.

Lamentablemente, esta definición de humano ya no es adecuada para protegernos por completo en la era digital y del Internet.

En esta nueva era, ampliamos nuestras habilidades biológicas utilizando tecnologías digitales. Extendemos nuestras mentes y nos extendemos nosotros mismos utilizando tecnología moderna. Por lo tanto, debemos ampliar nuestra comprensión de los límites del individuo para incluir las tecnologías mediante las cuales nos extendemos. Al extender la definición del yo, podemos asegurar que las leyes de derechos humanos cubran y, por lo tanto, protejan la totalidad del individuo en la era digital y en red.

Como cíborgs, somos seres fragmentados. Partes de nosotros viven en nuestros teléfonos, partes en un servidor en alguna parte, partes en una computadora portátil. La integridad del individuo en la era digital y del Internet es la suma total de la integridad de esos fragmentos.

Entonces, los derechos de los cíborgs son derechos humanos aplicados al individuo cíborg. Lo que no necesitamos es un conjunto separado de, probablemente menores, “derechos digitales”. Esta es la razón por la cual la Declaración Universal de los Derechos del cíborg5 no es un documento autónomo, sino una adición a la Declaración Universal de los Derechos Humanos.

Si bien la protección constitucional de los derechos de los cíborg es un objetivo necesario, este tomará tiempo. Pero no tenemos que esperar el cambio constitucional para poder actuar. Podemos y debemos comenzar a protegernos creando alternativas éticas a la tecnología convencional.

Tecnología ética

Una tecnología ética6 es una herramienta de la cual eres dueño y tienes el control. Es una herramienta diseñada para mejorar tu vida y hacerla más fácil. Es una herramienta que mejora tus habilidades y mejora tu vida. Es una herramienta que solo actúa a favor y nunca en contra de tus intereses.

Por el contrario, una tecnología poco ética pertenece y es controlada corporaciones o gobiernos. Fomenta sus intereses a expensas de los tuyos. Es una trampa brillante diseñada para capturar tu atención, volverte adicto, seguir cada uno de tus movimientos y perfilarte. Es una granja industrial disfrazada de parque infantil.

La tecnología poco ética es tóxica para nuestros derechos humanos, bienestar y democracia.

Plantando mejores semillas

La tecnología ética no crece en los árboles. Tienes que financiarla. Y cómo se financia es importante.

La tecnología poco ética está financiada por capital de riesgo. El capital de riesgo no invierte en un negocio, invierte en la venta del negocio. También invierte en negocios muy riesgosos. Un capitalista de riesgo en Silicon Valley invertirá, por ejemplo, $ 5 millones en 10 nuevas empresas, sabiendo que 9 de ellas fracasarán. Entonces él (porque generalmente es un él), necesita que el décimo sea un “unicornio” de mil millones de dólares para que pueda recuperar de cinco a diez veces su dinero. (Ni siquiera es su dinero, pertenece a sus clientes). El único modelo de negocios que conocemos en tecnología que ofrece ese tipo de crecimiento es la agricultura de las personas. La esclavitud pagó bien. La esclavitud 2.0 también paga bien.

No debería sorprendernos que un sistema que valora el crecimiento similar al cáncer por encima de todo lo demás haya resultado en tumores como Google y Facebook. Lo sorprendente es que parece que celebramos los tumores en lugar de tratar al paciente. Y aún más desconcertante, parece que estamos decididos a infectarnos con la misma enfermedad aquí en Europa.

Mejor no.

Financiemos alternativas éticas.

Comunales.

Por el bien común.

Sí, eso significa con nuestros impuestos. Para eso son (para construir una infraestructura compartida para el bien común que promueva el bienestar de nuestra gente y nuestras sociedades). Si la palabra “impuesto” te asusta o suena demasiado anticuada, la podemos cambiar por “crowdfunding obligatorio”, o “filantropía democratizada”.

Financiar tecnología ética de los bienes comunes no significa que hagamos que los gobiernos construyan, posean o controlen nuestras tecnologías. Tampoco significa que nacionalicemos empresas como Google y Facebook. ¡Dividirlas! Claro. ¡Regularlas! Por supuesto. Hacer cualquier cosa que limite sus abusos tanto como sea posible. Pero lo único peor que un panóptico corporativo es uno estatal (no es que estas dos cosas sean mutuamente excluyentes).

No reemplacemos a un hermano mayor con otro.

En su lugar, invirtamos en muchas organizaciones pequeñas e independientes sin fines de lucro y les encomendamos la construcción de alternativas éticas. Hagamos que compitan entre ellas. Tomemos lo que sabemos que funciona de Silicon Valley (pequeñas organizaciones que trabajan de forma iterativa, compiten y fallan rápidamente) y eliminemos lo que es tóxico: capital de riesgo, crecimiento exponencial y liquideces (exits).

En lugar de startups, construyamos stayups en Europa.

En lugar de empresas desechables que fracasan rápidamente o se convierten en tumores malignos, financiamos organizaciones que fracasen rápidamente o se conviertan en proveedores sostenibles de bienestar social.

Cuando mencioné este plan hace varios años en el Parlamento Europeo, mis palabras entraron por un oído y salieron por otro. Aun no es demasiado tarde para intentarlo. Pero cada día que nos demoramos, el capitalismo de vigilancia se vuelve cada vez más arraigado en el tejido de nuestras vidas.

Debemos superar este fracaso de la imaginación y basar nuestra infraestructura tecnológica en esos principios que son los mejores de la humanidad: los derechos humanos, la justicia social y la democracia.

Hoy, la UE actúa como un departamento de investigación y desarrollo no remunerado para Silicon Valley. Financiamos startups que, si tienen éxito, se venden a empresas en Silicon Valley. Si fracasan, el contribuyente europeo paga la factura. Esto es una locura.

La CE debe dejar de financiar startups e invertir en stayups. Invertir € 5M en diez stayups en cada área donde queremos alternativas éticas. A diferencia de una startup, cuando las stayups son exitosas, no se liquidan. No pueden ser comprados por Google o Facebook. Siguen siendo una organización europea sostenible sin ánimo de lucro que trabaja para ofrecer tecnología como un bien social.

Además, el financiamiento de una stayup debe venir con una especificación estricta del carácter de la tecnología que construirá. Los bienes construidos con fondos públicos deben ser bienes públicos. La Free Software Foundation Europe está creando conciencia en este sentido con su campaña “dinero público, código público”. Sin embargo, debemos ir más allá del “código abierto” para estipular que la tecnología creada por las stayups debe ser, no solo pública sino también imposible que deje de ser transparente. Para software y hardware, esto significa usar licencias que son copyleft. Una licencia copyleft garantiza que si se basa en tecnología pública, debe compartirse de la misma manera. Las licencias compartidas son esenciales para que nuestros esfuerzos no se conviertan en un eufemismo para la privatización y para evitar una tragedia de los bienes comunes. Las corporaciones con mucho dinero no deben poder tomar lo que creamos con fondos públicos, invertir sus propios millones y no compartir el valor que han agregado.

Finalmente, debemos estipular que las tecnologías construidas por las stayups son de punto a punto. Tus datos deben permanecer en los dispositivos de los cuales eres dueño y controlas. Y cuando te comunicas, debes comunicarte directamente (sin un “hombre en el medio” como Google o Facebook). Cuando esto sea técnicamente inviable, cualquier información privada controlada por un tercero (por ejemplo, un proveedor de alojamiento web) debe estar encriptada de punta a punta y tu debes tener la única clave.

Incluso sin ninguna inversión estadísticamente relevante en tecnología ética, ya hay pequeños grupos trabajando en alternativas. Mastodon7, una alternativa ética y federada a Twitter, fue creada por una persona de poco más de veinte años. Un par de personas se unieron para crear un proyecto llamado Dat8, que podría ser la base de una web descentralizada. Durante más de diez años, los voluntarios han estado ejecutando un sistema de nombre de dominio no comercial alternativo llamado OpenNIC9 que podría empoderarnos a todos con su propio lugar en la Web…

Si incluso sin ningún tipo de apoyo estas semillas están comenzando a brotar, imagina lo que podríamos lograr si en realidad comenzáramos a regarlas y plantar nuevas. Al invertir en stayups, podemos comenzar un cambio fundamental hacia la tecnología ética en Europa. Podemos comenzar a construir un puente desde donde estamos hasta donde queremos estar. De un mundo en el que pertenecemos a las corporaciones por medio de un doble a un mundo en el que somos dueños de nosotros mismos. De un mundo en el que nuevamente nos estamos convirtiendo en propiedad a un mundo en el que permanecemos como personas. Del capitalismo de vigilancia a la democracia descentralizada.

2020-05-17 La palabra cyborg fue modificada por cíborg y salida por liquidez