Ahora que los algoritmos y robots empiezan a moverse por el mundo, ¿quién se hace responsable de sus acciones?
En octubre del año pasado un algoritmo empezó a irse de compras. Se le asignaban 100 dólares en bitcoins cada miércoles y observaba los productos de Agora Market hasta que seleccionaba uno de forma aleatoria. Ese objeto se pagaba y se enviaba a Suiza, al estudio de !Mediengruppe Bitnik. Allí los artistas Domagoj Smoljo y Carmen Weisskopf abrían los paquetes y colocaban el contenido y los envoltorios en pequeños estantes para que la gente los observara.
El algoritmo, llamado Random Darknet Shopper, compró 12 artículos, entre los que se incluían un par de zapatillas Air Jordan, una copia de un pasaporte húngaro y 10 pastillas de éxtasis. Todo iba bien hasta enero. El día que quitaron la exposición que mostraba los objetos que su robot había comprado, la policía suiza «detuvo» al robot, requisó el ordenador y confiscó los artículos que había comprado.
«Se puede decir que el objetivo de confiscar los objetos es impedir que terceras partes estén en peligro debido a las drogas que se mostraban, así que estas se destruyeron», escribió una persona de !Mediengruppe Bitnik en su blog.
No obstante, en abril el robot fue puesto en libertad junto con todo lo que había comprado, excepto el éxtasis, y los artistas quedaron libres de cargos. Aún así, esta detención hizo que muchas personas empezaran a preguntarse dónde está la frontera entre la culpabilidad humana y la informática.
No se trata del primer algoritmo comprador que existe, puesto que ya se lleva experimentando con este tipo de robots un tiempo. La mayoría de la gente los compra en sitios web bastante conocidos como es el caso de Amazon o eBay. Weisskopf dice que querían indagar más en la darknet por dos razones.
«Consideramos que internet es una parte muy importante de nuestro trabajo artístico, trabajamos con y en internet».
El equipo también se ha interesado en la forma en la que los gobiernos utilizan internet y cómo está sujeto a un continuo control. Según indica, las revelaciones de Snowden han constituido un punto de inflexión en su trabajo.
Ante esto, Weisskopf y Smoljo decidieron empezar a investigar el lado más oscuro de la web. «Nos empezamos a interesar mucho en la cuestión de la confianza. ¿Cómo confiar en la gente anónima? Son simples nodos», dijo. «Decidimos fijarnos en los mercados porque los mercados necesitan confianza. No se trata de enviar dinero a alguien con la esperanza de que nos envíen productos».
Para ello se desarrolló el Random Darknet Shopper. «El proyecto se basaba en tener una idea general de los artículos accesibles en la darknet como ejemplos de lo que se puede encontrar», dijo Weisskopf. En función del historial de compras del robot se pueden encontrar todo tipo de artículos: Air Jordans de China, vaqueros Diesel, una carta falsa de «Abington Bank», una gorra de béisbol con una cámara en la parte frontal, una tarjeta de crédito Visa Platinum, cigarrillos Chesterfield y mucho más.
Weisskopf dijo que no le sorprendió el interés de la policía. «Sí que hablamos con un abogado antes de comenzar la exposición porque sabíamos que muchos de los artículos que se encuentran en esos mercados son normalmente cosas que por una u otra razón no se encuentran en otros mercados en internet», dijo. Sin embargo, el abogado indicó que en Suiza el principio de la libertad en las artes permite al artista incumplir algunas leyes con el objetivo de realizar exploraciones.
La cuestión de lo culpable que puede ser un robot o algoritmo no es nueva, dice Burkhard Schafer, profesor de Teoría legal informática en la Universidad de Edimburgo. Por ahora este profesor cree que la cuestión de responsabilidad no difiere de una lesión causada por un taladro. Según dijo Burkhard:
«Decidimos si es culpa del dueño o del fabricante. En este sentido los robots no cambian por completo la situación».
Los robots son creaciones humanas, por lo que siguen las órdenes que se les dan. Hasta que esto cambie, las acciones que lleven a cabo son por lo tanto responsabilidad de los humanos que los crearon. Todo se vuelve más complicado con los robots inteligentes o algoritmos que pueden aprender y hacer algo que sus creadores no se esperaban. Schafer dice que en esos casos los creadores son por lo general los responsables.
Shafer indica que ya existe en cierto modo un marco legal que podría funcionar para los robots inteligentes: las leyes que se aplican a los perros:
«Normalmente quien pone algo en el entorno que puede ser peligroso es quien se hace responsable».
Los dueños de perros saben bien que no pueden controlar todas las acciones de sus perros pero a la vez, si alguien tiene un perro que es peligroso, es su responsabilidad proteger a los demás de ese perro. «Mientras que sea previsible que algo que te pertenece puede causar un daño, aunque no hayas provocado directamente esa lesión o daño, eres responsable de ello», dice. En este caso los perros son muchos más capaces, creativos e inteligentes que cualquier sistema informático que se haya inventado hasta la fecha.
Aunque las consecuencias legales puedan ser las mismas, nuestra reacción a un delito cometido por un robot comprador de gran complejidad puede ser muy diferente si lo comparamos, por ejemplo, con un accidente causado por un taladro o una escalera, sobre todo si el robot está programado para actuar y sonar como un humano. Weisskopf dice que aunque el Random Darknet Shopper era simplemente un algoritmo manejado por un ordenador, los visitantes lo concebían como un ser vivo.
«No se trata bajo ningún concepto de un software inteligente, ya que no puede aprender ni hacer todas esas cosas que otros tipos de software sí pueden hacer. No obstante, sí que se comporta como un ser humano y las personas que visitan la exposición ven la colección de 12 objetos e intentan pensar en la personalidad del comprador», dijo. «Creo que esta reacción es muy típica de los seres humanos».
Los artistas Bitnik tienen más proyectos en mente para indagar en estas cuestiones. Quieren hacer que el robot funcione fuera de Suiza para ver los resultados y las reacciones que obtienen. ¿Con qué rapidez reaccionaría la policía en EE. UU.? ¿Cómo reaccionarían las autoridades indias?
«Creemos que puede resultar bastante interesante plantear estas cuestiones en función de la jurisdicción y derechos de copyright. No resulta fácil tener leyes diferentes en cada país puesto que los productos se venden a nivel mundial», dijo Weisskopf.
Bitnik espera realizar más proyectos como este para plantear distintas cuestiones, no solo sobre los productos que hay en la darknet si no también para comprobar su facilidad de acceso y el por qué.
«Nos interesa la responsabilidad de los robots o software, pero también la cuestión del anonimato y vigilancia masiva», dijo Weisskopf. «¿Cómo queremos que sea el mundo digital del futuro? ¿Qué queremos hacer y cómo creemos que sería posible?»