Completely Automated Public Turing test to tell Computers and Humans Apart (CAPTCHA) es una aplicación desarrollada para que distintos servicios web puedan distinguir entre usuarios humanos y bots no humanos. Desarrollada inicialmente en 1997, la prueba consistía en solicitar al usuario humano que identifique una serie de caracteres alfanuméricos que habían sufrido algún tipo de distorsión visual. Esta distorsión buscaba dificultar la identificación de los caracteres por parte de bots no humanos y de sus sistemas de reconocimiento automático de texto. El principio detrás de esta aplicación era el siguiente: a diferencia de la percepción humana, los sistemas de inteligencia artificial serían incapaces de ignorar las pequeñas distorsiones en los caracteres individuales, interrumpiendo así la posibilidad de que un sistema automático de reconocimiento de texto conecte cada carácter individual con una regla general. La percepción humana, en cambio, tendría el beneficio de contar con una facultad que no sería automatizable, es decir, no reducible a una regla algorítmica: la facultad de la imaginación. Sería esta facultad la que distinguiría a la percepción humana de la percepción maquínica; la imaginación permitiría a los usuarios humanos vincular, en cada caso y a través de un proceso casi mágico, los caracteres distorsionados con su regla general. Los bots no humanos, por su parte, al carecer de una facultad de la imaginación, fallarían irremediablemente este sencillo test de Turing.
Pero la historia no termina allí. En 2009, Google compra la empresa responsable por esta aplicación y funda reCAPTCHA. Con ello, Google da un nuevo uso a esta prueba: no solo identificar bots no humanos entre los usuarios humanos, sino también poner a estos usuarios humanos a trabajar para Google. Cada vez que un usuario de reCAPTCHA identificaba una palabra difícil de leer, un número de domicilio en una foto borrosa, o una señal de tránsito, lo que hacía no era solo probarle a la máquina su condición humana, sino también contribuir a la construcción de bases de datos que luego Google utilizaría para el entrenamiento de sus sistemas de inteligencia artificial (Google Books, Google Maps, Google Self-Driving Car, Google Images, etc.). Aquí el principio era el siguiente: la facultad de la imaginación define la singularidad del trabajo humano respecto tanto de la actividad instintiva del animal como del dominio mecanicista de las máquinas. Desde esta perspectiva, Google habría inventado un ingenioso modo de externalizar un proceso de trabajo humano costoso y demoroso (construir las bases de datos de entrenamiento para sus algoritmos de aprendizaje maquínico) reduciendo así radicalmente los costos y los tiempos de dicho proceso. En este sentido, el reCAPTCHA se presenta con una forma ejemplar de explotación de trabajo no-remunerado [free labour] tan común en las plataformas digitales.
Llegamos así al año 2013. La empresa Vicarious declara haber desarrollado un sistema de inteligencia artificial capaz de resolver y engañar a la prueba CAPTCHA. Para los desarrolladores de este sistema, no se trata de una hazaña menor. Precisamente debido al vínculo entre percepción e imaginación humana que estaría a la base de los sistemas CAPTCHA y reCAPTCHA, un algoritmo capaz de superar esta prueba sería un paso decisivo para avanzar en el desarrollo de una inteligencia artificial. Como sugieren los propios ingenieros de Vicarious, se trataría de un primer paso para la construcción de una facultad de la imaginación maquínica que comience a desdibujar los límites entre juicios humanos y juicios algorítmicos. Esto permitiría, incluso, hablar de un nuevo “sentido común artificial” como el fundamento de una inteligencia artificial general (AGI).
Ante el entusiasmo de la industria y de sus ingenieros, nuestro proyecto Imaginación Maquínica busca reflexionar sobre los límites, las condiciones de posibilidad, y las consecuencias políticas y sociales de estas nuevas promesas tecnológicas. Se trata de los resultados de un proyecto de investigación [Fondecyt N°11170065, 2017-2020] que ha explorado en qué medida una crítica a estas nuevas tecnologías algorítmicas requiere de nuevos marcos conceptuales. El objetivo de este sitio es divulgar nuestros resultados y ampliar el interés sobre estos temas. Para ello, hemos elaborado seis secciones: i) una reflexión sobre la relación entre imaginación y política, y sobre los cambios que sufre esta relación a la luz de las recientes transformaciones en el campo de las tecnologías algorítmicas; ii) una genealogía que rastrea en la filosofía occidental moderna las distintas conceptualizaciones de la imaginación (como facultad que define nuestra singularidad humana); iii) una experimentación visual que utiliza la noción de diagrama de Gilles Deleuze para examinar las operaciones detrás de Google Deep Dream; iv) una reflexión sobre el concepto de extractivismo de datos, cuyo objetivo es explorar el vínculo entre algoritmos de aprendizaje maquínico y el proceso de valorización capitalista; v) una entrevista a Joanna Zylinska en torno a la idea de una creatividad artificial y la necesidad de nuevas categorías para pensar el arte generado con estas tecnologías; y vi) una descripción del fenómeno de sesgo maquínico, es decir, de aquel proceso a través del cual sesgos históricos y sociales son transmitidos a los algoritmos de aprendizaje maquínico. Adicionalmente, hemos incluido una sección con publicaciones y otros recursos donde iremos agregando regularmente materiales adicionales que puedan ser de utilidad para aquellos interesados en el tema.