Una carta de advertencia a la humanidad
El 28 de marzo fue presentada públicamente una carta abierta escrita por la Future of Life Institute (Instituto por la Vida del Futuro), firmada por un conjunto de personalidades de renombre. La carta llego rápidamente a la primera plana de muchos diarios no solamente porque estemos en un momento donde toda la internet habla de la IA y diferentes programas de moda como ChatGPT-4; también le dio relevancia el hecho de que estuviera firmada por el mismo Elon Musk, dueño de Tesla, Twitter, Space X y uno de los billonarios más conocidos, famosos y polémicos de la actualidad.
La mayoría de los impulsores de esta carta son referentes de la doctrina filosófica del Largoplasismo (Longtermism). Llevaría un trabajo en si mismo recorrerla, pero sucintamente funciona como justificación burguesa ante catástrofes humanitarias contrastándolas contra el recorrido de gloria de la humanidad en su conjunto. Según estos catedráticos, los males que sufre la humanidad (léase: las masas de trabajadores) son relevantes solo si frenan esu desarrollo, sino su impacto es relativizado.
Estos pensadores piden explícitamente a los principales desarrolladores tecnológicos trabajando en la investigación en IAs que suspendan su labor en motores más poderosos que el GPT-4 durante seis meses, tiempo que quieren utilizar para discutir las principales implicancias laborales, humanísticas, filosóficas y legales de este nuevo desarrollo. Incluso llegan a proponer que, de negarse las empresas, los Estados nacionales intervengan estas entidades para ponerle un freno a sus actividades.
Algunas de las preguntas que se hacen en la misiva son: ¿deberíamos dejar que las maquinas inunden nuestros canales de información con propaganda y mentiras? ¿Deberíamos automatizas todos los trabajos, incluso los que son reconfortantes? ¿Deberíamos desarrollar mentes no humanas que pueden eventualmente superarnos en número y capacidad, dejándonos obsoletos y reemplazándonos? La hipocresía atrás de estas preguntas, viniendo de un grupo de filósofos burgueses, es palpable. Pero primero vamos a aclarar algunos términos para ubicar a cada uno en su casillero.
El riesgo de inteligencias artificiales sobrehumanas
El principal “miedo” de estas personas no es solamente IAs extremadamente poderosas, la perspectiva que los preocupa de sobremanera es la posibilidad del desarrollo de inteligencias artificiales generales (IAG). Cuando hablamos de humanos (el sujeto clásico de estudio de la inteligencia) sabemos que no existe un solo tipo de inteligencia. Depende el modelo teórico, pero se puede encontrar bibliografía hablando de inteligencia artística, musical, social, interpersonal, emocional, matemática, lógico-formal, espacial, constructiva, lingüística, visual, y esto solamente por nombrar algunas. Más importante, mientras todas se basan en la combinación de distintas capacidades humanas solamente las inteligencias formales como la matemática, lógica o deductiva utilizan elementos puramente racionales y proposicionales (lo que clásicamente se considera ‘la inteligencia’ a secas).
Las inteligencias artificiales que existen hoy en día, terminadas o en desarrollo, entran en muy pocas de estas categorías y utilizando solo modelos lógicos o matemáticos como fuente de procesamiento. ChatGPT, por ejemplo, esta compuesta por cuatro grandes modelos lingüísticos (LLM, en ingles): programas con capacidad de aprendizaje que, a partir del estudio estadístico de la concatenación de palabras, pueden manejar modelos de estructuración y creación de textos a través de encadenar palabras cada vez más sofisticados. No existe algo parecido al fenómeno de la ‘comprensión’, no ‘sabe’ lo que esta diciendo, solo calcula estadísticamente que palabra es más probable que aparezca a continuación de la última que colocó.
Las inteligencias artificiales generales, en teoría, podrían realizar una variedad de tareas mucho más amplia y utilizar distintos tipos de inteligencia (siempre con base exclusiva en procesamientos racionales) para responder a pedidos mucho más complejos que escribir un cuento corto. Pensemos en un HAL-9000, para quienes se acuerden de 2001: Odisea del espacio. Estas IAG, que son la principal preocupación expresada en la carta, no están ni siquiera en fase de ensueño para las empresas que se dedican a este rubro. No son una preocupación real en ningún futuro próximo. ¿Entonces es todo alarmismo y propaganda?
Las IAs ya están entre nosotros
No todo. La IA en sus capacidades actuales ya demostró que puede ser una herramienta altamente peligrosa, o como mínimo con efectos preocupantes. Modeladores computacionales utilizados para buscar moléculas de medicamentos novedosas, ideal para testear la viabilidad teórica de ciertos compuestos y mejorar la efectividad de la producción en el ámbito de salud, fue exitosamente utilizada para fabricar los planos de armas biológicas. Otra IA logró, mediante un mecanismo que implicó engañar a un ser humano, resolver un captcha.
La Comisión de Seguridad Nacional (estadounidense) sobre Inteligencia Artificial declaro en un informe que la dominancia tecnológica estadounidense (la base de su poderío militar) está bajo amenaza por los desarrollos que inteligencias artificiales chinas y rusas y su impacto en la ciberseguridad estadounidense, preocupación que seguramente pueda empezar a explicar por qué en el último año se vio un boom en el desarrollo de IAs de origen norteamericano. Si bien esta debería ser la principal preocupación de los trabajadores (gobiernos imperialistas con armas tecnológicas cada vez más poderosas), estos desarrollos también van a encontrar su camino hacia la industria y la vida cotidiana de las personas.
La primer inquietud que se presenta es qué pasara con los trabajos que van a cambiar o desaparecer producto de la transformación en el mundo laboral. Usualmente, los puestos que más en riesgo están por la automatización de tareas son los que requieren menos formación. Los mismos que proveen de sustento a grandes cantidades de familias obreras, familias que producto del desempleo de una transición no planificada pueden engrosar las ya grandes filas de desempleados y subempleados que caracterizan lo que va del siglo XXI.
También las estafas virtuales pueden multiplicarse exponencialmente si pueden acceder a herramientas basadas en IA que puedan hablar en simultáneo a cantidad de usuarios sin intermediación humana directa. Las campañas de desinformación que se aprovechan de los algoritmos de las redes sociales para difundir fake news y campañas fascistas disfrazadas también podrían experimentar un salto en peligrosidad si ingresa en la factorización nuevas herramientas. El mundo del arte se está viendo conmovido hace ya varios meses con denuncias de músicos o artistas visuales que denuncian que las obras producidas por diversas IAs no son más que plagios disfrazados.
Tras todas las alteraciones que esto puede generar, como sociedad ya tenemos en claro que las regulaciones estatales a las nuevas tecnologías llegan con retraso, en el mejor de los casos, y luego de una catástrofe en el peor. Es necesario que exista una discusión en la sociedad que establezca firmemente los límites que se le deben imponer a las empresas en el desarrollo de estas nuevas herramientas (qué pueden hacer, qué está limitado y qué está prohibido investigar). Establecer leyes y penas a estas herramientas y sus posibles usos, con la esperanza de por una vez no estar corriendo atrás de la pelota.
Las inteligencias artificiales actuales contienen ya límites a lo que pueden hacer basado en las experiencias previas. Por ejemplo, en 2016 un programa de Microsoft aprendizaje en base a interacciones, precursora y parte de los programas IA actuales, con base en Twitter fue llevada a emitir comentarios racistas y xenófobos en su primer día de lanzamiento. 24 horas después de su lanzamiento, fue descontinuada. Hoy en día, los motores como ChatGPT tienen trabas incluidas que evitan que un usuario pueda forzar a la IA a decir cosas que puedan ser ofensivas, o positivas para figuras polémicas y negativas (según criterios burgueses que no necesariamente compartimos en todos los casos).
¿Hay que oponerse a las IAs para salvar a la humanidad?
Al final del día, las IA son herramientas. Increíblemente sofisticadas para la actualidad pero herramientas al fin. Una IA no puede correr por su cuenta una campaña de desinformación en Facebook en favor de un candidato fascista. Una IA no puede despedir por voluntad propia a la mitad de una planta de trabajadores. Tampoco puede por su cuenta manejar drones de guerra o elegir plagiar el trabajo de artistas humanos. Solo puede hacer aquello que un humano le pida que haga.
El problema radica en que es una herramienta que está en manos de sectores burgueses que van a utilizarla para sus propios intereses de clase. Y si bien nos dan algunas cosas para que juguemos generando imágenes del Papa con ropa de Gucci, los trabajadores no tenemos un acceso real a todas las potencialidades de esta tecnología. Un primer reclamo totalmente valido sería el libre acceso tanto de los consumidores como de organismos de control al código de estos programas, no solamente para poder vigilar la conducta de estas empresas sino también para poder socializar estos nuevos beneficios.
Estos avances no son solo un testamento de la avaricia de la burguesía, también dan cuenta de la gran capacidad creativa de la humanidad. No tiene que ser nuestra preocupación actual una posible rebelión de las maquinas, las inteligencias artificiales de capacidades similares a la humana no son una realidad del futuro próximo. Una computadora puede ganarle al actual campeón mundial de ajedrez, pero carece de capacidades creativas para pensar “fuera de la caja”, autonomía para perseguir sus propios objetivos o instintos gregarios para unirse junto a otros individuos y potenciar mutuamente sus capacidades. Lo que realmente tiene que preocuparnos ahora es buscar la forma de usar estas nuevas herramientas en función de nuestros intereses de clase como trabajadores.
