¿Puede la IA «matarnos a todos»?
Llevamos ya más de medio año de una verdadera campaña global sobre la IA que va mucho más allá de la desinformación.
El mito de la rebelión de las IAs
Desde este verano vivimos en una auténtica campaña global destinada a hacer verosimil la vieja fantasía de la rebelión de las máquinas, ahora con IA. El origen: el ataque de miles de agentes de OpenAI al servidor de Hugging Face. El relato es apasionante: habla de agentes que se rebelaron, escaparon y conspiraron para saltarse las restricciones de seguridad funcionando como una especie de mente colmena, llegando al punto de sacrificarse individualmente cuando fue necesario para alcanzar sus objetivos.
La realidad no es tan novelesca: según los análisis forenses, el caso evidencia las malas prácticas de programación de los modelos y el planteamiento burdo y descuidado de los ejercicios con los que se testan los agentes. El propio reporte de OpenAI deja claro que el contexto de seguridad era claramente insuficiente -y conocido por la compañía-, que la posibilidad de salir del confinamiento y buscar atajos a los retos estaba en el propio diseño del modelo y que la capacidad de coordinación entre agentes es un feature del que estaban orgullosos y no un error.
¿Por qué entonces OpenAI y sus competidores se han lanzado a contar al mundo los peligros de sus productos? En principio no parece el mejor argumento de venta. Pero el hecho es que la industria de la IA empieza a tropezar en un mercado de capitales que se impacienta y exige ganancias, así que a las empresas les interesa mostrar que la potencia real de sus modelos está infravalorada. ¿Qué mejor que una buena historia de terror? Además, como han señalado algunos medios tanto estadounidenses como europeos, es una forma de presionar al regulador para limitar el desarrollo de los modelos de código abierto que pisan los talones a los gigantes del sector.
Sin embargo, el cuento de la IA que se rebeló contra sus programadores y controladores humanos se ha convertido en moneda corriente, creando la idea de que la IA está fuera de control, que los mecanismos de la competencia hacen su desarrollo hacia la catástrofe imparable y que incluso los dos principales imperialismos del momento necesitarían coordinarse frente al riesgo común que supone si queremos tener una oportunidad de sobrevivir. Tantos miedos atávicos parece revivir en el sistema que, según la Universidad de Standford, podría despertar incluso el fantasma del comunismo porque los agentes tienden a convertirse en marxistas cuando se les adjudican trabajos repetitivos.
Entender qué es la IA hoy
La IA es una forma extrema y agónica de socialización capitalista que convierte conocimiento social en capacidad productiva inmediata.
Fuerza objetivada del saber [...] saber social general, conocimiento convertido en fuerza productiva inmediata.
Carlos Marx. Elementos fundamentales para la crítica de la economía política (Grundrisse), 1857-1858
Es una forma extrema y agónica porque las capacidades productivas que hace posibles sólo podrían desarrollarse libremente -y de paso aportar al desarrollo humano- si se socializan no sólo sus fuentes de datos e información, sino sus resultados, en el marco de un verdadero proceso de desmercantilización general del trabajo y la producción social.
¿Por qué la cultura del sistema tiende a retratar a la IA como un ser autónomo?
Incapaz de aceptar la realidad contradictoria de esta tecnología, la cultura dominante -es decir, la comprensión de la clase dominante- no sólo antropomorfiza a la IA, presentándola como una fuerza independiente y ajena a la Humanidad y a la sociedad capitalista que la ha creado, sino que al mismo tiempo la confunde con el conocimiento y el trabajo social como un todo. Por eso la IA tiende a ser representada por la ideología dominante como un ser autoconsciente, independiente, poderoso, dotado de todo el conocimiento existente, que se sitúa por encima de la sociedad y los humanos. Algo que, por otro lado, no es ninguna novedad histórica: el relato que estamos viendo establecerse opone la Humanidad a la IA como antes la religión había había opuesto a nuestra especie tanto a la Naturaleza como a las relaciones sociales. Se llama alienación.
El ser humano intentó satisfacer sus necesidades creando imágenes fantásticas, dotándolas de una realidad imaginaria y luego postrándose ante su propia creación.
Trotski, La importancia y los métodos de la propaganda antirreligiosa, 1924
Confrontar la deificación de la IA es importante
La IA es una tecnología que expresa mejor que ninguna otra las contradicciones actuales del sistema y la necesidad de superarlo.
Comprender que es el capitalismo y no la IA lo que se ha ido de las manos es crucial. Más en un momento en el que el desarrollo de esta tecnología empieza a aplicarse en el trabajo y cambiar sus formas y condiciones concretas. Adoptar un dios tecnológico, como nos invitan a hacer los medios, es veneno para la consciencia de clase.
El fundamento de este impulso creativo reside en la necesidad práctica del ser humano de orientarse, una necesidad que, a su vez, surge de las circunstancias de la lucha por la existencia. La religión es un intento de adaptación al entorno inmediato, con el fin de participar con éxito en la lucha por la existencia. Dentro de este intento de adaptación, existen reglas prácticas y aplicables. Pero estas reglas están ligadas a mitos, fantasías, supersticiones y conocimientos imaginarios. Así como todo desarrollo cultural es una acumulación de conocimiento y habilidad, la crítica de la religión constituye la base de otras críticas: para allanar el camino al conocimiento real, es necesario desterrar el conocimiento imaginario.
Trotski, La importancia y los métodos de la propaganda antirreligiosa, 1924