El accidente de la IA que nadie esperaba 

Toda tecnología trae accidentes, es inevitable, es parte esencial de ella. Al inventar tecnología se inventan también sus accidentes, no había naufragios sin barcos, no había accidentes de tránsito sin automóviles (les recomiendo leer Paul Virilio).  La imprenta produjo la propaganda masiva, el Internet produjo la desinformación instantánea, las redes sociales produjeron algo así como la amplificación algorítmica de emociones.

La IA amplifica la producción de conocimiento, decisiones y acción, por tanto sus accidentes no son simplemente los “errores” o “alucinaciones”, esos diría que son “pequeños problemas” o “bugs”, creo que los accidentes reales podrían ser mucho más complejos. Los accidentes de la IA son cosas como: decisiones correctas bajo supuestos equivocados, o la generación industrial de conocimiento falso pero que parece coherente. La dependencia cognitiva colectiva, la pérdida en la diversidad de formas de pensar, la automatización de errores a gran escala, o  la desaparición silenciosa de capacidades humanas porque dejan de ejercitarse.

Es decir, son accidentes sobre una especie de “ecología” del conocimiento, a lo que me refiero con esto es a el ecosistema mediante el cual una sociedad produce, comparte, valida, corrige y transmite conocimiento. Pero entonces, ¿cómo impedimos accidentes? Lo que pienso que tenemos que hacer es repensar la sociedad, ¿qué somos como sociedad?, y entender que somos una sociedad tecnogénica, y vivimos con esos accidentes, son parte de nosotros mismos.

Una sociedad tecnogénica, y aclaro que este es un concepto propio, es una sociedad cuya organización, conocimiento, instituciones y formas de vida no sólo utilizan tecnología, sino que son continuamente generadas, transformadas y regeneradas por ella. La tecnología deja de ser una herramienta externa y pasa a formar parte del propio funcionamiento y esencia de la sociedad. Piensen algo así como el teléfono celular, desde hace más de una década dejó de ser algo externo, sino que ya es parte esencial de lo que nos define como seres digitales.

Bueno, así como un organismo desarrolla inmunidad ante un virus, la sociedad tecnogénica desarrolla sistemas para convivir con los accidentes tecnológicos. Aunque suene extraño, la sociedad tecnogénica no intenta eliminarlos, sino que los incorpora. Esta forma de trabajar no piensa en el control de la tecnología sino en la resiliencia, y esto es particularmente importante ante las tecnologías actuales de inteligencia artificial.

De hecho, los accidentes tecnológicos proveen información sobre muchos aspectos de nuestra sociedad misma. Es decir, el accidente tecnológico no sólo revela propiedades de la tecnología; sino también revela propiedades de la sociedad que la adopta. Por ejemplo, la irrupción de la IA generativa ha producido lo que muchos consideran un “accidente educativo”, en donde existen estudiantes que delegan tareas, profesores que ya no saben cómo evaluar, ensayos imposibles de autenticar, y en donde exámenes tradicionales pierden sentido. Acá entonces el cuestionamiento es, si es un accidente de la IA, o del modelo educativo actual, que por cierto también es una creación tecnológica humana. La IA lo que hizo fue hacer visible un problema, no generarlo.

El punto que quiero traer a la mesa, es que en una sociedad tecnogénica, el accidente ya no es una anomalía, sino que es una especie de mecanismo evolutivo. Como lo planteé al inicio, cada nueva tecnología inventa también su accidente, al mismo tiempo también inventa una nueva capacidad colectiva para comprender, absorber y transformar ese accidente en conocimiento. La madurez tecnológica de una sociedad no se debería medir por la ausencia de accidentes, sino por la velocidad y calidad con que aprende de ellos. 

Los accidentes tecnológicos, y en particular los que resultan del uso de la IA, son los medios de observación de una sociedad. Estos accidentes  muestran los límites de una tecnología, pero también hacen visibles los supuestos, fragilidades y dependencias de lo que nuestra sociedad ya había normalizado o naturalizado. 

En esta perspectiva, yo desplazo el objetivo desde la ilusión de una IA “segura”, hacia el diseño de una “ecología” institucional o nacional del accidente, donde errores, fallos inesperados y comportamientos emergentes no se consideran únicamente como amenazas, sino también fuentes de adaptación. En ese sentido, pienso que la IA no exige sociedades sin accidentes; sino que exige sociedades capaces de evolucionar con ellos. 

En una sociedad tecnogénica, todos los accidentes tecnológicos son puntos de inflexión en el conocimiento que revelan información sobre la estructura de nuestra sociedad. Cada accidente expone supuestos invisibles, instituciones obsoletas y formas de organización que sólo se hacen evidentes cuando una nueva tecnología las pone en crisis. 

En el caso de la educación, no se trata de que la IA escriba bien las tareas, se trata de que durante mucho tiempo confundimos el producto del aprendizaje con el aprendizaje mismo. La IA no creó esa confusión, lo que hizo posible, es no seguir ignorándola.