La frase que no dejo de escribir
Cada semana, desde hace un par de meses, escribo alguna versión de la misma frase: deja que las herramientas hagan más, pero que la responsabilidad siga siendo humana. Parece una respuesta a este momento de la IA: los agentes, la euforia, la angustia de saber quién sigue haciendo falta.
No lo es. Llevo diciendo esa frase en voz alta a mis alumnos en salones de clase de tres países durante casi quince años. Las herramientas cambiaron. La frase no.
Quiero contarte de dónde viene, porque me importa que quede claro: eso de que siga siendo humano no es un eslogan que adopté cuando se puso de moda. Es algo que les enseñé a adolescentes mucho antes de que a casi nadie le preocupara.
2017: una cláusula de ética en un temario de robótica
En 2017 di un curso universitario de Robótica Móvil: máquinas autónomas que perciben su entorno, deciden qué hacer y actúan, sin que nadie tome los controles. Estudiantes de ingeniería cibernética: un libro de texto serio del MIT, un semestre entero logrando que los robots se localizaran y navegaran por su cuenta.
Cuando escribí el temario, metí en los objetivos algo que no tenía nada que ver con la cinemática. Decía que los estudiantes debían salir del curso con “un sentido de responsabilidad ética frente al futuro de estas tecnologías.”
Eso fue en 2017. Nadie escribía columnas de opinión sobre la ética de los sistemas autónomos dirigidas al público en general. Pero no puedes pararte frente a un salón de chavos de veinte años, enseñarles a construir una máquina que decide por sí sola, y quedarte en lo vago sobre quién responde por lo que esa máquina decide. Todo el curso trataba, en silencio, de lo mismo que escribo ahora: la máquina actúa y un humano sigue siendo el responsable.
2009: donde de verdad empezó todo
La verdad es que empezó antes, con menos en juego y más diversión. En 2009 daba clases de física y robótica en un colegio: alumnos de secundaria y preparatoria, kits de LEGO Mindstorms, RobotC en las computadoras del salón.
Armamos seguidores de línea, un robotito “futbolista” que perseguía luz infrarroja y un robot que tenía que resolver un laberinto: justo las mismas pruebas que pasaría la siguiente década y media gobernando en RoboCupJunior, aunque entonces no lo sabía. Y lo que en realidad les enseñaba, por debajo de los engranes y los sensores, era esto: el comportamiento de un robot es la decisión de un humano, puesta por escrito. Los chavos no solo armaban la máquina. Se hacían cargo de lo que se hacía en la cancha: tanto de la jugada ingeniosa como de la ridícula.
Metí una línea en el temario de física, apuntada directo a unos chavos de quince años que creían que el futuro era chamba de alguien más: “Ustedes no son el futuro de este país: son el presente. El progreso que necesitamos depende de su preparación y esfuerzo. No esquiven su responsabilidad. Enfrenten el reto.”
Eso lo escribí para adolescentes. Hoy sostengo cada palabra, ahora para ingenieros.
2022: la misma lección, ahora sobre datos
Demos un salto en el tiempo. En 2022 di un curso distinto, uno de ciencia de datos: “Data Analytics + AI & ML: Hybrid State”, dentro de un programa que llamamos Mind the Tech. Unos veinte ingenieros, repartidos en siete países de América Latina y en Canadá, a lo largo de unos meses.
En el papel, era un curso sobre convertir datos en conocimiento útil: la maquinaria disciplinada, los modelos, las visualizaciones. Pero la parte que a mí me importaba, a la que insistía en volver a revisar una y otra vez, no era el modelado. Era la cautela.
Los datos no son la verdad. Enseñaba la vieja jerarquía que sube de los datos a la información, de la información al conocimiento y del conocimiento a la sabiduría, y me detenía a marcar dónde está el humano: hasta arriba, en el escalón al que ninguna máquina llega. Le dedicamos tiempo de verdad al sesgo: el del muestreo, el de los prejuicios, el algorítmico, el que se cuela sin avisar cuando dejas datos fuera sin hacer ruido. Les dejé como tarea un documental sobre el sesgo de las máquinas y su efecto en la vida de personas reales. La frase que repetía una y otra vez era cierta y prestada: un gran poder de datos conlleva una gran responsabilidad.
Otra década, otra tecnología —robots entonces, datos ahora— y por debajo, exactamente la misma convicción. La herramienta es poderosa; el criterio es humano; y alguien tiene que responder por lo que esa herramienta le hace a una persona de carne y hueso.
La misma frase, ya madura
Así que, cuando ahora escribo que la IA hace el borrador y un humano lo aprueba; que la máquina redacta el correo y una persona lo envía; que el punto de todo esto es que un humano siga respondiendo por lo que llega a la cuenta de alguien o al hijo de alguien frente a una mesa de registro… entiende que no llegué a esa idea en 2025.
Llegué a ella en un salón de clases, poniéndole en las manos a un alumno una máquina capaz de decidir y diciéndole que seguiría cargando con lo que esa máquina hiciera.
Enseñar logra algo que escribir por sí solo no puede. Te obliga a decir las cosas en voz alta, frente a un salón lleno de gente que está a punto de construir estos sistemas, y a defenderlas cuando un chavo de diecisiete años, bien avispado, te rebate. Ahí es donde una convicción deja de ser una idea bonita y se convierte en algo que vas a sostener bajo presión. Cada que siga siendo humano, lo que escribo hoy lo ensayé hace años frente a adolescentes, universitarios e ingenieros que iban a heredar justo este problema.
La tecnología por fin le dio alcance a por qué importa. La lección siempre fue la misma.
Esa es la recompensa callada de enseñar, y la razón por la que sigo escribiendo esto ahora: la única parte que vale la pena conservar —el humano sigue siendo responsable de lo que hace la máquina— sale del salón con cada alumno y sigue su camino sin mí. Las herramientas que construirán serán nuevas cada año. Esa lección no tiene por qué serlo.
No empecé a mantener al humano en el circuito cuando la IA lo volvió urgente. Empecé por ponerle en manos de un alumno una máquina capaz de decidir, y le dije que él seguía siendo responsable de lo que esa máquina hiciera.