Leer papers antes de la rendición cognitiva
Una conversación con Casey Muratori me recordó por qué sigue importando entender las capas que hay debajo de nuestras herramientas y por qué quiero leer más papers.
Disfruté mucho la conversación de The Pragmatic Engineer con Casey Muratori. No todos estamos en su misma situación, pero resulta refrescante escuchar a alguien defender una postura diferente en esta era de la IA y seguir ganándose la vida con ella.
No necesito estar de acuerdo con todas sus posiciones para encontrarles valor. A veces una conversación es útil porque despierta la curiosidad por algo a lo que había dejado de prestar atención.
Esta hizo exactamente eso.
Mirar debajo de las abstracciones
No toco ensamblador desde la universidad.
La mayor parte de mi trabajo diario ocurre varias capas por encima de eso. Frameworks, bibliotecas, contenedores, APIs: abstracciones útiles que me permiten construir cosas sin pensar en cada instrucción que ejecuta la máquina.
Pero no tener que pensar en algo no significa que ya no tenga nada que aprender de ello.
Entender cómo funcionan las cosas a distintos niveles abre puertas. Una aplicación lenta se ve de otra manera cuando puedes hacerte preguntas sobre el acceso a memoria, la disposición de los datos o el trabajo que realmente hace una biblioteca. No hace falta escribir ensamblador para beneficiarse de saber un poco más sobre lo que ocurre debajo del código.
La conversación me despertó las ganas de entender mejor las CPUs, GPUs y TPUs. No para convertirme en experto en las tres ni para sustituir cada abstracción por una implementación hecha a mano. Simplemente para tener un mejor modelo mental de las máquinas que hacen el trabajo.
La recomendación de un libro que no era un libro
De todo lo que me llamó la atención, mi parte favorita fue la respuesta de Muratori a la pregunta sobre qué libro recomendaría: leer papers.
Solo he leído unos pocos artículos científicos en mi carrera. La mayor parte de mi aprendizaje ha llegado a través de otros formatos, y es fácil seguir recurriendo a los que ya conozco.
Un paper me exige algo diferente. ¿Qué problema intentaban resolver los autores? ¿Qué supusieron? ¿Qué pusieron a prueba? ¿Hasta dónde llegan sus evidencias?
Esas preguntas llevan tiempo. Quizá tenga que buscar un concepto, repasar algo de matemáticas o leer el mismo párrafo varias veces. Eso no significa necesariamente que la lectura vaya mal. Puede ser justo donde empieza el aprendizaje.
Retrasar la rendición cognitiva
Con la IA por todas partes, conseguir una explicación es más fácil que nunca. Eso es útil. El riesgo, para mí, está en confundir una explicación que puedo seguir con una idea que realmente entiendo.
Puedo leer un resumen bien escrito y sentir que he aprendido algo. Otra cosa es si podría explicar la idea sin ese resumen, cuestionar sus supuestos o aplicarla en otro contexto.
A eso me refiero con rendición cognitiva: dejar que la disponibilidad de una respuesta sustituya el esfuerzo de entenderla.
Leer papers no es una garantía contra eso. Puedo leer un paper por encima con la misma superficialidad que cualquier otra cosa. Pero reservar tiempo para estudiarlo, detectar lo que no entiendo y no saltarme esas lagunas me parece una buena forma de resistir ese hábito.
No lo veo como una razón para dejar de usar IA. Quiero seguir reservando espacio para ese tipo de aprendizaje en el que me toca pensar por mí mismo.
El primero de mi lista
Empezaría por papers anteriores a la era GPT. El primero de mi lista: Attention Is All You Need, publicado en 2017.
Tiene cierta ironía elegir un paper fundamental sobre la arquitectura Transformer como forma de resistirme a delegar mi comprensión en la IA. Me gusta eso.
Mi objetivo no es terminar una pila de papers ni fingir que he entendido cada ecuación. Es salir de la lectura pudiendo explicar una idea con mis propias palabras, incluyendo lo que todavía no entiendo.
Me parece un buen punto de partida. 🙂