El pasado día 24 de julio Terence Tao, el considerado por muchos el mejor matemático vivo, ofreció una charla pública en el congreso ICM 2026 con el título "Las matemáticas en la era de la IA". He encontrado esta charla llena de ideas muy interesantes, y aquí voy a exponer mis reflexiones sobre ellas.
_(cropped).jpg)
¿Podrán las herramientas de IA en algún momento hacer todo el trabajo que hace un investigador científico?
Es evidente que ahora mismo no, y estamos muy muy lejos de eso. Los grandes modelos de lenguaje que se están desarrollando son herramientas magníficas para predecir texto, imágenes y sonidos, pero no dejan de ser loros, eso sí, tremendamente sofisticados, que no entienden lo que escupen. Imitando lo que escriben los humanos son capaces de generar textos científicos correctos en su mayor parte y dar muchas veces soluciones originales y correctas a problemas. No obstante, si le hubiéramos dado las herramientas de IA que estamos ahora desarrollando a los físicos de 1920, aunque éstas habrían ayudado y acelerado el trabajo de estos investigadores, por sí solas, no habrían sido capaces de construir la mecánica cuántica (cuyo esqueleto principal se puede decir que terminó de elaborarse en 1927), y que supuso una ruptura son precedentes con nuestra concepción previa del mundo.
Sin embargo, hay campos, como el de las matemáticas, en los que se ha avanzado tanto en la formalización de sus conceptos y herramientas que la automatización está más desarrollada y donde las herramientas de IA están empezando, casi sin intervención humana, a resolver problemas y encontrar demostraciones originales verdaderamente profundas. Por supuesto, las matemáticas, como decía Arnold, van sobre construir modelos que explican, imitan, generalizan o modifican la realidad, y en eso la IA no está ni en pañales, pero en cuanto a la construcción de pruebas formales y su comprobación, las herramientas de IA están ya dando unos primeros pasos muy reseñables. Ya no es descabellada la hipótesis de que las herramientas de inteligencia artificial serán, razonablemente pronto, capaces de realizar una fracción significativa de las tareas matemáticas propias de la investigación, con niveles razonables de éxito, calidad, supervisión y coste. Este es el motivo por el que Terence Tao se toma muy en serio el asunto. La pregunta que aborda Tao es la siguiente: ¿cómo debería responder la comunidad matemática a la llegada de las tecnologías modernas de inteligencia artificial y a sus capacidades, reales o proclamadas, para realizar tareas matemáticas?
La inteligencia artificial, afirma Tao, está desencadenando una crisis de los fundamentos de los valores y las prácticas matemáticas. No se trata únicamente de una revolución tecnológica ni de la incorporación de una herramienta más a la actividad científica. Se trata de una transformación que nos obliga a preguntarnos qué consideramos valioso, qué entendemos por progreso y cuál debe ser la función de una comunidad investigadora. Va a resultar difícil mantener nuestra cultura y nuestras prácticas actuales, especialmente si damos prioridad a objetivos como obtener el mayor número posible de soluciones a problemas no resueltos. La inteligencia artificial puede aumentar enormemente la producción de resultados, pero aumentar la producción no equivale necesariamente a aumentar la comprensión ni el progreso colectivo. Vamos a verlo:
¿Para qué investigamos en matemáticas?
Existen muchas razones para justificar la investigación matemática. Tao cita solamente algunas:
- Resolver problemas todavía no resueltos, tanto de matemáticas puras como aplicadas.
- Desarrollar nuevas teorías y técnicas.
- Comprender el mundo que nos rodea.
- Construir una comunidad de matemáticos y matemáticas.
- Formar a la siguiente generación de investigadores para que pueda orientar el futuro de la disciplina.
- Contribuir a la red compartida del conocimiento matemático.
- Crear obras duraderas con valor estético.
Tao explica que, en el pasado, estos objetivos estuvieron en gran medida positivamente correlacionados. El progreso en uno de ellos solía producir también avances en los demás. Resolver un problema importante podía exigir nuevas técnicas, generar una teoría, formar a investigadores jóvenes, fortalecer la comunidad y producir una obra intelectual de valor duradero. Por este motivo, era posible utilizar uno o dos de esos objetivos como indicadores aproximados de los demás. Por ejemplo, se podía suponer que un aumento en el número de teoremas demostrados representaba también un aumento del conocimiento, de la comprensión y de la capacidad colectiva de la comunidad matemática.
Sin embargo, recuerda Tao que cualquier indicador, cuando se optimiza de manera excesiva, corre el riesgo de quedar sometido a la ley de Goodhart: "Cuando un indicador socioeconómico u otra medida sustituta se convierte en el objetivo de políticas socioeconómicas, pierde el contenido informativo que podía cualificarla para jugar ese papel". La naturaleza inherentemente poco fundamentada de la inteligencia artificial generativa, así como los incentivos financieros de las empresas de IA, hacen que el uso de estas herramientas sea particularmente vulnerable a esta ley. Una optimización excesiva mediante inteligencia artificial puede provocar que los muchos objetivos de las matemáticas, anteriormente alineados, comiencen a divergir entre sí.
De resolver problemas a comprender soluciones
La resolución de problemas parece especialmente susceptible de verse afectada. Supongamos que establecemos el siguiente objetivo:
"Resolver tantos problemas no resueltos como sea posible".
Tao señala que, incluso antes de la inteligencia artificial, ya aparecía un gran número de soluciones incorrectas a importantes problemas abiertos debido a la obsesión de la comunidad en cumplir este objetivo. Es por ello que realmente el objetivo habría que formularlo de esta otra manera:
"Resolver tantos problemas no resueltos como sea posible y verificar que las soluciones sean correctas".
Los avances en inteligencia artificial y en autoformalización, admite Tao, ya han acelerado considerablemente tanto la generación como la verificación de pruebas en muchos casos. Sin embargo, aparece inmediatamente otra dificultad. ¿Qué ocurre cuando una herramienta de inteligencia artificial genera una demostración muy extensa que nadie entiende, ni siquiera las personas que formularon las instrucciones para obtenerla?
A mí, como físico, esto, aunque importante, no me parece un problema tan grave, ya que para mí, en el fondo, las matemáticas son ciencias experimentales y, por tanto, no es tan importante encontrar demostraciones rigurosas a los teoremas, siempre que éstos hayan pasado un abrumador número de test experimentales (y miles de matemáticos tratando de refutar una conjetura sin conseguirlo es, para mí, un test experimental, que puede ser más o menos contundente según el caso). Después de todo, incluso encontrando una demostración, seguiría sin ser un resultado absolutamente seguro, ya que los axiomas utilizados podrían ser contradictorios. Pero, como señala P. H. Nidditch, "un conocimiento de la teoría matemática que sea sólo probable es generalmente suficiente, y el único tipo de conocimiento de la consistencia que, de hecho, generalmente se tiene". Y "un tal conocimiento probable encuentra un buen soporte en el hecho de que se haya trabajado tanto en las teorías de la matemática y no hayan salido a la luz teoremas contradictorios". Desarrollo este tema en otro post.
Pero, como señala Tao, es de vital importancia que haya personas que entiendan las demostraciones matemáticas, entre otras cosas porque, como señala en otro texto, muchas veces los matemáticos profesionales "no necesitan el formalismo para realizar razonamientos matemáticos de alto nivel, y llevan a cabo su tarea en una gran parte mediante su intuición". Esto se debe a que "el objetivo del rigor matemático no es destruir toda intuición, sino destruir la mala intuición al mismo tiempo que se clarifica y se potencia la buena intuición". Entender las demostraciones de los teoremas es fundamental para alimentar la buena intuición en los matemáticos y eliminar la mala. Así, explica Tao que nos vemos obligados entonces a modificar de nuevo el objetivo:
"Resolver tantos problemas no resueltos como sea posible, verificar que las soluciones sean correctas y garantizar que los resultados puedan comunicarse con claridad y ser comprendidos por la comunidad matemática".
Una demostración hecha por la IA puede terminar estando escrita de una manera excesivamente pulida. Las partes rutinarias y las partes realmente difíciles del razonamiento pueden presentarse como si fueran igual de sencillas de comprender. En cambio, en una demostración escrita por una persona, las secciones que el autor encontró difíciles suelen conservar lo que Tao llama "una fricción natural". Esa fricción invita al lector a reducir la velocidad, prestar más atención y preguntarse dónde reside la idea fundamental. Pero una demostración excesivamente pulida por una inteligencia artificial puede eliminar tanto la fricción artificial como la fricción natural, sin animar realmente al lector a aprender y comprender las ideas esenciales del argumento. La claridad no consiste en hacer que todos los pasos parezcan igualmente fáciles, sino en ayudar al lector a distinguir lo rutinario de lo profundo.
Tao cita a William Thurston, que escribió en 1994, en On Proof and Progress in Mathematics:
"No estamos intentando cumplir una cuota abstracta de producción de definiciones, teoremas y demostraciones. La medida de nuestro éxito es si lo que hacemos permite que las personas comprendan las matemáticas y piensen sobre ellas de manera más clara y efectiva".
Aquí creo yo que está la clave: el éxito de las matemáticas no puede medirse simplemente por el número de resultados producidos. Debe medirse por la capacidad de esos resultados para mejorar la comprensión y el pensamiento de las personas.
La aceptación comunitaria
Además, como señala Tao, para que una demostración contribuya realmente al campo en su conjunto, no basta con que sea correcta y fácil de leer. También necesita ser aceptada y valorada por la comunidad. Otros matemáticos deben digerir el resultado e incorporarlo a su propio trabajo. Los autores pueden ayudar en ese proceso de digestión describiendo las intuiciones, los errores, los caminos abandonados y las historias que surgieron mientras trabajaban en el problema.
Sin embargo, las herramientas actuales de inteligencia artificial son bastante opacas respecto a sus procesos de resolución de problemas y no parece que las empresas que están desarrollando los modelos de IA vayan a mejorar esto, por cuestiones de secreto empresarial. Por esto Tao aboga por volver a cambiar nuestro objetivo:
"Resolver problemas no resueltos, verificar que las soluciones sean correctas, garantizar que se comuniquen con claridad y conseguir que sean digeridas y aceptadas por la comunidad matemática".
Nuestra infraestructura actual de publicación depende de editores y revisores humanos que proporcionan voluntariamente este servicio de aceptación comunitaria. Este trabajo se considera a menudo menos prestigioso que la generación inicial de una demostración ¡hasta el punto de que las editoriales no pagan por el trabajo de revisión, es un trabajo que se hace gratis! Sin embargo, este trabajo constituye un componente esencial de la profesión investigadora. Es también, señala Tao, el mecanismo mediante el cual transformamos los logros individuales de los matemáticos y el resto de investigadores en progreso y comprensión colectivos. Las herramientas de evaluación mediante inteligencia artificial pueden servir como filtros útiles. Por ejemplo, una revista podría rechazar automáticamente los artículos que no alcancen determinados estándares de verificación o exposición. Pero estas herramientas no pueden sustituir completamente la aceptación de una comunidad científica.
La canonización del conocimiento
Además, argumenta Tao que la publicación de una demostración ni siquiera representa siempre el estado final de una solución. Los resultados fundamentales deben terminar formando parte de los manuales definitivos y de los materiales de referencia de una disciplina. Deben ser enseñados a las siguientes generaciones de estudiantes.
Esta canonización de una demostración es la etapa más lenta de todas. Requiere un consenso amplio, deliberativo y sostenido por parte de la comunidad. Es también la fase menos susceptible de optimización mediante herramientas de inteligencia artificial. Sin embargo, probablemente sea la parte más valiosa de todo el proceso. Muchas aplicaciones solamente se vuelven viables cuando las matemáticas subyacentes han sido completamente digeridas. Como subraya Tao, incluso el propio éxito de las herramientas de inteligencia artificial en matemáticas depende crucialmente de las teorías canónicas que los matemáticos humanos han construido con enorme esfuerzo durante siglos. Por tanto, Tao concluye que la definición de nuestro objetivo de resolver problemas en matemáticas tiene que ser:
"Resolver problemas no resueltos, verificar que las soluciones sean correctas, garantizar que se comuniquen con claridad y conseguir que sean digeridas, aceptadas e incorporadas a la teoría definitiva del campo".
Pero, y aquí es donde creo que está el punto fundamental, y esto lo añado yo, este esfuerzo pedagogico que hay que hacer para que los resultados en matemáticas, y en otras disciplinas, sean digeridos, aceptados y canonizados, tradicionalmente se ha considerado en la sociedad heteropatriarcal en la que vivimos como una actividad femenina. Para los machistas, y siguen quedando muchos, la enseñanza, y el resto de las actividades que podemos englobar en "cuidados", es cosa de mujeres, mientras que los hombres deben dedicarse sólo a las actividades que ellos consideran importantes, como ser los primeros en inventar algo o resolver un problema difícil. Sin embargo, si hacemos caso a Tao, con la AI, ahora un trabajo considerado tradicionalmente femenino no va a tener más remedio que ser considerado como el mas importante en matemáticas y en el resto de investigación científica.
En mi opinión, ya lo era antes. Mi experiencia como antiguo investigador en física teórica me dice que el principal obstáculo para que la física teórica avance es la dificultad para entender el trabajo de los demás investigadores ¡de tu propio campo! Pero, lo que he visto en estas décadas, es que la comunidad científica no se daba cuenta de eso o, probablemente por esos prejuicios machistas, no quería darse cuenta.
Todo lo relacionado con actividades que los machistas consideran femeninas se paga peor (o no se paga) y tiene mucho menos prestigio, ya sea la enseñanza o la revisión por pares. Esta división entre actividades consideradas masculinas y femeninas no es neutral. La enseñanza, la revisión, la divulgación, el acompañamiento de estudiantes y la construcción de comunidades científicas se tratan con frecuencia como obligaciones secundarias, aunque sin ellas el sistema de investigación dejaría de funcionar.
Muchas veces tuve que aguantar como me decían que no dedicara tanto tiempo a la revisión de un artículo para una prestigiosa revista o que no invirtiera tiempo en preparar como enfocar las clases que tenía que dar en la universidad ya que "los que valen aprenden solos y, los que no, no aprenderán nunca". También he tenido que ver cómo las reglas de la carrera investigadora exigen sacrificios que son incompatibles con asumir las responsabilidades que tenemos todos en los cuidados de los niños y los ancianos de nuestra familia. Se trata de reglas que dan una ventaja enorme a los investigadores más irresponsables, los que se niegan a cumplir con sus obligaciones familiares y domésticas. El resultado ha sido que la mayoría de los investigadores responsables que he conocido han acabado siendo expulsados de la carrera investigadora: muchas mujeres valiosas y, también muchos hombres que sí asumen sus responsabilidades, expulsadas de la investigación. Un desperdicio en recursos humanos brutal.
A todos los hombres nos ha pasado alguna vez, y a muchos les sigue pasando, que se creen que, o bien son genios o bien son héroes de guerra. Y, a los más insoportables, les pasa las dos cosas a la vez. Probablemente esto se debe a las historias de ficción que consumimos desde pequeños, en los que los proagonistas masculinos entran prácticamente todos en uno de estos estereotipos. En este mundo artificial en el que hemos crecido, ¿cómo vas a tener a un genio de las matemáticas o de la física teórica perdiendo el tiempo en explicar las cosas a los demás? Pero lo que más abunda son niños en cuerpos de adulto que se creen genios y cuya única ventaja radica en que los demás, y sobre todo, las demás, les hacen lo que más tiempo y energía consume.
La importancia de la enseñanza en la investigación
Volviendo a la charla de Tao, éste advierte que, sin las políticas adecuadas y sin los cambios culturales necesarios, a medida que los modelos de IA vayan produciendo resultados en matemáticas, surgirán importantes desajustes o problemas de "indigestión de demostraciones" a lo largo de todo este proceso. Las pruebas generadas por inteligencia artificial se acumularán esperando ser verificadas. Muchas demostraciones ya verificadas esperarán una exposición legible. Y estas pruebas generadas por IA, incluso cuando se exija que sean correctas y estén bien escritas, desbordarán nuestro sistema tradicional de revisión por pares. Incluso las demostraciones publicadas serán demasiado numerosas para que la comunidad pueda trabajar con ellas e incorporarlas a una forma definitiva. En resumen, pasaremos de una era de escasez de demostraciones a una era de abundancia de demostraciones.
Algunas señales de esta indigestión ya están apareciendo. En realidad, recuerda Tao, las tensiones comenzaron a manifestarse incluso antes de la llegada de la inteligencia artificial moderna. El sistema de "publica o perece" en el que están basadas las universidades y los organismos de investigación ya habia dado lugar a una enerme cantidad cantidad de artículos, prepublicaciones, bases de datos y especialidades que hacía muy difícil que un investigador pudiera comprender una parte significativa de su propio campo.
Por ello, concluye Tao que necesitamos reducir el énfasis puesto en la generación de pruebas y en ser la primera persona que resuelve un problema. Al mismo tiempo, tenemos que aumentar el valor concedido a la "digestión de demostraciones": la exposición, la publicación, la revisión, la enseñanza y la canonización.
Estoy completamente de acuerdo con Terence Tao. Tenemos que dejar de idolatrar al aventurero que llega a lugares donde nadie había llegado antes y valorar más a quien habilita esos lugares para que otras personas puedan llegar. Los héroes no son sólo los que descubren un territorio. También son los que construyen caminos, elaboran mapas, explican sus peligros, crean un lenguaje compartido y enseñan a los demás cómo recorrerlo. El conocimiento no progresa verdaderamente cuando una sola persona alcanza una cima, sino cuando muchas otras pueden comprender el camino y utilizarlo para continuar avanzando.
En muchas ocasiones, no faltan artículos ni cálculos ni ideas; falta tiempo, lenguaje común, exposición clara y trabajo colectivo para asimilar lo que ya se ha producido. Reconocer que la enseñanza y los cuidados intelectuales son esenciales en las universidades y en los organismos de investigación habría obligado a cuestionar una jerarquía profesional construida alrededor de la competición, la prioridad, la autoría individual y la figura del genio con un currículum superlativo. La inteligencia artificial hace que esta contradicción resulte imposible de ocultar, hasta el punto de que a día de hoy el matemático más importante lo está señalando en el congreso mundial más importante.
Conclusión
Lo que nos ha señalado Terence Tao en su charla es que, cuando las máquinas pueden producir demostraciones, cálculos, borradores y resultados a gran velocidad, la tarea verdaderamente escasa deja de ser la producción. El recurso escaso pasa a ser la comprensión humana. Esto ya ocurrió en otras disciplinas, sobre todo desde la revolución industrial, y ahora le toca a las matemáticas. Es decir, en mi opinión, estos cambios no son más que la continuación de las transformaciones sociales que hemos experimentado como consecuencia de los avances tecnológicos.
Los trabajos basados en la fuerza bruta dejaron hace ya tiempo, gracias al desarrollo tecnológico, de ser los trabajos fundamentales que sostienen nuestra civilización. Los que son buenos en competiciones de esfuerzo físico destacan en el deporte y eso es motivo más que de sobra para que estén orgullosos. Debería bastarles con eso. Sin embargo, determinados "machitos alfa" y ciertos millonarios se niegan a aceptar que, gracias al desarrollo científico y tecnológico alcanzado, los trabajos más importantes son ahora precisamente aquellos que tradicionalmente despreciaban por considerarlos femeninos. Los cuidados, la salud y la educación son las infraestructuras esenciales de una sociedad avanzada. También lo es la búsqueda de soluciones a problemas que afectan a toda la población, como la crisis climática, la contaminación, la desigualdad, las epidemias o la conservación de los ecosistemas. Por ello, en mediación, cooperación y en la búsqueda de soluciones a problemas colectivos y/o medioambientales tenemos también mucho trabajo importante que hacer.
Pero quienes siguen vinculando el prestigio a la dominación, la competición y la violencia hacen todo lo posible para que esos empleos no se remuneren ni se reconozcan adecuadamente. Los machistas van a seguir oponiéndose con fuerza y rabia a que estos trabajos sean correctamente valorados y remunerados. Necesitan mantener una jerarquía en la que cuidar, enseñar o construir soluciones colectivas parezca menos importante que conquistar, ser el primero, acumular o imponerse. Esta resistencia no es una simple discusión cultural. Tiene consecuencias materiales. Se refleja en los salarios de docentes, sanitarios y cuidadores; en la precariedad de quienes sostienen los servicios públicos; en la escasa valoración de la revisión científica; y en sistemas académicos que premian la cantidad de publicaciones mucho más que la calidad de la enseñanza o la utilidad colectiva del conocimiento.
Por ello, la respuesta a la inteligencia artificial no puede limitarse en la universidades y en los centros de investigación a comprar nuevas herramientas ni a introducir asistentes automáticos en las universidades. Necesitamos cambios institucionales, culturales y políticos. Las universidades y los centros de investigación deberían valorar la exposición, la revisión y la enseñanza como contribuciones científicas de primer nivel. Los manuales, las notas pedagógicas, las clases, las reproducciones independientes, las síntesis de campos completos y las herramientas abiertas de verificación deberían tener un reconocimiento comparable al de los resultados originales. También es necesario modificar radicalemte los procesos de contratación, estabilización y promoción.
Una persona que hace comprensibles los resultados de los investigadores puede contribuir más al progreso de una disciplina que otra que añade artículos incomprensibles a una bibliografía ya saturada. La educación no es la fase posterior a la investigación, aquella en la que simplemente se transmiten descubrimientos ya terminados. Es una parte constitutiva del propio proceso científico. La más importante. Y ni siquiera esta es una idea totalmente nueva. No es casulidad que la obra, considerada por muchos, más importante de las matemáticas, los Elementos de Euclides, no fuera en realidad una obra de investigación, sino un manual para sus estudiantes. La comunidad tendrá que reconocer a quienes verifican, corrigen, comprueban o traducen. Insisto: crear un buen manual es también participar en la construcción de una disciplina.
Los sistemas públicos de financiación deberían proteger estas actividades frente a los incentivos de las empresas privadas de inteligencia artificial. Una compañía puede estar interesada en que su producto produzca el mayor número posible de resultados o de métricas llamativas. Una comunidad democrática, en cambio, debe estar interesada en que el conocimiento sea fiable, accesible, comprensible y útil para toda la sociedad. Pero, desgraciadamente, el modelo de negocio privado de las grandes tecnológicas es el que está imponiéndose en todos los lugares. Y, peor aún, lo que estamos viendo estos últimos años, con la llegada en los países más poderosos de gobiernos de extrema derecha, es que los millonarios machistas están poniendo muchísimo empeño en generar problemas que nos devuelvan a un pasado en el que los violentos puedan volver a sentirse imprescindibles. La provocación de conflictos, la exaltación del militarismo y la pretensión de que todos los países se armen hasta los dientes permiten reconstruir artificialmente un mundo en el que la fuerza, la agresividad y la obediencia a los poderosos vuelven a presentarse como virtudes supremas. Pero los demócratas tenemos claro lo que queremos, y lo vamos a seguir exigiendo en todos los países.
No hay comentarios:
Publicar un comentario