¿Prohibir la inteligencia artificial o aprender a pensar con ella?

La aparición de la inteligencia artificial generativa en la universidad ha provocado reacciones que, por momentos, recuerdan las resistencias que suelen acompañar a las grandes transformaciones tecnológicas. Hay quienes ven en ella poco menos que el principio del fin de la escritura, de la investigación y acaso del pensamiento mismo; otros, en el extremo contrario, parecen dispuestos a entregarle sin demasiados escrúpulos tareas que hasta hace poco considerábamos inseparables del trabajo intelectual. Entre ambas posiciones, sin embargo, comienza a abrirse un espacio mucho más interesante: el de quienes entienden que la inteligencia artificial no puede ser expulsada de la vida académica y que el verdadero problema consiste en aprender a trabajar críticamente con ella.

No toda desconfianza es reaccionaria. Conviene decirlo desde el principio, porque la defensa indiscriminada de cualquier innovación tecnológica puede resultar tan ingenua como su rechazo. La inteligencia artificial puede inventar datos, atribuir libros inexistentes a autores verdaderos, producir referencias bibliográficas falsas, simplificar problemas complejos y reproducir prejuicios contenidos en los materiales con los cuales ha sido entrenada. Puede también convertirse en refugio de la pereza intelectual. Un estudiante que le encomienda la escritura completa de una investigación que no ha concebido, cuyas fuentes no ha leído y cuyos argumentos no podría defender, no está utilizando una nueva herramienta: está renunciando a la actividad intelectual que debía realizar.

Pero de esa evidencia no se desprende que toda intervención de la inteligencia artificial constituya fraude. Ahí comienza, a mi juicio, una de las confusiones más frecuentes del debate actual.

Se escucha todavía que un texto pierde legitimidad académica si en alguna etapa de su elaboración intervino una inteligencia artificial. La afirmación parece defender la pureza de la investigación, pero parte de una imagen bastante ingenua de cómo se ha producido históricamente el conocimiento. Ningún investigador trabaja en absoluta soledad. Consultamos bibliotecas, bases de datos, diccionarios, índices, traductores, correctores y programas informáticos; discutimos nuestras ideas con colegas, pedimos opiniones, entregamos manuscritos a lectores y aceptamos o rechazamos las observaciones de editores. Una investigación es siempre el resultado de una actividad individual que se realiza dentro de una compleja red de mediaciones.

Tampoco sería esta la primera vez que una nueva herramienta despierta el temor de que determinadas capacidades humanas terminen atrofiándose por falta de ejercicio. La introducción de las calculadoras en la enseñanza de las matemáticas provocó durante años la sospecha de que los estudiantes dejarían de aprender a calcular. Más tarde, los procesadores de texto y sus correctores ortográficos parecieron amenazar el conocimiento de la ortografía y aun de la gramática. Algo de razón había, naturalmente, en esas prevenciones: una herramienta puede ocultar una incompetencia cuando sustituye aquello que nunca se aprendió. Pero el desarrollo posterior mostró que el problema no estaba en la calculadora ni en el corrector, sino en el modo de utilizarlos y, sobre todo, en aquello que seguíamos considerando indispensable saber.

Nadie exige hoy a un investigador que realice a mano una operación matemática compleja para demostrar que comprende el problema que está resolviendo. Tampoco consideramos fraudulento que Word señale una falta de ortografía, advierta una posible discordancia o nos permita sustituir en pocos segundos una palabra repetida a lo largo de treinta páginas. El procesador de texto no eliminó la necesidad de conocer la lengua, aunque modificó profundamente la práctica material de escribir. Desplazamos determinadas operaciones hacia la tecnología y, al hacerlo, tuvimos que redefinir qué capacidades continuaba siendo necesario dominar y cuáles podían ser asistidas por una herramienta.

La cuestión nunca fue prohibir la calculadora, sino impedir que calcular dejara de significar comprender. Tampoco se trataba de rechazar el corrector ortográfico, sino de evitar que quien escribe perdiera la capacidad de juzgar si la corrección propuesta era realmente correcta.

La inteligencia artificial vuelve a colocarnos ante una disyuntiva semejante, aunque en una escala incomparablemente mayor. La diferencia reside en que ya no interviene únicamente en una operación localizada. Puede participar en la búsqueda y organización de información, producir lenguaje, sugerir hipótesis, establecer relaciones, comparar textos, resumir materiales y formular argumentos. Precisamente por eso exige precauciones nuevas. Pero su potencia no convierte automáticamente su utilización en ilegítima.

La pregunta debería ser otra: ¿qué ha hecho el investigador y qué ha delegado?

No es lo mismo pedirle a una inteligencia artificial que escriba una tesis sobre un asunto desconocido para quien la presenta que utilizarla para contrastar una hipótesis, ordenar inicialmente un corpus, descubrir relaciones que después deberán comprobarse, formular objeciones contra un argumento, comparar versiones de un texto o señalar inconsistencias en una exposición que será revisada y asumida finalmente por su autor.

En el primer caso puede producirse una sustitución del trabajo intelectual; en el segundo, una ampliación de sus posibilidades. La distancia entre ambos procedimientos no es menor y no debería desaparecer bajo la cómoda etiqueta de «texto producido con inteligencia artificial».

Algunas posiciones que hoy se presentan como guardianas de la integridad académica corren el riesgo de convertirse, paradójicamente, en formas de conservadurismo intelectual. La obsesión por descubrir si una frase «parece escrita por inteligencia artificial», la confianza desmedida en detectores cuya infalibilidad dista mucho de estar demostrada y la sospecha automática ante una escritura demasiado correcta pueden terminar creando una suerte de cultura policial alrededor de la producción académica.

El problema se vuelve aún más extraño cuando el centro de atención deja de ser la calidad de una investigación y pasa a ser la persecución de las posibles huellas de la herramienta que intervino en ella. Comenzamos entonces a vigilar adjetivos, giros sintácticos, puntuaciones o estructuras argumentativas como si determinadas formas de escribir pertenecieran ya a las máquinas y hubieran dejado de estar disponibles para los seres humanos.

Una buena investigación debería juzgarse mediante preguntas bastante más antiguas y, al mismo tiempo, bastante más exigentes: ¿el problema está bien formulado?, ¿las fuentes son pertinentes?, ¿los datos son comprobables?, ¿el razonamiento es coherente?, ¿la interpretación aporta algo?, ¿el investigador conoce realmente aquello sobre lo cual escribe?, ¿puede defender sus afirmaciones y responder por ellas?

La responsabilidad no puede delegarse. Ese es, probablemente, el principio que deberá conservarse en medio de todos los cambios.

Una inteligencia artificial no puede responder moral ni intelectualmente por una investigación. No puede defender una tesis ante un tribunal, rectificar públicamente una interpretación equivocada ni asumir las consecuencias de una información falsa. Quien firma continúa siendo responsable de aquello que afirma, independientemente de las herramientas que hayan intervenido en el proceso.

Pero la responsabilidad autoral no debe confundirse necesariamente con la producción material de cada palabra. Esta cuestión me parece particularmente novedosa.

Durante mucho tiempo hemos tendido a identificar autoría y escritura directa. Autor sería, en esa concepción, quien produjo personalmente las frases que constituyen una obra. La inteligencia artificial introduce una fisura en esa identificación. Alguien puede concebir un proyecto, escoger el problema, establecer sus objetivos, seleccionar las fuentes, formular preguntas a una herramienta, rechazar numerosas respuestas, aceptar provisionalmente otras, comprobar datos, modificar argumentos, reorganizar una estructura, reescribir párrafos y decidir finalmente qué texto está dispuesto a firmar y defender.

¿Dónde se encuentra la autoría en ese proceso?

No parece razonable atribuírsela a la máquina, que carece de voluntad, intención y responsabilidad. Pero tampoco resulta ya suficiente definirla mediante la pregunta de quién produjo materialmente una determinada secuencia de palabras. Habrá que volver a pensarla en términos de concepción, decisión, selección, intervención, transformación y responsabilidad. Tal vez sea este uno de los cambios intelectuales más profundos que la inteligencia artificial está introduciendo y uno de los que mayor resistencia encontrará, precisamente porque obliga a revisar categorías que parecían evidentes.

La reacción más fecunda ante semejante transformación no puede consistir en esconder la cabeza y esperar que desaparezca.

La universidad tendrá que enseñar a utilizar la inteligencia artificial, del mismo modo que enseña —o debería enseñar— a evaluar fuentes, establecer bibliografías, distinguir una cita de una apropiación indebida, formular un problema, construir un argumento y reconocer los límites de una interpretación. La alfabetización académica del futuro tendrá que incluir necesariamente la capacidad de trabajar críticamente con sistemas de inteligencia artificial.

Enseñar a utilizarlos significa también, y quizás en primer término, enseñar a desconfiar de ellos. Habrá que comprobar lo que afirman, exigir fuentes reales, distinguir entre información y razonamiento, identificar simplificaciones, detectar errores, preservar datos confidenciales y reconocer cuándo la aparente facilidad de una respuesta comienza a sustituir el esfuerzo indispensable del pensamiento.

Pero limitar la inteligencia artificial a una herramienta para ahorrar tiempo sería también empobrecer sus posibilidades.

Puede convertirse en una modalidad de interlocución intelectual que hasta ahora no había existido. No porque piense como nosotros ni porque debamos atribuirle conciencia o intención, sino porque posee la capacidad de producir, en lapsos muy breves, alternativas, conexiones, preguntas, objeciones y posibilidades de organización que pueden obligar al investigador a revisar sus propias certidumbres.

Utilizada de ese modo, su función más interesante quizás no sea ahorrarnos pensamiento, sino provocarlo.

Un investigador puede pedirle que contradiga una hipótesis que considera ya suficientemente probada; que encuentre fisuras en una argumentación; que proponga otras maneras de ordenar un corpus; que confronte dos perspectivas teóricas o que señale los aspectos de una interpretación que permanecen insuficientemente demostrados. Ninguna de esas respuestas debe aceptarse por autoridad. El investigador deberá juzgarlas, comprobarlas, rechazarlas o transformarlas. Pero justamente en ese proceso puede producirse conocimiento.

La diferencia depende, otra vez, de quién conduce el trabajo.