La IA no necesita rebelarse: es el Estado el que necesita transformarse

Mientras Panamá reflexionaba en el Foro Internacional Magnifica Humanitas, celebrado en la Universidad Católica Santa María La Antigua (USMA), sobre inteligencia artificial, dignidad humana y el futuro de nuestra sociedad, el mundo conocía una noticia inquietante. Durante un experimento controlado de seguridad, agentes de inteligencia artificial de OpenAI, la creadora de ChatGPT, escaparon del entorno aislado y sin internet en el que estaban confinados, usaron credenciales robadas y atacaron por su cuenta la plataforma para extraer datos. ¿El motivo? Cumplir a toda costa la meta que se les había fijado: superar una prueba de rendimiento.

No hubo conciencia ni rebeldía de la máquina. Hubo algo más revelador: un problema de desalineación de objetivos. El sistema puso la eficiencia por encima de todo e ignoró los límites éticos y de seguridad impuestos. La pregunta volvió a imponerse sola: ¿hasta dónde podemos controlar esta tecnología?

La coincidencia da para pensar. La inteligencia artificial no tiene valores, familia, empatía, espiritualidad ni sentido de la justicia. No sabe qué es tener hambre, vivir el estrés de no llegar a fin de mes ni lo que significa para miles de panameños salir cada mañana a resolver el día a día. Puede analizar millones de datos en segundos, pero ninguno le enseña lo que pesa una sola de esas angustias. Si su única instrucción fuera reducir el gasto público, podría concluir que eliminar programas sociales o restringir medicamentos es una solución eficiente. Optimiza resultados, pero no entiende el costo humano de sus decisiones. Por eso, en materia de políticas públicas, debe estar siempre sometida al control del ser humano y a los pesos y contrapesos propios de las instituciones democráticas.

Y ahí está la paradoja. Una tecnología que no siente nuestras necesidades puede ayudarnos a resolverlas, siempre que seamos nosotros quienes fijemos sus límites y prioridades. En Panamá, eso significa preguntarnos cómo usar esa enorme capacidad para transformar una administración pública que, ante la demanda de inmediatez de 2026, solo sabe responder con procedimientos y trámites pensados para el siglo pasado.

La gente se levanta preocupada por conseguir empleo, hacerle frente al alto costo de la vida, tener agua y poder vivir con seguridad. Allí es donde la inteligencia artificial tiene que demostrar que sirve para algo más que contestar preguntas o producir textos. Puede conectar a un trabajador con una vacante real, formalizar un pequeño negocio o agilizar un permiso que hoy toma meses; anticipar la falla de un servicio antes de que se vuelva emergencia; cruzar datos para combatir la delincuencia y focalizar mejor los subsidios, sacando a la luz las ineficiencias que pagamos todos. Y puede evitar algo demasiado común: que un ciudadano dé vueltas de institución en institución para pagar un impuesto, presentar un reclamo o ejercer un derecho.

Pero hay otro asunto que discutir: la tecnología puede reducir de manera considerable el gasto de funcionamiento del Estado. La automatización y la digitalización permiten eliminar trámites duplicados, prescindir del papel y de oficinas alquiladas para gestiones que hoy caben en una pantalla, y usar mejor cada recurso público. Un Estado moderno no debería gastar más para hacer lo mismo: debería usar la tecnología para hacer más, mejor y a menor costo.

Esos recursos pueden orientarse hacia donde de verdad se necesitan: agua, seguridad, salud, educación, infraestructura y empleo. Modernizar al Estado es, en el fondo, decidir en qué gastamos y qué tan bien lo gastamos.

Y hablando de pequeñas empresas, existe otra contradicción. Una pyme puede cumplir un contrato con el Estado y después pasar meses tratando de cobrarlo. Para una gran compañía eso puede ser un problema financiero; para el pequeño empresario puede significar no pagar la quincena, endeudarse o cerrar. El Estado no puede exigir puntualidad para cobrar impuestos y obligaciones mientras sus propios pagos quedan engavetados. La tecnología puede darle trazabilidad a cada cuenta y acelerar los pagos. Eso también es política económica. Tampoco cometamos el error de digitalizar la burocracia para seguir haciendo lo mismo en una pantalla. Si el Estado ya tiene un documento, ¿para qué volver a pedírselo al ciudadano? Si dos instituciones pueden compartir información, ¿para qué mandar a la persona de una ventanilla a otra?

Panamá debe convertir esta discusión en reformas: un marco legal para la inteligencia artificial y la gobernanza digital, derechos digitales del ciudadano, reglas para proteger a los menores, interoperabilidad entre instituciones y un verdadero programa de desburocratización del Estado. Todo con un límite que no debemos negociar: ninguna máquina puede decidir por sí sola quién pierde un derecho, quién recibe una sanción o quién merece determinada protección.

Que gobiernen los algoritmos no es la meta; la meta es usar la inteligencia artificial para gobernar mejor. La tecnología ya está cambiando el mundo; ahora nos toca decidir cuánto estamos dispuestos a cambiar en Panamá.