Relación entre la ética y la inteligencia artificial

La reciente conmemoración del Día Mundial de la Bioética en Panamá, organizada por el Comité Nacional de Bioética de la Investigación (CNBI), abordó un asunto decisivo, “Inteligencia artificial y ética de la investigación: construyendo una investigación responsable”. Partimos de un supuesto: la implementación de las inteligencias artificiales (IA) ofrece enormes beneficios para la humanidad, pero esos beneficios no eliminan los riesgos implícitos en su desarrollo, utilización y transferencia.

Conviene recordar, antes que nada, que la bioética es una rama de la filosofía, o, más precisamente, un campo de la ética aplicada con una profunda tradición filosófica. Sus preguntas fundamentales remiten a la dignidad humana, la justicia, la autonomía, la responsabilidad y el bien común. Por ello, la discusión sobre las IA no puede reducirse a su eficiencia técnica, también exige preguntarnos qué fines perseguimos y qué consecuencias estamos dispuestos a aceptar.

En la intervención sobre inteligencia artificial y ética de la investigación, el doctor Armando Guio Español puso sobre la mesa cuestiones que permiten comprender la magnitud del desafío. Hoy se habla cada vez más de regulación, hasta el punto de que la reflexión ética parece quedar desplazada por normas, protocolos y procedimientos. Sin embargo, ambas dimensiones son complementarias. La regulación gubernamental establece obligaciones y límites, la ética examina los principios que los justifican y permite cuestionarlos cuando resultan insuficientes.

Las reflexiones clásicas de la filosofía moral adquieren así utilidad práctica. Una perspectiva utilitarista preguntará por el balance de beneficios y daños, una ética del deber insistirá en que las personas no pueden tratarse simplemente como medios, una ética de la virtud destacará lo teleológico (como lo planteó Alasdair MacIntyre) y así sucesivamente. Ninguna fórmula, por sí sola, resuelve todos los dilemas. Precisamente por eso necesitamos de la tradición filosófica para argumentar y de reconocer conflictos entre principios.

En este contexto, los “comités de revisión” de proyectos de IA son indispensables. Pero su eficacia depende de algo más que disponer de listas de verificación. Sus integrantes necesitan formación en las tradiciones éticas. El “control humano basado en riesgo” debe convertirse en un imperativo práctico. Cuanto mayor sea el riesgo, más rigurosas deben ser las revisiones humanas. La supervisión no termina con la aprobación inicial, sino en todo su despliegue.

Es imprescindible contar con mecanismos para auditar resultados, corregir sesgos, suspender aplicaciones y detener daños. También debemos prestar atención a la transferibilidad, una IA entrenada con datos de determinada población puede comportarse de modo diferente en otro contexto. Su éxito inicial no garantiza seguridad universal.

A ello se suma la incertidumbre. No siempre podemos anticipar cómo se comportará un sistema complejo ante situaciones nuevas. La incertidumbre no constituye una excusa para renunciar a la responsabilidad, obliga, por el contrario, a fortalecer la vigilancia y la capacidad de rectificación. Investigar responsablemente significa admitir los límites de nuestras predicciones y diseñar instituciones capaces de responder cuando aparezcan consecuencias no previstas. En países como Panamá, donde los recursos para desarrollar modelos propios de gran escala son limitados, como lo señaló en dicha conferencia la doctora Claude Verge, somos principalmente consumidores de tecnologías producidas en otros países. La pregunta decisiva no es únicamente cuánto puede hacer la IA, sino qué debemos permitirle hacer, en qué condiciones y para beneficio de quiénes.