Una aproximación a la regulación de la Inteligencia Artificial y a su potencial, por María Pilar Batet.

El avance de la IA.

El 11 de mayo de 1997, un súper ordenador de IBM, ganaba al campeón del mundo de ajedrez, Gary Kasparov; nos dábamos cuenta de lo que la Inteligencia Artificial era capaz de hacer. El triunfo de la máquina sobre el hombre en el tablero de ajedrez no fue solo un hito en la historia de la computación, sino el preludio de una era en la que la IA se integraría en todos los aspectos de nuestra vida.

En 2023, el éxito del chatbot desarrollado por OpenAI, el ChatGPT, ha hecho que la industria del sector se acelere para no quedarse atrás en una carrera contrarreloj para dominar las nuevas herramientas de IA generativa. Se dice que estamos ante la cuarta revolución industrial.

Es innegable las ventajas que puede proporcionar la inteligencia artificial en todos los ámbitos. La IA puede detectar patrones y pautas que las personas no somos capaces de hallar, su aplicación puede ser fundamental, por ejemplo, en materia sanitaria, como los algoritmos de IA que analizan imágenes médicas, como radiografías y resonancias magnéticas, para ayudar en la detección precoz de enfermedades como el cáncer.

Pero la IA también presenta desafíos importantes, puede plantear problemas de privacidad, como se ha visto en España hace poco con las imágenes de las niñas de Tomelloso practicando relaciones sexuales; a esto se le conoce como“deepfakes”. Una práctica que, por ejemplo, ya se utilizó en la India contra mujeres políticas y periodistas con el fin de silenciar sus denuncias sociales. La IA también puede aplicar sesgos, con el uso de datos históricos que discriminen a la mujer, a las personas de color, a los inmigrantes, etc. Y también supone un desafío, la regulación de la propiedad intelectual del algoritmo. 

La regulación europea.

Ante todos estos retos, la Unión Europea va a implementar una regulación pionera en el mundo que se pretende aprobar a mediados del 2024. Se ha cuestionado si esta regulación puede impedir un avance en el desarrollo de la IA en la Unión Europea y, por lo tanto, una desventaja competitiva ante otros países en los que no existe ninguna regulación. Independientemente de lo que hagan el resto de países, la Unión Europea debe de ser pionera en el establecimiento de una regulación que proteja los derechos fundamentales de las personas, y ser un ejemplo para otros países como ya ha ocurrido con otras normativas, además contará con el “efecto Bruselas” (las grandes corporaciones adaptan sus reglas de funcionamiento y luego las aplican de forma general a otros países).

Pero antes de seguir hablando de la IA, hay que definir de qué estamos hablando y para ello, reproduzco el artículo 3 de la propuesta de Reglamento del Consejo de la Unión Europea, que define un sistema de IA como “un sistema concebido para funcionar con elementos de autonomía que, a partir de datos e información generados por máquinas o por seres humanos, infiere la manera de alcanzar una serie de objetivos, utilizando para ello estrategias de aprendizaje automático o estrategias basadas en la lógica y el conocimiento, y produce información de salida generada por el sistema, como contenidos (sistemas de inteligencia artificial generativa), predicciones, recomendaciones o decisiones, que influyen en los entornos con los que interactúa el sistema de IA”.

La propuesta de Reglamento contiene en el art. 5 una serie de prácticas prohibidas, como por ejemplo, el uso de sistemas de identificación biométrica remota “en tiempo real” en espacios de acceso público, por las autoridades con fines de aplicación de la ley, salvo que su uso sea estrictamente necesario para alcanzar algunos objetivos, como la búsqueda selectiva de posibles víctimas concretas de un delito; la prevención de una amenaza específica e importante para las infraestructuras críticas o para la vida, o la prevención de un atentado terrorista, si bien, habrá que solicitar en cuanto sea posible una autorización judicial.

Los sistemas de IA de alto riesgo cumplirán los requisitos y obligaciones que se determinan en el Reglamento para acceder al mercado de la UE. Los sistemas de IA que solo tienen un riesgo limitado estarían sujetos a obligaciones de transparencia muy leves.

Quiero destacar que en el Reglamento, para favorecer la innovación, se contemplan los espacios controlados de pruebas para la IA (espacio conocido como “sandbox”). Las autoridades nacionales podrán establecer espacios controlados de pruebas para la IA con fines de desarrollo, entrenamiento, prueba y validación de sistemas de IA innovadores bajo la supervisión de la autoridad nacional competente, antes de que dichos sistemas se introduzcan en el mercado. Estos espacios controlados de pruebas podrán incluir pruebas en condiciones reales.

La IA aplicada a la contratación pública.

En este blog, ya se han publicado dos post sobre IA y contratación pública: “Trece medidas para mitigar que los riesgos del uso de la IA sea un problema en la contratación pública” y «Sabor agridulce. Pensando en Contratos públicos e Inteligencia Artificial«, ambos escritos por Juan Carlos García Melián.

Desde hace años, en muchas Administraciones Públicas, contamos con algún software para la automatización de algunas tareas rutinarias, tenemos programado el control de algunos plazos, etc. En la actualidad, la IA puede ayudar, por ejemplo, a redacción y revisión de los documentos de contratación facilitando la claridad de su redacción; en la comprobación del uso de la normativa vigente;  en el análisis de las ofertas recibidas y su comparación, pero siempre bajo supervisión del responsable de contratación pública. 

Por mi experiencia, el ChatGP 4, actualmente presenta bastantes limitaciones en relación con la contratación pública: no puede acceder a bases de datos en tiempo real, no puede acceder directamente a los documentos de la Plataforma de Contratos del Sector Público debido a restricciones técnicas, no puede leer y extraer los productos de un conjunto de facturas con la finalidad de ordenarlos, etc.

Aunque en estos momentos no percibo un avance revolucionario en la aplicación de la IA en la contratación pública, debemos estar atentos a su desarrollo y a la especialización del sistema en la materia, porque existe un gran potencial y no va a tardar en desarrollarse. En este sentido, será importante el acceso por parte del sistema de IA a los datos publicados en la Plataforma de Contratación Pública y a todos los datos de las resoluciones e informes doctrinales y jurisprudenciales, de forma que el algoritmo detecte la doctrina última y mayoritaria en cada momento y analice su aplicación al caso concreto. Igualmente, es evidente que la función de la IA va a tener un papel fundamental en el monitoreo y la auditoría de los procesos de contratación, aumentando la transparencia y ayudando a detectar y prevenir la corrupción y el fraude.

Espero la ocasión en que la IA se encargue íntegramente de la contratación pública en mi Administración, … a ver si se atreve!