Sabor agridulce. Pensando en Contratos públicos e Inteligencia Artificial, por Juan Carlos García Melián.

Mi querido amigo Juan Carlos, en este post nos habla de un tema actual al que debemos prestar especial atención en las Administraciones Públicas, el uso de la Inteligencia Artificial. Por lo que se indica en el último párrafo del post podría pensarse que le he obligado a escribir en agosto. Pues, aunque no confirmo ni desmiento este hecho, creo que vale mucho la pena poder leer lo que nos cuenta.

En los primeros meses de este año recuerdo haber conversado con Victor Almonacid (cuya visión y pasión escrita en innumerables artículos sobre estos asuntos comparto) y también con mi compañero de profesión Esteban Umérez, (abducido como yo por las nuevas tecnologías) sobre  lo asombrosamente rápido que en apenas unos meses se habían desplegado y desarrollado múltiples plataformas de inteligencia artificial y la tormenta perfecta que ello representaba  con la denominada internet de las cosas (cualquier objeto puede transmitir información de diversa naturaleza a través de sensores en tiempo real) y el Big Data que permite consolidar, agregar y dividir datos procedentes de múltiples fuentes creando inmensos data sets. 

Para quienes andáis un poco en las nubes, en términos generales hablamos de inteligencia artificial (IA) para referirnos a la capacidad de las máquinas y sistemas informáticos para aprender de su propia experiencia y adaptar su comportamiento o sus respuestas, asemejándose su funcionamiento a la inteligencia humana. En la base de la inteligencia artificial están algoritmos matemáticos complejos, técnicas de aprendizaje profundo o Deep Learning, procesamiento de lenguaje natural y reconocimiento de imágenes, que impulsados por el aumento de capacidad de almacenamiento y recursos de procesamiento computacional de los ordenadores permite el manejo de grandes volúmenes de datos e información y que las máquinas puedan asumir autónomamente tareas y procesos complejos para los cuales siempre se ha necesitado la inteligencia humana.

En el ámbito público el ejercicio de las potestades que se ejercitan está absolutamente regulado y protocolizado, priman los intereses públicos sobre los privados y su actividad está regida -entre otros-, por los principios de legalidad, eficiencia, transparencia e igualdad; de tal manera que, de inicio, el ámbito público tiene un entorno ideal para el uso intensivo de la IA en la mejora de la eficiencia de los procedimientos administrativos. Eso, en el ámbito público en general, porque como ya habrás adivinado, el ámbito específico de la contratación pública es terreno especialmente abonado para el uso intensivo de la IA.

Para hacernos una idea, en un área que me interesa particularmente, que es el de la mejora del diseño de los documentos de contratación pública (legal desing), la IA ayuda a identificar y corregir errores, a mejorar la claridad y la concisión, y a hacer que los documentos sean más fáciles de entender para los licitadores, incrementando la participación y la competencia. En definitiva, haciendo más eficiente el proceso. 

La IA puede ayudar a diseñar plantillas de documentos para solicitudes de propuestas, términos de referencia y otros documentos de contratación. Estas plantillas consiguen estandarizar los formatos y asegurar que se incluyan todos los detalles necesarios. Los algoritmos de IA pueden ser programados para verificar la completitud y precisión de los documentos de contratación, garantizando que los documentos contengan toda la información necesaria y que sean coherentes y precisos. 

Algunos sistemas de IA, como los basados en procesamiento del lenguaje natural, pueden generar automáticamente documentos o partes de los mismos, proporcionando asistencia en la redacción de documentos, sugiriendo cambios para mejorar la claridad y la precisión, o para garantizar que el lenguaje sea inclusivo y no sesgado. 

La IA puede analizar los documentos de contratación identificar áreas de mejora, y los términos que a menudo son malinterpretados o que causan confusiones, o secciones que a menudo necesitan ser modificadas. Esta información será utilizada para mejorar los documentos de contratación en el futuro. 

Por poner algunos ejemplos prácticos: el Departamento de Defensa de los Estados Unidos utiliza la IA para revisar y verificar los documentos de contratación, identificando áreas donde falta información, o donde la información proporcionada es incorrecta o incoherente. Esto ayuda a garantizar que los documentos de contratación sean precisos y completos antes de ser enviados a los licitadores;  la ciudad de Chicago utiliza la IA para mejorar la claridad y la concisión de los documentos de los procedimientos de contratación, ayudando a facilitar a los licitadores la comprensión de los requisitos del contrato; por último, la ciudad de Londres utiliza la IA para hacer que los documentos de los procedimientos de contratación sean más fáciles de entender para los licitadores, aumentando como consecuencia el número de licitadores que participan en los procedimientos de contratación.

Sin perjuicio de las decisiones que el legislador europeo y nacional adopte, es conveniente que desde ya, las instituciones públicas vayan planteándose el establecimiento de directrices orientadas a proteger los derechos de los ciudadanos en relación al uso de la IA. De ordinario los ciudadanos, ¾también los contratistas¾, se sienten desasistidos frente a las Administraciones Públicas en una relación ausente de equilibrio. Quienes reclaman una respuesta sincera sobre los criterios que inspiran la mayor parte de las actuaciones de la administración o la evaluación de esas mismas actuaciones, raramente encuentran una respuesta. Y cuando la obtiene, habitualmente esta respuesta es meramente formularia, carente de solvencia lógica o se esconde en formatos inaccesibles que hacen imposible su comprobación o verificación. 

Y cuando no son los formatos son las formas. Un ejemplo muy sencillo de lo que digo y de la posición de desequilibrio del ciudadano frente a la administración nos lo recuerda el abogado Diego Gómez Fernándezcasi a diario con su cruzada (también la mía) contra el abuso de la cita previa obligatoria en la administración. Pues si así es el paisaje común, no es difícil imaginar cómo el uso descontrolado de estas tecnologías y la propia iA puede desequilibrar aún más la balanza y ahondar en la injusticia ¾por inaccesibles e incomprensibles¾ de las actuaciones administrativas. 

Hace muy poco, en LinkedIn, Jacinto Somoza nos recordaba en su mordaz estilo una interesante reflexión en relación a los “hype” (reacción o expectativa desmedida frente a una novedad) tecnológicos en los que se entretienen las administraciones públicas sin ser capaces de haber resuelto lo más básico y elemental para que siquiera esos “inventos”, resulten útiles y sirvan algo más que para lograr un efímero titular pomposo a mayor gloria del político de turno. 

Puede que en el presente momento en el uso de la IA haya algo de ese “hype” pero creedme, la IA es una realidad que irremediablemente nos va a alcanzar a todos en todos los campos. En la relación entre administración y ciudadanos también. Pensad que la IA va a permitir gestionar todos los datos y la información. Todos. Y hacerlo prescindiendo de la mano humana, al menos de entrada de la que intelectualmente incorpora nulo valor en los procesos administrativos. Mi recomendación administraciones públicas: si no lo habéis hecho ya, iros asomando poco a poco al uso de la IA. Al menos para entender qué es lo que te ha pasado por encima. 

Para que en ese paso por encima, el ciudadano no vea perjudicados sus derechos frente a la administración, es necesario incorporar instrumentos del control respecto al uso de la IA. El primer paso en el establecimiento de esos mecanismos es la información (Para quien lo haya olvidado, información no es propaganda), la que permita a los ciudadanos conocer en qué relaciones con la administración se usan estas tecnologías, los algoritmos que se emplean, su explicación y la propia información generada por su uso. Pero además de la transparencia, es mecanismo necesario la rendición de cuentas en relación a su uso y en particular respecto del cumplimiento preciso de los objetivos predeterminados para habilitarlo. Los ciudadanos entonces podrán entender el alcance de estos sistemas de IA, advertir en su caso las deficiencias del sistema y promover su corrección. 

Precisamente la exigencia de transparencia y rendición de cuentas tiene un difícil encaje con el uso de plataformas de inteligencia artificial privadas. Una convivencia que será muy difícil de explicar. El desarrollo de plataformas de inteligencia artificial (hay muchas inteligencias artificiales, quizás la más conocida de ellas sea la denominada generativa, por ejemplo Chat GPT) es caro, muy caro. Al margen de la alta especialización de recursos humanos, requiere el uso de los sistemas de computación más avanzados e igual que ha ocurrido con los productos informáticos en la “nube” estas exigencias sólo están al alcance de las grandes corporaciones, todas ellas atentas a ofrecer sus plataformas de IA a las administraciones públicas, grandes tenedoras de la gasolina que alimenta la IA, los datos y la información. Y es aquí donde se deben establecer unas reglas claras si no queremos abandonarnos a los intereses de estas grandes corporaciones privadas y con ese abandono dejar en sus manos nuestros derechos. 

Los algoritmos que utilice la Administración en cualquier plataforma de IA deberían ser abiertos y accesibles al público, estableciendo obligatoriamente evaluaciones periódicas y públicas de su impacto en los derechos fundamentales que incidan en la satisfacción del principio de igualdad, transparencia y rendición de cuentas en la implementación de sistemas de IA en los servicios públicos y cómo estos sistemas cumplen con los objetivos de política pública. La divulgación pública y transparente de estos informes permitirán a los ciudadanos, verificar la información facilitada en ellos, comprobar el funcionamiento correcto de los sistemas, plantear sus dudas, proponer modificaciones y evitar resultados indeseables del uso de estos sistemas. 

Un último apunte: la implementación de los sistemas de inteligencia artificial, su desarrollo y mantenimiento puede crear una capa de complejidad que perjudique su comprensión por los ciudadanos y la identificación de las responsabilidades ante un eventual daño causado por el incorrecto funcionamiento del sistema.  Es necesario que desde la misma recopilación de datos, la generación de los algoritmo y su implementación, hasta su uso y aplicación el proceso, se haga de forma transparente, de tal manera que se conozca en cada momento quién es responsable de qué. De otro modo seremos siempre los ciudadanos los que de forma directa o indirecta asumamos el costo de los daños causados por el mal funcionamiento de estos sistemas. 

Y no quiero alargarme más en este escrito, que la pistola de la amistad que Pilar Batet me ha puesto en la sien empieza a dejar marca. Escribo estas líneas con el placer de escribir para un blog tan reputado y la amargura de ver el fuego devorar los montes de mi isla. Por eso hoy a la sombra de un de pino, sabor agridulce.