Gobierno de calidad/ IA generativa, heroína potencial o “enredo” gubernamental

Por Jorge Manrique, Rector del Colegio Jurista y director general de Gobierno de Calidad, consultoría de políticas públicas

En la era exponencial la Inteligencia Artificial (IA) generativa ganó adeptos en tiempo récord en infinidad de sectores económicos. Pronto cautivó también al sector gubernamental.

Pero al unísono, las oficinas gubernamentales deberán abordar riesgos potenciales, comenzar a transformar la prestación de servicios y desarrollar modelos centrales para construir las aplicaciones de IA generativa.

Entre los riesgos de la IA generativa están sus tendencias hacia la imprevisibilidad, inexactitud y sesgo, son ampliamente conocidos por la Iniciativa Privada. Las agencias gubernamentales, sin embargo, enfrentan riesgos diferentes. Por ejemplo, la tecnología puede utilizarse indebidamente para difundir propaganda política o comprometer la seguridad nacional.

Al mismo tiempo, algunos resultados de los modelos de IA genérica pueden contener información inexacta, también llamada “alucinaciones”, que podría erosionar la confianza del público en los servicios gubernamentales que emplean estas tecnologías.

Al igual que muchas organizaciones del sector privado, las agencias gubernamentales enfrentan desafíos con la transparencia y la dificultad de explicar los fundamentos conceptuales de la IA generativa, así como la lógica de las decisiones y los resultados de los modelos con la subsecuente baja aceptación y responsabilidad poco clara cuando se producen efectos no deseados.

Las consecuencias podrían incluir una baja aceptación pública de los servicios. Por ello Estados Unidos, Australia y China, generan iniciativas para crear marcos de regulaciones y políticas para la IA, y algunos amplían sus regulaciones de IA existentes para incluir explícitamente también la IA genérica.

Ahora, para comenzar a transformar la prestación de servicios, los departamentos gubernamentales pueden empezar por el resumen y síntesis de contenido, codificación y software, compromiso con el cliente o generación de contenido.

Las implementaciones de la IA generativa puede optimizar una amplia gama de servicios gubernamentales en áreas como educación, atención médica, defensa e inteligencia e incluso el desarrollo urbano.

Ahora, algunos gobiernos pueden aspirar a desarrollar modelos básicos o centrales sobre los que se construyen las aplicaciones de IA generativa.

A diferencia de los actores tecnológicos globales del sector privado, las organizaciones gubernamentales simplemente carecen de las capacidades para desarrollar modelos básicos mientras gestionan sus riesgos. Como resultado, algunos gobiernos, como los de Islandia y Finlandia, optan por asociarse con grandes proveedores mundiales de modelos lingüísticos (LLM) para obtener acceso a sus modelos existentes y aumentarlos y personalizarlos para que se adapten a sus propias necesidades, mediante la adición de datos y conocimientos propios.