¿Cómo podemos aprovechar los beneficios de la inteligencia artificial en los gobiernos, mitigando sus riesgos?

Hacemos un repaso de los principales mensajes, hallazgos y recomendaciones del informe de la OCDE y CAF sobre el uso estratégico y responsable de la inteligencia artificial en el sector público de América Latina y el Caribe (disponible aquí y en OCDE iLibrary).

¿Por qué apostar por la inteligencia artificial?

América Latina y el Caribe (ALC) está tratando de aprovechar el inmenso potencial de la inteligencia artificial (IA), tanto para acelerar la transformación digital del sector público como la del sector privado. En este contexto, el uso estratégico y responsable pero también ético de la IA por las entidades públicas es imprescindible para asegurar la confianza en las instituciones. A través del Observatorio de Políticas de IA de la OCDE, la OCDE sigue de cerca la evolución de las estrategias e iniciativas de IA desplegadas por los gobiernos de todo el mundo en lo que se convirtió una carrera tecnológica.  

La Organización para la Cooperación y el Desarrollo Económicos (OCDE) y CAF, Banco de Desarrollo de América Latina, prepararon este informe con tres principales objetivos:

• Primero, para ayudar a los gobiernos de América Latina y el Caribe en la creación de una línea base regional sobre el grado de madurez de la IA en el sector público, así como un análisis comparado de las estrategias de IA desplegadas por los gobiernos.
• Segundo, para identificar los enfoques y las iniciativas específicas que contribuyen a incrementar las capacidades de uso de esta tecnología para mejorar la calidad de los servicios y la eficiencia del gasto, en particular en tiempos de desaceleración económica. 
• Y, tercero, para colaborar con la articulación de una visión regional para la IA en el sector público que esté acorde con la realidad social y los principios democráticos de la región.

Se espera que este informe contribuya al diseño e implementación de estrategias ambiciosas y adecuadas para un uso responsable de la IA para modernizar la gestión pública y mejorar los servicios públicos, en un momento de inflexión en el que esta tecnología está irrumpiendo en todos los ámbitos de nuestras sociedades y economías.

Este informe presenta los primeros hallazgos de una evaluación más amplia sobre la aceleración de la transformación digital de los gobiernos de la región llevada a cabo por la OCDE y CAF, que abarca temas como la gobernanza, las habilidades y capacidades digitales, la modernización del sector público impulsado por los datos, así como la innovación digital y los enfoques colaborativos de govtech.

Es importante recalcar que el uso responsable de la IA se sustenta en la calidad de los datos que estos sistemas usan, entendiendo la calidad de los datos como su integridad, pero también su representatividad en sociedades tan diversas como las de Latinoamérica. Es decir, un uso responsable de la IA también implica asegurar la inclusión y diversidad de los datos que la sustentan, considerando también el gran nivel de informalidad presente en estas sociedades.

¿Cuál es el potencial de la inteligencia artificial para los gobiernos de la región?

Los gobiernos de todo el mundo están explorando su rol como usuarios y proveedores de servicios de inteligencia artificial (IA), por tres principales razones: para mejorar la eficiencia interna de las administraciones públicas, la calidad de las políticas y la entrega de los servicios públicos. 

• En general, muchos gobiernos se interesan por la IA para mejorar su eficiencia operativa, por ejemplo, a través de la automatización de tareas sencillas y el incremento de la agilidad y calidad de los servicios públicos, en particular transaccionales. El informe resalta que la mayoría de los casos de uso más significativos pertenecen a esta categoría.
• En otros casos, los gobiernos ven un potencial para mejorar el proceso de diseño de políticas y la focalización del gasto público, obteniendo conocimientos más granulares a partir del aprovechamiento de grandes cantidades de datos que les permite tomar decisiones mejor informadas.
• Por último, la IA también se está utilizando para mejorar el relacionamiento con el usuario, generalmente a través de chatbots, herramientas de emparejamiento (produciendo mejores recomendaciones según las necesidades o características de los ciudadanos), o mejorando las capacidades para comprender las expectativas y perspectivas de los ciudadanos a escalas que antes eran inviables.

Este informe documenta experiencias en todas estas áreas, encontrando que los buenos resultados suelen ir de la mano de un uso seguro y responsable, con enfoques éticos en todo el ciclo de la IA, y un contexto de estrategias integrales, de la existencia de habilitadores claves, y el impulso político desde el centro del gobierno.

La OCDE lleva varios años interesándose en el uso y las implicaciones de la IA en el sector público, tanto a nivel nacional como subnacional. Los informes Hola, mundo: La inteligencia artificial y su uso en el sector público y State of the art in the use of emerging technologies in the public sector proveen un marco de referencia para el uso informado, estratégico y responsable de la IA en el sector público. Estos informes abarcan los fundamentos técnicos, el panorama de las estrategias, y los casos de uso de la IA por los gobiernos. Enfatizan, por ejemplo, el rol clave del liderazgo, la importancia de la experimentación, la necesidad de enfoques orientados a los problemas, la necesaria infraestructura que la sustenta, el talento humano requerido, así como el rol catalítico de la contratación pública.

Estos trabajos subrayan en particular la imperiosa necesidad de enmarcar el despliegue de la IA en valores democráticos y principios éticos como el de la privacidad, pero también de la representatividad, para evitar sesgos y exclusiones. Estos principios rectores están reflejados en los Principios de la IA de la OCDE y la recomendación de la UNESCO al respecto. En el informe se destaca, por ejemplo, cómo los gobiernos pueden asegurar un uso ético integrando condiciones específicas en las reglas de contratación pública de soluciones basadas en IA.  

Este informe OCDE-CAF profundiza el análisis comparativo del panorama regional y los casos de uso de la IA en el sector público. Se enmarca en una iniciativa estratégica de CAF para acompañar los gobiernos de la región en la definición e implementación de sus estrategias de IA. En su informe ExperiencIA sobre datos e inteligencia artificial en el sector público, CAF resalta las especificidades de la región en el uso de la IA, acorde a las realidades institucionales de los países de la región. Muestra, por ejemplo, el uso de la IA en la lucha contra la corrupción, la prevención de la deserción escolar y la agilización de la justicia.

El contexto de América Latina es particularmente interesante, ya que la investigación ha demostrado que la región tiene un ecosistema sólido y un enorme potencial para la IA, pero que los esfuerzos se ven obstaculizados por la inestabilidad de las prioridades políticas, la falta de coherencia y consistencia en las políticas públicas, y una limitada integración regional en cuestiones de gobernanza digital.

La elaboración del informe supuso un extenso trabajo por parte de la OCDE y CAF, que incluye:

• Entrevistas en profundidad con altos responsables y profesionales de los gobiernos de América Latina
• Una encuesta a la entidad rectora del gobierno digital de cada país de la región, así como a las agencias responsables de la implementación del gobierno digital.
• Investigación de escritorio sobre temas específicos y casos de uso relacionados con la IA en el sector público.

A través de estos esfuerzos, la OCDE y CAF han identificado una serie de hallazgos clave y han desarrollado un conjunto de recomendaciones a medida para la región, como se discute a continuación.

Hallazgos y recomendaciones

Estrategias 

El panorama de la IA en el sector público de la región reveló avances importantes, aunque desiguales, en el diseño de estrategias y el desarrollo de casos de uso específicos.

La primera dimensión que se analizó fue el grado de desarrollo de las estrategias de inteligencia artificial en la región. Siete (7) países (Argentina, Brasil, Chile, Colombia, México, Perú y Uruguay) han desarrollado, o están en proceso de desarrollar, una estrategia nacional de IA. Las estrategias en general comparten varios elementos comunes, especialmente en lo referente a su impacto en la economía digital y el desarrollo económico. Nuestro informe se enfocó en analizar los compromisos referentes al sector público. La siguiente tabla compila los temas clave que destacan las estrategias de la región.

Principales asuntos clave relativos al sector público en las estrategias nacionales de inteligencia artificial

Tema / asunto	Descripción
Abordajes fiables y éticos	·          Aumentar el conocimiento público de la IA y los derechos digitales conexos para promover confianza. ·          Adaptar las soluciones de IA al contexto y cultura locales. ·          Proporcionar orientación sobre el uso transparente y ético de la IA en el sector público.
Gobernanza de la IA	·          Definir marcos de referencia para la gobernanza de los datos y la IA en el sector público. ·          Articular el liderazgo y los compromisos en materia de IA para asegurar que la estrategia se mantenga actualizada. ·          Definir los actores responsables de coordinar la IA en todo el sector público.
Adopción de la IA	·          Promover la adopción de la IA por parte del sector público mediante servicios para los ciudadanos habilitados por la IA, y la ejecución de iniciativas y proyectos piloto de IA estratégicos y de alto impacto. ·          Mejorar el desempeño de las políticas de gobierno digital.
Contratación pública de la IA	·          Combinar las mejores prácticas con el propósito de formular requisitos técnicos, funcionales y de antecedentes para la contratación pública de la IA en el sector público.
Capacidad y competencias de la función pública	·          Mejorar la capacidad de la función pública a través de capacitación e incorporación de personal para el uso y desarrollo de la IA. ·          Crear espacios para compartir buenas prácticas y experiencias en el sector público y con otros actores, y preparar funcionarios públicos para la nueva dinámica laboral que ofrecen las tareas automatizadas y semiautomatizadas posibilitadas por la IA.
Colaboración y creación de ecosistemas mediante un abordaje intersectorial y transfronterizo	·          Identificar ecosistemas de IA existentes y actores relacionados en los sectores público, privado y sin fines de lucro, y más allá de las fronteras nacionales.
Experimentación y puesta a prueba	·          Fomentar la innovación pública basada en IA principalmente a través de la creación o el fortalecimiento de laboratorios de innovación digital y “espacios de experimentación” (sandboxes).
Infraestructura	·          Crear estructuras de supercomputadoras y/o infraestructura para alojar sistemas de IA públicos y privados.
Sector público impulsado por datos/datos de gobierno abiertos	·          Promover la gestión estratégica, el aprovechamiento y la apertura de los datos del Gobierno para desarrollar servicios personalizados, e impulsar la IA en el sector privado.

Entre las estrategias analizadas, la de Colombia es un una de las pocas que incluye todos los elementos para la exploración, adopción y evaluación sistémica de la IA. Establece específicamente objetivos estratégicos, acciones específicas, metas medibles, actores responsables, plazos de ejecución, mecanismos de financiación e instrumentos de seguimiento (algo poco común en las estrategias de IA). Disponer de estos elementos ayuda a garantizar la sostenibilidad y el seguimiento de los compromisos de manera continua y consistente, uno de los principales retos que hemos observado en la IA en el sector público.

Casos de uso

El informe también realiza una exploración no exhaustiva de proyectos concretos de IA en el sector público de América Latina y el Caribe. A través de una metodología de “bola de nieve,” encuestas y consultas, fue posible comprobar que la región sí está desarrollando proyectos de IA en diferentes ámbitos de política pública. En particular, se destaca un énfasis regional en temas de integridad pública y lucha contra la corrupción, así como educación, a diferencia de lo que ocurre en otras regiones.

La siguiente figura compila los temas en los que se clasifican los casos de uso estudiados.

Habilitantes

El informe evaluó también una serie de factores habilitantes que permiten construir bases sólidas para el uso de la IA de manera fiable y que generen valor público. Este análisis resalta 3 grandes áreas sobre las que los gobiernos deben enfocarse para tener instrumentos de política pública sólidos que permitan hacer un uso eficiente y responsable de la IA.

• En primer lugar, los gobiernos deben desarrollar un enfoque responsable, fiable y centrado en el ser humano, que comprenda la ética de datos, garantice la imparcialidad y la atenuación de los sesgos, contemple la transparencia y la explicabilidad de los algoritmos, impulse la seguridad y la protección, instituya mecanismos de rendición de cuentas, y aplique un enfoque inclusivo y orientado al usuario.
• En segundo lugar, debe trabajarse sobre las capacidades clave de gobernanza, entre las cuales pueden mencionarse la necesidad de un apoyo político y una rectoría estratégica fuertes; contar con una estrategia de infraestructura de datos adecuada; crear espacios de experimentación controlada a través de sandboxes regulatorios; entender los problemas del sector público y el potencial que tiene la inteligencia artificial para resolverlos; y prepararse para el futuro a través de una gobernanza prospectiva.
• Finalmente, hay una serie de habilitadores claves que pueden mejorar sustancialmente la incorporación de la IA en el sector público. Estos incluyen los datos, el financiamiento, los conocimientos especializados, internos y externos, y la infraestructura digital.

El informe contempla la evaluación de estos diferentes factores habilitantes. El análisis permite conocer qué países tienen mayor madurez en sus políticas de IA, y donde están los espacios de mejora, considerando la velocidad con la cual esta nueva tecnología se desarrolla. Por ejemplo, la siguiente figura resume qué países han construido, en relación con sus pares, capacidades más sólidas para crear marcos jurídicos y éticos de IA. Este ejercicio se realizó en otras 16 categorías.

Capacidades para crear marcos jurídicos y éticos en materia de IA en América Latina y el Caribe

Recomendaciones

Finalmente, el informe presenta 13 recomendaciones en línea con sus 4 mensajes principales:

• La adopción de un enfoque estratégico;
• La promoción de la orientación responsable, fiable y centrada en el ser humano;
• La creación de capacidades clave de gobernanza; y
• El establecimiento de los habilitadores críticos.

Esperamos que este informe pueda fortalecer la cooperación internacional, el diálogo entre pares y el intercambio de experiencias entre los países de la región, poniéndonos a disposición para apoyar y acompañar a los gobiernos de la región desde la OCDE y CAF. La IA es un instrumento que hoy los gobiernos deben considerar para mejorar su eficiencia en la entrega de servicios públicos y su capacidad de respuesta a las necesidades cambiantes de la ciudadanía. Es un motor de innovación y transformación positiva, ¡si lo hacemos bien!

How can we harness the benefits of AI in the public sector and mitigate the risks?

Presenting the joint report of the OECD and CAF, “The strategic and responsible use of artificial intelligence in the public sector of Latin America and the Caribbean“, now translated into Spanish (available here, and on the OECD ilibrary). We review its main messages, findings and recommendations.

Why bet on artificial intelligence?

The Latin America and Caribbean (LAC) region is seeking to harness the immense potential of artificial intelligence (AI), both to accelerate the digital transformation of the public sector and the private sector. In this context, the strategic and responsible but also ethical use of AI by public entities is imperative to ensure trust in institutions. Through the OECD AI Policy Observatory, the OECD closely follows the evolution of AI strategies and initiatives deployed by governments around the world.

The Organization for Economic Co-operation and Development (OECD) and CAF, Development Bank of Latin America, prepared this report with three main objectives in mind:

• First, to assist Latin American and Caribbean governments in the creation of a regional baseline of AI maturity in the public sector, as well as a comparative analysis of the AI strategies deployed by governments.
• Second, to identify specific approaches and initiatives that contribute to increasing the capacities to use this technology in improving the quality of services and the efficiency of spending, particularly in times of economic slowdown. 
• And third, to collaborate with the articulation of a regional vision for AI in the public sector that is in line with the social reality and democratic principles of the region.

We therefore hope that this report will contribute to the design and implementation of ambitious and appropriate strategies for a responsible use of AI to modernize public management and improve public services, at a time of inflection in which this technology is bursting into all areas of our societies and economies.

This report represents the first findings of a broader assessment of the accelerating digital transformation of governments in the region conducted by the OECD and CAF, covering topics such as governance, digital skills and capabilities, data-driven public sector modernization, as well as digital innovation and collaborative govtech approaches.

It is important to emphasize that the responsible use of AI is underpinned by the quality of the data that these systems use, understanding data quality as its integrity, but also its representativeness in societies as diverse as those in Latin America. In other words, a responsible use of AI also implies ensuring the inclusion and diversity of the data that support it, also considering the great informality of societies.

What is the potential of artificial intelligence for LAC governments? 

Governments around the world are exploring their role as users and providers of artificial intelligence (AI) services for three main reasons: to improve the internal efficiency of public administrations, the quality of policies, and the delivery of public services. 

• In general, many governments are interested in AI to improve their operational efficiency, for example, by automating simple tasks and increasing the agility and quality of public services, particularly transactional ones. The report highlights that most significant use cases fall into this category.
• In other cases, governments see a potential to improve the policy design process and the targeting of public spending, gaining more granular insights from leveraging large amounts of data that allows them to make better-informed decisions.
• Finally, AI is also being used to improve user engagement, typically through chatbots, matching tools (producing better recommendations based on citizens’ needs or characteristics), or improving capabilities to understand citizens’ expectations and perspectives at scales that were previously unfeasible.

This report documents experiences in all of these areas, finding that good results often go hand in hand with safe and responsible use, ethical approaches throughout the AI cycle, and a context of comprehensive strategies, the existence of key enablers, and political momentum from the centre of government.

The OECD has been interested in the use and implications of AI in the public sector for several years, both at national and subnational levels. The reports Hello, World: Artificial intelligence and its use in the public sector and State of the art in the use of emerging technologies in the public sector provide a framework for the informed, strategic, and responsible use of AI in the public sector. These reports cover the technical foundations, strategy landscape, and government use cases for AI. They emphasize, for example, the key role of leadership, the importance of experimentation, the need for problem-oriented approaches, the necessary supporting infrastructure, the human talent required, as well as the catalytic role of public procurement.

These papers highlight in particular the imperative need to frame the deployment of AI within democratic values and ethical principles such as privacy, but also representativeness, to avoid bias and exclusion. These guiding principles are reflected in the OECD’s AI Principles and UNESCO’s recommendation in this regard. The report highlights, for example, how governments can ensure ethical use by integrating specific conditionalities into procurement rules for AI solutions.  

This OECD-CAF report deepens the comparative analysis of the regional landscape and use cases of AI in the public sector. It is part of a strategic initiative of CAF to accompany the governments of the region in the definition and implementation of their AI strategies. In its ExperiencIA report on data and artificial intelligence in the public sector, CAF highlights the specificities of the region in the use of AI, according to the institutional realities of the countries in the region. It shows, for example, the use of AI in the fight against corruption, the prevention of school dropouts and the streamlining of justice.

The Latin American context is particularly interesting, as the research has shown that the region has a strong ecosystem and enormous potential for AI, but that efforts are hampered by unstable political priorities, lack of coherence and consistency in public policies, and limited regional integration on digital governance issues.

The preparation of the report has involved extensive work by the OECD and CAF, including:

• In-depth interviews with senior decision-makers and practitioners in Latin American governments.
• A survey of the digital government governing body of each country in the region, as well as the agencies responsible for implementing digital government.
• Desk research on specific topics and use cases related to AI in the public sector.

Through these efforts, the OECD and CAF have identified several key findings and developed a set of tailored recommendations for the region, as discussed below.

Key findings and recommendations

Strategies 

The AI landscape in the region’s public sector revealed significant, albeit uneven, progress in the design of strategies and the development of specific use cases. The first dimension the report analyses was the degree of development of AI strategies in the region. Seven (7) countries (Argentina, Brazil, Chile, Colombia, Mexico, Peru and Uruguay) have developed, or are in the process of developing, a national AI strategy. The strategies in general share several common elements, especially regarding their impact on the digital economy and economic development. Our report focused on analysing the commitments concerning the public sector. The following table compiles the key issues highlighted in the region’s strategies.

Key topics and themes from public sector components of national AI strategies

Topic/theme	Description
Trustworthy and ethical approaches	·         Increasing public knowledge of AI and related digital rights to foster trust. ·         Adapting AI solutions to local contexts and culture. ·         Providing guidance on the transparent and ethical use of AI in the public sector.
AI governance	·         Defining frameworks for AI and data governance within the public sector. ·         Articulating leadership for AI and commitments for ensuring AI strategy remains up to date. ·         Defining actors responsible for AI co-ordination across the public sector.
AI adoption	·         Promoting the adoption of AI by the public sector through AI-enabled services for citizens and the execution of strategic, high-impact AI initiatives and pilot projects. ·         Improving the performance of digital government policies.
AI procurement	·         Bringing together best practices to formulate technical, functional and background requirements for the procurement of AI in the public sector.
Civil service capacity and skills	·         Enhancing civil service capacity through training and recruitment for the use and development of AI ·         Creating spaces for the sharing of good practices and experiences within the public sector and other actors, and preparing public servants for the new working dynamics offered by AI-enabled automated and semi-automated tasks.
Cross-sector and cross-border collaboration and ecosystem building	·         Identifying existing AI ecosystems and related actors in public, private and non-profit sectors, and across national borders.
Experimenting and piloting	·         Fostering public innovation based on AI mainly through the creation or strengthening of digital innovation labs and experimentation sandboxes.
Infrastructure	·         Building super-computing and/or infrastructure to host public and private AI systems.
Data-driven public sector/open government data	·         Promoting strategic management, leverage and opening up of government data to develop tailored services, as well as to fuel AI in the private sector.

Among the analysed strategies, Colombia‘s is one of the few that includes all the elements for the exploration, adoption and systemic evaluation of AI. It specifically establishes strategic objectives, specific actions, measurable goals, responsible actors, implementation timelines, financing mechanisms and follow-up instruments (something uncommon in most AI strategies). Having these elements in place helps to ensure sustainability and follow-up of commitments in a continuous and consistent manner, one of the main challenges we have seen in IA in the public sector.

Use cases

The report also conducts a non-exhaustive exploration of concrete AI projects in the public sector in Latin America and the Caribbean. Through a “snowball” methodology, surveys, and consultations, it was possible to verify that the region is indeed developing AI projects in different areas of public policy. We found a regional emphasis on public integrity and anti-corruption issues, as well as education, unlike in other regions.

The following figure compiles the topics into which the use cases studied are classified.

Enablers

The report also evaluated a series of enabling factors that allow building solid foundations for the use of AI in a reliable and public value-generating manner. This analysis highlights three major areas on which governments should focus their efforts to have solid public policy instruments to make efficient and responsible use of AI.

• First, governments should develop a responsible, trustworthy and human-centred approach that encompasses data ethics, ensures fairness and bias mitigation, provides for transparency and explainability of algorithms, drives safety and security, institutes accountability mechanisms, and applies an inclusive and user-driven approach.
• Second, governments should work on key governance capabilities, which include the need for strong political support and strategic stewardship; having an appropriate data infrastructure strategy; creating spaces for controlled experimentation through regulatory sandboxes; understanding public sector problems and the potential for artificial intelligence to solve them; and preparing for the future through forward-looking governance.
• Finally, there are a number of key enablers that can substantially improve the incorporation of AI in the public sector. These include data; funding; expertise, internal and external; and digital infrastructure.

The report looks at the assessment of these different enablers. The analysis provides insight into which countries have the greatest maturity in their AI policies, and where is room for improvement, considering the speed with which this new technology is developing. For example, the figure below summarizes which countries have built, relative to their peers, stronger capacities to create AI legal and ethical frameworks. This exercise was conducted in 16 other categories.

LAC country frameworks and mechanisms for trustworthy and ethical AI in the public sector

Recommendations

Finally, the report presents 13 recommendations in line with its four main messages:

• The adoption of a strategic approach;
• The promotion of responsible, reliable and human-centred guidance;
• Building key governance capacities; and
• Establishing critical enablers.

We hope that this report can strengthen international co-operation, peer-to-peer dialogue, and the exchange of experiences among the countries of the region. The OECD and CAF stand ready and available to support and accompany the governments of the region in this process. AI is an instrument that governments should consider today to improve their efficiency in the delivery of public services and their ability to respond to the changing needs of citizens. It is an engine of innovation and positive transformation, if we do it right!