Estudo global revela que muitas organizações governamentais dependem excessivamente de IA não comprovada

A maturidade da IA no setor público está a superar as salvaguardas de confiança

As organizações governamentais demonstram uma maturidade geral em IA surpreendentemente elevada, embora os investimentos do sector público em tecnologia de IA fiável e governação fiquem muitas vezes para trás. Isto sugere que as agências podem estar a implementar IA avançada com base numa infraestrutura de dados instável, aumentando o risco de resultados enviesados, violações de segurança e falhas operacionais dispendiosas. Esta conclusão baseia-se num relatório especial do SAS, focado no setor público, intitulado Data and AI Impact Report: The Trust Imperative, com insights de investigação da IDC.

O relatório explora o "dilema da confiança", em que as organizações subutilizam a IA fiável por não confiarem suficientemente nela ou dependem excessivamente de sistemas de IA que não foram adequadamente validados. Este desalinhamento, patente em todas as regiões, representa uma barreira crítica à adoção eficaz da IA ​​por parte do governo. O novo relatório governamental revela tendências na utilização e investimento em IA em diferentes regiões geográficas e como cada uma delas está a fazer na redução do fosso de confiança. Embora todos os setores mencionados no relatório estejam a lutar para ultrapassar o dilema da confiança, a missão singular do sector público torna a confiança essencial.

“Para que o setor público possa confiar na IA, esta precisa de gerar um valor claro, ao mesmo tempo que protege o bem-estar dos cidadãos”, disse Afshin Almassi, Public Sector & Healthcare Director do SAS Portugal, Espanha e França. “Para que este valor seja alcançado pelos cidadãos e pelas comunidades, é necessário alinhar a ambição e a prontidão em relação à IA. As conclusões do relatório sugerem que ainda temos trabalho a fazer para atingir este objetivo”.

Este relatório especial contém análises regionais da América do Norte, Europa, América Latina, META (Médio Oriente, Turquia e África) e Ásia-Pacífico. Inclui resultados de investigação sobre a infraestrutura de IA e dados do setor público em cada região, o seu nível de maturidade e a adoção fiável da IA, bem como mais informações sobre o “dilema da confiança”.

Equilibrar a velocidade da IA ​​com a responsabilidade pública

As organizações governamentais de todo o mundo estão a adotar rapidamente a IA, com uma maior utilização de agentic AI (52%) do que outros setores importantes, como a banca, a saúde e o retalho. No entanto, de acordo com o relatório:

• Apenas 6% das agências governamentais estão no estado “ideal”, com uma elevada confiança interna na IA e sistemas de IA comprovadamente fiáveis, a percentagem mais baixa entre todos os setores incluídos no relatório.
• Trinta e oito por cento das organizações governamentais estão a subutilizar salvaguardas de IA fiáveis ​​e a confiar excessivamente na IA, com uma percentagem surpreendentemente elevada a depositar grande confiança em sistemas de IA que podem ainda não ser totalmente fiáveis, como o GenAI.

Na verdade, os entrevistados do setor público confiam muito mais na IA GenAI do que no machine learning (ML). Apesar de anos de utilização comprovada do ML em funções como impostos e deteção de fraude, os líderes governamentais depositam mais confiança numa tecnologia menos explicável e mais propensa a erros.

Em termos de entrega de  trustworthy AI, as organizações governamentais ficam atrás dos setores dos seguros, da banca e das ciências da vida. Apenas 15,3% operam no nível mais elevado do Índice de IA Fiável do relatório, em comparação com a média global de 19,8%. Ficam também aquém das organizações bancárias e de seguros nas suas expectativas de investimento futuro em iniciativas de IA fiável.

“As agências governamentais estão a passar rapidamente da experimentação com IA para a utilização operacional, mas a confiança não pode ser assumida, especialmente quando os sistemas influenciam os resultados públicos”, disse Chris Marshall, vice-presidente de Dados, Análise, IA, Sustentabilidade e Investigação de Mercado da IDC. “Sem bases de dados sólidas e uma governação clara, a confiança na IA pode superar a fiabilidade, aumentando o risco tanto para os cidadãos como para as agências.”

Superar a lacuna de confiança na IA no setor público

Embora alguns governos estejam a progredir na incorporação de práticas fiáveis ​​de IA, a maioria ainda enfrenta lacunas significativas na centralização de dados, na AI governance ​​e no talento, o que dificulta a sua capacidade de concretizar plenamente o potencial da IA. A prontidão e as capacidades governamentais em IA variam muito de região para região, mas existem algumas consistências. De acordo com o relatório:

• Todas as regiões referem a falta de uma base de dados centralizada ou otimizada como o principal desafio para a implementação da IA.
• A falta de governação de dados é frequentemente apontada como o segundo maior desafio, com exceção da América Latina, onde ocupa o quarto lugar.

As organizações governamentais expressam fortes expectativas de crescimento nos investimentos em IA no próximo ano – 12,6% prevêem aumentos superiores a 20%, e quase metade espera um crescimento entre 4% e 20%. Os entrevistados consideram a eficiência e a eficácia dos processos como os caminhos mais prováveis ​​para concretizar o valor comercial da IA. Além disso, a produtividade pessoal é referida por mais de 60%, a taxa mais elevada entre os setores analisados.

Para além disso, o setor público é o único em que os entrevistados são mais propensos a destacar lacunas de competências entre os colaboradores em geral do que entre as equipas técnicas especializadas. Refletindo estes desafios, as organizações governamentais estão a dar prioridade aos investimentos na arquitetura tecnológica juntamente com o desenvolvimento de competências da força de trabalho.

“Independentemente da localização geográfica, muitas organizações do setor público têm planos ambiciosos para expandir a utilização da IA ​​nos próximos anos”, afirma Ravi Kant Sharma, Diretor de Investigação de Insights Governamentais da IDC Ásia-Pacífico. “O relatório indica que também compreendem os seus desafios. Investir no equilíbrio certo entre infraestruturas e tecnologias fiáveis ​​será fundamental para o sucesso das implementações de IA.”

Saiba mais sobre como os esforços do setor público para traduzir a promessa da IA ​​em valor comprovado para os cidadãos estão a ser feitos no relatório How trustworthy AI transforms public service