La confianza ya no es una estrategia defensiva; es una ventaja ofensiva.
La IA está en todas partes, pero el sentimiento en contra de la IA va en aumento. ¿Por qué? Porque la confianza no ha avanzado al mismo ritmo que la adopción. En su segundo año, el Informe sobre el impacto de los datos y la IA analiza cómo las organizaciones de todo el mundo adoptan la IA, generan confianza en ella y obtienen valor de negocio.
La investigación de este año demuestra que la realidad se está imponiendo. A medida que las organizaciones pasan de la IA generativa a sistemas más autónomos, la confianza se convierte en el factor que separa el éxito del estancamiento.
Enfoque en la explicabilidad
Hace un año, hablar de confianza era referirse, ante todo, a la IA generativa. Hoy, las organizaciones evalúan si confían en que la IA actúe en su nombre. A medida que la IA pasa de generar resultados a tomar decisiones y actuar, la confiabilidad adquiere cada vez más importancia. La IA agéntica ocupa ahora el centro de la conversación, y la confianza lucha por mantener el ritmo.
El 76% de los encuestados confía en la IA generativa. Sin embargo, la IA agéntica solo cuenta con la confianza del 66%. Un descenso de 10 puntos porcentuales. ¿Por qué? Porque la confianza disminuye a medida que aumenta la autonomía.
La disminución de la confianza tiene consecuencias. El 97.2% de los encuestados afirma anular al menos algunas recomendaciones de IA. La razón principal no es la mala calidad de los resultados. Es la falta de explicabilidad y de contexto. Cuando los usuarios no comprenden cómo se llegó a una decisión, se muestran menos dispuestos a permitir que la IA actúe en su nombre.
La confianza disminuye a medida que aumenta la autonomía de la IA.
Confíe en la IA generativa
Confíe en la IA agéntica
Construya mejores datos
La IA sigue teniendo problemas con los datos. El segundo año de esta investigación demuestra que la mayoría de las organizaciones poseen infraestructuras de datos incapaces de respaldar por completo la explicabilidad y la trazabilidad de la validación que requiere la IA agéntica.
Solo el 17.5% cuenta con una infraestructura de datos totalmente optimizada (frente al 10.2% del año pasado) que proporciona la transparencia necesaria para confiar en las decisiones autónomas.
Cuando se puede mostrar la trazabilidad de una decisión, es posible defenderla. De lo contrario, pasará a formar parte de ese gran grupo que anula las decisiones y, por lo tanto, desperdicia su inversión.
La madurez de los datos sigue siendo una barrera importante
Infraestructura optimizada hoy
Infraestructura optimizada el año pasado
Siga a los líderes
¿Qué es un líder en IA confiable?
Esta investigación mide la confiabilidad de la IA a través de cinco dimensiones: calidad y gobernanza de los datos; gobernanza y supervisión de modelos; explicabilidad y equidad; políticas de IA responsable; y auditoría y rendición de cuentas.
En conjunto, estas dimensiones forman el Índice de confiabilidad. Las organizaciones con una puntuación de 80 o superior se clasifican como líderes en IA confiable.
La mayor lección de estos dos años de estudio es que la confiabilidad y los resultados del negocio van de la mano. Las organizaciones que invierten de forma más decidida en IA confiable continúan distanciándose del resto del mercado. Los líderes en IA confiable tienen 15 veces más probabilidades de obtener un ROI sólido; sin embargo, la diferencia va más allá del rendimiento financiero. Los líderes tienen una mayor propensión a invertir en gobernanza, explicabilidad, validación y capacitación de los empleados, creando sistemas en los que los usuarios confían y que adoptan activamente.
Los líderes en IA responsable, y por extensión en ROI, están tomando medidas para ampliar su ventaja: el 85% aumentará su inversión en IA confiable en un 10% o más el próximo año, frente a solo el 26% de las organizaciones rezagadas. La brecha entre líderes y rezagados ya es significativa. A medida que los líderes continúan aumentando su inversión en IA confiable, esa brecha será cada vez más difícil de cerrar.
Lea el informe completo para conocer las lecciones de los líderes en IA.
Crecimiento previsto en la inversión en IA confiable
Organizaciones de alta confianza
Organizaciones de baja confianza
Panorama del sector
Aunque cada sector se enfrenta a diferentes regulaciones, riesgos y prioridades, se observa el mismo patrón en todo el estudio: las organizaciones que invierten en IA confiable superan sistemáticamente a las que no lo hacen.
Seleccione su sector y explore más detalles
Banca
Lo más destacado
Los bancos están aplicando sus décadas de experiencia en gestión de riesgos y cumplimiento normativo a la IA, lo que ayuda a generar confianza y a obtener mejores resultados. El 85% de los líderes en IA confiable del sector bancario ha implementado políticas de IA responsable para todos sus empleados, frente a solo el 29% de las entidades rezagadas.
Preocupación clave
A medida que la IA se vuelve más autónoma, la supervisión sigue siendo un reto. El 38% de los líderes en IA confiable cita la gestión de la autonomía y la supervisión humana como una preocupación, frente al 12% de las entidades rezagadas.
La adopción de políticas de IA responsable fomenta la confianza en la banca
Organizaciones de IA de alta confianza
Organizaciones de IA de baja confianza
Además, los bancos con alta confianza tienen 6.6 veces más probabilidades de obtener un ROI sólido en IA.
Seguros
Destacado
El sector de seguros ofrece uno de los ejemplos más claros de cómo la IA confiable y el rendimiento del negocio van de la mano. El 59% de los líderes en IA confiable registra un ROI sólido o alto en sus iniciativas de IA. Entre las entidades rezagadas, esa cifra desciende al 0%.
Preocupación clave
A medida que la IA se escala, es cada vez más importante mantener el equilibrio adecuado entre autonomía y supervisión. El 34% de los líderes en IA confiable identifica la gestión de la autonomía y la supervisión humana como una preocupación clave.
La alta confianza en la IA genera un mayor ROI en el sector seguros
Aseguradoras de alta confianza
Aseguradoras de baja confianza
Ciencias de la vida
Lo más destacado
Las organizaciones de ciencias de la vida están aprovechando sus prácticas consolidadas de calidad, auditoría y cumplimiento para reforzar la gobernanza de la IA. El 91% de los líderes en IA confiable cuenta con políticas de IA responsable para todos los empleados, frente a solo el 7% de las entidades rezagadas.
Preocupación clave
La base de datos sigue siendo fundamental. El 62% de los líderes en IA confiable cita la privacidad de los datos como una preocupación, lo que refleja la sensibilidad y complejidad de la información que gestionan.
Las políticas de IA responsable llegan a todos los empleados
Organizaciones de mayor confianza
Organizaciones de menor confianza
Sector público
Las organizaciones del sector público están aumentando la inversión en IA confiable a medida que expanden su uso en servicios orientados al ciudadano y en el soporte para la toma de decisiones. El 41% de los líderes en IA confiable planea aumentar su inversión en este ámbito en más del 20% el próximo año, la tasa más alta de cualquier sector analizado.
Prioridad
La transparencia sigue siendo un obstáculo clave. El 41% de los líderes en IA confiable identifica la explicabilidad y la transparencia como una brecha pendiente, frente al 26% de las entidades rezagadas.
El 41% de los líderes en IA prevé incrementos significativos en el gasto en IA confiable
Incremento de la inversión en IA confiable
La tasa más alta de cualquier sector analizado.
Las brechas de confianza se están reduciendo en sectores como las ciencias de la vida y los servicios financieros; en este escenario, el estudio destaca las prácticas que generan un impacto real en entornos regulados. Esta perspectiva resulta esencial para aquellos sectores donde la supervisión es primordial y donde fortalecer la confianza y la gobernanza es clave a medida que la IA adquiere mayor autonomía. Mona Chadha Director of AI & Strategic Partnership Amazon Web Services
Más sobre la confianza en la IA
Conecte los hallazgos de este año con las tendencias globales que están transformando las empresas y la tecnología.
