AI를 어느 정도 신뢰하시나요? 신뢰의 수준에 따라, AI 구현에 따른 실질적 가치가 달라질 수 있습니다.

설명가능성에 집중

1년 전만 해도 신뢰는 주로 생성형 AI에 국한된 문제로 여겨졌습니다. 하지만 현 시점에는 AI에게 자율권을 맡길 만큼의 신뢰가 가능한지에 대해 기업의 평가가 이루어지고 있습니다. AI가 결과물을 생성하는 수준을 넘어 의사결정을 내리고 실제 행동을 수행하는 단계까지 발전하면서, AI의 신뢰성은 더욱 중요해지고 있습니다. 현재 에이전틱 AI가 논의의 중심에 있지만, 신뢰는 발전의 속도를 따라가지 못하는 상황입니다.

응답자들 중 76%가 생성형 AI를 신뢰합니다. 그러나 에이전틱 AI를 신뢰하는 응답자는 66%에 그칩니다. 10%나 낮은 수치입니다. 왜일까요? AI의 자율성이 커질수록 신뢰가 낮아지기 때문입니다.

이러한 신뢰 하락은 실제 결과로도 나타납니다. 응답자의 97.2%가 AI 추천 사항 중 적어도 일부를 재검토하거나 직접 개입한다고 답했습니다. 이는 출력된 결과물의 품질이 낮기 때문만은 아닙니다. 설명과 맥락이 부족한 것이 가장 큰 원인입니다. 사람들은 의사결정이 어떻게 이루어졌는지 알 수 없는 상태에서는 AI가 자신을 대신하여 행동하도록 쉽게 맡기지 않습니다.

전체 보고서에서는 에이전틱 AI로의 전환과 함께 AI의 신뢰성이 더욱 중요하게 부각되고 있는 이유를 자세히 살펴봅니다.

더 나은 데이터 구축

AI는 여전히 데이터라는 문제를 안고 있습니다. 2년째 진행된 이번 조사에 따르면, 대부분의 조직은 에이전틱 AI에 요구되는 설명가능성(explainability)과 검증 이력(lineage of validation)을 충분히 지원할 수 있는 데이터 인프라를 갖추지 못한 것으로 나타났습니다.

단 17.5%만이 에이전틱 AI 의사결정의 신뢰성에 필요한 투명성을 제공할 정도로 완벽하게 최적화된 데이터 인프라를 갖추고 있었습니다. 이는 지난해의 10.2%보다 증가한 수치입니다.

의사결정의 데이터 계보를 제시할 수 있다면, 그 근거를 설명하고 방어할 수 있습니다. 그렇지 못한 경우, AI의 의사결정을 매번 재검토해야 하는 대다수의 조직과 마찬가지로 AI 관련 투자가 무의미하게 됩니다.

전체 보고서에서는 데이터 성숙도가 향상되는 와중에도 그 속도가 AI의 발전을 따라가기에는 왜 충분하지 않은지를 자세히 분석합니다.

선두 주자 따라가기

신뢰할 수 있는 AI 리더의 특징은 무엇일까요?
이번 조사에서는 AI의 신뢰성을 데이터 품질 및 거버넌스, 모델 거버넌스 및 감독, 설명가능성 및 공정성, 책임 있는 AI 정책, 감사 및 책무성이라는 5가지의 차원에 걸쳐 측정합니다. 

이 5가지 차원이 모여 신뢰성 지수(Trustworthiness Index)를 구성합니다. 신뢰성 지수에서 80점 이상을 획득한 조직들은 신뢰할 수 있는 AI 리더로 분류되었습니다.

2년에 걸친 조사에서 얻은 가장 중요한 교훈은 AI의 신뢰성과 비즈니스 성과는 깊이 연관되어 있다는 점입니다. 신뢰할 수 있는 AI에 가장 적극적으로 투자하는 조직들은 시장 내 다른 경쟁자들과의 격차를 계속해서 벌리게 됩니다. 신뢰할 수 있는 AI 리더는 높은 ROI를 경험할 가능성이 15배 더 높지만, 이러한 차이는 재무 성과에만 국한되지 않습니다. 리더들은 거버넌스, 설명가능성, 검증, 직원 교육에 더 적극적으로 투자함으로써 사람들이 기꺼이 신뢰하고 사용할 수 있는 시스템을 구축해 나갑니다.

책임감 있는 AI와 그에 따른 ROI 측면에서 이미 앞서가는 조직들은 이러한 우위를 더욱 확대하고자 나서고 있습니다. 이들 중 85%는 내년에 신뢰할 수 있는 AI에 대한 투자를 10% 이상 확대할 계획인 반면, 후발 조직에서는 그 비율이 26%에 불과합니다. 리더와 후발 조직 간의 격차는 이미 상당합니다. 리더들이 신뢰할 수 있는 AI에 대한 투자를 계속 확대해 나간다면, 이 격차를 좁히기가 더욱 어려워질 수 있습니다.

전체 보고서를 다운로드하여 AI 리더들의 성공 전략을 살펴보세요.