AIを信頼できますか？その答えが、AIから得られる価値を左右するかもしれません。

説明可能性を重視する

1年前、信頼の課題は主に生成AIに関するものでした。現在、組織はAIを信頼して業務を任せられるかどうかを評価する段階に入っています。AIが単にアウトプットを生成する段階から、意志決定やアクションを実行する段階へと進化するにつれて、信頼性はますます重要になっています。エージェンティックAIが議論の中心となってきた一方で、それに対する信頼はまだ追いついていません。

回答者の76％が、生成AIを信頼していると回答しています。しかしながら、エージェンティックAIを信頼していると答えた回答者はわずか66％にとどまっています。10ポイントの低下です。なぜでしょうか？それは、AIの自律性が高まるにつれて信頼は低下する傾向があるからです。

信頼の低下は、具体的な影響をもたらします。97.2％の回答者は、AIによる提案の少なくとも一部をオーバーライドすることがあると述べています。主な理由は、アウトプットの質が低いことではありません。説明とコンテキストが不足していることです。人々は判断に至ったプロセスを理解できなければ、AIに自分の代わりを任せることに慎重になります。

本レポートでは、エージェンティックAIへの移行に伴い、信頼性の重要性が高まる背景について、深く掘り下げています。

より良いデータを整備する

AIは依然として、データに関する課題を抱えています。2年目となる本調査の結果から、ほとんどの組織のデータ・インフラストラクチャが、エージェンティックAIに求められる説明可能性、データリネージ、検証を十分にサポートできていないことが明らかになりました。

エージェントによる意志決定を信頼するには、透明性を備えたデータ・インフラストラクチャが不可欠です。しかし、それを完全に最適化できている組織はわずか17.5％にとどまっています（昨年の10.2％からは上昇）。

意志決定の経緯を示すことができれば、その意志決定の正当性を説明できます。それができなければ、意志決定をオーバーライドする多くの組織と同じ状況に陥り、結果として投資を無駄にしてしまいます。

本レポートでは、データ成熟度の向上とAIの進展とのギャップについて、詳しく解説しています。

先進組織に学ぶ

信頼できるAIの先進組織とは？
本調査では、「データ品質とガバナンス」「モデルガバナンスと監督」「説明可能性と公平性」「責任あるAIポリシー」「監査と説明責任」という5つの観点から、AIの信頼性を評価しています。

これらの要素を総合したものが、「信頼性指数」です。この指数で80点以上のスコアを獲得した組織は、信頼できるAIの先進組織として分類されます。

2年にわたる調査から得られた最大の教訓は、信頼性とビジネス成果は連動するということです。信頼できるAIへの投資に最も積極的な組織は、市場の他の組織との差を広げ続けています。信頼できるAIの先進組織は、高いROIを報告する可能性が15倍高くなっています。しかし、その差は財務上の成果だけにとどまりません。先進組織は、ガバナンス、説明可能性、検証、従業員トレーニングに投資する傾向が高く、その結果、人々が信頼し、使用したいと思えるシステムを構築しています。

責任あるAIの実践において先行し、その結果として高いROIを実現している組織は、その優位性をさらに広げようとしています。実際、信頼できるAIへの投資を来年10%以上増やす予定であると回答した組織は、先進組織では85%に上る一方、後れを取っている組織ではわずか26%にとどまります。先進組織と後発組織の間にはすでに大きな隔たりがあります。先進組織が信頼できるAIへの投資を増やし続ける中で、その差を縮めることはさらに難しくなる可能性があります。

AI先進組織から得られた知見については、本レポートをご覧ください。