Masz zaufanie do AI? Od odpowiedzi na to pytanie może zależeć to, jaką wartość AI dostarcza Twojej organizacji.

Wyjaśnialność

Rok temu zaufanie analizowano głównie w kontekście generatywnej AI. Dzisiaj – gdy w centrum uwagi jest agentowa AI – organizacje oceniają, czy mogą zaufać AI i powierzyć jej działanie w swoim imieniu. W miarę jak zmienia się zastosowanie AI, od generowania wyników do podejmowania decyzji i działań, zaufanie staje się coraz istotniejsze. Często jednak pozostaje ono w tyle.

GenAI cieszy się zaufaniem 76% respondentów. Zaufanie do agentowej AI deklaruje jedynie 66% respondentów. To aż 10% mniej. Dlaczego? Wraz ze wzrostem autonomii spada poziom zaufania.

Niższe zaufanie ma swoje konsekwencje. 97,2% respondentów przyznaje, że odrzuca co najmniej część rekomendacji AI. Główną przyczyną nie jest niska jakość wyników, ale brak wytłumaczenia i kontekstu. Gdy nie rozumiemy, w jaki sposób podjęto decyzję, jesteśmy mniej skłonni pozwolić AI na wykonywanie działań w naszym imieniu.

Raport szczegółowo wyjaśnia, dlaczego przechodzenie na agentową AI sprawia, że zaufanie staje się jeszcze ważniejsze.

Lepsza infrastruktura danych

Wyzwaniem w obszarze AI wciąż pozostają dane. Drugi rok badań pokazuje, że infrastruktura danych większości organizacji nie jest w stanie zapewnić pełnej wyjaśnialności, śledzenia pochodzenia i walidacji, jakich wymaga agentowa AI.

Tylko 17,5% organizacji dysponuje w pełni zoptymalizowaną infrastrukturą danych (wzrost z 10,2% w ubiegłym roku), która zapewnia przejrzystość niezbędną do zaufania autonomicznym decyzjom.

Kiedy możemy prześledzić, jak podjęto daną decyzję, mamy możliwość jej obrony. Jeśli nie jesteśmy w stanie tego zrobić, dołączamy do szerokiego grona tych, którzy odrzucają decyzje AI, marnując w ten sposób swoje inwestycje.

Pełna treść raportu pokazuje, że dojrzałość danych rośnie, ale wzrost ten nie nadąża za rozwojem AI.

Dołącz do najlepszych

Kim są liderzy godnej zaufania AI?
Badanie mierzy zaufanie do sztucznej inteligencji w pięciu wymiarach: jakość danych i zarządzanie danymi, zarządzanie i nadzór nad modelami, wytłumaczalność i bezstronność, polityka odpowiedzialnej AI oraz audyt i rozliczalność. 

Wszystkie te wymiary składają się na indeks zaufania (Trustworthiness Index). Organizacje, które uzyskują 80 lub więcej punktów, są klasyfikowane jako liderzy godnej zaufania AI.

Najważniejszym wnioskiem, jaki można wyciągnąć po dwóch latach badań jest to, że zaufanie i wyniki biznesowe są ze sobą ściśle powiązane. Organizacje, które mocno inwestują w godną zaufania AI wciąż wyróżniają się na tle rynku. Prawdopodobieństwo uzyskania wysokiego zwrotu z inwestycji jest 15 razy wyższe w przypadku liderów godnej zaufania AI, ale różnica wykracza poza wyniki finansowe. Liderzy częściej inwestują w zarządzanie, wyjaśnialność, walidację i szkolenia pracowników, tworząc systemy, którym ludzie są gotowi ufać i których będą chcieli używać.

Organizacje przodujące w odpowiedzialnej AI – a co za tym idzie osiągające najwyższy zwrot z inwestycji – podejmują działania mające na celu zwiększanie tej przewagi: 85% zwiększy swoje inwestycje w godną zaufania AI o 10% lub więcej w przyszłym roku, w porównaniu do zaledwie 26% organizacji, które pozostają w tyle. Różnica między liderami a organizacjami pozostającymi w tyle jest już teraz bardzo wyraźna. Jeśli liderzy będą kontynuować zwiększanie inwestycji w godną zaufania AI, zniwelowanie tej różnicy może stać się jeszcze trudniejsze.

Zapoznaj się z pełną treścią raportu, aby wyciągnąć wnioski z doświadczeń liderów AI.