SAS pomaga zwalczać mowę nienawiści

SAS, lider branży analitycznej, dołączył do zainaugurowanej przez Instytut Polska Przyszłości im. Stanisława Lema kampanii społecznej „Ogarnij hejt” mającej na celu ograniczenie mowy nienawiści w przestrzeni publicznej.

(5 marca 2020 r.) - Hejt (od ang. hate) pod postacią nieprzychylnych, deprecjonujących, dyskredytujących lub nienawistnych treści zamieszczanych w Internecie, stanowi poważny problem społeczny. Według opracowanego przez Państwowy Instytut Badawczy NASK raportu „Nastolatki 3.0” , aż 48,8% polskich uczniów doświadczyło przemocy w cyberprzestrzeni. Moderatorzy portali, forów i mediów społecznościowych nie zawsze są w stanie odpowiednio szybko zareagować i usunąć krzywdzące treści. Z pomocą przychodzi sztuczna inteligencja, która na podstawie analizy tekstu pomaga zidentyfikować mowę nienawiści.

Sztuczna inteligencja rozpozna hejt

Systemy wykorzystujące sztuczną inteligencję, bazujące na regułach lingwistycznych, pozwalają nie tylko lokalizować w tekście konkretne słowa powszechnie uznawane za obraźliwe, ale także ocenić kontekst wypowiedzi oraz jej wydźwięk. Dzięki temu treść, która nie zawiera obraźliwych sformułowań, ale jest krzywdząca lub nacechowana pejoratywnie, będzie mogła zostać odpowiednio oznaczona. Przykładowo słowo „świnia”, w zależności od kontekstu, może być rozumiane albo jako obelga, albo jako nazwa zwierzęcia. Sztuczna inteligencja potrafi przeanalizować całe zdania i określić znaczenie użytych słów.

Należy pamiętać, że obraźliwy komentarz czy wiadomość nie muszą zawierać powszechnie znanych przekleństw czy inwektyw. Mogą to być określenia slangowe. Dzięki analizie ogromnych zbiorów danych system cały czas uczy się, jakie treści są niewłaściwe. Narzędzia do analizy tekstu znacznie ułatwiają pracę moderatorów, którzy nie muszą ręcznie sprawdzać tysięcy czy nawet milionów wypowiedzi. Ich zadaniem jest weryfikacja, czy system prawidłowo oznaczył daną treść - tłumaczy Mariusz Dzieciątko, Senior Business Solution Manager Data Science w SAS.

Przykładem rozwiązania służącego do analizy tekstu, które może zostać wykorzystane do walki z mową nienawiści jest SAS Visual Text Analytics. Rozwiązanie to wspiera 30 języków, w tym polski. Wbudowane narzędzia do stemmingu, czyli sprowadzania wyrazów do formy podstawowej, znacznie ułatwiają i przyspieszają proces analizy.

Instytut Polska Przyszłości im. Stanisława Lema i SAS walczą z hejtem

Kampania społeczna „Ogarnij hejt” została powołana do życia przez Instytut Polska Przyszłości im. Stanisława Lema, żeby przeciwstawić się przybierającej na sile epidemii mowy nienawiści w przestrzeni publicznej. W stworzonym przez Instytut przy współpracy z SAS spocie, osobom, które doświadczyły cyberprzemocy zadawane jest pytanie „co by powiedziały swojemu hejterowi, gdyby mogły go spotkać?”^[1]. Włączenie się przez SAS w kampanię „Ogarnij hejt” stanowi element programu „Data for Good”, który ma na celu przeciwdziałanie różnorodnym problemom społecznym współczesnego świata przy wykorzystaniu danych oraz zaawansowanej analityki. Liczne opisy podejmowanych przez SAS działań na rzecz dobra wspólnego można znaleźć na stronie „Data for Good”.

[1] https://www.nask.pl/pl/raporty/raporty/2593,Raport-z-badan-quotNastolatki-30quot-2019.html
[2] https://www.youtube.com/watch?v=QGTkgvIgBAk
[3] https://www.sas.com/pl_pl/news/informacje-prasowe-pl/2019/sas-zainwestuje-miliard-dolarow-w-sztuczna-inteligencje.html