Algorytmy sztucznej inteligencji są już w stanie wykrywać agresywne zachowania w sieci z 97-proc. skutecznością. Pozwala na to sztuczna inteligencja trzeciej fali, która polega na integracji uczenia maszynowego z ingerencją człowieka w schemat działania.
Dotychczas SI również wykrywała niebezpieczne zachowania, lecz tylko z 50-proc. skutecznością, więc każdy wysyłany przez nią alert musiał być zatwierdzony przez człowieka. Nowe podejście do budowania algorytmów pomoże nie tylko zapobiegać agresji słownej w sieci, ale również ostrzegać przed możliwą próbą samobójczą, a także działaniem pedofila czy terrorysty.
– Wprowadziliśmy nową metodę sztucznej inteligencji, która pozwala na reagowanie w czasie rzeczywistym. To jest sztuczna inteligencja, która potrafi na bieżąco albo usunąć treść, albo zareagować w inny sposób. Oczywiście najgorsze przekazy powinny zostać zablokowane, zanim dotrą. W zależności od regulaminu danego forum oraz od skali przemocy czy toksyczności danej treści jesteśmy w stanie również napomnieć osobę, która taką treść pisze, i wspomóc kogoś, kto taką treść dostaje, albo włączyć się do rozmowy jako czatbot, który w imieniu forum lub jako tajemniczy użytkownik będzie napominał lub włączał się w moderowanie automatycznie – tłumaczy w rozmowie z agencją informacyjną Newseria Innowacje Grzegorz Rutkiewicz, współzałożyciel i dyrektor zarządzający Samurai Labs.
Dotychczas sztuczna inteligencja mogła być wykorzystywana jako wsparcie w moderowaniu już istniejących w sieci wpisów. SI uczyła się dotąd na gotowych wzorcach, zatem jej sugestie opatrzone były dość dużym, bo aż 50-proc. błędem. Algorytmy stworzone przez Samurai Labs są rewolucyjne, ponieważ opierają się nie tylko na uczeniu maszynowym, lecz także doświadczeniach człowieka. W efekcie margines błędu wynosi zaledwie 3 proc. Dzięki temu sztuczna inteligencja może samodzielnie moderować treści, a nie czekać na interwencję moderatora. Takie podejście do budowania algorytmów nazywane jest neurosymbolicznym lub trzecią falą sztucznej inteligencji.
– Wykracza ona poza to, co jest obecnie standardem sztucznej inteligencji, czyli machine learningu. Machine learning polega na nauczeniu algorytmu, czyli wyuczeniu go na podstawie bardzo dużej ilości danych, które zostały przez ludzi oznaczone. Natomiast nie ma możliwości ręcznego zaingerowania w jego mechanizm tak, żeby uznać jakieś wyjątki, dodać nowe dane. Rozwinięcie takiego algorytmu odbywa się tylko przez kolejne iteracje uczenia go na coraz większych próbach danych. W naszym podejściu łączymy uczenie maszynowe z działaniem mechanizmu zaprojektowanego przez ludzi, w który możemy ingerować i na bieżąco uczyć go, wspomagając proces decyzyjny wiedzą ekspertów – wyjaśnia Grzegorz Rutkiewicz.
Trzecia fala sztucznej inteligencji została wykorzystana m.in. przez kalifornijski start-up do zbudowania platformy cyberbezpieczeństwa MixMode. Jest ona w stanie wykrywać ataki zero-day bez podpisu w czasie rzeczywistym. SI tworzy w MixMode ewoluującą, opartą na zachowaniu linię bazową sieci, co sprawia, że nie trzeba tworzyć reguł dla alertów.
Nowe podejście do budowania algorytmów wykorzystują także Polacy. I to nie tylko do wykrywania przemocy i wzmacniania zabezpieczeń sieci.
– Możemy także identyfikować innego rodzaju zagrożenia. W tym momencie rozwijamy również możliwość detekcji zachowań pedofilskich w internecie. Potrafimy też wykrywać myśli samobójcze wśród użytkowników internetu. Jeżeli jest osoba, która – co jest szczególnie istotne teraz w czasie pandemii koronawirusa – pisze, że szuka sposobu, żeby zakończyć swoje życie, to są sygnały, które wysyła światu. Jesteśmy je w stanie zidentyfikować i możemy sprawić, że taki automat, który będzie analizował bardzo duże ilości danych z różnych forów czy mediów społecznościowych, będzie w stanie to wychwycić i w porę kogoś zaalarmować. Chcemy także w niedalekiej przyszłości wykrywać te same treści w rozmowach głosowych. Będziemy też rozszerzać ich detekcję na przykład pod kątem nowych zagrożeń – zapowiada ekspert z Samurai Labs.
Według Mordor Intelligence światowy rynek sztucznej inteligencji w cyberbezpieczeństwie osiągnął w 2020 roku przychody na poziomie ponad 5 mld dol. Do 2026 roku rynek ma zwiększyć swoją wartość do ponad 14 mld dol.
Źródło informacji: newseria
