Przygnębiający, toksyczny charakter rozmów internetowych jest coraz większym problemem dla wielu serwisów. Google uważa jednak, że problem można rozwiązać poprzez używanie specjalnych komputerów, przeznaczonych do moderowania komentarzy.

Opracowano technologię, która wykorzystuje informacje przyswojone w celu identyfikacji problematycznych komentarzy. Program został opracowany w celu przeciwdziałaniu zagrożeniom bezpieczeństwa online, takich jak cyberprzemoc.

System uczy się na podstawie tysięcy rozmów internetowych, kategoryzując je i wychwytując te uznane za toksyczne, poprzez używane słownictwo. Co więcej, Google chce, aby system oceniał wiadomości jeszcze w trakcie ich pisania, na podstawie skali procentowej „toksyczności”.

Program został już wypróbowany przez New York Times, który użył go, aby moderować komentarze na swoim portalu. Nowe narzędzie pomogło moderatorom pracować z podwójną prędkością, dzięki czemu wzrosła liczba nowych wątków. Z opracowanej technologii korzystały także Wikipedia, Guardian oraz The Economist, a współpracę deklaruje także Facebook i Twitter. O dziwo, samo Google nie planuje póki co korzystać ze swojego tworu. Pytanie, czy system będzie potrafił działać w zgodzie z wolnością słowa?