A közösségi hálózat egy saját tervezésű, „kiképzett” algoritmust kezdett el használni, amely speciális minősítést rendel a képekhez, meghatározva, hogy illegális vagy „veszélyes” tartalmat tartalmaznak-e.
A technológia a képek szöveges címkéinek elemzésére is alkalmas.
A cég azt mondta, hogy a neurális hálózat képes meghatározni a képen látható objektumokat és entitásokat. Nemcsak az „embert”, „gyermeket”, „állatot”, „növényt” érti, hanem meg tudja határozni például a „halálcsoportok” szimbólumát is, pontosítja Izvesztyija.
Általában a neurális hálózatnak több ezer osztálya van, amelyek a fényképekhez vannak hozzárendelve – több paraméter szerint 0-tól 1-ig. Ha az algoritmus „veszélyesnek” minősíti a fotót, akkor azt ellenőrzésre elküldi a moderátoroknak. Ha a fényképet „közepesen veszélyesnek” ítélik, akkor eltűnik a keresési eredmények közül, és a hírfolyamban csökken a prioritása. A mechanizmus segít megállítani a spam, a csalás, a gyermekpornográfia, az illegális szolgáltatások és más illegális tevékenységek terjedését.
Külön szkriptet biztosítunk az öngyilkos tartalom kezelésére. A témával kapcsolatos bejegyzések és fotók automatikusan törlődnek, a szerzőik oldalai pedig letiltásra kerülnek.
Ha egy felhasználó feltölt egy képet, vagy megemlít olyan hashtageket, amelyeket korábban öngyilkosságra való felhívásként használtak, a VKontakte letiltja az oldalát, és felajánlja, hogy bejelenti a közzététel okait.
A válaszok alapján meghatározásra kerül, hogy mikor oldják fel az oldal letiltását, és további teendők: felkínálhatják a felhasználónak a Your Territory Foundation pszichológusainak segítségét vagy tanácsot az oldal biztonságával kapcsolatban.
Amint a VKontakte sajtószolgálatának vezetője, Jevgenyij Krasznyikov elmondta, a neurális hálózat az öngyilkosság témájához kapcsolódó képeket is megtalálja és eltávolítja, és a provokatív tartalmat közzétevő felhasználók oldalait az első bejegyzésig blokkolják. Az oldal tulajdonosát felkérik, hogy meséljen azokról az okokról, amelyek késztették őt egy ilyen kiadvány elhagyására. Ha valaki valóban öngyilkosságon gondolkodik, pszichológiai segítségre küldi az Ön Területe Alapítvány szakembereihez. Ha az indítékok eltérőek voltak – például a tiltott tartalom megtalálásának elősegítése érdekében, a felhasználónak fel kell vennie a kapcsolatot a VKontakte ügyfélszolgálatával.