V Česku a po celém světě už nějakou dobu bují všemožné podvody v digitálním prostoru založené na falešných webových stránkách napodobujících legitimní služby nebo na komunikaci přes WhatsApp, online bazary, SMS, e-maily a podobně. Často to končí špatně, uživatelé se nechají nachytat a pošlou útočníkům peníze, případně jim dají přístup ke svému bankovnictví. Nová česká služba ScamFlag chce v boji těmito praktikami pomoci.
“Běžné metody prevence podvodů přestávají fungovat. Podvodníci dnes obcházejí technické zabezpečení a útočí přímo na lidi,” upozornil Michal Tresner, výkonný ředitel brněnské společnosti ThreatMark, která ScamFlag vyvinula.
ThreatMark letos nabrala investici 23 milionů dolarů a celkově už 37 milionů dolarů, asi 900 milionů korun. Investory zaujala technologie z kategorie fraud prevention, která se dokáže učit na chování zákazníků bank a díky tomu odhalit, že se někdo snaží o neoprávněnou manipulaci s účtem. Do vytváření otisku zákazníků se promítají různé aspekty včetně používaného prohlížeče, rychlosti psaní, behaviorální biometrie a podobně. Banky integrují ThreatMark do svého internetového bankovnictví, u nás je to 12 z 15 těchto institucí.
ScamFlag může být další zajímavou vrstvou. Jde o nástroj založený na generativním AI agentovi schopném rozpoznat podvodné zprávy, inzeráty nebo e-maily. Agent byl natrénován na tisících reálných případů podvodného chování skrze kanály jako jsou chaty, SMS nebo e-maily.
Uživatelé mohou pořídit snímek obrazovky podezřelého obsahu, typicky konverzaci z marketplacu, a nahrát je do ScamFlagu. Ten během několika sekund poskytne zpětnou vazbu, zda jde o podvod či nikoliv. Nabídne i vysvětlení a rady, jak postupovat dále.
“Technologie analyzuje obrazovou i textovou vrstvu: extrahuje viditelný text, posuzuje jazykové vzorce (například manipulativní jazyk, nátlak, nevyžádané odkazy), ověřuje odkazy a bankovní účty proti interní databázi ThreatMark a veřejným zdrojům. ScamFlag dosahuje přibližně 99% přesnosti, při poskytnutí kvalitního podkladu,” shrnula firma pro Lupu.
“Z hlediska nasazení je ScamFlag k dispozici jako SDK pro integraci do stávajících mobilních aplikací (například bankovní aplikace) nebo jako API. Nevyžaduje samostatnou aplikaci a podporuje takzvané white label použití, včetně přizpůsobení vzhledu značce klienta. Využívá pouze oprávnění, která má hostující aplikace již udělena, třeba přístup ke kameře či úložišti – většinou pro QR platby. Data jsou zabezpečena, šifrována, zpracována a uchovávána výhradně v EU a nejsou sdílena s třetími stranami,” doplnil ThreatMark.
Útočníci sami pro podvody používají AI nástroje, třeba pro generování dokladů, automatizaci a tak dále. Firmy naopak postupně nasazují prvky AI na odhalování. Nekonečný boj tedy pokračuje. “Podvodníci jsou ti první, kdo novinky jako velké jazykové modely adaptují. Například se dramaticky zlepšila kvalita překladů u phishingových e-mailů a automatizují se útočné kybernetické kampaně,” upozornil Tresner.
Brněnský startup je toho názoru, že ScamFlag může změnit ochranu klientů bank před podvody a že se tato technologie na našem trhu stane standardem.
Podobného asistenta proti podvodům nabízí také další česká společnost, konkrétně Gen Digital (dříve Avast a NortonLifeLock). V rámci nabídky Norton je k dispozici bot Genie schopný analyzovat e-maily, SMS, hovory nebo weby a rozpoznat, zda nejde o podvody lákající uživatele na zadání platebních karet a podobně. S Genie si lze také pohovořit podobně jako s ChatGPT a zeptat se na rady.
“Objevila se nová generace podvodů. Útočníci mohou natrénovat AI modely na vašich datech stažených z internetu – kam cestujete, jaké máte zájmy, s kým jste propojeni a tak dále. Tím vznikne umělá entita, která je s vámi schopná cíleně interagovat. Je to éra hyperpersonalizovaných podvodů,” řekl Lupě Siggi Stefnisson, technický ředitel Genu pro kybernetickou bezpečnost.
Gen trénuje Genieho ve veřejných cloudech. Používá 10 petabajtů dat týkajících se kybernetických hrozeb.
