Nejen banky si všímají, že množství rafinovaných podvodů za použití umělé inteligence (AI) roste. Běžně dostupné AI nástroje totiž pokročily až natolik, že se jim daří téměř k nerozeznání napodobit třeba obličeje a hlasy známých osobností nebo politiků (Důkazem toho byla naposledy například falešná videa s Andrejem Babišem či Vítem Rakušanem kolující po internetu). Banky od loňska poprvé evidují už i pokusy o navolávání klientů pomocí falešných robotických bankéřů, takzvaných „voicebotů“.

Pozor na „deepfake“ videa a při telefonickém hovoru s bankéřem si raději vždy ověřte, s kým mluvíte. Nikomu nesdělujte a ani nikam nezadávejte údaje ke kartě a svému účtu, radí bankovní experti kvůli rostoucímu počtu důmyslných pokusů o bankovní podvody za použití umělé inteligence. Celkem loni kyberpodvodníci podle dat České bankovní asociace napadli, nebo se pokusili napadnout více než 69 tisíc klientů. A dohromady je připravili podle dat ČBA o 1,35 miliardy korun.

„Právě v loňském roce jsme poprvé v masivnějším měřítku identifikovali využití AI na straně kyberpodvodníků. Jednalo se o vlnu podvodných telefonátů, v nichž se podvodníci vydávali za bankéře spořitelny,“ potvrdil pro deník Echo24 mluvčí České spořitelny Filip Hrubý. Podvodníci v tomto případě zneužívali příležitosti, která se jim naskytla kvůli migraci 2 milionů klientů mezi dvěma aplikacemi (nově klienti používají místo dvou aplikací George klíč a George v mobilu pouze druhou jmenovanou).

„Podvodníci kontaktovali klienty jak přímo telefonicky, tak pomocí SMS zpráv nebo skrze předem nahrané telefonické zprávy – zde využívali AI voiceboty – a vyzývali je pod záminkou nutnosti dokončení migrace k zadání jejich přihlašovacích údajů a následně také aktivního kódu k aplikaci George, čímž podvodníkům de facto umožnili kontrolu nad jejich digitálním bankovnictvím,“ popisuje Hrubý, jak může vypadat takový podvod. Jen spořitelna zaznamenala během podzimu a zimy 2023 v průměru 40 podvedených klientů každý měsíc, zatímco v prvním pololetí to bylo pouze 20.

Spořitelna jako jediná banka v Česku využívá při telefonickém hovoru s klientem ověření identity přes hlasovou biometrii, což je ekvivalent tradičnějšího podpisového vzoru. Nabízí se proto otázka, zda je takové ověření proti nástrojům pracujícím s automatickou syntézou (klonováním) hlasu konkrétního člověka bezpečné. Zatím ale nebyl zaznamenán žádný úspěšný pokus o prolomení takového ověření.

Hlasová biometrie zatím bezpečná

„Co se týče zranitelnosti hlasové biometrie, mohu říci, že jakkoli hlasová biometrie představuje jednu z oblastí, která bývá zmiňována jako potenciálně zranitelná, dosud jsme neidentifikovali úspěšné pokusy o prolomení hlasové biometrie skrze AI,“ dodal Hrubý. Ve Spořitelně ale aktuálně hlasovou biometrii využívá zhruba pouze 10 tisíc klientů (z cca 4,5 milionu).

Paradoxně, samy banky využívají umělou inteligenci v boji proti podvodníkům. Technologie, které banky mají, se totiž umí učit na základě milionů uskutečněných transakcí, včetně těch podvodných, a díky algoritmu mohou v reálném času detekovat potenciálně nebezpečné platby a zamezit jim.

„Začínáme s tím a funguje to lépe než předchozí model odhalování plateb. Loni jsme tímto způsobem identifikovali asi 20 tisíc potenciálně podvodných transakcí, každá čtvrtá byla skutečně podvodná. Když se rozsvítí kontrolka, upozornění přebírá lidský operátor, který vyhodnocuje relevanci upozornění a buďto volá klientovi, nebo upozornění vyhodnotí jako nerelevantní,“ uvedl za Českou spořitelnu Hrubý.

Trendu deepfake videí a „chytrých“ bankovních podvodů si všímá i třetí největší tuzemský bankovní dům podle počtu klientů KB. „Komerční banka v posledních měsících zaznamenává zvýšený počet podvodů, u kterých se kvalita provedení z pohledu technické dokonalosti (falešné stránky, emaily apod), ale i ve fyzické v podobě (falešných volajících) stále zvyšuje,“ řekl expert na prevenci karetních podvodů Komerční banky Pavel Šašek.

„Zatím nemáme potvrzeno využití automatického hlasu, ale určitě je potřeba s využitím AI na straně útočníků počítat. Zaznamenáváme i deepfake videa s různými známými osobnostmi (ať už politickými osobnostmi či celebritami). V těchto videích doporučují různé investiční platformy a je jasné, že jsou to videa s využitím AI technologie a tyto 'avatary´ osobností zneužívají k různým podvodům a prohlášením, které reálné osoby vůbec nikdy neřekly,“ dodává.

Podle Pavla Šaška musejí klienti dávat velký pozor, jak s platební kartou a údaji k účtu nakládají. Jedná se o jejich spojení mezi kontem a prostředky, které dlouho střádali. Mnoho klientů si to neuvědomuje, přitom peněženku nebo klíče od bytu by taky jen tak někomu nesvěřili.