Česká pobočka operátora Vodafone se chystá spustit vlastní ochranu proti takzvaným deep fakům, tedy realisticky vypadajícím digitálním podvodům, jejichž výskyt akceleruje s tím, jak AI modely získávají nové schopnosti a stávají se dostupnějšími. Technologie vzniká díky spolupráci Vodafonu s českým výzkumníkem na Stanfordu. Operátor jí chce v budoucnu nasadit v rámci celosvětového skupiny Vodafone Group.
Deep fake začíná být skutečně velkým problémem. AI dokáže generovat věrný hlas, obrázky a video, realisticky vypadající smlouvy, faktury, občanky a další dokumenty a podobně. Zdaleka se nemnoží pouze scénáře typu “babička naletěla podvodníkovi vydávajícímu se za jejího vnuka”. Deep fake například hraje čím dál větší roli při šikaně na školách. Nepříjemné zkušenosti mají i tuzemští podnikatelé nebo odborníci na informační technologie, kteří nedokázali podvod rozeznat.
“Dříve jsme se hodně potkávali hlavně s falešnými hovory. Dnes podobné hrozby dostávají mnohem větší rozměry. Podvodníci se běžně vydávají za příbuzné a podobně. Dějí se i věci, kdy manažer společnosti uvěří tomu, že si volá s představenstvem a od něj dostane úkol, který vykoná,” shrnula Veronika Brázdilová, viceprezidentka divize Vodafone Business. “Nemůžete si být jistí, zda obraz, který vidíte, je reálný, nebo syntetický,” doplnila.
Mezi zástupce byznysu, kteří mají podobnou nedobrou zkušenost, je spoluzakladatel vývojářského studia Cleevio Lukáš Stibor, který takto přišel o vysoký obnos peněz. Je to paradoxní, protože právě Cleevio patří mezi firmy, které se v podnikání snaží nástup AI využít.
Appka Vodafone Verify
Pro operátory a další providery digitálních služeb je deep fake problém. Pokud uživatelé nebudou mít důvěru v technologie, nebudou je chtít tolik využívat, což ohrožuje samotné podnikání těchto hráčů. Zároveň se postupně zavádí regulace a často bývá mnohem lepší začít bojovat s problémy po vlastní ose než se pak nechat zavalit mnohem náročnějšími legislativními pravidly.
Předseda Rady Českého telekomunikačního úřadu Marek Ebert uvedl, že regulátor rád projekt Vodafonu podpoři, stejně jako jemu podobné. “Pro ČTÚ je pozitivní nejen jeho cílení na ochranu zákazníků, ale je to i vynikající příležitost si na konkrétních případech otestovat naši expertízu pro budoucí dozor dle Aktu o umělé inteligenci,” dodal Ebert.
Vodafone proto letos v září spustí aplikace Vodafone Verify, která v první fázi bude k dispozici na Google Play Store a Apple App Store pro běžné zákazníky. Tato appka umožní prohlédnout obsah jako jsou fotografie nebo videa (třeba z WhatsAppu) a následně uživateli sdělí, zda se jedná či nejedná o deep fake. Podobné nástroje začínají do svých bezpečnostních balíků integrovat tradiční dodavatelé antivirů. Například český Gen Digital provozuje službu Avast Deepfake Guard.
Vodafone zatím neuvedl, kolik používání aplikace bude stát, cena ale bude spíše nižší jakožto bonusová funkce k tarifům. Aplikace Verify každopádně bude dostupná pouze pro zákazníky Vodafonu.
Vhodné jako upsell
Ředitelka české pobočky operátora Violeta Luca uvedla, že Vodafone chce prodávat služby nad rámec poskytování konektivity a volání, do čehož Verify zapadá. Operátoři obecně hledají cesty, jak nebýt pouze takzvanými “hloupými trubkami”, které poskytují uživatelům konektivitu, na níž velkou marži dělají poskytovatelé obsahu typu YouTube, Netflix, Spotify, Apple, Uber a podobně. Takzvaný upsell dalších služeb je cestou, jak zvýšit marži. Například O2 hodně tlačí doplňkovou službu O2 Security, která pomocí brněnské technologie Whalebone filtruje kybernetické hrozby na úrovni sítě (DNS).
Vodafone Verify se v další fázi zaměří také na firmy a organizace. Ti budou moci využít třeba AI bota přidaného do hovorů v aplikacích typu Teams. Bot pozná, zda náhodou zaměstnanec nehovoří s podvodníky.
Modely z Prahy a Stanfordu
Technologii pro Vodafone Verify si operátor nevyvíjí sám, dodavatelem je český startup Synhawk, který aktuálně v Praze a San Francisku zaměstnává asi 28 lidí. Jeho hlavním představitelem je výzkumník Matyáš Boháček, který se oboru deep faků a ochraně proti nim věnuje na Stanfordské univerzitě v Kalifornii. Mnohými je považován za světovou špičku v oboru. Jeho výzkum naleznete zde.
Spoluzakladatelem Synhawku je také Lukáš Foral, který stojí za investiční společností Progresus. Foral pomohl Boháčkovi financovat jeho studia na Stanfordu a později jeho výzkum přenesli i do nového startupu.
Synhawk je zároveň jedním z představitelů mladé generace českých startupů zaměřených na AI, které ve svých oborech patří mezi nejlepší na světě. Například firma EquiLibre byla nedávno ohodnocena na 12 miliard korun, její AI využívá teorii učení a reinforcement learning pro obchodování na burze. Aisle zase dokáže hledat zranitelnosti IT systémů, podobně jako Mythos. Exaforce vyvíjející AI agenty pro kyberbezpečnostní centra se zase blíží statutu jednorožce.
Vlastní modely, žádný wrapper
Synhawk vyvíjí a trénuje vlastní foundation modely. Hawk rozumí struktuře lidské mluvy až do úrovně signálu. Právě díky těmto signálům dokáže odhalit, zda hlas není klonovaný nebo zmanipulovaný, a to včetně živých přenosů. Vyra je model pro video, který podobně umí během hovorů či KYC ověřování detekovat generovaný a podvodný obsah.
Boháček o přesném fungování modelů nejde do detailů. Důvodem je mimo jiné to, aby útočníci okamžitě neodhalili, jak Synhawk funguje a nemohli se lépe připravit na obejití jeho technologií. Modely nicméně neanalyzují samotný obsah, ale jsou trénovány tak, aby rozpoznaly signály generované deep faky. Jde o informace, které běžné oko či uši nezachytí. Modely se kontinuálně učí.
Boháček pro Lupu uvedl, že implementace Synhawku musí být v případě Vodafonu na úrovni sítě, respektive infrastruktury. Nejedná se o volání API, takže data nikam neodchází a vše běží v datacentrech operátora. Detaily opět nejsou kvůli smlouvám a obecné citlivosti k dispozici. “Zároveň nejsme žádný AI wrapper, který by jen obalil existující modely. Jsme nezávislí a modely si děláme sami,” doplnil Boháček.
Vodafone je pro Synhawk důležitým partnerem, díky němuž může technologii předvést v širším měřítku. Český Vodafone je první, kdo v rámci skupiny od září začne modely používat. Výkonná ředitelka mateřské Vodafone Group Margherita Della Valle během návštěvy Česka uvedla, že by řešení v budoucnu mohlo být implementováno i v dalších zemích, kde operátor působí.
Boháček doplnil, že aplikace nejenom pro Vodafone mohla časem mít další funkce a moduly, třeba rozšíření pro webový prohlížeč, aby šlo detekovat podvody během procházení sociálních sítí a tak dále. Startup ale bude novinky vymýšlet a nasazovat postupně a pokud možno citlivě. Časem může jít o něco jako novou generaci antivirů, které ale uživatelé mnohdy přestali brát v potaz, protože byly invazivní, spotřebovávaly velké hardwarové prostředky a tak dále. Ochrana proti deep fake i proto musí být co nejméně viditelná a invazivní.
Ochrana proti deep fakům bude podle českého výzkumníka velice důležitá. “Velká část uživatelů nedokáže tyto hrozby rozpoznat,” uzavřel.
- Chcete mít Lupu bez bannerů?
- Chcete dostávat speciální týdenní newsletter o zákulisí českého internetu?
- Chcete mít k dispozici strojové přepisy podcastů?
- Chcete získat slevu 1 000 Kč na jednu z našich konferencí?
Staňte se naším podporovatelem
