Podvody v online prostoru nabírají na intenzitě, přičemž řada z nich využívá moderní technologie, jako je umělá inteligence a deepfake. Případ, který otřásl základy firemního zabezpečení, se odehrál v roce 2024, kdy zaměstnanec hongkongské pobočky britské firmy Arup byl podveden falešným videohovorem. Podvodníci se vydávali za důvěryhodné manažery, což vedlo k přeposlání více než 25,6 milionu dolarů na různé účty. Většina lidí ani netuší, že pew podvody mohou vypadat tak přesvědčivě.
Podvod začal podezřelým mailem, ve kterém reverzivně vypadající finanční ředitel žádal rychlé vyplacení peněz. Zaměstnanec, podezírající phishing, se rozhodl vše ověřit na videoporadě, kde podle popisu viděl a slyšel zcela věrného manažera. Na základě této důvěryhodně vypadající interakce pak poslal peníze, přičemž se později dozvěděl, že k žádnému hovoru ani příkazu ve firmě nedošlo. Tento případ se stal jedním z nejcitovanějších příkladů úspěšného podvodu založeného na technologiích deepfake.
Podle bezpečnostních expertů se tento typ podvodů stává stále běžnějším. Generativní AI nyní dokáže realisticky klonovat hlasy a vytvářet videa, která dokonale napodobují známé osobnosti, což vyvolává vážné obavy o digitální bezpečnost a důvěru. Aneta Šeráková z bezpečnostní firmy GEN upozorňuje na zvýšené riziko, které tyto technologie přinášejí, když uvádí, že staré podvody se díky umělé inteligenci stávají stále sofistikovanějšími a věrohodnějšími.
Problém s podvody zakládajícími se na umělé inteligenci potvrzují i další výzkumy a expertizy. Podle zpráv z posledních dvou let digitální prostor čelí záplavě podvodů vytvářených umělou inteligencí. Tyto transakce často zaměňují oběti natolik, že nejsou schopny rozlišit mezi pravou a falešnou identitou. Policie doposud nezjistila identitu pachatelů, což vzbuzuje obavy o bezpečnost firemních a osobních dat.
Bezpečnostní odborníci vyzývají k větší opatrnosti a doporučují, jak se bránit proti takovým typům podvodů. Mezi doporučení patří ověřování identit osob, s kterými lidé komunikují, a to i prostřednictvím alternativních kanálů, jako je telefonní hovor nebo osobní setkání. Dalším opatřením může být vzdělávání zaměstnanců o potenciálních hrozbách a zavádzání technologií, které dokážou odhalit nebo zmírnit dopad AI podvodů.
Na závěr, stále častěji zaznívají výzvy k vypracování efektivnější legislativy, která by byla schopná reagovat na neustále se vyvíjející hrozby v digitálním světě. Otázky digitální důvěry a bezpečnosti budou i nadále mít zásadní význam pro ochranu osobních a firemních informací v době, kdy technologie pokročily ke zcela novým výšinám.