01
Co AI dnes umí
Generované texty, hlasy, fotky a video. Ukážeme na příkladech, co se dá vyrobit za minuty a proč to mění práci s důvěrou.
Kurz · Umělá inteligence
Bezpečně s umělou inteligencí
AI umí psát, mluvit i volat hlasem vašeho ředitele. Naučíme váš tým poznat, čemu věřit, co do AI nástrojů nevkládat a jak nastavit pravidla, která lidé dodrží.
Pro koho Vedení, úřady, firmy Formát Praktický kurz Témata Deepfake, únik dat, pravidla
Hlas i video
deepfake vyrobí útočník za minuty
Únik dat
co tým vkládá do chatbotů
Pravidla
krátká a dodržitelná
Ověření
druhý kanál místo intuice
Pravidla pro AI musí být krátká a dodržitelná
Praktický dopad
Když hlas i obraz můžou lhát, musí rozhodovat ověřený postup.
Umělá inteligence mění to, čemu můžeme věřit. Z rizik deepfake, úniku dat a generovaného obsahu uděláme v kurzu pravidla, která tým zvládne používat každý den.
- 01
Co do AI nepatří
Pro osobní údaje, smlouvy, interní dokumenty a školní data nastavíme jasná pravidla.
- 02
Čemu už nevěřit automaticky
Hlas, video ani urgentní e-mail nestačí. Tým se naučí ověřovat druhým kanálem a zastavit falešnou autoritu.
- 03
Jak pravidla dostat do praxe
Krátký postup pro vedení, učitele, úřad nebo firmu: povolené nástroje, zakázané vstupy a kontrola výstupů.
Co se naučíte
02
Únik dat přes AI nástroje
Co zaměstnanci vkládají do chatbotů a překladačů: osobní údaje, smlouvy, interní dokumenty. Jak určit, co do AI nepatří.
03
Deepfake a podvodné scénáře
Falešný hlas ředitele, podvržená videokonference, urgentní platba. Jak tyto útoky vypadají a jak je zastavit procesem, ne intuicí.
04
Pravidla pro AI v instituci
Krátká interní pravidla, která lidé dodrží: povolené nástroje, zakázané vstupy, ověřování výstupů.
05
AI a žáci
Generovaný obsah jako nástroj kyberšikany a podvodů ve školním prostředí. Co má škola umět rozpoznat a jak reagovat.
06
Praktické ověřování
Jednoduché postupy, jak ověřit, co vidíte a slyšíte: zpětný kontakt, druhý kanál, kontrolní otázky.
Pro koho je kurz určený
01
Vedení škol a pedagogové
Generovaný obsah a falešné účty míří i na školy. Naučíme sbor, čemu nevěřit a jak reagovat.
02
Úřady a veřejné instituce
Úředník je terč podvodných výzev a deepfake hovorů. Dáme mu jednoduché ověřovací pravidlo.
03
Management a asistentky vedení
Falešný pokyn „od ředitele“ cílí právě sem. Nacvičujeme zpětné ověření dřív, než odejde platba.
04
Finanční a účetní role
Urgentní platba na základě hlasu nebo videa? Ukážeme, jak rozpoznat podvod a kdy zastavit převod.
05
HR a interní komunikace
Personalisté pracují s citlivými údaji, které nesmí skončit v AI nástrojích ani u útočníků. Nastavíme, co se nikdy nevkládá ven.
06
Sociální služby a zdravotnictví
Útočníci cílí na data klientů a pacientů. Naučíme tým chránit je i pod tlakem.
Falešný hlas ředitele už firmy stál miliony
Tyto případy se skutečně staly. Útočníci klonovali hlas i obraz vedení a přiměli zaměstnance poslat peníze. V kurzu nacvičujeme právě tento typ podvodu: jak deepfake poznat a zastavit ho ověřovacím postupem. Nezaručujeme, že se vás nikdo nepokusí podvést. Naučíme ale tým ověřovat dřív, než klikne.
Únor 2024 · deepfake na videohovoru
Arup: 25,6 mil. USD
Zaměstnanec hongkongské pobočky inženýrské firmy Arup se připojil na videohovor, kde „finanční ředitel“ i kolegové vypadali a mluvili jako živí lidé. Šlo o deepfake. Ve víře, že plní pokyn vedení, odeslal v 15 platbách 25,6 milionu dolarů (200 milionů HK$).
Co s tím děláme: Učíme tým nespoléhat na obraz ani hlas a každý požadavek ověřit druhým kanálem a zpětným telefonátem.
Zdroj: Fortune / CNN (2024)
Březen 2019 · klonovaný hlas ředitele
Britská energetická firma: €220 000
Ředitel britské pobočky dostal telefonát od „šéfa“ německé mateřské firmy. Hlas měl stejný přízvuk i melodii. Útočníci ho vyrobili pomocí AI. Pod tlakem urgentního pokynu odeslal 220 000 eur (cca 243 000 USD) na účet do Maďarska. Případ uvedl deník The Wall Street Journal podle pojišťovny Euler Hermes.
Co s tím děláme: Sám hlas není důkaz. V kurzu nacvičujeme ověření přes známé číslo a kontrolní otázku.
Zdroj: The Wall Street Journal / Euler Hermes (2019)
Začátek 2020 · klonovaný hlas + falešné e-maily
Bankovní převod v Hongkongu: 35 mil. USD
Manažer banky v Hongkongu dostal hovor od „ředitele“ firmy, jehož hlas znal, doplněný o e-maily od údajného právníka. Schválil převody v hodnotě 35 milionů dolarů na akvizici, která neexistovala. Vyšetřování v SAE podle soudních dokumentů popsal server Forbes.
Co s tím děláme: Kombinace hlasu a e-mailů obejde intuici. Proto nastavujeme postup ověření místo důvěry v jediný kanál.
Zdroj: Forbes (2021)až 25,6 mil. USD
odčerpal jediný deepfake podvod na videohovoru ve firmě Arup (2024). Hlas i obraz vedení byly falešné.
Zdroj: Fortune / CNN (2024)Umělá inteligence zblízka
Deepfake, dohled a školení týmu.
Co dál
Připravíme pravidla pro AI a kurz pro váš tým
V poptávce uveďte, koho chcete proškolit, v jakém oboru působíte a termín. Pošleme návrh programu a kalkulaci.
Bezpečně s umělou inteligencí ve vaší instituci
Pošlete nám stručnou poptávku. Program upravíme podle toho, zda jde o školu, úřad nebo firmu.
- Dlouhá 730/35, 110 00 Praha 1
- info@gbhdefence.com
- +420 252 548 480