Podvody s umělou inteligencí se vymkly kontrole: Deepfakes se nyní zaměřují na novináře, politiky a vlády
Výbušné video z The Pulse: Jak podvodníci s umělou inteligencí cílí i na špičkové novináře a politiky – a proč „digitální identifikační číslo“ není řešením.
Nové, explozivní video od The Pulse se zabývá tématem, které donedávna znělo jako sci-fi – a nyní se dostalo doprostřed každodenního života: deepfaky, podvody s umělou inteligencí a digitálně manipulované identity , které útočí nejen na obyčejné občany, ale i na špičkové novináře a politické elity.
Video popisuje, jak se šíří deepfaky a podvody s umělou inteligencí : rodiče dostávají falešná tísňová volání od svých dětí, vyděrači používají dokonale napodobené hlasy a falešná čísla, která přesně odpovídají kontaktním údajům příbuzných. Co zní jako dystopický thriller, je nyní realitou.
Video ukazuje na obzvláště do očí bijícím případu, jak daleko to zašlo: americká investigativní novinářka Sharyl Attkisson – pětinásobná držitelka ceny Emmy a ceny Edwarda R. Murrowa – se stala terčem vysoce profesionálního podvodu s umělou inteligencí, který klamně napodoboval Donalda Trumpa a jeho šéfku kanceláře Susie Wilesovou .
Přejděte přímo k videu s německými titulky :
Případ Sharyl Attkisson: Kdy se i profesionálové mohou stát obětí podvodů s umělou inteligencí
Attkisson ve své zprávě pro Substack popisuje, jak podvod začal:
12. listopadu obdržela na svůj běžný mobilní telefon textovou zprávu – údajně z čísla Susie Wilesové, šéfky Trumpova personálu:
„Sharyl, naplánujme si hovor přes Signal.
Moje číslo Signal je 202-[upraveno].
Máte zprávu od prezidenta.
Děkuji, Susie, vedoucí kanceláře.“
Důležité: V té době Attkisson skutečně čekal na souhlas Bílého domu s rozhovorem s Trumpem. Kontext byl tedy vhodný – a přesně to podvodníci s umělou inteligencí zneužívají: vkládají se do reálných komunikačních situací.
Následuje celý týden:
- přerušené hovory Signalu,
- podivná vysvětlení („bezpečnostní síť“, „blokování skončí za pár dní“),
- a stále nová zpoždění.
Pak přichází další krok:
Prostřednictvím Signalu přijímá zvukové nahrávky , které zní jako skutečné hlasové zprávy od Susie Wilesové a Donalda Trumpa.
- Wilesův hlas: Omluvy, narážky na Tajnou službu, která údajně omezuje hovory.
- Pak zpráva „od prezidenta USA“:
Trump – nebo spíše dokonalá imitace umělé inteligence – jí údajně nabízí místo v představenstvu TikToku, včetně akcií, s tím, že si „soukromě najali čínskou společnost, aby regularizovala všechny členy představenstva“. Podrobnosti, jak hlas říká, budou upřesněny na schůzce.
Souběžně s tím přicházejí z čísla „Wiles“ další zprávy:
- Oznámení o setkání v Růžové zahradě Bílého domu
- Známky, že prezident „není spokojen se zpožděním“
- Požádejte o nákup minimálních akcií a kontaktujte poradce
Nakonec je to asi 21 500 dolarů předem plus 100 000 dolarů skladem – ale děsivá není částka, ale profesionalita :
„Hlasy mi přišly téměř dokonalé,“ píše Attkisson.
Podvodníci zřejmě použili vysoce sofistikované nástroje umělé inteligence , které potřebují jen několik sekund originálního zvuku k vygenerování klamně realistického hlasu.
Podvod se neskončil jen u ní:
Kontaktovala další osobu uvedenou v balíčku – která také potvrdila, že se stala obětí stejného podvodu. Nejedná se tedy o ojedinělý incident, ale o systematickou kampaň zaměřenou na několik osobností národního významu.
„Bezpečná“ komunikace? Signal, hacknuté mobilní telefony a konec dokazování.
Video Pulse zdůrazňuje další skutečně mrazivý moment:
Podvodníci použili Signal , aplikaci považovanou za „bezpečnou“, „šifrovanou“ a „důvěryhodnou“. Attkisson píše, že útočníci zřejmě:
„Trumpov skutečný zvuk byl zrcadlený, čímž byla ohrožena základní komplexní ochrana Signalu.“
Ať už bylo šifrování technicky narušeno, nebo útok „pouze“ zneužívá lidský aspekt zranitelnosti – výsledek je stejný:
Co na displeji vypadá bezpečně, ve skutečnosti bezpečné být nemusí.
Zpráva obsahuje i další šokující příklady:
- Britská energetická společnost přišla o 220 000 eur poté, co hlas generálního ředitele generovaný umělou inteligencí naléhal na zaměstnance k převodu peněz.
- Tom Hanks a Scarlett Johansson veřejně varují před deepfaky, které zneužívají jejich podobu k podvodným účelům.
- V USA je ročně hlášeno přes 845 000 případů podvodů s falešnými údaji – a do začátku roku 2025 se toto číslo téměř čtyřnásobně zvýšilo.
- Nástroje pro klonování hlasu jsou nyní k dispozici online zdarma nebo za neuvěřitelně nízkou cenu, inzerované jako „zábavné aplikace“ pro žertíky, ale hromadně používané k vishingu (hlasovému phishingu) .
Poselství:
Tato technologie již není elitářská ani vzácná – je dostupná, levná a škálovatelná. Obětí se může stát kdokoli, bez ohledu na svou „mediální gramotnost“.
Od swattingu k státnímu dohledu: Když se střetne podvod umělé inteligence se skutečným násilím
Ve druhé části video skupiny The Pulse navazuje na témata, kterým se Attkisson věnuje již léta:
- vládní dohled,
- Forenzně prokázaná špionáž proti ní a její rodině,
- Útoky typu „swatting“ (falešná tísňová volání, která spustí operace silně ozbrojené policie).
Otázkou zůstává:
Co vlastně brání komukoli ve vytvoření deepfakeu, který vypadá, jako byste plánovali zločin nebo se k němu přiznali?
Pokud jsou již zapojeny policie a zpravodajské služby:
- Shromáždit obrovské množství dat,
- političtí oponenti a novináři jsou monitorováni,
- a v minulosti překračovaly hranice –
pak kombinace:
- Hluboké padělky umělé inteligence ,
- Dohled ,
- agresivní bezpečnostní orgány
vysoce nebezpečná směs.
Zmanipulované video, falešný audiohovor, uměle vygenerované „přiznání“ – a najednou se objeví údajný důkaz , který v horkém klimatu sotva kdo zpochybňuje.
A teď „řešení“ technokratů: Digitální identifikační číslo pro každého?
Ke konci videa přichází bod, kdy už můžete hádat, co se bude dít dál:
Samozřejmě nám řeknou, že řešením podvodů s umělou inteligencí je – globální digitální identifikační číslo.
Moderátor pořadu Puls to vyjádřil asi takto:
- Lidé řeknou: „Jakmile bude anonymita na internetu zrušena, budeme moci lidi před takovými podvody ochránit.“
- Ve skutečnosti se jedná o podvod : zločinci, hackeři a zpravodajské služby nedodržují zákony – najdou způsoby, jak digitální identifikační údaje obejít nebo padělat.
- V případě pochybností bude zkopírován i váš digitální průkaz totožnosti a biometrická identita – pak máte nejen podvodníka, ale podvodníka, který obchoduje s vaší oficiální identitou.
Ostrá pointa:
„Jediný způsob, jak se chránit před způsobem, jakým může být umělá inteligence použita proti nám, je regulovat ji – ne zakazovat její regulaci. Někdo by to měl říct prezidentovi.“
Jinými slovy,
nejde o větší dohled, více digitálních řetězců ani o větší „infrastrukturu důvěry“.
Jde o toto:
- Omezení nástrojů umělé inteligence ,
- Ztížit zneužívání právními a technickými prostředky,
- a ne zavádět totální digitální kontrolu ve jménu bezpečnosti, v níž mají moc v konečném důsledku nesprávní lidé.
Závěr: Klamání umělou inteligencí jako páka pro stát digitálního dohledu?
Video Pulse používá příklad Sharyl Attkissonové k ukázání, jak daleko podvody s umělou inteligencí pokročily – a jak rychle se do nich mohou nechat vtáhnout i zkušení profesionálové.
Klíčové body:
- Deepfakes už nejsou hračkou, ale nástrojem pro podvody v hodnotě miliard dolarů .
- „Bezpečná“ komunikace již není spolehlivá bez skutečných technických a právních ochranných mechanismů .
- Další vlnu paniky a skandálů zneužijí právě ty síly, které již léta prosazují globální digitální identifikační údaje, permanentní sledování a kontrolu řízenou umělou inteligencí .
- A přesně tohle se prodává jako „ochrana“ – zatímco skuteční pachatelé a mocenské struktury v důsledku toho získávají jen větší přístup k našim životům.
Místo toho je potřeba zcela jiná debata:
ne „Jak zajistíme, aby byli všichni lidé plně identifikovatelní a sledovatelní?“ ,
ale spíše:
„Jak omezíme používání umělé inteligence, ochráníme základní práva a zabráníme tomu, aby se technologie stala dokonalou zbraní proti občanům, novinářům a politickým oponentům?“
Video Pulse jasně ukazuje jednu věc:
otázkou budoucnosti není , zda bude umělá inteligence využívána k podvodům, vydírání a politickým manipulacím – to se již děje.
Skutečná otázka zní: kdo tyto nástroje používá – a zda se nakonec probudíme s digitálním štítem, nebo v digitální kleci.
