Budoucnost dohledu? Microsoft zavádí funkci „Vždy sledovat“ pro každý počítač

Vítejte v budoucnosti, kde váš počítač ví o vašem životě více než vy, nejnovější vynález společnosti Microsoft, funkce Windows 11 Recall s umělou inteligencí, oznámená v pondělí na akci AI, je technologickým zázrakem, který si… pamatuje vše, co jste udělali. na vašem PC za poslední tři měsíce. Zní to prakticky, že? Jen pokud si dokážete zvyknout na myšlenku, že počítač hraje Big Brother.

Tato úžasná – nebo děsivá – funkce je v současnosti exkluzivní pro počítače Copilot+ s procesory Snapdragon X ARM. Ale nebojte se, uživatelé Intel a AMD: Microsoft nás ujistil, že pilně pracují na tom, aby do tohoto dystopického snu zahrnuli i vás. Recall pořídí snímek obrazovky aktivního okna každých pár sekund a promění obrazovku v jakýsi digitální deník. Tyto snímky jsou analyzovány on-device Neural Processing Unit (NPU) a modelem umělé inteligence za účelem extrahování dat a jejich uložení do sémantického indexu. Uživatelé tak mohou procházet svou historii nebo vyhledávat konkrétní okamžiky pomocí vyhledávání v lidské řeči. Jak pohodlné.

Zdá se, že tato funkce bude ve výchozím nastavení povolena. Microsoft s radostí vysvětluje: „Výchozí alokace pro Recall na 256GB zařízení je 25 GB, kam lze uložit přibližně 3 měsíce snímků. Alokaci paměti pro Recall můžete zvýšit v nastavení vašeho PC. Staré snímky jsou vymazány po vyčerpání přiděleného úložného prostoru, aby bylo možné uložit nové snímky.

Bezpečnostní? Jaké zabezpečení?

Podle Microsoftu Recall „nepořizuje snímky určitého obsahu, včetně relací procházení webu InPrivate v Microsoft Edge. Podobně zachází s obsahem chráněným pomocí Digital Rights Management (DRM); Stejně jako ostatní aplikace pro Windows, jako je Snipping Tool, Recall neukládá obsah DRM.“

Oh, to je uklidňující. Z vašich relací Netflix se tedy nepořizují žádné snímky obrazovky. Ale co zbytek? Vaše hesla, vaše soukromé e-maily, vaše bankovní údaje – vše je ohroženo. A pokud Microsoft Edge nepoužíváte, máte smůlu. Microsoft slibuje, že všechna tato data budou šifrována pomocí BitLockeru a uložena pouze na zařízení uživatele. Dokonce zaručují, že data nebudou sdílena s ostatními uživateli stejného zařízení a snímky obrazovek oken InPrivate nebudou uloženy v Microsoft Edge. Kupodivu se však nevyjádřili k tomu, zda se stejné zdvořilosti těší něco jako režim soukromých karet Firefoxu nebo Brave. Jaký má smysl používat technologie šetrné k soukromí, když operační systém sám zaznamenává vše, co děláte?

Na tiskové konferenci Yusuf Mehdi, Corporate Vice President & Consumer Chief Marketing Officer, zdůraznil konzervativní přístup společnosti. „Žádné z těchto informací nepoužíváme k trénování modelu AI a poskytujeme vám plnou kontrolu s možností upravovat a mazat vše, co je zaznamenáno,“ řekl Mehdi.

Udělejme však krok zpět a nadechněme se pronikavého pachu skepse. Velké technologické společnosti jsou proslulé zneužíváním uživatelských dat a Microsoft není zrovna omezující dítě. Britský úřad pro ochranu dat ICO (Information Commissioner’s Office) již zasáhl a požaduje ujištění, že uživatelská data budou chráněna.

Děsivé efekty

I když věříme společnostem, že se Microsoft nedotkne našich dat, dopady na bezpečnost a soukromí jsou obrovské. Recall nemá žádný rozdíl, když pořizuje snímky obrazovky, zachycující vše od důvěrných dokumentů až po vaše nedávné nákupy na Amazonu. Nezapomněli jste funkci deaktivovat? Váš partner nebo spolubydlící by při rychlém vyhledávání mohl narazit na vaše soukromé chvíle.

Nemluvě o obrovské propasti, kterou to vytváří pro kybernetické hrozby. Jakmile je vaše zařízení kompromitováno, všechna vaše pečlivě katalogizovaná data máte na dosah. Expert na kybernetickou bezpečnost Kevin Beaumont, častý kritik Microsoftu, přirovnal tuto funkci k „keyloggeru zabudovanému do Windows“ a poukázal na to, že malware může snadno ukrást databázi stažení a zneužít ji k nekalým účelům. V tom se nemýlí. Představte si, že by útočník nebo malware získal přístup k této pokladnici – přihlašovací údaje, citlivé dokumenty, soukromá komunikace, vše je odhaleno.

Priority Microsoftu zpochybněny

Microsoft se historicky snažil převést vinu na uživatele, když je zařízení kompromitováno. Zdá se, že tato nová funkce posouvá tuto filozofii na novou úroveň a vytváří další riziko v již tak nebezpečném digitálním prostředí. Satya Nadella, generální ředitel společnosti Microsoft, v nedávném e-mailu pro své zaměstnance zdůraznil důležitost upřednostňování bezpečnosti. „Pokud si musíte vybrat mezi zabezpečením a jinou prioritou, vaše odpověď je jasná: zvolte zabezpečení,“ řekl Nadella.

A přesto Microsoft s radostí zavádí funkci, která by mohla být pro hackery zlatým dolem. Pokud je to jejich představa o bezpečnosti, člověk se zachvěje, když si představí, jak by mohly vypadat méně bezpečné inovace.

Schopnost společnosti Recall zaznamenávat každou akci uživatele tím, že každých pár sekund pořídí snímky obrazovky a uloží je po dobu až tří měsíců, signalizuje hluboký posun ve způsobu, jakým technologické společnosti nahlížejí na naše soukromá data a nakládají s nimi. Nejedná se pouze o funkci, ale o otevřenou pozvánku do stavu sledování, kde je zaznamenáno a potenciálně sdíleno každé stisknutí klávesy, každé kliknutí a každý pohled. Je to proto, že se jedná o technologii, která nejen zaznamenává naše digitální aktivity, ale také normalizuje koncept, že každý okamžik, který strávíme na našich zařízeních, lze zaznamenat a analyzovat.

Kromě bezprostředních bezpečnostních rizik podkopává Recall důvěru v samotnou technologii. Uživatelé očekávají, že je jejich zařízení podpoří a nebudou sledovat každý jejich pohyb jako potenciální špióni. Tato funkce zpochybňuje důvěru a ztěžuje spotřebitelům uvěřit, že technologické společnosti mají na srdci jejich nejlepší zájmy.

Vznik end-to-end šifrování, VPN a soukromého prohlížení je způsoben rostoucí poptávkou veřejnosti po kontrole osobních údajů. Ale odvolání Microsoftu tento pokrok podkopává a vrací čas zpět do éry nekontrolovaného sběru dat. I přes příslib šifrování a místního úložiště s sebou shromažďování a indexování těchto dat nese rizika, která je obtížné, pokud vůbec, zmírnit.

Kyberzločinci by mohli využít tuto pokladnici informací ke krádeži identity, podvodům nebo průmyslové špionáži. Vlády by jej mohly využít ke sledování svých občanů.

Nejzáludnějším aspektem odvolání je precedens, který vytváří. Pokud Microsoft dokáže normalizovat tak rozsáhlý sběr dat pod rouškou užitečnosti, co zabrání dalším technologickým gigantům v následování? Již nyní jsme svědky neustálého nárůstu invazivních funkcí napříč technologickým prostředím – vzpomeňte si na zařízení pro chytrou domácnost, která naslouchají konverzacím, nebo na platformy sociálních médií, které sledují každou interakci a slouží k cílené reklamě. Odvolání tyto obavy mnohonásobně zvyšuje.

Představte si budoucnost, kde všechna zařízení, od chytrých telefonů po chytré chladničky, budou mít podobné „funkce“. Následky jsou děsivé. To nejen podkopává posvátnost soukromí, ale také vytváří právní a kulturní precedens pro podřízení soukromí pohodlí. Pojem osobního prostoru se i v digitálním světě stává reliktem minulosti.