S několika úpravami mohou chytré brýle Meta na první pohled zobrazovat jména, adresy a dokonce i podrobnosti o rodině

Rozpoznávání obličeje se dostalo do „Meta’s Google Glass“, známé také jako Ray-Ban Meta Smart Glasses. Je to neoficiální experiment „třetí strany“.

Dalo by se říci, že není moudré přinést tento druh nápadu Metě – ale znovu, nápad už přešel na mysl obra. Tato technologie existuje již nějakou dobu a jak Google, tak Facebook (Meta) uvedly, že ji vyvinuly před lety, ale pak ji podle bývalého generálního ředitele Erica Schmidta Google „zadržel“.

Technologie je dvousečná zbraň, která slibuje, že nám usnadní život a zároveň se tiše připravuje na den, kdy nás bodne kudlu do zad. Nejnovější nájezd Meta na nositelnou technologii – chytré brýle s vestavěným rozpoznáváním obličeje – přiměl technologické nadšence sbíhat sliny. Pro nás ostatní však návrh vyvolává znepokojivou otázku: Jsme svědky úsvitu technologické utopie nebo dystopické hororové show, v níž se každý veřejný prostor stává digitálním panoptikem?

Vize pohodlí s nádechem orwellovského hororu

Představte si to: procházíte se městem a vaše metabrýle vás informují, že sushi restaurace na rohu má na Yelpu pětihvězdičkové hodnocení nebo že cizinec, který se k vám blíží, má tři sdílené facebookové přátele. Zní to zajímavě, že? Dokud si neuvědomíte, že tytéž brýle mohou také okamžitě vysílat vaše jméno, adresu a váš poslední špatně koncipovaný tweet komukoli, kdo brýle vlastní a je jim to jedno. To je pravda: váš život je digitalizován a lze jej stáhnout v reálném čase.

Příslib rozšířené reality se z „užitečného digitálního asistenta“ posouvá k „požitku stalkera“ rychleji, než byste řekli „narušení soukromí“. V dystopii George Orwella vás sledoval Velký bratr. Verze Meta předá sledovací nástroje chlapům z vaší místní kavárny.

„Super technologie“ nebo maskovaný špionážní přístroj?

Meta samozřejmě namítne, že jeho úmysly jsou ušlechtilé. Budou citovat případy použití pro rozpoznávání obličeje, které tahají za srdce: pomoci zapomnětlivým starším lidem rozpoznat své blízké nebo pomoci orgánům činným v trestním řízení chytit padouchy. Ale nenechte se mýlit – tato technologie není jen o zapamatování tváře tety Margaret na Den díkůvzdání. Jde o data, moc a zisk.

Za takzvanou „chladností“ této technologie se skrývá nebezpečný vývoj. Dnes je to jen šikovný nástroj pro hledání přátel v davu. Zítra to bude nástroj volby pro identifikaci disidentů, vytváření profilů kupujících nebo určování vašeho sociálního kreditního skóre. Zapomeňte na veřejnou anonymitu; jakmile tato technologie dosáhne kritického množství, každý bude chodícím QR kódem, který lze naskenovat podle libosti.

A přiznejme si to: lidé, kteří z toho budou mít největší prospěch, nejsou babičky s problémy s pamětí. Jsou to korporace a vlády připravené zachytit každý pixel vaší tváře a každý bajt vašich dat.

Dystopická budoucnost: Přináší vám Meta

Pokud si chcete představit, kam to všechno směřuje, představte si budoucnost, kde se každá cesta stane expedicí pro sběr dat. Vaše brýle zaznamenávají každý váš pohyb, každou interakci a vše přenášejí do cloudu. Kdo má přístup k této pokladnici? Vlády, společnosti a – proč ne – hackeři.

Představte si společnost, kde je anonymita vymýcena a pouhý krok mimo vás dělá spravedlivou hru pro úsudek, sledování a manipulaci. Možná vám byla odepřena práce, protože vaše brýle vás na základě výrazu obličeje označily za „statisticky rizikového“. Možná jste cílem, protože vaše každodenní procházky naznačují začínající zájem o podložky na jógu. Nebo ještě hůř, jste označeni za „hrozbu“, protože jste se účastnili pokojné demonstrace, kterou nesprávný algoritmus označil za „podezřelou“.

Svět bez jakékoli důvěry

Psychologická daň by byla zničující. Život ve společnosti, kde je každý potenciální voyeur – a každý je sledován – ničí základy důvěry. Veřejné konverzace by byly soukromé. Osobní projev by zvadl. Vitalita veřejného života by se pod tíhou neustálého dohledu zhroutila. Tyto brýle by zkrátka mohly nejen narušit soukromí, ale také přepsat samotná pravidla sociální interakce.

Dostaneme se dovnitř nebo ven?

Otázkou není, zda se brýle Meta prodají – samozřejmě, že lákadlo nové technologie bude vždy větší než neurčitý strach ze společenského kolapsu. Skutečnou otázkou je, zda budeme jako společnost upřednostňovat pohodlí před soukromím a pokrok před autonomií. Nebo konkrétněji, zda se vůbec můžeme rozhodnout, když je technologie všudypřítomná.

Metaina vize budoucnosti by mohla být skvělým sci-fi filmem. Bohužel to budeme my, kdo v tom bude muset žít. A na rozdíl od filmů nebude žádný šťastný konec, kde hrdinové vytáhnou špunt zlých strojů. Protože tentokrát stroje nejsou nepřítel. To jsme my.

Od neúspěchu pokusu Google o „chytré brýle“ uplynulo pár let a krajina se změnila, méně z hlediska dostupnosti určitých technologií a více z hlediska ochoty je používat – například integrace strojového učení ( Velmi kontroverzní metody biometrického sledování založené na „AI“) jsou začleňovány do stále více produktů a služeb.

Přidání rozpoznávání obličeje k tomuto konkrétnímu metaproduktu je díky dvěma studentům Harvardu, kteří svůj projekt (I-XRAY) zdůvodňují především tím, že je „zajímavý a cool“.

Je to ale také varování před nebezpečím tohoto typu integrace. 404 Media tomu říká „automatické doxxování “ .

Výsledky „cool“ projektu jsou celkem jasné – masivní zásah do soukromí nic netušících lidí. A vrhá světlo na to, co se stane, když se rozpoznávání obličeje použije v jiných scénářích, od vlád, vymáhání práva, míst, finančních služeb.

Zde se někdo, kdo nosí „chytré brýle“ Mety upravené studenty – AnhPhu Nguyen a Caine Ardayfio – dívá na cizince, jehož tvář je následně identifikována a odtud jsou získávána osobní data o nich z internetu, kupř. B. Telefonní číslo, adresa domů a dokonce i informace o jejich rodinných příslušnících.

V ukázce, kterou studenti zveřejnili Po několika sekundách se na vašem telefonu objeví osobní údaje.“

Autoři přizpůsobených brýlí zašli dokonce tak daleko, že se natáčeli, jak se přibližují k cizím lidem, k jejichž osobním údajům se bez jejich vědomí dostali, a nepravdivě tvrdili, že se setkali na nějaké akci (prý proto, že byli z on-line přítomnosti dotyčné osoby zjištěno, že byli tam).

Podle Nguyena se používání brýlí s přidaným rozpoznáváním obličeje může pohybovat od networkingu, žertů a vtipných videí až po pronásledování.

Ardayfio ze své strany informoval o reakci člověka, který viděl, jak jím upravené brýle fungují. „Jak znáš telefonní číslo mé matky?“ zeptal se „cíl“.

A zatímco Google a Meta v minulosti uvedly, že by fotoaparáty s rozpoznáváním obličeje nekombinovaly, protože by to byla příliš velká překážka i na jejich standardy, jiní se mezitím tak „ostýchali“.

Zatímco společnosti udržují svůj software a metody v tajnosti, studenti Harvardu tvrdí, že byli schopni upravit brýle Meta pomocí PimEyes – veřejně dostupného vyhledávače obličejů a zpětných obrázků.

Poté je nasazen velký jazykový model (LLM), který spojuje obličej se jménem a dalšími osobními informacemi, a nakonec „I-XRAY provádí vyhledávání na webu pro vyhledávání lidí (data broker),“ píše publikace.

Zpráva se zmiňuje o hodně diskutované a kritizované společnosti Clearview, která jde v podstatě stejnou cestou k vývoji nástrojů využívajících biometrická data ke sběru, porovnávání a spárování osobních údajů z internetu. Problém je v tom, že v tomto případě nejde o „cool“ experiment, ale o velkou sledovací společnost s vládními zákazníky, především orgány činnými v trestním řízení.

Dalším projektem společnosti Clearview jsou také „chytré brýle“ s vestavěnou technologií rozpoznávání obličeje a zpráva uvádí, že studie na toto téma zahrnuje smlouvu s americkým letectvem.

Metaina odpověď na žádost o komentář zněla trochu podrážděně.

„Technologii rozpoznávání obličeje PimEyes lze použít s JAKOUKOLIV kamerou, že? Jinými slovy, není to něco, co je možné pouze díky Meta Ray-Bans? Pokud ano, je to důležitý bod, který je třeba v článku zmínit,“ odpověděl mluvčí.

Jinými slovy, nedokáže uznat, že Meta prodává produkt, který lze snadno proměnit v nebezpečný nástroj extrémně narušující soukromí.

Jedním z důvodů, jak uvádí článek, je to, že Meta Ray Ban 2 vypadá jako kterýkoli jiný pár brýlí (kromě malého LED indikátoru při natáčení), což znamená, že lidé si velmi pravděpodobně neuvědomují nebezpečí, na rozdíl od „KAŽDÉHO “ další kamera namířila na její obličej.

Ale nemá Meta přísné podmínky použití, aby chránila širokou veřejnost před zneužitím svých „chytrých brýlí“?

Mluvčí Meta odkázal na podmínky použití aplikace, která je součástí brýlí, Facebook View. „Jste také odpovědní za používání Facebook View bezpečným, zákonným a respektujícím způsobem,“ stojí v podmínkách.