Chcete, aby vám byly potraviny doručovány s rozpoznáváním obličeje nebo bez něj?
Google vydělal miliardy díky „kapitalismu sledování“, kdy získává data z vyhledávacích dotazů a prodává je inzerentům jako behaviorální predikce. Kroger dosáhl obrovských zisků díky „cenám sledování “, které shromažďují osobní údaje za účelem určení nejvyšší ceny, kterou jste ochotni zaplatit za jednotlivé produkty. Nové nástroje, jako jsou elektronické etikety na regálech (ESL) a rozpoznávání obličeje, rozšiřují dosah cen sledování.
Kroger maximalizuje zisky během vašeho nakupování v obchodě pomocí sledování cen a poté profituje z dohledového kapitalismu tím, že prodává všechna data, která o vás shromáždil, tomu, kdo nabídne nejvyšší cenu. Například máte pocit, že byste mohla být těhotná, ještě než si uděláte těhotenský test. Jdete do Krogeru nakoupit potraviny. Obvykle si čas od času koupíte multivitamin (obchod vaše nákupy celou dobu zaznamenává), ale dnes si místo toho spontánně vezmete prenatální vitamíny. Nikdo neví, že jste těhotná, a ani vy si nejste jistá. Obchod pomocí rozpoznávání obličeje určí, že jste mladá žena v plodném věku. Bingo! Ještě než den skončí, vidíte ve svých e-mailech, na sociálních sítích a dokonce i na své chytré televizi cílené reklamy na produkty související s těhotenstvím. Útok začal. —Patrick Wood, editor.
Pokaždé, když vejdete do obchodu s potravinami, vstoupíte do datového stroje, který sleduje, analyzuje, sdílí a ovlivňuje vaše nákupní chování. Na základě vaší nákupní historie a dat sdílených datovými makléři – včetně historie prohlížení internetu a online nákupů – mohou obchody s potravinami odvodit váš věk, pohlaví, etnickou příslušnost, ekonomické postavení, složení rodiny, zdravotní stav nebo další charakteristiky životního stylu. Obchody s potravinami mohou nakupující kategorizovat jako „fitness zaměřené a necenově orientované“, pokud často nakupují biopotraviny a navštěvují webové stránky posiloven, nebo jako „nastávající matky s batoletem“, pokud si kupují prenatální vitamíny a online hledají oblečení pro batolata. Obchody s potravinami vytvářejí podrobné profily spotřebitelů, aby ovlivnily nákupní rozhodnutí, která zvyšují jejich zisky, ať už prostřednictvím různých cen nebo personalizovaných slev a nabídek – na úkor spotřebitelů. Ještě horší je, že obchody s potravinami také prodávají data, která o vás shromažďují, jiným společnostem, čímž dále zvyšují své zisky a zároveň narušují soukromí spotřebitelů.
Stanovení cen na základě sledování je stále běžnější praxí založenou na shromažďování obrovského množství dat o zákaznících, vyvozování závěrů o charakteristikách zákazníků a používání těchto závěrů k určení ceny, kterou každý zákazník platí za produkty – to vše s cílem maximalizovat zisk. Společnosti, které praktikují stanovování cen na základě sledování, porušují soukromí spotřebitelů tím, že tajně shromažďují data o spotřebitelích a používají je k neočekávaným a kontextově vytrženým účelům, ohrožují jejich autonomii skrytou manipulací s jejich rozhodnutími a vytahují více z toho, co zákazníci nakonec za produkty zaplatí.
Společnost Kroger nedávno upoutala pozornost zákonodárců a médií kvůli svému potenciálnímu využití rozpoznávání obličejů ke zvýšení cen za monitorovací služby a používání elektronických štítků na regálech (ESL) k profilování zákazníků a cílení na ně s vyššími cenami. Ačkoli Kroger od té doby prohlásil, že nemá v plánu identifikovat obličeje zákazníků na digitálních displejích, tento řetězec supermarketů používá ESL již léta.
Bez ohledu na to, zda se používá rozpoznávání obličeje nebo technologie ESL, je monitorování cen již realitou a poškozuje spotřebitele narušováním jejich soukromí a zvyšováním ceny zboží denní potřeby. Tento blogový příspěvek vysvětluje, proč monitorování cen představuje pro spotřebitele problém s ochranou soukromí, jakou roli hrají technologie ESL a rozpoznávání obličeje a jaké dvě ponaučení si z toho můžeme vzít: (1) potřebu regulace minimalizace dat a (2) potřebu regulace technologií rozpoznávání obličeje.
Proč ceny za sledování porušují soukromí více než dynamické ceny
Cenové sledování označuje praxi společností, které shromažďují nebo získávají individualizované osobní údaje o svých skutečných nebo potenciálních zákaznících a používají různé techniky k nabízení různých cen konkrétním spotřebitelům za stejné zboží nebo služby s cílem dosáhnout vyšších zisků. Cílem cenového sledování je na základě shromážděných údajů o zákazníkovi určit nejvyšší cenu, kterou je podle společnosti zákazník ochoten zaplatit.
V této oblasti se používá několik souvisejících, ale odlišných pojmů. „Personalizované ceny“ označují praxi společností, které využívají data o chování nebo charakteristikách svých zákazníků specifická pro dané spotřebitele, aby různým spotřebitelům nabízely různé ceny na základě toho, kolik si společnost myslí, že jsou ochotni zaplatit. Naproti tomu „dynamické ceny“ označují použití proměnných nespecifických pro daného zákazníka k úpravě cen na základě změn nabídky a poptávky, často v reálném čase. Mezi příklady společností, které používají proměnné nespecifické pro daného zákazníka ke změně cen, patří zvyšování cen společností Uber během deštivého počasí, rostoucí ceny letů na poslední chvíli nebo to, že si Ticketmaster účtuje více než 22 000 dolarů za vstupenku na koncert Taylor Swift kvůli masivní poptávce. Tento typ dynamických cen lze také nazvat „nárůstem cen“, protože ceny se s rostoucí poptávkou zvyšují v reálném čase. Všechny tyto praktiky spadají pod zastřešující pojem cenové diskriminace, kdy společnost účtuje různé ceny za podobné produkty z důvodů nesouvisejících s náklady společnosti.
V praxi může sledování cen využívat data související se zákazníky i data nesouvisející se zákazníky k určení konečné ceny, kterou je spotřebitel ochoten zaplatit. Při sledování cen se produkty nebo ceny zobrazené každému spotřebiteli liší v závislosti na jeho poloze, denní době, identitě, aktivitě, minulých akcích a interakcích s prodejcem. Například Target si účtoval o 100 dolarů více za televizi ve své aplikaci, když se spotřebitel nacházel poblíž obchodu Target, než když byl dále, a to na základě zjištění Targetu, že spotřebitelé jsou ochotni platit více, čím blíže jsou k obchodu. Orbitz dospěl k závěru, že uživatelé Maců jsou ochotni utratit více za rezervace hotelů, a nasměroval je k dražším možnostem než uživatele bez Maců. Rezervační weby také účtovaly vyšší ceny za stejné hotelové pokoje v závislosti na městě, ze kterého spotřebitel na webové stránky přistupoval, což v jednom případě vedlo k cenovému rozdílu více než 500 dolarů za stejný pokoj. Sledování cen umožňuje maloobchodníkům zneužívat ochotu platit jednotlivých spotřebitelů a zároveň je udržovat v nevědomosti o nižších cenách pro ostatní spotřebitele.
Elektronické štítky na regálech a rozpoznávání obličeje mohou rozšířit dosah cen za sledování
Zatímco ceny založené na sledování jsou běžnější v online maloobchodě, maloobchodníci s potravinami využívají různé nástroje k rozšíření svého dosahu i do kamenných obchodů. Dopisy zákonodárců generálnímu řediteli společnosti Kroger konkrétně vyjádřily obavy ohledně používání elektronických štítků na regálech a technologie rozpoznávání obličeje.
Elektronické cenovky (ESL) jsou malé obrazovky, které nahrazují papírové cenovky v obchodech a umožňují prodejcům potravin měnit ceny během několika sekund, místo aby zaměstnanci museli papírové cenovky fyzicky vyměňovat. Jak zdůraznili senátoři Warren a Casey a kongresmanka Tlaib, ESL lze použít pro dynamické stanovování cen, což obchodům umožňuje rychle upravovat ceny na základě různých faktorů, včetně času nákupu, umístění obchodu a dalších údajů. Mnoho řetězců s potravinami, včetně Krogeru, v posledních letech rychle rozšířilo používání ESL. Walmart plánuje do roku 2026 instalovat ESL ve 2 300 obchodech.
Elektronické štítky na regálech (ESL) mohou v průběhu dne měnit ceny zboží, takže nakupující může při výběru položky vidět jednu cenu na regálu a při placení jinou. Zatímco prodejci potravin tvrdí, že ESL byly zavedeny pouze za účelem „snížení cen“, umožňují také rychlé zvyšování cen. Vzhledem k tomu, že mnoho Američanů se obává cen potravin a inflace – spolu se zprávami, že obchody s potravinami zneužívají narušení dodavatelského řetězce vyvolané pandemií k dalšímu zvyšování cen – spotřebitelé i zákonodárci zpochybňují záměry prodejců potravin.
Kontroverznější byly údajné plány společnosti Kroger na používání rozpoznávání obličeje v obchodech. Kroger navázal partnerství se společností Cooler Screens, která instaluje digitální obrazovky s vestavěnými kamerami a senzory, aby nahradila běžně průhledné dveře chladniček a mrazniček v obchodech s potravinami a zobrazovala reklamy. V prvních zprávách o kontroverzním partnerství společnosti Cooler Screens s Walgreens společnost Cooler Screens propagovala svou schopnost používat rozpoznávání obličeje k identifikaci charakteristik, jako je věk a pohlaví, za účelem personalizace digitálních reklam na obrazovkách. Kroger rozšířil své partnerství s Cooler Screens v roce 2023. Kroger zdůrazňuje, že senzory neshromažďují ani neukládají data o zákaznících a že se Kroger nepokouší identifikovat zákazníky pomocí technologie rozpoznávání obličeje, ale pouze zaznamenávat jejich přítomnost, dobu setrvání a otevírání dveří.
Ačkoli Kroger popírá používání technologie rozpoznávání obličeje, senátoři Warren a Casey ve svém dopise také poukázali na to, že Kroger by mohl používat kamery na digitálních displejích, které pomocí rozpoznávání obličeje určují pohlaví a věk zákazníků, což lze kombinovat s dalšími osobními údaji z aplikace Kroger za účelem personalizace nabídek a reklamy.
Stanovení cen za sledování porušuje soukromí spotřebitelů, od online nakupování až po kamenné obchody
I když maloobchodní prodejna nepoužívá ESL ani technologii rozpoznávání obličejů, může stále praktikovat sledování cen prostřednictvím své rozsáhlé sítě sběru a sdílení dat, aniž by spotřebitelé věděli. Obchody s potravinami mohou shromažďovat data z předchozích nákupů, používání aplikací a účasti ve věrnostních programech a také začleňovat data od třetích stran, jako jsou zprostředkovatelé dat.
Sběr dat může zahrnovat citlivé informace, jako je geolokace, věk, pohlaví, rasa, etnická příslušnost, finanční situace, náboženství, zaměstnání, politická prohlášení a online aktivita, nebo je lze použít k jejich odvození. Tato data se poté používají ke kategorizaci spotřebitelů, k určení jejich pravděpodobnosti nákupu produktů nebo služeb a ceny, za kterou tak učiní. Mezi příklady takových kategorií patří „váhaví hráči“, kteří stráví na webových stránkách sportovních sázek déle, než se očekávalo, mladí rodiče, kteří jsou méně citliví na cenu, protože se rozhodnou pro expresní doručení kojenecké výživy, nebo jednotlivci žijící v oblasti postižené povodněmi, aby jim byly nabídnuty produkty na zvládání stresu.
To, co zákazníci kupují a za jakou cenu, lze ovlivnit tím, které produkty jsou vystaveny jako první, cenovky nebo slevy a speciální nabídky. Shromažďováním údajů o jednotlivcích a možností cílit na ně různé propagační akce umožňuje monitorování cen společnostem stanovovat ceny tak vysoko, jak jsou jednotliví spotřebitelé ochotni zaplatit. I když obchody s potravinami tvrdí, že jejich slevy a speciální nabídky spotřebitelům poskytují úspory, jejich konečným cílem je ovlivnit nákupní chování zákazníků a zvýšit tak jejich zisky.
Monitorování cen se neomezuje pouze na online obchodování a může být nástrojem pro propojení cen mezi kamennými prodejnami a online obchody. Například nástroj pro stanovení cen může nastavit různé ceny pro produkty prodávané na různých místech firmy a aktualizovat zobrazené ceny, když zákazníci navštíví online webové stránky, aby odrážely ceny v nejbližší prodejně spotřebitele na základě údajů o jejich poloze. Data o online chování, jako jsou vyhledávací dotazy spotřebitele, demografické údaje a další data naznačující pravděpodobnost nákupu určitých položek, lze použít k cílení na spotřebitele s kupóny a slevami, které by uplatnili v kamenných prodejnách. Pokud má zákazník nainstalovanou aplikaci obchodu ve svém chytrém telefonu, mohou Bluetooth beacons aplikaci pingnout, aby zaregistrovaly přítomnost zákazníka v obchodě a odeslaly mu personalizované nabídky.
Sledování cen může nespravedlivě nutit spotřebitele platit více za produkty, na které jiní dostávají slevy na základě informací tajně shromážděných o nich. Vezměte si například dva nakupující s podobnými demografickými údaji, kteří nakupují ve stejném obchodě. Osoba A si obvykle kupuje prací prostředek A a osoba B si kupuje prací prostředek B – což obchod ví z historie jejich nákupů. Obchod může osobě A poslat slevu na prací prostředek B, protože s pracím prostředkem B dosahuje vyššího zisku, v naději, že osoba A v dlouhodobém horizontu změní prodejce. Toto cílené stanovování cen je ideální pro maloobchodníka s potravinami, protože nemusí osobě B nabízet stejnou slevu, aby ji nalákal k nákupu, jelikož si již prací prostředek B kupuje. Sledování cen proto může vést k tomu, že někteří zákazníci za stejné produkty zaplatí více, zatímco jiní zákazníci slevy získají. To může následně vést ke skutečné nebo vnímané cenové nespravedlnosti a zvýšit nedůvěru spotřebitelů v maloobchodníky.
V širším smyslu skryté vytváření a používání podrobných profilů jednotlivců narušuje soukromí a autonomii spotřebitelů, zklamává očekávání spotřebitelů ohledně shromažďování a používání dat a vytváří značnou mocenskou nerovnováhu, kterou mohou společnosti zneužít ve svůj prospěch. V případě společnosti Kroger, která je zároveň maloobchodníkem s potravinami a lékárnou, zasáhlo zvýšení cen spotřebitele tam, kde je to nejvíce bolí, a spotřebitelé se těmto narušením svého soukromí nemohou snadno vyhnout.
Aby toho nebylo málo, Kroger vydělává spoustu peněz monetizací zákaznických informací jinými způsoby. Kroger prodává jiným značkám „postřehy“ o nákupním chování svých zákazníků na základě obrovského množství osobních údajů, které společnost shromažďuje. Může se jednat o jméno, poštovní adresu, telefonní číslo, historii nákupů, údaje o poloze, finanční a platební informace, informace o zdraví odvozené z historie nákupů, údaje o mobilních zařízeních a demografické údaje (jako je věk, rodinný stav, pohlaví, etnická příslušnost a informace o zaměstnání). Obchody s potravinami otevírají lukrativní nové zdroje příjmů díky své maloobchodní reklamě, která je založena na datech shromážděných od zákazníků. Tato dynamika vede prodejce potravin k tomu, aby shromažďovali co nejvíce spotřebitelských údajů bez jejich souhlasu.
Lekce 1: Pro ochranu soukromí spotřebitelů jsou nezbytná pravidla pro minimalizaci dat
Existuje mnoho způsobů, jak bojovat proti škodám způsobeným sledováním cen maloobchodníků s potravinami. V Kalifornii společnost Target souhlasila s vyrovnáním ve výši 5 milionů dolarů poté, co okresní státní zástupci zažalovali společnost Target za praktiky sledování cen, které představovaly klamavou reklamu a vedly k nadhodnocení nejnižší inzerované ceny za danou položku. Kalifornie má také zákon, který by zakazoval sledování cen.
Dalším způsobem ochrany soukromí spotřebitelů je zavedení zákonů a předpisů o minimalizaci dat, které by působily proti neregulovanému shromažďování a používání spotřebitelských dat. Zákon o minimalizaci dat by omezil shromažďování, používání, ukládání nebo zveřejňování spotřebitelských dat společnostmi na to, co je přiměřené a úměrné plnění produktu nebo služby pro spotřebitele. Toto omezení by mělo být v souladu s očekáváními spotřebitelů a kontextem, ve kterém byla data shromažďována.
Samotné sledování cen nebo rozlišování cen na základě individuálních charakteristik a chování spotřebitelů není pro prodej potravin ani pro reklamu na produkt nezbytné. Kroger nemusí vyvozovat závěry o zdravotním stavu ani demografické informace, jako je pohlaví, věk a etnická příslušnost, aby mohl provádět propagační akce a prodávat produkty. Velká část spotřebitelských údajů, které maloobchodníci s potravinami, jako je Kroger, shromažďují z online a kamenných nákupů, není přiměřeně nezbytná k poskytování produktů, které nakupující hledají (ani pro přiměřeně nezbytné sekundární účely, jako je zpracování plateb a vedení skladových záznamů).
Profilování spotřebitelů a prodej zákaznických dat společností Kroger dále představuje použití spotřebitelských dat mimo kontext. Zatímco spotřebitel by mohl očekávat, že Kroger bude shromažďovat nákupní data za účelem zpracování transakcí, vedení záznamů o zásobách nebo vylepšování vlastní nabídky produktů, spotřebitel by neočekával, že Kroger bude prodávat zákaznická data třetím stranám, které nemají žádný vztah ke spotřebiteli. Osobní spotřebitelské údaje, které vstupují do monitorovacích cen, se používají pro účely mimo kontext, ve kterém byly původně shromážděny, pro jakýkoli účel, který kupující dat považují za vhodný. Jedná se o použití dat mimo kontext, které by bylo zakázáno přísným pravidlem minimalizace dat.
Spotřebitelé neočekávají, že jejich osobní údaje z věrnostních programů budou sdíleny a kombinovány s dalšími údaji, které třetím stranám umožní získat citlivé informace o nich, jako je například jejich zdravotní stav. Omezení minimalizace dat by se měla vztahovat i na případy, kdy se zákazníci rozhodnou sdílet některé ze svých údajů prostřednictvím věrnostních programů, aby se zajistilo, že data budou použita k rozumně předvídatelným účelům – a nebudou jednoduše volně prodána třetím stranám.
Zatímco velké korporace mají tendenci kritizovat a zveličovat náklady spojené s regulací ochrany osobních údajů, skutečné náklady plynou z nedostatku regulace. Bez právních záruk je soukromí jednotlivců i nadále běžně porušováno při nákupu základního zboží, jako jsou potraviny a léky. Spotřebitelé navíc platí za zboží vyšší ceny kvůli informacím shromážděným prostřednictvím komerčního sledování. Tyto ceny sledování nenabízejí spotřebitelům žádné výhody, které by převážily náklady na narušení soukromí a vyšší ceny.
Neúčinné paradigma „oznámení a volba“ zde navíc zjevně selhává. I když jsou spotřebitelé informováni o shromažďování a používání jejich údajů obchody s potravinami, nemusí být schopni přejít do jiného obchodu s potravinami nebo lékárny, aby si nakoupili základní zboží. Nemusí ani existovat žádné jiné obchody s potravinami, které by nepoužívaly sledování cen, nebo se v jejich okolí nemusí nacházet žádné jiné obchody. Sledování cen zatěžuje zákazníky zásahy do jejich soukromí, kterým je téměř nevyhnutelné bez kompenzačních výhod.
Obchodům s potravinami, jako je Kroger, nelze důvěřovat, že se budou regulovat samy. Jejich snaha o zisk, shromažďování osobních údajů a manipulace s chováním spotřebitelů jsou příliš silné. Na ochranu spotřebitelů před dalšími škodami jsou zapotřebí právně závazné předpisy o minimalizaci dat.
Lekce 2: Technologie rozpoznávání obličejů je rozšířená a měla by být regulována
Reakce na používání rozpoznávání obličeje společností Kroger ve svých obchodech také zdůrazňuje potřebu regulace technologie rozpoznávání obličeje. Většina států USA neexistují předpisy, které by vyžadovaly od podniků informování spotřebitelů o jejich používání rozpoznávání obličeje. Tato mezera ztěžuje určení, které společnosti rozpoznávání obličeje používají a k jakému účelu. I když zákon nařizuje zveřejňování informací, jako je tomu v New Yorku, je často špatně vymáhán.
Některé společnosti používají rozpoznávání obličeje s deklarovaným záměrem zabránit krádežím. Takové použití rozpoznávání obličeje však představuje značná rizika pro soukromí. Jedním z rizik jsou falešně pozitivní výsledky, které odrazují lidi od vstupu do obchodu, což neúměrně postihuje barevné lidi. Například FTC podnikla kroky proti řetězci s potravinami Rite Aid za používání rozpoznávání obličeje k identifikaci dřívějších zlodějů v obchodech bez odpovídajících bezpečnostních opatření, což vedlo k vyšší míře falešně pozitivních výsledků u barevných lidí a žen.
Dalším rizikem širokého zavádění rozpoznávání obličeje pro bezpečnostní účely je šíření soukromých seznamů sledovaných osob. Soukromé společnosti neinformují jednotlivce o tom, zda a proč byli zařazeni na seznam sledovaných osob, a neexistuje žádný jasný způsob, jak se proti takovým rozhodnutím odvolat. Soukromé seznamy sledovaných osob mohou být sdíleny mezi sousedními podniky, což jednotlivcům brání v obchodování, i když nebyli odsouzeni za trestný čin. I když jednotlivci nejsou omylem nahlášeni a není jim zabráněno ve vstupu do obchodu, všudypřítomná přítomnost rozpoznávání obličeje vytváří hrozbu zařazení na seznam sledovaných osob, což dále narušuje soukromí ve veřejných prostorách.
Ani zde se nelze spoléhat na to, že maloobchodníci jako Kroger budou regulovat své vlastní používání rozpoznávání obličeje. Navzdory opakovaným ujištěním společnosti Kroger, že rozpoznávání obličeje nepoužívá ke sledování cen, zásady ochrany osobních údajů společnosti Kroger uvádějí, že v některých obchodech shromažďuje biometrické údaje a údaje o rozpoznávání obličeje z „bezpečnostních důvodů“, včetně prevence krádeží v obchodech a podvodů. Zákony většiny států navíc neomezují použití citlivých biometrických údajů shromažďovaných společností Kroger pouze na bezpečnostní účely. Jsou zapotřebí komplexní zákony na ochranu osobních údajů, které by přísně omezily nebo zcela zakázaly komerční využití technologie rozpoznávání obličeje, aby ochrana citlivých biometrických údajů spotřebitelů nebyla ponechána na rozmarech velkých korporací.
