Dohled pomocí umělé inteligence bez souhlasu: Startup chce sledovat každého zákazníka nepřetržitě

Společnost podporovaná startupovým inkubátorem Y Combinator ze Silicon Valley vyvíjí novou formu automatizovaného sledování zákazníků. Agenti s umělou inteligencí jsou navrženi tak, aby shromažďovali a analyzovali informace o firemních zákaznících a vytvářeli podrobné profily – průběžně a bez výslovného souhlasu dotčených osob. Zakladatelé věří, že tento vývoj je nevyhnutelný.

To, co bylo dříve spojováno především se zpravodajskými službami a státními sledovacími systémy, by se brzy mohlo stát běžnou součástí obchodního života. Startup Outlit, založený Joshem Earlem a Leem Pazem, vyvíjí platformu, která firmám umožňuje průběžně sledovat jejich zákazníky pomocí umělé inteligence.

Earle americkému technologickému časopisu Futurism vysvětlil, že v budoucnu každá společnost přidělí každému ze svých zákazníků specializovaného agenta s umělou inteligencí, který bude průběžně sledovat jejich aktivity. Domnívá se, že je to nezbytné pro poskytování adekvátního zákaznického servisu v budoucnu.

Digitální soubor zákazníků, který neustále roste

Systém je navržen tak, aby shromažďoval informace z široké škály zdrojů: interních prodejních dokumentů, zápisů ze schůzek, systémů pro správu zákazníků, údajů o používání produktů a předchozích obchodních kontaktů. Agenti umělé inteligence zároveň prohledávají externí zdroje, jako je LinkedIn, sociální sítě a webové stránky společností.

Tyto informace se používají k vytvoření neustále aktualizovaného profilu zákazníka, který je zaměstnancům k dispozici na centrálním rozhraní.

Umělá inteligence se neomezuje pouze na sběr dat. Jejím cílem je poskytovat konkrétní doporučení k akci: Kdy by měl být zákazník kontaktován? Jaká témata jsou pro něj důležitá? Které nabídky by mohly být úspěšné? Jaké změny naznačují, že by společnost mohla ztratit zákazníka?

Ekonomickým cílem je zabránit odchodu zákazníků a identifikovat další prodejní příležitosti. To, co museli zaměstnanci dříve pracně shromažďovat, budou v budoucnu systémy umělé inteligence zpracovávat samostatně a téměř v reálném čase.

Dohled jako obchodní model

Outlit je podporován známým technologickým startupovým inkubátorem Y Combinator. V době psaní této zprávy ještě nebyla platforma veřejně dostupná. Společnost se v současné době zaměřuje na softwarové společnosti, jejichž zákazníky jsou zase jiné firmy.

Earle zdůrazňuje, že Outlit nemá v úmyslu monitorovat soukromé spotřebitele. Pozdější rozšíření na trh široké veřejnosti považuje za nepravděpodobné, částečně proto, že by podle jeho odhadu byla tam dostupná data méně užitečná.

Významné obavy ohledně ochrany osobních údajů však vznikají i u firemních zákazníků. Koneckonců, velká část informací zahrnuje údaje o konkrétních osobách, jejichž profesní a soukromé aktivity je téměř nemožné zcela oddělit.

Dokonce i nemoci a rozvody mohly být zaznamenány

Tento koncept se stává obzvláště problematickým, pokud se veřejně dostupné informace týkají osobních okolností.

Lidé používají sociální média ke sdílení nejen novinek o kariéře, ale také o svatbách, rozvodech, vážných nemocech nebo úmrtích v rodině. Takové informace by v principu mohly shromažďovat i automatizované sběrače dat.

Na otázku serveru Futurism, zda by Outlit mohl monitorovat i takové osobní události, Earle uvedl, že o tom neuvažoval. Jeho společnost takové informace konkrétně nesleduje.

Technicky je však teoreticky možné shromáždit všechny veřejně dostupné informace na internetu.

To vyvolává otázku, kde leží hranice mezi zákaznickým servisem pro firmy a komplexním osobním dohledem.

Žádné oznámení, žádná námitka

Postoj společnosti k souhlasu je obzvláště výmluvný.

Futurismus se Earla konkrétně zeptal, zda by lidé měli být informováni o tom, že je sledují agenti umělé inteligence, a zda by jim měla být dána možnost se z tohoto sledování odhlásit.

Jeho odpověď zněla ne.

Earle vysvětlil, že podle jeho názoru jeho společnost nedělá nic nezákonného. Veřejně dostupné informace již byly analyzovány; Outlit tento proces jednoduše automatizoval.

Startup na svých webových stránkách slibuje, že bude s daty zákazníků nakládat bezpečně a anonymně a že je nebude používat k trénování vlastních modelů umělé inteligence. Otázka, zda si dotčení vůbec uvědomují, že se o nich vytvářejí podrobné profily, však zůstává nezodpovězena.

Zda je takové shromažďování údajů skutečně zákonné, závisí na platných předpisech o ochraně osobních údajů a konkrétním zpracování. Posouzení zakladatele nepředstavuje právní záruku.

Umělá inteligence má rozumět lidským vztahům lépe než lidé

Earle nepovažuje technologii za dočasný vývoj, ale za zásadní změnu v ekonomických vztazích.

Je přesvědčen, že firmy se v budoucnu budou spoléhat na agenty umělé inteligence, aby včas rozpoznaly potřeby svých zákazníků. Navíc věří, že umělá inteligence by jednoho dne mohla rozumět mezilidským vztahům a udržovat je lépe než lidé sami.

Schopnost takových systémů kombinovat informace z široké škály kontextů je v současnosti výrazně podceňována.

Skutečnost, že by lidé mohli tuto myšlenku považovat za znepokojivou, ho zřejmě netrápí. Bez ohledu na to, co si o tom myslí veřejnost, přichází nepřetržité sledování agenty umělé inteligence. Ať už tomu říkáte sledování nebo něco jiného, ​​na tom nezáleží.

Tímto způsobem si podnikatel představuje budoucnost, v níž trvalé zaznamenávání a analýza lidských aktivit již nebude vnímána jako výjimečný zásah, ale jako přirozená součást obchodních vztahů.

Zda se tato vize skutečně ujme, se teprve uvidí. Nicméně samotná skutečnost, že startup podporovaný společností Y Combinator si explicitně stanovil nepřetržitý monitoring zákazníků jako svůj obchodní model a že jeho spoluzakladatel nepovažuje možnosti oznámení nebo odhlášení za nezbytné, ukazuje směr, kterým se části odvětví umělé inteligence ubírají.