Apple dává zelenou: Umělá inteligence nyní bude číst i naše soukromé zprávy

Další hranice se rýsuje. Umělá inteligence už není určena jen k odpovídání na otázky, psaní textů nebo generování obrázků. Jejím cílem je pronikat stále hlouběji do našich osobních digitálních životů – dokonce i do soukromých konverzací.

Díky nové integraci Apple Messages do ChatGPT pro macOS může asistent s umělou inteligencí – po udělení oprávnění uživatele – vyhledávat zprávy, shrnout historii konverzací, formulovat odpovědi a pomáhat s odesíláním.

To, co se prodává jako funkce pohodlí, představuje pozoruhodný posun paradigmatu: Dobrovolně začínáme dávat umělé inteligenci přístup k jednomu z nejintimnějších archivů našeho každodenního života – k našim soukromým rozhovorům.

V příspěvku na X OpenAI vysvětlila: „Vyhledávejte zprávy, čtěte konverzace, psát a odesílat odpovědi – to vše s ChatGPT na vašem Macu.“

Prostě dej svůj život umělé inteligenci.

Každý, kdo otevře své zprávy asistentovi s umělou inteligencí, potenciálně poskytne mnohem více než jen několik bezvýznamných řádků textu. Soukromá komunikace může odhalit, s kým se stýkáme, čeho se obáváme, co kupujeme, kam cestujeme, jaké máme vztahy, jaké politické názory diskutujeme a jaké problémy nás znepokojují.

Tisíce takových malých útržků informací jsou zkombinovány a vytvářejí něco mimořádně cenného: podrobný digitální profil osobnosti.

Vize technologických společností se stává stále jasnější. Umělá inteligence by neměla jen vědět, na co se ptáme. Měla by rozumět našemu kontextu, pamatovat si věci, chápat naši komunikaci a v konečném důsledku plnit úkoly za nás. Čím více informací jí poskytneme, tím lépe nás bude znát. Možná jednoho dne lépe, než známe sami sebe.

Přidali jsme nativní integraci s iMessage, takže ChatGPT nyní umí odesílat a číst zprávy za vás! Dokáže také analyzovat vaše zprávy! Je opravdu zábavné získat přehled o tom, s kým si píšete a o čem diskutujete.

Čte teď Sam Altman všechny iMessages?

Není to však tak jednoduché – a právě v tomto ohledu je třeba zůstat čistý.

Nová funkce neznamená , že Apple automaticky přenáší všechny soukromé zprávy svých zákazníků do OpenAI. Uživatelé musí ChatGPT udělit přístup nebo funkci aktivně používat.

Tvrzení, že Sam Altman nyní může osobně číst naše zprávy, by bylo také nepravdivé.

Otázka školení zůstává relevantní. OpenAI nabízí nastavení pro ChatGPT, která uživatelům umožňují určit, zda může být jejich obsah použit k vylepšení modelů. Skutečnost, že uživatelská data lze obecně použít k vylepšení modelů, pokud to odpovídající nastavení umožňují, je již léta součástí debaty o ochraně osobních údajů v oblasti generativní umělé inteligence.

Právě proto by nikdo neměl bezdůvodně předpokládat, že přístup umělé inteligence k soukromé komunikaci je totéž co čistě lokální vyhledávací funkce na jeho vlastním počítači.

Od nástroje k digitálnímu zástupci

Skutečný skok spočívá jinde. Dali jsme Googlu naše vyhledávací dotazy, sociálním sítím naše přátelství a zájmy, chytrým telefonům naše polohy a cloudovým službám naše fotografie a dokumenty.

Systémům umělé inteligence nyní stále častěji dáváme schopnost propojit všechna tato informační sila a rozpoznávat vztahy mezi nimi. Cílem je dokonalý osobní asistent.

Dokonalý osobní asistent ale nevyhnutelně potřebuje jednu věc: co nejvíce znalostí o svém majiteli.

A v tom spočívá ten konflikt. Čím užitečnější se tyto systémy mají stát, tím větší je motivace udělit jim přístup ke zprávám, e-mailům, kalendářům, fotografiím, dokumentům, zdravotním informacím a dalším osobním údajům.

Například OpenAI zašla ještě dál a umožňuje uživatelům v samostatné oblasti zdravotnictví propojit lékařská data a zdravotní aplikace s ChatGPT. Platí zde však další ochranná opatření; OpenAI výslovně uvádí, že konverzace v této oblasti zdravotnictví se nepoužívají k trénování jejích základních modelů.

Budujeme si vlastní digitální dosje

To zpočátku nevyžaduje tajný sledovací plán ani vládní nátlak. Snad nejpozoruhodnějším aspektem tohoto vývoje je přesně opak:

Děláme to dobrovolně.

Otevíráme své zprávy, fotografie, kontakty, vyhledávací dotazy, zdravotní údaje a osobní návyky technologickým gigantům, protože se nám každá jednotlivá funkce zdá pohodlná. Nebezpečí pramení z kumulativního efektu.

Protože kdokoli dokáže shromáždit a analyzovat dostatek digitálních stop dané osoby, nevlastní jen „data“. Dokáže rozpoznat vztahy, zvyky, zájmy a vzorce chování a vyvodit z nich stále přesnější závěry.

A takové datové soubory nejsou zajímavé pouze pro firmy. V závislosti na právním systému, postupech a konkrétních metodách ukládání dat mohou být také předmětem vládních nařízení o zveřejnění.

Apple nejen „předává naše zprávy Samu Altmanovi“. To by bylo přehnané. Mnohem větší vývoj je nenápadnější: Zvykáme si dobrovolně udělovat systémům umělé inteligence stále hlubší vhled do našeho soukromého života – až do dne, kdy by o nás digitální asistent mohl vědět víc než kterýkoli jiný člověk v našem bezprostředním okolí.