V Japonsku nyní umělá inteligence sleduje, zda byste byli schopni si vzít život
Zatímco mnoho zemí stále diskutuje o tom, zda by se umělá inteligence měla používat k rozpoznávání obličejů, Japonsko již jde o krok dál. Vyvíjejí a testují se tam systémy, které mají nejen rozpoznat, kdo se na vlakovém nádraží nachází, ale také co daná osoba plánuje dělat .
Nová generace dohledu s využitím umělé inteligence analyzuje bezpečnostní kamery v reálném čase a snaží se předpovědět, zda někdo prožívá duševní krizi nebo zda plánuje pokus o sebevraždu. Vědci to nyní označují jako „hodnocení rizika sebevraždy“ – automatizované vyhodnocení rizika spojeného s lidským chováním na základě videozáznamů. ( arXiv )
Co zní jako nástroj pro záchranu životů, zároveň vyvolává zásadní otázky ohledně budoucnosti sledování.
Poprvé již cílem není identifikovat zločiny nebo konkrétní činy. Místo toho je umělá inteligence navržena tak, aby interpretovala záměry, vzorce chování a psychologické stavy. Sleduje, jak dlouho někdo stojí na nástupišti, jak se pohybuje, jaké trasy používá, zda neobvykle často mění nástupiště nebo zda se neobvykle drží blízko kolejí. Systém poté z těchto dat vypočítá skóre rizika.
Tato technologie překračuje hranici, kterou mnozí dříve považovali za nedotknutelnou.
Kamera už chování jen nesleduje. Snaží se uhodnout myšlenky, které se za ním skrývají.
Japonsko je již léta považováno za průkopníka ve využívání technologických prostředků k prevenci sebevražd. Už se používají mřížkové dveře na plošinu, speciální osvětlovací systémy a rozsáhlé video sledování. Nyní se přidává umělá inteligence, která se má poučit z milionů hodin záznamů ze sledování, aby včas identifikovala ohrožené osoby a upozornila bezpečnostní pracovníky. (一般社団法人社会構想デザイン機構（ISVD） )
Zastánci argumentují, že každá zabráněná tragédie ospravedlňuje vynaložené úsilí. Kritici naopak varují před vývojem směrem ke společnosti, v níž algoritmy stále častěji rozhodují o tom, kteří lidé jsou považováni za rizikové.
Protože stejná technologie, která se dnes používá k identifikaci lidí ohrožených sebevraždou, by mohla být zítra použita k jiným účelům.
- Kdo se zdá být nervózní?
- Kdo se chová „neobvykle“?
- Kdo vykazuje známky agrese?
- Kdo by mohl protestovat nebo plánovat něco podobného?
- Kdo by mohl spáchat trestný čin? Atd.
Jakmile umělá inteligence začne vyhodnocovat lidské chování a vypočítávat pravděpodobnosti budoucích akcí, objeví se zcela nový model dohledu: pozornost se již neklade na samotnou akci, ale na její předpověď.
Právě v tomto vidí obhájci ochrany osobních údajů a aktivisté za občanská práva skutečné nebezpečí. Technická infrastruktura, která se v současnosti buduje za účelem prevence, může být využita ke sledování.
Tento vývoj připomíná další současné projekty. Umělá inteligence již analyzuje davy v Saúdské Arábii, vyhodnocuje chování v chytrých městech a v budoucnu se dokonce očekává, že bude schopna identifikovat, kdo se nachází v místnosti, prostřednictvím signálů Wi-Fi. Krok za krokem vznikají systémy, které nejen pozorují, ale také interpretují a předpovídají.
Japonsko by tak mohlo nabídnout pohled do budoucnosti, kde dohled již nebude pouze dokumentovat, co lidé udělali, ale bude se snažit předpovědět, co udělají dál.
