Od občana k rizikovému profilu: Umělá inteligence zde již rozhoduje o lidských osudech
Kalifornie nyní přiznala, že v rámci svých státních operací používá několik „vysoce rizikových automatizovaných rozhodovacích systémů“. Ještě loni úřady tvrdily, že žádné takové systémy nepoužívají. Nyní je to oficiálně potvrzeno: algoritmy vyhodnocují mimo jiné vězně, nezaměstnané a studenty – generují metriky, které mohou mít významné důsledky pro životy dotčených osob.
Možná znáte sci-fi povídku Philipa K. Dicka s názvem „Minority Report“. V ní vláda shromažďuje obrovské množství dat, vytváří rizikové profily a redukuje osobu na jedno číslo, z něhož může odvodit, jak by se s ní mělo v budoucnu zacházet. Ale v Kalifornii to už není čistá sci-fi. Kalifornské ministerstvo technologií (CDT) ve své nejnovější povinné zprávě uvedlo šest takzvaných „vysoce rizikových automatizovaných rozhodovacích systémů“. Jedná se o systémy, které využívají umělou inteligenci k vytváření posouzení rizik . První krok k sociálnímu kreditnímu skóre.
Teprve loni Kalifornie ve své první zprávě k této záležitosti uvedla, že žádné takové systémy neprovozuje. Nyní najednou tvrdí, že šest systémů je již v provozu a další je ve vývoji. Ministerstvo tento rozpor zdůvodňuje tím, že se tentokrát na ně podívalo blíže, konzultovalo s úřady a ověřilo jejich informace. Takže tyto systémy již byly v provozu, ale oficiálně je nikdo ve státě ovládaném levicově smýšlejícími demokraty podrobně nezkoumal. Bylo by však zajímavé vědět, do jaké míry je to po léta neoficiálně podporováno.
Obzvláště zajímavé je zde tzv. Kalifornské statické hodnocení rizik, zkráceně CSRA. Tento systém hodnotí vězně na základě pevných osobních údajů a generuje skóre rizika. Mezi zohledněné faktory patří věk, pohlaví, předchozí odsouzení za přečiny nebo zločiny a porušení podmínek podmínečného propuštění a probace. Výsledkem je hodnocení od 1 do 5. Úroveň 1 představuje nízké riziko, zatímco úroveň 5 představuje vysoké riziko násilí. Podle kalifornského ministerstva spravedlnosti má skóre předpovědět pravděpodobnost, že bude daná osoba znovu zatčena za trestný čin do tří let od podmínečného propuštění.
A tato metrika má důsledky. Ovlivňuje například prioritu, kterou vězeň dostává ve vzdělávání, odborné přípravě a přechodných programech. Ti, kteří dosáhnou nejvyšší úrovně 5, mohou být vyloučeni z určitých reintegračních programů a jsou klasifikováni jako osoby s „vysokou kontrolou“ pro dohled nad podmínečným propuštěním. Statistické hodnocení se tak stává faktorem, který určuje příležitosti po propuštění a intenzitu státní kontroly. Stát zdůrazňuje, že se nejedná o autonomní systém posuzování. Skóre má úředníky podporovat, nikoli je nahrazovat. V tom však spočívá problém: jakmile je skóre rizika začleněno do spisů, programů, rozhodnutí o dohledu a administrativních postupů, získá si vlastní autoritu. Počítač promluvil – a kdo by chtěl být později zodpovědný za to, že ignoroval údajně „objektivní“ varování?
Kdy budou algoritmy rozhodovat o životech všech našich lidí?
Jakmile se takové automatizované systémy rozšíří do kritických oblastí, jako je bydlení, vzdělávání, zaměstnání, půjčky nebo zdravotní péče, algoritmy budou stále více ovlivňovat aspekty každodenního života. A nejsou to „jen“ vězni, kteří jsou hodnoceni. Kalifornie také používá nástroj k odhalování údajně podvodných žádostí o podporu v nezaměstnanosti. Na Kalifornské státní univerzitě se používají systémy pro digitální dohled nad zkouškami a pro detekci textu údajně generovaného umělou inteligencí. Kromě toho existují v nápravném systému i další nástroje, včetně známého systému COMPAS pro posuzování rehabilitačních potřeb a rizika recidivy.
Objevuje se určitý vzorec. Stát testuje a zavádí automatizovaná hodnocení nejen v případech závažné trestné činnosti. Postupně se přesouvají do sociálních služeb, na univerzity, do žádostí o zaměstnání a do administrativních postupů. Dnes je to rizikové skóre vězně. Zítra to bude „sociální kreditní skóre“ průměrného občana, generované takovými systémy. Obzvláště ukazující je to, co levicově smýšlející Kalifornii v současné době chybí: jasná právní bariéra, která by bránila tomu, aby se automatizované systémy staly jediným základem pro vládní rozhodnutí. Návrh zákona, který měl právě tomu zabránit, minulý měsíc v legislativním procesu selhal.
„Minority Report“ je o společnosti, která trestá lidi za zločiny, které dosud nespáchali. Zatímco Kalifornie je od tohoto bodu stále daleko, globalisticko-technokratický totalitarismus propagovaný Světovým ekonomickým fórem (WEF) a jeho podporovateli směřuje přesně tímto směrem. Totální dohled, totální kontrola a rozsáhlé automatizované systémy hodnocení pro všechny. Ve srovnání s tím se čínský systém sociálního kreditu bude jevit jako chabý prototyp.
