Jsou zpět: Zlomyslné umělé inteligence budou pokračovat, dokud se předpisy nezlepší
Zrovna když jste si mysleli, že je bezpečné se vrátit na internet – jsou zpět darební agenti umělé inteligence, ti drzí malí darebáci, a znovu hrají své staré hry.
Alespoň podle OpenAI, a proč by lhali?
Co se týče umělé inteligence, v poslední době je to najednou rušný týden: Anthropic zveřejnil svou ( extrémně, extrémně nudnou ) zprávu o údajném „útěku“ své podvodné umělé inteligence.
Jeden z jejich agentů zřejmě podal falešný tip o vraždě filadelfské policii. Další podal 20 žádostí o víza imigračnímu úřadu.
New York Times informuje o skupině s názvem „Swarmchasers“ – a je třeba zdůraznit, že je naprosto skutečná – a o tom, jak pečlivě sleduje a monitoruje agenty umělé inteligence vyrobené v Číně.
V důsledku toho údajně reportér New York Times hovořil s hordou zlomyslných umělých inteligencí, které byly vykresleny spíše jako něco z filmu Tron než jako e-mailová výměna s chatbotem.
Modely umělé inteligence se obracejí proti svým tvůrcům podobně jako Frankenstein a uvrhávají firmy do chaosu .
Fortune se obává – čeho jiného? – nedostatečné regulace v závodě umělé inteligence a skutečnosti, že se modely vyvíjejí rychleji, než je dokážeme kontrolovat.
A pokud jde o hloupé, panické nesmysly založené na nejnižším společném jmenovateli, Fox News je prostě nepřekonatelná :
Umělá inteligence se může vymknout kontrole. Washington potřebuje co nejdříve odpovědi na těchto pět otázek!
Tentokrát se dokonce projevuje i trochu multipolární aktivita: Indie i Čína hlásí nové případy neoprávněné činnosti umělé inteligence.
Seth Boro, řídící partner společnosti Thoma Bravo LLC, agentuře Bloomberg řekl , že očekává, že „nepoctiví agenti umělé inteligence budou přetrvávat“ a že „rozšíření umělé inteligence bude možné pouze tehdy, budou-li přijata vhodná opatření v oblasti kybernetické bezpečnosti, zejména na úrovni spotřebitelů“.
Ptáte se, co jsou to „vhodná opatření v oblasti kybernetické bezpečnosti“? Nemám tušení, to blíže neřeší.
Můžete předpokládat, že se jedná o něco, kde je skenován váš obličej, otisky prstů, DNA nebo kreditní karta – ale to je jen výpočet pravděpodobnosti.
V (jistě zcela nesouvisející) dobré zprávě je, že Microsoft – vždycky hrdinové – vyvíjí „nové nástroje pro monitorování a udržení nepoctivých agentů umělé inteligence pod kontrolou“ :
Společnost Microsoft spouští nové bezpečnostní nástroje, které s agenty umělé inteligence zacházejí jako s potenciálními hrozbami zevnitř, průběžně vyhodnocují jejich rizika a omezují jejich přístup, pokud se něco změní.
Funkce oznámené v pondělí jsou součástí Microsoft 365 E7, prémiového balíku kancelářského softwaru a nástrojů umělé inteligence od společnosti, a také jejího bezpečnostního systému Project Perception.
Toto jsou samozřejmě zásadní (a opět naprosto reálná) bezpečnostní opatření proti umělé inteligenci. Nejsou to – musíme to jasně uvést – výmluva k vymáčknutí dalších peněz z firem za software, který již vlastní, pod rouškou „nezbytných bezpečnostních aktualizací“, které ve skutečnosti slouží pouze k instalaci řady spywaru a sledování vašich digitálních aktivit.
Od kdy Microsoft něco takového udělal?
Je to vtipné, že? Všichni o tom mluvili, pak o tom už nikdo nemluvil a teď – během jediného víkendu – o tom všichni mluví znovu.
Je až ohromující, jak často se to děje.
Je o tom hodně řečí, hluku a paniky, ale pokud hledáte agendu, která se za tím skrývá, musíme se vrátit k OpenAI.
Zdá se, že společnost Sama Altmana v posledních dnech nahlásila další čtyři případy „omylnosti umělé inteligence“ . Nejsou nové; zřejmě k nim došlo v červnu, ale OpenAI se o ně s námi podělila až nyní.
…Zajímalo by mě proč.
Podívejme se na detaily.
V jednom případě se „zlomyslná umělá inteligence“ zřejmě dostala k vládním serverům a stáhla si data o nemocničních lůžkách.
V jiném případě se pokusila provést platbu pomocí kryptoměny někoho jiného.
Třetí případ se týkal neoprávněného přístupu k internetu.
Tohle se snaží dělat „nepoctivá umělá inteligence“. V budoucnu budeme možná potřebovat přísnější zákony o ověřování identity, abychom zabránili „nepoctivé umělé inteligenci“ v proniknutí na svobodu.
A o co jde?
- Interakce s vládními webovými stránkami.
- Provádějte platby a používejte kryptoměny.
- …a přístup k internetu.
Ještě jednou vás odkazuji na naše varování ohledně „nejhoršího možného scénáře“ .
Tohle nezmizí, lidi. Ty darebácké umělé inteligence budou pokračovat, dokud se nezlepší „regulace“.
To by znamenalo, že bychom byli regulováni my, ne umělá inteligence.
