{"id":103170,"date":"2026-03-29T00:17:29","date_gmt":"2026-03-28T23:17:29","guid":{"rendered":"https:\/\/www.infokuryr.cz\/n\/?p=103170"},"modified":"2026-03-28T08:02:37","modified_gmt":"2026-03-28T07:02:37","slug":"noah-smith-pokud-je-umela-inteligence-zbran-je-nacase-ji-jako-takovou-regulovat","status":"publish","type":"post","link":"https:\/\/www.infokuryr.cz\/n\/2026\/03\/29\/noah-smith-pokud-je-umela-inteligence-zbran-je-nacase-ji-jako-takovou-regulovat\/","title":{"rendered":"Noah Smith: Pokud je um\u011bl\u00e1 inteligence zbra\u0148, je na\u010dase ji jako takovou regulovat?"},"content":{"rendered":"
<\/div>\n
\n
\n

Trump \u0159\u00edk\u00e1, \u017ee Anthropic vyhodil jako \u201epsy\u201c, Amodei obvi\u0148uje OpenAI z \u00faklony dikt\u00e1torovi a te\u010f je pro um\u011blou inteligenci v s\u00e1zce u\u017e nemo\u017en\u00e9.<\/span><\/strong><\/p>\n

Pokud jste nesly\u0161eli o sporu mezi spole\u010dnost\u00ed Anthropic, kter\u00e1 se zab\u00fdv\u00e1 um\u011blou inteligenc\u00ed, a americk\u00fdm ministerstvem v\u00e1lky, m\u011bli byste se o n\u011bm dozv\u011bd\u011bt v\u00edce, proto\u017ee by mohl b\u00fdt kl\u00ed\u010dov\u00fd pro na\u0161i budoucnost \u2013 jako n\u00e1roda, ale i jako druhu.<\/span><\/p>\n

Anthropic je spolu s OpenAI jednou ze dvou p\u0159edn\u00edch spole\u010dnost\u00ed v oblasti modelov\u00e1n\u00ed um\u011bl\u00e9 inteligence. OpenAI m\u00e1 v posledn\u00edch letech m\u00edrn\u00fd n\u00e1skok ve v\u011bt\u0161in\u011b funkc\u00ed, ale Anthropic za\u010d\u00edn\u00e1 z\u00edsk\u00e1vat navrch, pokud jde o p\u0159ijet\u00ed v podnik\u00e1n\u00ed.<\/span><\/p>\n

\"\"
Zdroj: Ramp p\u0159es\u00a0<\/span>Ara Kharazian<\/span><\/a><\/figcaption><\/figure>\n

To je zp\u016fsobeno odli\u0161n\u00fdm obchodn\u00edm modelem spole\u010dnosti Anthropic. Spole\u010dnost se v\u00edce zam\u011b\u0159ila na um\u011blou inteligenci pro programov\u00e1n\u00ed ne\u017e na chatboty obecn\u011b a kladla d\u016fraz na partnerstv\u00ed s podniky, aby jim pomohla um\u011blou inteligenci vyu\u017e\u00edt. To by se nakonec mohlo vyplatit z hlediska mo\u017enost\u00ed, pokud Anthropic p\u0159ekon\u00e1 OpenAI ve sv\u00e9m c\u00edli rekurzivn\u00edho sebezdokonalov\u00e1n\u00ed um\u011bl\u00e9 inteligence. A ji\u017e se to vypl\u00e1c\u00ed v podob\u011b rychlej\u0161\u00edho r\u016fstu tr\u017eeb.<\/span><\/p>\n

\"\"
Zdroj:\u00a0<\/span>Epocha AI<\/span><\/a><\/figcaption><\/figure>\n

Spole\u010dnost Anthropic spolupracuje s ministerstvem v\u00e1lky \u2013 d\u0159\u00edve ministerstvem obrany \u2013 ji\u017e od Bidenovy \u00e9ry. Spole\u010dnost, zn\u00e1m\u00e1 svou kulturou zalo\u017eenou na hodnot\u00e1ch, se v\u0161ak v posledn\u00edch m\u011bs\u00edc\u00edch st\u00e1le \u010dast\u011bji st\u0159et\u00e1v\u00e1 s Trumpovou administrativou. Administrativa pova\u017euje Anthropic za \u201eprobuzenou\u201c, proto\u017ee se zab\u00fdv\u00e1 mor\u00e1lkou v\u011bc\u00ed, jako jsou autonomn\u00ed roje dron\u016f a hromadn\u00fd dohled zalo\u017een\u00fd na um\u011bl\u00e9 inteligenci.<\/span><\/p>\n

Konflikt se vyhrotil p\u0159ed t\u00fddnem, kdy vl\u00e1da pozastavila partnerstv\u00ed se spole\u010dnost\u00ed Anthropic, p\u0159e\u0161la na spolupr\u00e1ci s OpenAI a ozna\u010dila Anthropic za \u201eriziko pro dodavatelsk\u00fd \u0159et\u011bzec\u201c. Opat\u0159en\u00ed t\u00fdkaj\u00edc\u00ed se dodavatelsk\u00e9ho \u0159et\u011bzce p\u0159edstavovalo v\u00e1\u017enou hrozbu \u2013 pokud by bylo d\u016fsledn\u011b vym\u00e1h\u00e1no, mohlo by Anthropic od\u0159\u00edznout od spolupr\u00e1ce se spole\u010dnostmi jako Nvidia, Microsoft a Google, co\u017e by mohlo spole\u010dnost zni\u010dit.<\/span><\/p>\n

Ale stejn\u011b jako u mnoha \u010din\u016f Trumpovy administrativy se zd\u00e1, \u017ee \u0161lo sp\u00ed\u0161e o hrozbu ne\u017e o skute\u010dn\u00fd \u00fatok \u2013 Anthropic nyn\u00ed obnovila jedn\u00e1n\u00ed s arm\u00e1dou a zd\u00e1 se pravd\u011bpodobn\u00e9, \u017ee nakonec dos\u00e1hnou dohody.<\/span><\/p>\n

Nep\u0159\u00e1telstv\u00ed v\u0161ak p\u0159etrv\u00e1v\u00e1. Trump se ned\u00e1vno chlubil, \u017ee \u201evyhodil [Anthropic] jako psy\u201c. Dario Amodei, gener\u00e1ln\u00ed \u0159editel Anthropicu, vydal memorandum, v n\u011bm\u017e obvinil OpenAI ze lhan\u00ed ve\u0159ejnosti o jej\u00edch jedn\u00e1n\u00edch s ministerstvem obrany a tvrdil, \u017ee OpenAI Trumpovi vzdala \u201edikt\u00e1torskou chv\u00e1lu\u201c. Uvedl, \u017ee obavy Anthropicu pramenily z touhy ministerstva obrany vyu\u017e\u00edvat um\u011blou inteligenci k hromadn\u00e9mu sledov\u00e1n\u00ed.<\/span><\/p>\n

Co se tu doopravdy d\u011bje? Nejjednodu\u0161\u0161\u00ed zp\u016fsob, jak se na to d\u00edvat, je jako na typickou americkou stranickou bitvu. Anthropic je v\u00edce levicov\u011b orientovan\u00e1 ne\u017e jin\u00e9 spole\u010dnosti zab\u00fdvaj\u00edc\u00ed se um\u011blou inteligenc\u00ed a Trumpova administrativa nen\u00e1vid\u00ed cokoli levicov\u00e9ho.<\/span><\/p>\n

To pravd\u011bpodobn\u011b vysv\u011btluje v\u011bt\u0161inu reakc\u00ed ve\u0159ejnosti na tuto kontroverzi \u2013 pokud se zept\u00e1te sv\u00fdch liber\u00e1ln\u00edch p\u0159\u00e1tel, co si o t\u00e9to z\u00e1le\u017eitosti mysl\u00ed, pravd\u011bpodobn\u011b podpo\u0159\u00ed Anthropic, zat\u00edmco va\u0161i konzervativn\u00ed p\u0159\u00e1tel\u00e9 budou sp\u00ed\u0161e naklon\u011bni podpo\u0159e DoW.<\/span><\/p>\n

Marc Andreessen to asi vyj\u00e1d\u0159il nejl\u00e9pe:<\/span><\/p>\n

\"\"<\/figure>\n

(Plat\u00ed i opak.)<\/span><\/p>\n

Samotn\u00e1 Trumpova administrativa by to mohla vn\u00edmat jako kulturn\u00ed v\u00e1lku a boj o kontrolu. Ale alespo\u0148 podle m\u00e9ho n\u00e1zoru je nepravd\u011bpodobn\u00e9, \u017ee by to takto vn\u00edmala samotn\u00e1 Anthropic. Anthropic se m\u00e9n\u011b zav\u00e1zala k progresivn\u00edm hodnot\u00e1m obecn\u011b a v\u00edce k my\u0161lence\u00a0<\/span>slad\u011bn\u00ed s um\u011blou inteligenc\u00ed<\/span><\/em>\u00a0.<\/span><\/p>\n

Stejn\u011b jako t\u00e9m\u011b\u0159 v\u0161ichni v odv\u011btv\u00ed modelov\u00e1n\u00ed um\u011bl\u00e9 inteligence, i zam\u011bstnanci spole\u010dnosti Anthropic v\u011b\u0159\u00ed, \u017ee doslova tvo\u0159\u00ed boha a \u017ee tento b\u016fh dos\u00e1hne sv\u00e9 pln\u00e9 existence d\u0159\u00edve ne\u017e pozd\u011bji. M\u00e9 rozhovory se zam\u011bstnanci obou spole\u010dnost\u00ed v\u0161ak odhalily kulturn\u00ed rozd\u00edl v tom, jak vn\u00edmaj\u00ed svou roli v tomto procesu.<\/span><\/p>\n

Zat\u00edmco zam\u011bstnanci OpenAI se obecn\u011b sna\u017e\u00ed co nejrychleji vytvo\u0159it nejschopn\u011bj\u0161\u00edho a nejmocn\u011bj\u0161\u00edho boha, zam\u011bstnanci Anthropic se sp\u00ed\u0161e zam\u011b\u0159uj\u00ed na vytvo\u0159en\u00ed benevolentn\u00edho boha.<\/span><\/p>\n

Moje intuice mi proto \u0159\u00edk\u00e1, \u017ee skute\u010dnou obavou Anthropicu \u2013 nebo alespo\u0148 jednou z jej\u00edch nejv\u011bt\u0161\u00edch obav \u2013 bylo, \u017ee Trumpovo ministerstvo obrany by mohlo do um\u011bl\u00e9 inteligence ne\u00famysln\u011b v\u0161t\u00edpit misantropick\u00e9 hodnoty, \u010d\u00edm\u017e by se zv\u00fd\u0161ila pravd\u011bpodobnost budouc\u00ed pom\u00fdlen\u00e9 v\u0161eobecn\u011b uzn\u00e1van\u00e9 um\u011bl\u00e9 inteligence (AGI), kter\u00e1 by lidstvo vn\u00edmala sp\u00ed\u0161e jako hrozbu. Jin\u00fdmi slovy, m\u00e1m podez\u0159en\u00ed, \u017ee se pravd\u011bpodobn\u011b jednalo sp\u00ed\u0161e o strach ze Skynetu a m\u00e9n\u011b o konkr\u00e9tn\u00ed Trumpovu politiku, ne\u017e si lid\u00e9 mimo Anthropic mysl\u00ed.<\/span><\/p>\n

Ale krom\u011b politick\u00fdch rozd\u00edl\u016f a obav ohledn\u011b zav\u00e1d\u011bj\u00edc\u00ed obecn\u00e9 um\u011bl\u00e9 inteligence tato situace podle m\u00e9ho n\u00e1zoru zd\u016fraz\u0148uje z\u00e1sadn\u00ed a nevyhnuteln\u00fd konflikt mezi lidsk\u00fdmi institucemi \u2013 n\u00e1rodn\u00edm st\u00e1tem a korporac\u00ed.<\/span><\/p>\n

N\u00e1rodn\u00ed st\u00e1t mus\u00ed m\u00edt monopol na pou\u017eit\u00ed s\u00edly.<\/span><\/strong><\/h4>\n

Jeden n\u00e1zor je, \u017ee pokusy ministerstva v\u00e1lky o donucen\u00ed k Anthropic p\u0159edstavuj\u00ed erozi demokracie \u2013 naru\u0161en\u00ed vl\u00e1dn\u00ed moci do soukrom\u00ed. Dean Ball napsal \u0161iroce \u010dten\u00fd a velmi dob\u0159e napsan\u00fd \u010dl\u00e1nek, kter\u00fd tento bod argumentuje:<\/span><\/p>\n

N\u011bkter\u00e9 \u00faryvky:<\/span><\/strong><\/p>\n

N\u011bkdy v m\u00e9m \u017eivot\u011b \u2013 nev\u00edm p\u0159esn\u011b kdy \u2013 za\u010dala americk\u00e1 republika, jak ji zn\u00e1me, um\u00edrat\u2026 Ne\u0159\u00edk\u00e1m, \u017ee tato [antropick\u00e1] ud\u00e1lost \u201ezp\u016fsobila\u201c smrt republiky, ani ne\u0159\u00edk\u00e1m, \u017ee \u201ezah\u00e1jila novou \u00e9ru\u201c\u2026 Pouze to zviditelnilo prob\u00edhaj\u00edc\u00ed smrt\u2026 Ud\u00e1losti uplynul\u00e9ho t\u00fddne vn\u00edm\u00e1m jako jak\u00e9si p\u0159edzv\u011bstn\u00e9 chrapot star\u00e9 republiky\u2026<\/span><\/em><\/p>\n

Trumpova administrativa m\u00e1 v jedn\u00e9 v\u011bci pravdu:\u00a0<\/span>nezn\u00ed<\/span>\u00a0spr\u00e1vn\u011b, \u017ee soukrom\u00e9 spole\u010dnosti mohou zav\u00e1d\u011bt omezen\u00ed na pou\u017e\u00edv\u00e1n\u00ed technologi\u00ed arm\u00e1dou. \u2026 Anthropic v podstat\u011b vyu\u017e\u00edv\u00e1 smluvn\u00ed n\u00e1stroj k tomu, aby arm\u00e1d\u011b uvalil m\u00e9n\u011b technick\u00fdch ne\u017e politick\u00fdch omezen\u00ed. \u2026 Arm\u00e1da by pravd\u011bpodobn\u011b s takov\u00fdmi podm\u00ednkami nem\u011bla souhlasit a soukrom\u00e9 spole\u010dnosti by se nem\u011bly sna\u017eit je zav\u00e1d\u011bt. \u2026 Bidenova administrativa v\u0161ak s t\u011bmito podm\u00ednkami souhlasila, stejn\u011b jako Trumpova administrativa, dokud nezm\u011bnila n\u00e1zor. \u2026 Smlouva nebyla nez\u00e1konn\u00e1, ale mo\u017en\u00e1 jen nerozumn\u00e1, a i to pravd\u011bpodobn\u011b jen zp\u011btn\u011b.<\/span><\/em><\/p>\n

Racion\u00e1ln\u00ed reakc\u00ed ministerstva v\u00e1lky by bylo vypov\u011bd\u011bt smlouvu se spole\u010dnost\u00ed Anthropic a ve\u0159ejn\u011b prohl\u00e1sit, \u017ee takov\u00e1 politick\u00e1 omezen\u00ed jsou nep\u0159ijateln\u00e1\u2026 Ministerstvo v\u00e1lky to ale neud\u011blalo. M\u00edsto toho pohrozilo, \u017ee\u2026 ozna\u010d\u00ed Anthropic za riziko dodavatelsk\u00e9ho \u0159et\u011bzce. Tato pravomoc je vyhrazena v\u00fdhradn\u011b pro spole\u010dnosti ovl\u00e1dan\u00e9 zahrani\u010dn\u00edmi nep\u0159\u00e1telsk\u00fdmi z\u00e1jmy, jako je Huawei\u2026 Skute\u010dnost, \u017ee [Hegsethovy skute\u010dn\u00e9 \u010diny] pravd\u011bpodobn\u011b nejsou smrteln\u00e9 (ale pouze velmi krvav\u00e9), nem\u011bn\u00ed nic na poselstv\u00ed, kter\u00e9 je vys\u00edl\u00e1no v\u0161em investor\u016fm a spole\u010dnostem v Americe: Podnikajte za na\u0161ich podm\u00ednek,\u00a0<\/span>nebo v\u00e1s zav\u0159eme<\/span>\u00a0\u2026<\/span><\/em><\/p>\n

Toto nar\u00e1\u017e\u00ed na z\u00e1kladn\u00ed princip Americk\u00e9 republiky\u2026 soukrom\u00e9 vlastnictv\u00ed\u2026 Mezi t\u00edmto sd\u011blen\u00edm a sd\u011blen\u00edm, kter\u00e9 vys\u00edl\u00e1 ministerstvo v\u00e1lky, nen\u00ed \u017e\u00e1dn\u00fd z\u00e1sadn\u00ed rozd\u00edl.\u00a0<\/span>Neexistuje \u017e\u00e1dn\u00e9 soukrom\u00e9 vlastnictv\u00ed<\/span>\u00a0. Pokud ho budeme pot\u0159ebovat pro n\u00e1rodn\u00ed bezpe\u010dnost, jednodu\u0161e ho pou\u017eijeme\u2026 Tato hrozba nyn\u00ed bude viset nad ka\u017ed\u00fdm, kdo obchoduje s vl\u00e1dou\u2026<\/span><\/em><\/p>\n

S ka\u017ed\u00fdm nov\u00fdm prezidentsk\u00fdm obdob\u00edm se americk\u00e1 politika st\u00e1v\u00e1 je\u0161t\u011b nep\u0159edv\u00eddateln\u011bj\u0161\u00ed, bezohledn\u011bj\u0161\u00ed, sv\u00e9voln\u011bj\u0161\u00ed a vrto\u0161iv\u011bj\u0161\u00ed \u2013 postupn\u011b upad\u00e1 do \u0161\u00edlenstv\u00ed.<\/span><\/em><\/p>\n

Alex Karp z Palantir ned\u00e1vno vyj\u00e1d\u0159il opa\u010dn\u00fd n\u00e1zor, a to sv\u00fdm charakteristick\u00fdm stru\u010dn\u00fdm zp\u016fsobem:<\/span><\/strong><\/p>\n

Pokud si Silicon Valley mysl\u00ed, \u017ee v\u0161em vezmeme kancel\u00e1\u0159sk\u00e1 pracovn\u00ed m\u00edsta A ZNI\u010c\u00cdME arm\u00e1du… Pokud nev\u011b\u0159\u00edte, \u017ee to povede ke zn\u00e1rodn\u011bn\u00ed na\u0161ich technologi\u00ed, jste pozadu.<\/span><\/em><\/p>\n

Karp doch\u00e1z\u00ed k z\u00e1sadn\u00edmu z\u00e1v\u011bru, \u017ee jsme sv\u011bdky mocensk\u00e9ho boje mezi korporacemi a n\u00e1rodn\u00edm st\u00e1tem. Ve skute\u010dnosti se ale nejedn\u00e1 jen o komunikaci, pracovn\u00ed m\u00edsta nebo dodr\u017eov\u00e1n\u00ed vojensk\u00fdch p\u0159edpis\u016f \u2013 jde o to,\u00a0<\/span>kdo m\u00e1<\/span><\/em>\u00a0v na\u0161\u00ed spole\u010dnosti kone\u010dnou moc.<\/span><\/p>\n

Ben Thompson ze\u00a0<\/span>Stratechery<\/span><\/em>\u00a0sd\u00edl\u00ed tento n\u00e1zor. Poukazuje na to, \u017ee se skute\u010dn\u011b pot\u00fdk\u00e1me s mocensk\u00fdm bojem mezi soukromou spole\u010dnost\u00ed a n\u00e1rodn\u00edm st\u00e1tem. Zd\u016fraz\u0148uje, \u017ee a\u010dkoliv jedn\u00e1n\u00ed Trumpovy administrativy bylo mimo zaveden\u00e9 normy, vl\u00e1da USA je v kone\u010dn\u00e9m d\u016fsledku demokraticky zvolena, zat\u00edmco Anthropic nikoli.<\/span><\/p>\n

Spole\u010dnost Anthropic zast\u00e1v\u00e1 n\u00e1zor, \u017ee Amodei \u2013 kter\u00e9ho pova\u017euji za z\u00e1stupce veden\u00ed a p\u0159edstavenstva Anthropicu \u2013 by m\u011bl rozhodovat o tom, jak budou modely spole\u010dnosti pou\u017e\u00edv\u00e1ny, p\u0159esto\u017ee Amodei nebyl zvolen a nen\u00ed odpov\u011bdn\u00fd ve\u0159ejnosti\u2026 Kdo rozhoduje o tom, kdy a jak budou americk\u00e9 vojensk\u00e9 kapacity pou\u017eity?<\/span><\/em><\/p>\n

Toto spad\u00e1 do odpov\u011bdnosti ministerstva v\u00e1lky, kter\u00e9 je v kone\u010dn\u00e9m d\u016fsledku pod\u0159\u00edzeno prezidentovi, kter\u00fd je rovn\u011b\u017e volen. Anthropic v\u0161ak opakuje sv\u016fj postoj, \u017ee nezodpov\u011bdn\u00fd Amodei m\u016f\u017ee jednostrann\u011b omezit pou\u017e\u00edv\u00e1n\u00ed sv\u00fdch model\u016f.<\/span><\/em><\/p>\n

Thompson v\u0161ak krom\u011b obav o demokratickou odpov\u011bdnost poukazuje na to, \u017ee nikdy nebylo realistick\u00e9 o\u010dek\u00e1vat, \u017ee zbra\u0148 tak siln\u00e1 jako um\u011bl\u00e1 inteligence z\u016fstane mimo kontrolu vl\u00e1dy, bez ohledu na to, zda je vl\u00e1da demokraticky zvolena, \u010di nikoli:<\/span><\/p>\n

Zva\u017ete d\u016fsledky, pokud vezmeme Amodeiho analogii [um\u011bl\u00e9 inteligence a jadern\u00fdch zbran\u00ed] doslova\u2026 Jadern\u00e9 zbran\u011b v\u00fdznamn\u011b m\u011bn\u00ed rovnov\u00e1hu sil; v rozsahu, v jak\u00e9m je um\u011bl\u00e1 inteligence stejn\u011b d\u016fle\u017eit\u00e1, maj\u00ed USA mnohem v\u011bt\u0161\u00ed z\u00e1jem nejen o to, co Anthropic sm\u00ed d\u011blat se sv\u00fdmi modely, ale tak\u00e9 o to, co Anthropic v\u016fbec sm\u00ed d\u011blat\u2026 Pokud by jadern\u00e9 zbran\u011b vyv\u00edjela soukrom\u00e1 spole\u010dnost a tato soukrom\u00e1 spole\u010dnost by se sna\u017eila diktovat podm\u00ednky americk\u00e9 arm\u00e1d\u011b, USA by m\u011bly absolutn\u00ed motivaci tuto spole\u010dnost zni\u010dit\u2026<\/span><\/em><\/p>\n

Existuj\u00ed ur\u010dit\u00e9 kategorie schopnost\u00ed \u2013 nap\u0159\u00edklad jadern\u00e9 zbran\u011b \u2013 kter\u00e9 jsou dostate\u010dn\u011b siln\u00e9, aby z\u00e1sadn\u011b naru\u0161ily svobodu jedn\u00e1n\u00ed USA\u2026 Do t\u00e9 m\u00edry, do jak\u00e9 um\u011bl\u00e1 inteligence dos\u00e1hne \u00farovn\u011b jadern\u00fdch zbran\u00ed \u2013 nebo ji p\u0159ekro\u010d\u00ed \u2013 Amodei a Anthropic buduj\u00ed mocenskou z\u00e1kladnu, kter\u00e1 m\u016f\u017ee potenci\u00e1ln\u011b konkurovat americk\u00e9 arm\u00e1d\u011b\u2026<\/span><\/em><\/p>\n

Anthropic hodn\u011b mluv\u00ed o konvergenci; toto trv\u00e1n\u00ed na udr\u017een\u00ed kontroly nad americkou arm\u00e1dou je v\u0161ak z\u00e1sadn\u011b v rozporu s realitou. Sou\u010dasn\u00e9 modely um\u011bl\u00e9 inteligence zjevn\u011b je\u0161t\u011b nejsou dostate\u010dn\u011b v\u00fdkonn\u00e9, aby konkurovaly americk\u00e9 arm\u00e1d\u011b; pokud se v\u0161ak v\u011bci ub\u00edraj\u00ed t\u00edmto sm\u011brem \u2013 a nikdo se pro tento v\u00fdvoj nezasazoval hlasit\u011bji ne\u017e Amodei \u2013 pak se mi volba, kter\u00e9 USA \u010del\u00ed, zd\u00e1 docela jednoduch\u00e1:<\/span><\/em><\/p>\n