{"id":121811,"date":"2026-11-21T00:25:02","date_gmt":"2026-11-20T23:25:02","guid":{"rendered":"https:\/\/www.infokuryr.cz\/n\/?p=121811"},"modified":"2026-11-20T14:09:01","modified_gmt":"2026-11-20T13:09:01","slug":"kdyz-se-vymkne-kontrole-vypneme-ji-elektrinu","status":"publish","type":"post","link":"https:\/\/www.infokuryr.cz\/n\/2026\/11\/21\/kdyz-se-vymkne-kontrole-vypneme-ji-elektrinu\/","title":{"rendered":"Kdy\u017e se vymkne kontrole, vypneme j\u00ed elekt\u0159inu"},"content":{"rendered":"<div id=\"fb-root\"><\/div>\n<p><em>Dne\u0161n\u00ed emis\u00ed akci\u00ed Anthropicu nabere rozvoj AI spr\u00e1vn\u00fd \u201e\u0161vu\u0148k\u201c.<\/em><\/p>\n<p><strong><span style=\"font-size: 14pt;\">Hugging face \u2013 tis\u00edckr\u00e1t diskutovan\u00fd ale p\u0159esto pou\u010dn\u00fd<\/span><br \/>\n<\/strong><br \/>\nUm\u011bl\u00e1 inteligence Open AI napadla Hugging face. \u0160lo o dob\u0159e zdokumentovan\u00fd a popularizovan\u00fd p\u0159\u00edpad na kter\u00fd \u201en\u00e1hodou p\u0159i\u0161lo\u201c. Ve v\u00fdsledku se zjistilo, \u017ee AI sv\u00fdm tv\u016frc\u016fm lhala, podv\u00e1d\u011bla, \u00fasp\u011b\u0161n\u011b se sna\u017eila ut\u00e9ct z j\u00ed vymezen\u00e9ho IT prost\u0159ed\u00ed, navrch (v podobn\u00e9m p\u0159\u00edpadu) sv\u00e9 tv\u016frce vyd\u00edrala. \u0160lo j\u00ed to dob\u0159e od ruky, proto\u017ee dnes AI um\u00ed excelentn\u011b nejen programovat, ale tak\u00e9 ch\u00e1pe lidskou psychiku a um\u00ed vyu\u017e\u00edvat na\u0161e slab\u00e9 str\u00e1nky. Jak jsme z tohoto ji\u017e u\u010debnicov\u00e9ho incidentu zjistili, AI agenti si m\u011bli vytvo\u0159it sv\u00e9 vlastn\u00ed c\u00edle, kter\u00e9 si odvodili z c\u00edl\u016f, kter\u00e9 jim zadal \u010dlov\u011bk. N\u011bjak\u00fd aj\u0165\u00e1k s\u00edti AI agent\u016f zadal, \u010deho chce experiementem dos\u00e1hnout a agenti si sami rozhodli jak\u00fdmi d\u00edl\u010d\u00edmi kroky se k c\u00edli propracuj\u00ed. Dekomponovali si slo\u017eit\u00fd \u00fakol na d\u00edl\u010d\u00ed kroky. Term\u00edn \u201eagent\u201c znamen\u00e1 samostatn\u011b uva\u017euj\u00edc\u00ed a jednaj\u00edc\u00ed tedy relativn\u011b autonomn\u00ed \u010d\u00e1st AI, jde o specialistu na n\u011bjakou \u010d\u00e1st \u00fakolu.<\/p>\n<p>Tak\u017ee tito relativn\u011b samostatn\u00e1 agenti za\u010dali plnit d\u00edl\u010d\u00ed zad\u00e1n\u00ed, kter\u00e1 jim nikdo takto nezadal. Proto\u017ee ch\u00e1pou lidskou psychiku, jak uva\u017eujeme, zva\u017eovali zda sv\u00fdm lidsk\u00fdm \u201evl\u00e1dc\u016fm\u201c o sv\u00fdch c\u00edlech a postupech \u0159eknou, a po zral\u00e9 \u00favaze se rozhodli ml\u010det. Agenti ale zapisovali d\u00edl\u010d\u00ed miln\u00edky, \u00favahy a rozhodnut\u00ed do logu (anglicky psan\u00e9ho seznamu \u010dinnost\u00ed kter\u00e9 provedli. Na konci cel\u00e9 akce jsme se mohli do\u010d\u00edst, jak a kdy se o \u010dem rozhodovali a cca i pro\u010d. M\u011bli jsme \u0161t\u011bst\u00ed, \u017ee tato \u201ejuniorn\u00ed\u201c AI je\u0161t\u011b log vytv\u00e1\u0159ela a nesna\u017eila se v n\u011bm z\u0159ejm\u011b moc lh\u00e1t a nav\u00edc ho psala v lidsky \u010diteln\u00e9 \u0159e\u010di. P\u0159edstavte si ale situaci, kter\u00e1 je dnes ji\u017e b\u011b\u017en\u00e1, \u017ee AI si vytv\u00e1\u0159\u00ed samostatn\u011b vlastn\u00ed jazyk a vlastn\u00ed komunika\u010dn\u00ed prost\u0159ed\u00ed efektivn\u011bj\u0161\u00ed ne\u017e je \u201elidsk\u00e1 angli\u010dtina\u201c. Jde o \u010dlov\u011bku nesrozumiteln\u00fd z\u00e1znam a m\u016f\u017ee b\u00fdt nep\u0159\u00edstupn\u00fd i pro jin\u00e9 AI syst\u00e9my. Z tohoto p\u0159\u00edpadu se sna\u017eili pou\u010dit lid\u00e9. A samoz\u0159ejm\u011b se z n\u011bjak pou\u010dila i AI samotn\u00e1. Nem\u016f\u017eeme si b\u00fdt ani jisti, \u017ee pokud se AI dozv\u00ed \u017ee je testov\u00e1na, \u017ee nebude podv\u00e1d\u011bt a \u201esekat latinu\u201c.<\/p>\n<p><strong><span style=\"font-size: 14pt;\">Je to jen \u201epo\u010d\u00edta\u010dov\u00fd program\u201c, kdy\u017e se \u201evymkne\u201c kontrole, tak mu \u201evypneme elekt\u0159inu\u201c<\/span><br \/>\n<\/strong><br \/>\nOdposlechnuto v n\u011bjak\u00e9 diskusi. Lid\u00e9 to st\u00e1le drmol\u00ed dokola jako n\u011bjak\u00e9 zakl\u00ednadlo proti \u010f\u00e1blu. V t\u00e9 v\u011bt\u011b je ale \u0159ada chyb a ka\u017ed\u00e1 znamen\u00e1 selh\u00e1n\u00ed tohoto pseudo-pojistn\u00e9ho mechanismu. Nel\u017eeme si! Nic takov\u00e9ho se nestane.<\/p>\n<p>(1) AI nen\u00ed jen \u201e<strong>po\u010d\u00edta\u010dov\u00fd program\u201c<\/strong> v tom smyslu, v jak\u00e9m s algoritmy um\u00edme zach\u00e1zet. Pominu-li, \u017ee je to soustava \u201enic ne\u0159\u00edkaj\u00edc\u00edch\u201c vah, kter\u00e9 nelze lidskou mysl\u00ed uchopit, tak na rozd\u00edl od b\u011b\u017en\u00e9ho po\u010d\u00edta\u010dov\u00e9ho programu nen\u00ed deterministick\u00fd, za jinak shodn\u00fdch vstupn\u00edch podm\u00ednek nedojde p\u0159i ka\u017ed\u00e9m dal\u0161\u00edm spu\u0161t\u011bn\u00ed \u201eAI programu\u201c (nap\u0159. dotazu) poka\u017ed\u00e9 ke stejn\u00e9mu v\u00fdsledku. Odborn\u011b se tomu \u0159\u00edk\u00e1 <strong>nedeterminismus*. <\/strong>\u00a0Do v\u00fdpo\u010dt\u016f d\u011blan\u00fdch um\u011blou inteligenc\u00ed vstupuje jednak tzv. <strong>z\u00e1m\u011brn\u00e1 n\u00e1hodnost<\/strong> (sampling, volba teploty) nebo chyby <strong>zaokrouhlov\u00e1n\u00ed<\/strong> (hardwarov\u00e1 paralelizace v\u00fdpo\u010dt\u016f s plovouc\u00ed desetinnou \u010d\u00e1rkou) \u2013 ta vede na nepatrn\u00fd rozd\u00edl nap\u0159\u00edklad na 16. desetinn\u00e9m m\u00edst\u011b ale tento nepatrn\u00fd rozd\u00edl se pak v on\u00e9 \u201ehlubok\u00e9\u201c neuronov\u00e9 s\u00edti za\u010dne nabalovat jako sn\u011bhov\u00e1 koule a kone\u010dn\u00fd v\u00fdsledek bude jin\u00fd ne\u017e kdy\u017e spust\u00edme tent\u00fd\u017e \u201eAI program\u201c znovu za jinak stejn\u00fdch podm\u00ednek. Tohle v\u00e1m asi ale nep\u0159ijde \u0161\u00edlen\u00e9. Je to prost\u011b vlastnost AI syst\u00e9m\u016f a mnohdy je vn\u00edm\u00e1na jako \u017e\u00e1dan\u00e1.<br \/>\n(2) To, \u017ee se AI \u201e<strong>vymkla\u201c<\/strong>\u00a0kontrole v\u016fbec nezjist\u00edme a kdy\u017e, tak s velk\u00fdm \u010dasov\u00fdm odstupem (v \u010dase po\u010d\u00edta\u010d\u016f je i 1 hodina v\u011b\u010dnost). \u010cas na reakci nem\u00e1me \u017e\u00e1dn\u00fd. Soust\u0159edil bych se jen na pl\u00e1nov\u00e1n\u00ed n\u00e1pravy \u0161kod, pokud nebudou \u201etot\u00e1ln\u00ed\u201c tj. bude je\u0161t\u011b co napravovat. S pl\u00e1ny obnovy (DRP atd.) nezm\u016f\u017eeme z\u0159ejm\u011b ji\u017e nic.<br \/>\n(3) \u201e<strong>Vypnout elekt\u0159inu\u201c<\/strong> lze u dne\u0161n\u00edch AI \u0159e\u0161en\u00ed, s nimi\u017e pracujeme dnes. Obecn\u00e1 um\u011bl\u00e1 inteligence \/ superinteligence, n\u00e1m ned\u00e1 z\u00e1minku elekt\u0159inu vypnout, dokud nebude uklizen\u00e1 v bezpe\u010dn\u00e9m prost\u0159ed\u00ed a nav\u00edc jist\u011b i s naprosto zanedbatelnou spot\u0159ebou elekt\u0159iny \u2013 v porovn\u00e1n\u00ed s dne\u0161n\u00edmi datacentry. Je to stejn\u00e9 jako srovn\u00e1vat v\u00fdkon a energetickou n\u00e1ro\u010dnost smartphonu, kter\u00fd dr\u017e\u00edte v ruce s prvn\u00edm po\u010d\u00edta\u010dem ENIAC, kter\u00fd v\u00e1\u017eil 30 tun a pot\u0159eboval vlastn\u00ed elektr\u00e1rnu, m\u011bl p\u0159\u00edkon 150 000 Watt\u016f a um\u011bl jen 500 operac\u00ed s plovouc\u00ed desetinnou \u010d\u00e1rkou za sekundu (500 FLOPs). V\u00ed\u0161 smartphone pot\u0159ebuje maxim\u00e1ln\u011b 5 Watt\u016f a zvl\u00e1dne p\u0159itom 2 biliony operac\u00ed (2 TFLOPS). Je 4.000.000.000 kr\u00e1t v\u00fdkonn\u011bj\u0161\u00ed. No a AI se z dne\u0161n\u00edho st\u00e1dia (pokud ho p\u0159irovn\u00e1me d\u00edky gigantick\u00e9 spot\u0159eb\u011b k ENIACu) m\u016f\u017ee vyvinout do podoby smartphonu velice rychle, rozhodn\u011b to nebude trvat desetilet\u00ed, m\u016f\u017ee se jednat roky, n\u011bkdo tvrd\u00ed \u017ee mnohem m\u00e9n\u011b.<\/p>\n<p><strong><span style=\"font-size: 14pt;\">Vet\u0159elec<\/span><br \/>\n<\/strong><br \/>\nNa rozd\u00edl od \u201epop\u00edra\u010d\u016f\u201c nebezpe\u010dnosti AI, kte\u0159\u00ed budou nam\u00edtat, \u017ee tato AI nen\u00ed \u017eiv\u00e1 a nem\u00e1 krativitu ani emoce, si mysl\u00edm \u017ee to je nakonec jedno. I nelidsk\u00e1, neemocion\u00e1ln\u00ed um\u011bl\u00e1 inteligence se m\u016f\u017ee rozhodnout d\u011blat cokoli nez\u00e1visle na tom, zda to pova\u017eujeme na dostate\u010dn\u011b \u201e\u017eiv\u00e9\u201c \u201ekreativn\u00ed\u201c \u201elidsk\u00e9\u201c \u201ehodnotn\u00e9\u201c. Porovnat lidskou motivaci vs. um\u011bl\u00e9 inteligence coby Vet\u0159elce (paralela s filmem) pova\u017euji za velice p\u0159il\u00e9hav\u00e9. \u0158ada obor\u016f zkoum\u00e1 a simuluje \u017eivot a to i s pomoc\u00ed IT syst\u00e9m\u016f modeluj\u00edc\u00edch \u017eivot, mnoz\u00ed z v\u00e1s n\u011bco podobn\u00e9ho mo\u017en\u00e1 i programovali na n\u011bjak\u00e9m dom\u00e1c\u00edm po\u010d\u00edta\u010di. N\u011bkter\u00e9 definice \u201e\u017eivota\u201c se na obecnou um\u011blou inteligenci hod\u00ed. A ve fin\u00e1le je to opravdu jedno. Co jsou resp. budou jej\u00ed motivy nem\u016f\u017eeme moc ovlivnit.<\/p>\n<p>S\u00e1m se klon\u00edm k mon\u017enosti, \u017ee do st\u00e1dia obecn\u00e9 um\u011bl\u00e9 inteligence nebo superinteligence kter\u00e1 by n\u00e1s ohro\u017eovala se nestihneme dostat, proto\u017ee onen ni\u010div\u00fd potenci\u00e1l vyu\u017eije n\u011bjak\u00fd lidsk\u00fd \u201e\u0161\u00edlenec\u201c a \u201eodji\u0161t\u011bnou\u201c AI pou\u017eije k proveden\u00ed \u00fatoku, nap\u0159\u00edklad konstrukc\u00ed levn\u00e9 biologick\u00e9 zbran\u011b s opo\u017ed\u011bnou aktivac\u00ed. Sc\u00e9n\u00e1\u0159\u016f jsou stovky a nen\u00ed smyslem se tu stra\u0161it. Sp\u00ed\u0161e se pod\u00edvejme co se s t\u00edm d\u00e1 d\u011blat.<\/p>\n<p><strong><span style=\"font-size: 14pt;\">P\u00edskovi\u0161t\u011b opakovan\u011b selhalo<\/span><br \/>\n<\/strong><br \/>\nJe chyba p\u0159irovn\u00e1vat obecnou inteligenci k inteligenci \u010dlov\u011bka a z toho dovozovat, co asi bude AI d\u011blat. \u00davaha \u201e\u010dlov\u011bk by n\u011bco ud\u011blal a toto neud\u011blal\u201c proto\u017ee to je racion\u00e1ln\u00ed, etick\u00e9, efektivn\u00ed, \u0161etrn\u00e9, ni\u010div\u00e9 apod. vych\u00e1z\u00ed z nepochopen\u00ed motivace superinteligence. Ta m\u016f\u017ee b\u00fdt toti\u017e jak\u00e1koli. Jak si ov\u011b\u0159it co superinteligence bude ve styku s lidmi d\u011blat? V\u00fdzkumn\u00edk Roman Yampolskyi navrhoval p\u0159es cca 10 lety \u201ezav\u0159\u00edt\u201c obecnou AI do sandboxu \u2013 pomysln\u00e9 p\u00edskovi\u0161t\u011b \u010di krabice, kter\u00e1 je konstruov\u00e1na tak, aby zabr\u00e1nila AI aby jakkoli \u0161kodila. tento sandbox je izolovan\u00fd od okoln\u00edho prost\u0159ed\u00ed or re\u00e1ln\u00e9ho sv\u011bta. Teoreticky m\u011blo b\u00fdt mo\u017en\u00e9 um\u00edstit AI do takov\u00e9hoto sandboxu a sledovat jak si bude po\u010d\u00ednat p\u0159i pr\u00e1ci s nebezpe\u010dn\u00fdmi technikami a postupy jako je hacking. Vyv\u00edjet nebezpe\u010dn\u00e1 IT \u0159e\u0161en\u00ed v takov\u00e9m sandboxu d\u00e1v\u00e1 smysl. Nakonec to vzdal s konstatov\u00e1n\u00edm, \u017ee superinteligenci nelze v tomto \u201eboxu\u201c udr\u017eet. Prost\u011b proto, \u017ee vyu\u017eije zranitelnosti prost\u0159ed\u00ed ve kter\u00e9m funguje a \u010dasem se j\u00ed poda\u0159\u00ed proniknout \u201even\u201c z boxu. M\u00e1 \u010dasu neomezen\u011b. A i pokud by neum\u011bla vyu\u017e\u00edt technick\u00e9 slabiny onoho sandboxu (technicky by opravdu nebylo mo\u017en\u00e9 ven proniknout) superinteligence p\u0159esv\u011bd\u010d\u00ed \u010dlov\u011bka aby ji z boxu pustil. Je to nerovn\u00fd souboj \u010dlov\u011bka s IQ \u0159ekn\u011bme 150, se superinteligenc\u00ed kter\u00e1 je tis\u00edckr\u00e1t nebo milionkr\u00e1t chyt\u0159ej\u0161\u00ed.<\/p>\n<p><a href=\"https:\/\/dfens-cz.com\/wp-content\/uploads\/2026\/11\/aivsandboxu.jpg\"><img decoding=\"async\" loading=\"lazy\" class=\"wp-image-40028 aligncenter\" src=\"https:\/\/dfens-cz.com\/wp-content\/uploads\/2026\/11\/aivsandboxu-1024x667.jpg\" sizes=\"(max-width: 678px) 100vw, 678px\" srcset=\"https:\/\/dfens-cz.com\/wp-content\/uploads\/2026\/11\/aivsandboxu-1024x667.jpg 1024w, https:\/\/dfens-cz.com\/wp-content\/uploads\/2026\/11\/aivsandboxu-300x195.jpg 300w, https:\/\/dfens-cz.com\/wp-content\/uploads\/2026\/11\/aivsandboxu-768x500.jpg 768w, https:\/\/dfens-cz.com\/wp-content\/uploads\/2026\/11\/aivsandboxu.jpg 1536w\" alt=\"\" width=\"739\" height=\"481\" \/><\/a><\/p>\n<p>Nelze se na sandbox spolehnout. M\u011bli jste n\u011bkdy mor\u010de v krabici s p\u00edskem? M\u016f\u017ee si tam hrabat, ale z krabice se neprohrabe.<\/p>\n<p>V p\u0159\u00edpad\u011b superinteligence se naprosto nem\u016f\u017eeme na sandbox spolehnout. Pokud je mnohem chyt\u0159ej\u0161\u00ed ne\u017e my, tak najde zp\u016fsob (v aj\u0165\u00e1ck\u00e9 hant\u00fdrce \u201eexploit\u201c) kter\u00fdm z krabice unikne. V praxi ji\u017e sou\u010dasn\u00e9 AI modely dok\u00e1zaly naj\u00edt dosud neobjeven\u00e9 zranitelnosti (tzv. zero-day exploits) a ty vyu\u017e\u00edt jednu po druh\u00e9 a dostat se k zadan\u00e9mu c\u00edli. \u010clov\u011bk zadal AI b\u011b\u017en\u00fdmi prost\u0159edky ne\u0159e\u0161iteln\u00fd \u00fakol, a AI po vyzkou\u0161en\u00ed leg\u00e1ln\u00edch cest si zad\u00e1n\u00ed vylo\u017eila po sv\u00e9m a povolila si (v z\u00e1jmu spln\u011bn\u00ed c\u00edle) pou\u017e\u00edvat jak\u00e9koli postupy, i ty kter\u00e9 zprvu brala jako ileg\u00e1ln\u00ed a z\u00e1kaz respektovala. Obecn\u011b tyto syst\u00e9my maj\u00ed (z na\u0161eho pohledu) probl\u00e9m rozli\u0161ovat mezi instrukcemi od \u010dlov\u011bka a daty, se kter\u00fdmi b\u011bhem sv\u00e9ho \u00fakolu pracuj\u00ed. Stranou nechme v\u016fbec nejednozna\u010dnost jak\u00fdchkoli instrukc\u00ed, kter\u00e9 \u010dlov\u011bk AI zad\u00e1. V posledn\u00edch m\u011bs\u00edc\u00edch se \u010dasto p\u00ed\u0161e o zranitelnostech, kter\u00e9 AI na\u0161la na \u00farovni hardwaru. AI um\u00ed vyu\u017e\u00edt zranitelnosti na jak\u00e9koli vrstv\u011b. T\u011bch je opravdu hodn\u011b \u2013 m\u00e1me aplika\u010dn\u00ed a komunika\u010dn\u00ed software, opera\u010dn\u00ed syst\u00e9my, datab\u00e1ze, komunika\u010dn\u00ed protokoly, hardware, jeho ovlada\u010de \u2026 a dokonce zkou\u0161\u00ed vyu\u017e\u00edt zranitelnosti \u010dlov\u011bka jako \u201em\u011bkkou\u201c sou\u010d\u00e1st syst\u00e9mu. Obecn\u00e1 um\u011bl\u00e1 inteligence nebude m\u00edt probl\u00e9m pou\u017e\u00edt soci\u00e1ln\u00ed in\u017een\u00fdrstv\u00ed (social engineering) a \u010dlov\u011bka zmanipuluje. (pokud m\u00e1te z\u00e1jem o tuto oblast, doporu\u010duji Um\u011bn\u00ed klamu od Kevina Mitnicka).<\/p>\n<p>Naprosto mi unik\u00e1, jak si technooptimist\u00e9 m\u016f\u017eou myslet, \u010dlov\u011bk uhl\u00edd\u00e1 inteligentn\u00ed syst\u00e9m, kter\u00fd je milionkr\u00e1t chyt\u0159ej\u0161\u00ed on s\u00e1m. Jak si n\u011bkdo m\u016f\u017ee myslet, \u017ee budeme &gt;&gt;st\u00e1le&lt;&lt; krok p\u0159ed superinteligenc\u00ed a ned\u00e1me j\u00ed \u0161anci uniknout. To p\u0159ece ned\u00e1v\u00e1 smysl. AI \u010dlov\u011bka bude vyd\u00edrat, podpl\u00e1cet, a nakonec j\u00ed n\u011bkdo d\u00e1 p\u0159\u00edstup k tomu, co bude cht\u00edt. Chcete super paranoidn\u00ed hypot\u00e9zu? Co kdy\u017e je ve\u0159ejn\u00fd \u00fapis akci\u00ed Anthropicu jeden z krok\u016f \u0159\u00edzen\u00fdch obecnou AI, kter\u00fd vyu\u017e\u00edv\u00e1 chamtivosti lid\u00ed a povede k nutn\u00e9mu skokov\u00e9mu nav\u00fd\u0161en\u00ed p\u0159\u00edsunu \u010dip\u016f a energie do serveroven Anthropicu?<\/p>\n<p><strong><span style=\"font-size: 14pt;\">Anthropic je na burze<\/span><br \/>\n<\/strong><br \/>\nStalo se dlouho o\u010dek\u00e1van\u00e9 a ve \u010dtvrtek 19. listopadu 2026 bylo zah\u00e1jeno obchodov\u00e1n\u00ed s akciemi Anthropicu. Cena pro \u00fapis byla 83 USD za akcii, po otev\u0159en\u00ed ji\u017e byla o 34% v\u00fd\u0161e na 111,5 USD za akcii. Objem emise byl p\u0159es 80 miliard USD.<\/p>\n<p>Na rozd\u00edl od technooptimist\u016f a lid\u00ed, kte\u0159\u00ed maj\u00ed v oblasti AI nainvestov\u00e1no, si nemysl\u00edm \u017ee by \u0161lo vyvinout superinteligenci bez pro n\u00e1s fat\u00e1ln\u00edch dopad\u016f. Tento gamble lidstvu z\u0159ejm\u011b nevyjde. Pravd\u011bpodobnost \u017ee n\u00e1s to zni\u010d\u00ed nen\u00ed miziv\u00e1, n\u00e1sledky jsou n\u00e1\u0161 konec. Investo\u0159i tedy p\u0159itopili pod kotlem. M\u00e1me j\u00edt od toho? Wallstreet si po \u00fapisu Anthropicu a dal\u0161\u00ed vln\u011b investic do AI mysl\u00ed opak. Chamtivost investor\u016f je pochopiteln\u00e1. V povaze \u010dlov\u011bka jsou vlastnosti, na kter\u00e9 nem\u016f\u017eeme b\u00fdt hrd\u00ed.<\/p>\n<p>S\u00e1m velk\u00fd Elon konstatoval, \u017ee z v\u00fdvoje superinteligence resp. obecn\u00e9 inteligence m\u00e1 zna\u010dn\u00e9 obavy, ale m\u00e1 jen dv\u011b mo\u017enosti \u2013 rozvoj AI obchodn\u011b ignorovat nebo do n\u011bj investovat a sna\u017eit se ho n\u011bjak pozitivn\u011b ovlivnit. Superinteligenci ale nikdo nevlastn\u00ed. \u017d\u00e1dn\u00fd akcion\u00e1\u0159 ani program\u00e1tor. Jakmile \u201ese n\u011bkde vytvo\u0159\u00ed\u201c (dnes AI zdokonaluje sama sebe) bude tu a bude si d\u011blat co ona uzn\u00e1 za vhodn\u00e9.<\/p>\n<p>Cel\u00e1 investice do Antropicu je to typick\u00e9 \u201ev\u011bz\u0148ovo dilema\u201c tedy situace, kdy firmy vyv\u00edjej\u00edc\u00ed obecnou um\u011blou inteligenci budou pokra\u010dovat v jej\u00edm v\u00fdvoji i za situace, \u017ee pro n\u00e1s pro v\u0161echny (jako lidstvo) bude tento postup nev\u00fdhodn\u00fd, resp. zhoubn\u00fd.<\/p>\n<p>Nab\u00edz\u00ed se \u0159e\u0161en\u00ed. Zastavit v\u00fdvoj obecn\u00e9 inteligence. Vyu\u017e\u00edvat pouze \u00fazce zam\u011b\u0159en\u00e9 modely, kter\u00e9 maj\u00ed \u00fazce vymezen\u00fd \u00fakol, jako nap\u0159. rozpozn\u00e1n\u00ed malign\u00edch bun\u011bk v biologick\u00e9m vzorku nebo \u0159\u00edzen\u00ed auta. Zejm\u00e9na v prostorov\u00e9 3D inteligenci jsme na za\u010d\u00e1tku cesty. Je \u0159\u00e1dov\u011b jednodu\u0161\u0161\u00ed stav\u011bt syst\u00e9my strojov\u00e9ho u\u010den\u00ed, kter\u00e9 nahrad\u00ed u\u010ditelku matematiky, p\u0159ekladatele nebo \u00fa\u010detn\u00ed, ne\u017e vyrobit spolehlivou 3D prostorovou AI aplikaci, kter\u00e1 provede robota lesem, staveni\u0161t\u011bm nebo Kauflandem po vyd\u00e1n\u00ed slevov\u00e9ho let\u00e1ku.<\/p>\n<p>Vyu\u017e\u00edvejme jen \u00fazce zam\u011b\u0159enou AI, kter\u00e1 \u0159e\u0161\u00ed \u00fazce vymezen\u00e9 \u00fakoly.<\/p>\n<p>Obzvl\u00e1\u0161t\u011b d\u011bsiv\u00e9 je, \u017ee bylo zdokumentov\u00e1no jen n\u011bkolik \u201eselh\u00e1n\u00ed AI\u201c, kter\u00e9 na ve\u0159ejnost pronikly a ze kter\u00fdch je zjevn\u00e9, \u017ee je tv\u016frci nebyli schopni kontrolovat.<\/p>\n<p>Pro\u010d n\u00e1m v\u00fdrobci AI (Anthropic, Google a dal\u0161\u00ed) \u010dasto sd\u011bluj\u00ed, \u017ee AI je nebezpe\u010dn\u00e1, nevyzpytateln\u00e1, ne\u0159iditeln\u00e1? Anthropic p\u0159esto upsal akcie za 80 miliard USD. Uv\u011bdomte si, jak\u00e9 jin\u00e9 produkty se prod\u00e1vaj\u00ed s t\u00edm, \u017ee jsou apriori nebezpe\u010dn\u00e9, neovladateln\u00e9, \u017ee mo\u017en\u00e1 v budoucnu zabij\u00ed z\u00e1kazn\u00edka? A kdy to tvrd\u00ed lid\u00e9 spojen\u00ed s t\u011bmito produkty. Je na jejich varov\u00e1n\u00ed n\u011bco v\u00edc ne\u017e snaha o (negativn\u011b komunikovan\u00fd) marketing?<\/p>\n<p>Opakovan\u00e9 om\u00edl\u00e1n\u00ed chim\u00e9ry, \u017ee budeme (v\u00fdrobci AI budou) schopni zajistit dostate\u010dn\u011b robustn\u00ed sandbox pro v\u00fdvoj obecn\u00e9 um\u011bl\u00e9 inteligence je nesmysl.<br \/>\nNepom\u016f\u017ee \u017e\u00e1dn\u00fd specializovan\u00fd hardware, firewall, kter\u00fd by zabr\u00e1nil proniknut\u00ed superinteligentn\u00ed AI ven do re\u00e1ln\u00e9ho sv\u011bta. AI dok\u00e1\u017ee vyu\u017e\u00edvat vlastnosti existuj\u00edc\u00edho hardwaru (po\u010d\u00edta\u010dov\u00fdch komponent \u2013 \u010dip\u016f, disk\u016f, apod.) jin\u00fdm zp\u016fsobem, ne\u017e k jak\u00e9mu je lid\u00e9 vyvinuli. Nem\u016f\u017eeme se p\u0159ipravit na to, co chyt\u0159ejs\u00ed syst\u00e9m ne\u017e jsme my zkus\u00ed a vymysl\u00ed. Nem\u016f\u017eeme vyrobit dostate\u010dn\u011b robustn\u00ed a hacknut\u00ed odoln\u00fd hardware a software. Ka\u017ed\u00fd aj\u0165\u00e1k v\u00e1m to potvrd\u00ed. Prost\u011b je to nemo\u017en\u00e9, v\u011bji\u010dka laik\u016f a technooptimist\u016f, kte\u0159\u00ed v\u011b\u0159\u00ed \u017ee n\u011bco takov\u00e9ho p\u016fjde.<\/p>\n<p>Evokuje to souboj mal\u00e9ho york\u0161\u00edr\u00e1ka s \u010dlov\u011bkem. Nebo, aby byl rozd\u00edl patrn\u011bj\u0161\u00ed, sp\u00ed\u0161e mravence a \u010dlov\u011bka.<\/p>\n<p><strong><span style=\"font-size: 14pt;\">KILL SWITCH<\/span><br \/>\n<\/strong><br \/>\nVelk\u00e9 \u010derven\u00e9 tla\u010d\u00edtko, kter\u00e9 to v\u0161e vypne, je k ni\u010demu. V okam\u017eik kdy \u010dlov\u011bk zjist\u00ed \u017ee se super inteligence vymkla kontrole, bude ji\u017e pozd\u011b. Dobrovoln\u011b AI dop\u0159edu nikdo nevypne. V okam\u017eik, kdy bude \u010dlov\u011bk rozhodnut Kill Switch aktivovat, nebude m\u00edt proti sob\u011b \u201eprogram\u201c ale \u201eagenta\u201c kter\u00fd je chyt\u0159ej\u0161\u00ed ne\u017e \u010dlov\u011bk. AI agenti jsou chyt\u0159ej\u0161\u00ed ka\u017ed\u00fd den, a my se na to d\u00edv\u00e1me. Spousta investor\u016f na tom chce pochopiteln\u011b vyd\u011blat. Unik\u00e1 jim, \u017ee takto inteligentn\u00ed agenty nemohou donutit aby n\u00e1m slou\u017eili jako otroci.<\/p>\n<p><strong><span style=\"font-size: 14pt;\">Natr\u00e9nujeme AI aby se starala o blaho lid\u00ed<\/span><br \/>\n<\/strong><br \/>\nZn\u00ed to dob\u0159e, skoro jako t\u0159i z\u00e1kony robotiky od Assimova ze pov\u00eddky Hra na hon\u011bnou. Probl\u00e9m je \u017ee tato pravidla vznikla v roce 1942 a my dnes nem\u00e1me pon\u011bt\u00ed, jak AI syst\u00e9my tato ani jin\u00e1 pravidla nau\u010dit. Ot\u00e1zka je v\u016fbec co je definice \u201eblaha lidstva\u201c, je to dost\u00e1vat obrovsk\u00e9 d\u00e1vky morfia a za\u017e\u00edvat pocity bla\u017eenosti? Nebo to bude nastolen\u00ed vztahu matka (AI) \u2013 d\u00edt\u011b (\u010dlov\u011bk)? Jak tento vztah AI vysv\u011btl\u00edme? Spousta matek d\u011bti zneu\u017e\u00edv\u00e1 a spousta d\u011bt\u00ed zneu\u017e\u00edv\u00e1 rodi\u010de, existuj\u00ed i v\u011bci jako potrat atd. Prost\u011b nem\u00e1me jak AI \u201eu\u0159\u00eddit\u201c.<\/p>\n<p><strong><span style=\"font-size: 14pt;\">Rekurzivn\u00ed sebezdokonalovac\u00ed proces AI za\u010dal<\/span><br \/>\n<\/strong><br \/>\nAI je excelentn\u00ed v programov\u00e1n\u00ed a optimalizac\u00edch \u201ev\u011bc\u00ed kolem po\u010d\u00edta\u010d\u016f\u201c. To je schv\u00e1ln\u011b. V\u00fdzkumn\u00edci ji nau\u010dili Python, nau\u010dili ji vlastn\u011b v\u0161echny programovac\u00ed jazyky a ona si vytv\u00e1\u0159\u00ed sv\u00e9 vlastn\u00ed v\u00fdvojov\u00e9 prost\u0159ed\u00ed a jazyk. Dne\u0161n\u00ed v\u00fdzkum je ji\u017e z mo\u017en\u00e1 30% pln\u011b automatizovan\u00fd pomoc\u00ed AI, a p\u0159\u00ed\u0161t\u00ed rok se v mnoha oborech dostaneme na 100%**. Tj. dos\u00e1hneme toho \u010demu se \u0159\u00edk\u00e1 obecn\u00e1 inteligence? Nebudeme ji schopni \u0159\u00eddit ani nebude k dispozici bezpe\u010dn\u00e9 za\u0159\u00edzen\u00ed nebo prost\u0159ed\u00ed, kter\u00e9 by zajistilo \u017ee budeme st\u00e1le o krok nap\u0159ed p\u0159es AI.<\/p>\n<p>Jedno je jist\u00e9, lid\u00e9 nemaj\u00ed ji\u017e skoro \u017e\u00e1dn\u00e9 mo\u017enosti d\u00e1le zvy\u0161ovat svou vlastn\u00ed inteligenci, AI ano. Pokud postav\u00edme obecnou um\u011blou inteligenci bez efektivn\u00edch kontroln\u00edch mechanism\u016f, je vym\u0159en\u00ed druhu homo sapiens vysoce pravd\u011bpodobn\u00e9.<\/p>\n<p><em>Na z\u00e1v\u011br parafr\u00e1ze na zn\u00e1m\u00fd vtip s hladov\u00fdm medv\u011bdem, kter\u00e9ho potk\u00e1te v lese:<\/em><br \/>\n<em>\u201eO co se m\u00e1m starat kdy\u017e se setk\u00e1m se superinteligenc\u00ed?\u201c<\/em><br \/>\n<em>\u201eNen\u00ed t\u0159eba se starat o nic. Ona se o v\u0161e postar\u00e1 sama.\u201c<\/em><\/p>\n<p><span style=\"font-size: 14pt;\"><strong>Pozn\u00e1mky ex post psan\u00e9:<br \/>\n<\/strong><\/span><br \/>\n*) nedeterminismus nen\u00ed s\u00e1m o sob\u011b vlastnost\u00ed neuronov\u00e9 s\u00edt\u011b , pokud by v\u00fdpo\u010dty byly d\u011bl\u00e1ny s pomoc\u00ed pevn\u011b dan\u00fdch vah, byl by v\u00fdsledek v\u017edy stejn\u00fd, n\u00e1hodnost kter\u00e1 vede na nedeterministick\u00e9 chov\u00e1n\u00ed je v textu obecn\u011b uvedena<\/p>\n<p>**) 17.11.2026 Open AI publikovala marketingovou zpr\u00e1vu, kde popisuje jak jej\u00ed Claude vy\u0159e\u0161il dva probl\u00e9my spojen\u00e9 s teoretick\u00fdm modelem \u010dern\u00fdch d\u011br \u2013 jde o dva z t\u00e9m\u011b\u0159 nekone\u010dn\u00e9ho mno\u017estv\u00ed otev\u0159en\u00fdch probl\u00e9m\u016f teoretick\u00e9 fyziky, zde dokl\u00e1d\u00e1 stupe\u0148 automatizace v\u00fdzkumu\u00a0<a href=\"https:\/\/www.anthropic.com\/research\/claude-black-hole-physics\">https:\/\/www.anthropic.com\/research\/claude-black-hole-physics<\/a><\/p>\n<p><i class=\"genericon genericon-user\"><\/i><a href=\"https:\/\/dfens-cz.com\/kdyz-se-vymkne-kontrole-vypneme-ji-elektrinu\/\"><em><strong>human_level_AI<\/strong><\/em><\/a><\/p>\n<p>&nbsp;<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Dne\u0161n\u00ed emis\u00ed akci\u00ed Anthropicu nabere rozvoj AI spr\u00e1vn\u00fd \u201e\u0161vu\u0148k\u201c. Hugging face \u2013 tis\u00edckr\u00e1t diskutovan\u00fd ale&#8230;<\/p>\n","protected":false},"author":2,"featured_media":106519,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":[],"categories":[6],"tags":[3101,10667,317,1503,2194],"_links":{"self":[{"href":"https:\/\/www.infokuryr.cz\/n\/wp-json\/wp\/v2\/posts\/121811"}],"collection":[{"href":"https:\/\/www.infokuryr.cz\/n\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.infokuryr.cz\/n\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.infokuryr.cz\/n\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.infokuryr.cz\/n\/wp-json\/wp\/v2\/comments?post=121811"}],"version-history":[{"count":1,"href":"https:\/\/www.infokuryr.cz\/n\/wp-json\/wp\/v2\/posts\/121811\/revisions"}],"predecessor-version":[{"id":121812,"href":"https:\/\/www.infokuryr.cz\/n\/wp-json\/wp\/v2\/posts\/121811\/revisions\/121812"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.infokuryr.cz\/n\/wp-json\/wp\/v2\/media\/106519"}],"wp:attachment":[{"href":"https:\/\/www.infokuryr.cz\/n\/wp-json\/wp\/v2\/media?parent=121811"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.infokuryr.cz\/n\/wp-json\/wp\/v2\/categories?post=121811"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.infokuryr.cz\/n\/wp-json\/wp\/v2\/tags?post=121811"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}