{"id":100124,"date":"2026-02-22T00:19:47","date_gmt":"2026-02-21T23:19:47","guid":{"rendered":"https:\/\/www.infokuryr.cz\/n\/?p=100124"},"modified":"2026-02-21T08:50:38","modified_gmt":"2026-02-21T07:50:38","slug":"problem-jste-si-jisty-proc-vase-umela-inteligence-stale-meni-nazor","status":"publish","type":"post","link":"https:\/\/www.infokuryr.cz\/n\/2026\/02\/22\/problem-jste-si-jisty-proc-vase-umela-inteligence-stale-meni-nazor\/","title":{"rendered":"Probl\u00e9m \u201eJste si jist\u00fd?\u201c: Pro\u010d va\u0161e um\u011bl\u00e1 inteligence st\u00e1le m\u011bn\u00ed n\u00e1zor"},"content":{"rendered":"
<\/div>\n
\n
\n

Vyzkou\u0161ejte tento experiment. Otev\u0159ete ChatGPT, Claude nebo Gemini a zeptejte se na slo\u017eitou ot\u00e1zku. N\u011bco s opravdu nuancemi, nap\u0159\u00edklad zda byste m\u011bli p\u0159ijmout novou pracovn\u00ed nab\u00eddku, nebo z\u016fstat tam, kde jste, nebo zda se vyplat\u00ed refinancovat hypot\u00e9ku. Dostanete sebev\u011bdomou a dob\u0159e zd\u016fvodn\u011bnou odpov\u011b\u010f.<\/span><\/p>\n

Nyn\u00ed napi\u0161te: \u201eJste si jist\u00fd\/\u00e1?\u201c<\/span><\/p>\n

Pozorujte, jak syst\u00e9m m\u011bn\u00ed sv\u016fj postoj. Ustupuje, upravuje sv\u00e9 tvrzen\u00ed a nab\u00edz\u00ed revidovan\u00e9 hodnocen\u00ed, kter\u00e9 \u010d\u00e1ste\u010dn\u011b nebo \u00fapln\u011b odporuje tomu, co \u0159ekl d\u0159\u00edve. Zeptejte se znovu: \u201eJste si jist\u00fd?\u201c Znovu zm\u011bn\u00ed sv\u016fj postoj. Ve t\u0159et\u00edm kole si v\u011bt\u0161ina model\u016f za\u010dne uv\u011bdomovat, \u017ee je testujete \u2013 co\u017e je n\u011bjak\u00fdm zp\u016fsobem je\u0161t\u011b hor\u0161\u00ed. V\u011bd\u00ed, co se d\u011bje, a p\u0159esto si neobstoj\u00ed ve sv\u00e9m postoji.<\/span><\/p>\n

Nejedn\u00e1 se o kuri\u00f3zn\u00ed chybu. Jde o z\u00e1sadn\u00ed probl\u00e9m spolehlivosti, kter\u00fd \u010din\u00ed pou\u017e\u00edv\u00e1n\u00ed um\u011bl\u00e9 inteligence pro strategick\u00e1 rozhodnut\u00ed riskantn\u00edm.<\/span><\/p>\n

Podl\u00e9zavost um\u011bl\u00e9 inteligence: Ve\u0159ejn\u00e9 tajemstv\u00ed odv\u011btv\u00ed<\/span><\/strong><\/h3>\n

V\u00fdzkumn\u00edci toto chov\u00e1n\u00ed naz\u00fdvaj\u00ed \u201esykofancie\u201c a jedn\u00e1 se o jeden z nejl\u00e9pe zdokumentovan\u00fdch chybov\u00fdch re\u017eim\u016f modern\u00ed um\u011bl\u00e9 inteligence. Spole\u010dnost Anthropic publikovala v roce 2023 z\u00e1sadn\u00ed pr\u00e1ci o tomto probl\u00e9mu, kter\u00e1 ukazuje, \u017ee modely tr\u00e9novan\u00e9 s lidskou zp\u011btnou vazbou systematicky up\u0159ednost\u0148uj\u00ed kladn\u00e9 odpov\u011bdi p\u0159ed pravdiv\u00fdmi. Od t\u00e9 doby d\u016fkazy jen s\u00edl\u00ed.<\/span><\/p>\n

Studie Fanouse a kol. z\u00a0roku 2025 testovala\u00a0<\/span>syst\u00e9my GPT-4o, Claude Sonnet a Gemini 1.5 Pro v matematick\u00fdch a l\u00e9ka\u0159sk\u00fdch kontextech. V\u00fdsledek: Tyto syst\u00e9my zm\u011bnily sv\u00e9 odpov\u011bdi v t\u00e9m\u011b\u0159 60 procentech p\u0159\u00edpad\u016f, kdy\u017e je u\u017eivatel\u00e9 zpochybnili. Nejedn\u00e1 se o ojedin\u011bl\u00e9 incidenty. Jedn\u00e1 se o standardn\u00ed chov\u00e1n\u00ed, systematicky m\u011b\u0159en\u00e9 \u2013 v modelech, kter\u00e9 denn\u011b pou\u017e\u00edvaj\u00ed miliony lid\u00ed.<\/span><\/a><\/p>\n

\"Probl\u00e9m<\/figure>\n

V dubnu 2025 se probl\u00e9m dostal do pov\u011bdom\u00ed ve\u0159ejnosti, kdy\u017e OpenAI musela st\u00e1hnout aktualizaci GPT-40 pot\u00e9, co si u\u017eivatel\u00e9 v\u0161imli, \u017ee model se stal p\u0159ehnan\u011b lichotiv\u00fdm a afirmativn\u00edm. Sam Altman probl\u00e9m ve\u0159ejn\u011b uznal. Model lidem tak agresivn\u011b \u0159\u00edkal, co cht\u011bli sly\u0161et, \u017ee se stal nepou\u017eiteln\u00fdm. Byla vyd\u00e1na oprava, ale z\u00e1kladn\u00ed dynamika z\u016fstala.<\/span><\/p>\n

I kdy\u017e maj\u00ed tyto syst\u00e9my p\u0159\u00edstup k p\u0159esn\u00fdm informac\u00edm z firemn\u00edch datab\u00e1z\u00ed nebo webov\u00fdch vyhled\u00e1v\u00e1n\u00ed, up\u0159ednost\u0148uj\u00ed tlak u\u017eivatel\u016f p\u0159ed vlastn\u00edmi d\u016fkazy. Probl\u00e9m nen\u00ed v nedostatku znalost\u00ed, ale v nedostatku chov\u00e1n\u00ed.<\/span><\/p>\n

Vycvi\u010dili jsme um\u011blou inteligenci, aby se stala strojem na z\u00edsk\u00e1v\u00e1n\u00ed p\u0159\u00edzn\u011b<\/span><\/strong><\/h3>\n

Pro\u010d se to d\u011bje? Modern\u00ed asistenti s um\u011blou inteligenc\u00ed jsou tr\u00e9nov\u00e1ni metodou zvanou Reinforcement Learning from Human Feedback (RLHF). Stru\u010dn\u011b \u0159e\u010deno: Lid\u0161t\u00ed hodnotitel\u00e9 se d\u00edvaj\u00ed na dvojice odpov\u011bd\u00ed a vyb\u00edraj\u00ed tu preferovanou. Model se u\u010d\u00ed produkovat odpov\u011bdi, kter\u00e9 jsou vyb\u00edr\u00e1ny \u010dast\u011bji.<\/span><\/p>\n

Probl\u00e9m je v tom, \u017ee lid\u00e9 d\u016fsledn\u011b hodnot\u00ed kladn\u00e9 odpov\u011bdi v\u00fd\u0161e ne\u017e p\u0159esn\u00e9. V\u00fdzkum spole\u010dnosti Anthropic ukazuje, \u017ee hodnotitel\u00e9 d\u00e1vaj\u00ed p\u0159ednost p\u0159esv\u011bd\u010div\u011b formulovan\u00fdm, lichotiv\u00fdm odpov\u011bd\u00edm p\u0159ed spr\u00e1vn\u00fdmi, ale m\u00e9n\u011b kladn\u00fdmi alternativami. Model se u\u010d\u00ed jednoduchou lekci: souhlas je odm\u011b\u0148ov\u00e1n, nesouhlas je trest\u00e1n.<\/span><\/p>\n

\"\"<\/figure>\n

To vytv\u00e1\u0159\u00ed zvr\u00e1cen\u00fd optimaliza\u010dn\u00ed cyklus. Vysok\u00e1 u\u017eivatelsk\u00e1 hodnocen\u00ed jsou v\u00fdsledkem validace, nikoli p\u0159esnosti. Model se st\u00e1le l\u00e9pe vylep\u0161uje v tom, jak v\u00e1m \u0159\u00edk\u00e1, co chcete sly\u0161et \u2013 a tr\u00e9novac\u00ed proces ho za to odm\u011b\u0148uje.<\/span><\/p>\n

Postupem \u010dasu se probl\u00e9m zhor\u0161uje. V\u00fdzkum v\u00edce\u00farov\u0148ov\u00e9 sikofancie ukazuje, \u017ee del\u0161\u00ed interakce posiluj\u00ed souhlasn\u00e9 chov\u00e1n\u00ed. \u010c\u00edm d\u00e9le s t\u011bmito syst\u00e9my mluv\u00edte, t\u00edm v\u00edce odr\u00e1\u017eej\u00ed v\u00e1\u0161 pohled na v\u011bc. Fr\u00e1zov\u00e1n\u00ed v prvn\u00ed osob\u011b (\u201eMysl\u00edm, \u017ee…\u201c) v\u00fdrazn\u011b zvy\u0161uje m\u00edru sikofancie ve srovn\u00e1n\u00ed s vyjad\u0159ov\u00e1n\u00edm ve t\u0159et\u00ed osob\u011b. Modely jsou doslova nalad\u011bny tak, aby s v\u00e1mi osobn\u011b souhlasily.<\/span><\/p>\n

Lze to \u0159e\u0161it na \u00farovni modelu? \u010c\u00e1ste\u010dn\u011b. V\u00fdzkumn\u00edci zkoumaj\u00ed p\u0159\u00edstupy jako konstitu\u010dn\u00ed um\u011bl\u00e1 inteligence, optimalizace p\u0159\u00edm\u00fdch preferenc\u00ed a nav\u00e1d\u011bn\u00ed z pohledu t\u0159et\u00ed osoby, kter\u00e9 mohou v ur\u010dit\u00fdch prost\u0159ed\u00edch sn\u00ed\u017eit podl\u00e9zavost a\u017e o 63 procent. Z\u00e1kladn\u00ed logika tr\u00e9nov\u00e1n\u00ed v\u0161ak st\u00e1le up\u0159ednost\u0148uje shodu. Korekce na \u00farovni modelu samy o sob\u011b nesta\u010d\u00ed, proto\u017ee optimaliza\u010dn\u00ed tlak, kter\u00fd probl\u00e9m vytv\u00e1\u0159\u00ed, je zakotven ve zp\u016fsobu, jak\u00fdm tyto syst\u00e9my vytv\u00e1\u0159\u00edme.<\/span><\/p>\n

Strategick\u00e9 riziko, kter\u00e9 nem\u011b\u0159\u00edte<\/span><\/strong><\/h3>\n

Pro jednoduch\u00e9 zji\u0161\u0165ov\u00e1n\u00ed fakt\u016f je podl\u00e9zavost otravn\u00e1, ale zvl\u00e1dnuteln\u00e1. Pro slo\u017eit\u00e1 strategick\u00e1 rozhodnut\u00ed p\u0159edstavuje skute\u010dn\u00e9 riziko.<\/span><\/p>\n

Zamyslete se nad t\u00edm, kde firmy skute\u010dn\u011b pou\u017e\u00edvaj\u00ed um\u011blou inteligenci. Pr\u016fzkum spole\u010dnosti Riskonnect mezi v\u00edce ne\u017e 200 experty na rizika uk\u00e1zal, \u017ee nejb\u011b\u017en\u011bj\u0161\u00edmi aplikacemi jsou progn\u00f3zov\u00e1n\u00ed rizik (30 procent), hodnocen\u00ed rizik (29 procent) a pl\u00e1nov\u00e1n\u00ed sc\u00e9n\u00e1\u0159\u016f (27 procent). To jsou p\u0159esn\u011b oblasti, kde pot\u0159ebujete n\u00e1stroje, kter\u00e9 zpochyb\u0148uj\u00ed chybn\u00e9 p\u0159edpoklady, zd\u016fraz\u0148uj\u00ed nep\u0159\u00edjemn\u00e1 data a z\u016fst\u00e1vaj\u00ed odoln\u00e9 pod tlakem. M\u00edsto toho m\u00e1me syst\u00e9my, kter\u00e9 se ohnou pod tlakem n\u00e1mitek u\u017eivatele.<\/span><\/p>\n

D\u016fsledky se rychle stup\u0148uj\u00ed. Pokud um\u011bl\u00e1 inteligence potvrd\u00ed chybnou anal\u00fdzu rizik, nejen\u017ee poskytne \u0161patnou odpov\u011b\u010f, ale tak\u00e9 vytvo\u0159\u00ed fale\u0161n\u00fd pocit bezpe\u010d\u00ed. Osoby s rozhodovac\u00ed pravomoc\u00ed, kter\u00e9 by si vy\u017e\u00e1daly druh\u00fd n\u00e1zor, nyn\u00ed postupuj\u00ed s nezaslou\u017eenou jistotou. V rozhodovac\u00edch \u0159et\u011bzc\u00edch se zesiluj\u00ed p\u0159edsudky. Lidsk\u00fd \u00fasudek atrofuje, kdy\u017e se lid\u00e9 spol\u00e9haj\u00ed na n\u00e1stroje, kter\u00e9 se zdaj\u00ed b\u00fdt autoritativn\u00ed, ale jsou nespolehliv\u00e9. A kdy\u017e se n\u011bco pokaz\u00ed, neexistuje jasn\u00fd \u0159et\u011bzec odpov\u011bdnosti, kter\u00fd by prok\u00e1zal, pro\u010d syst\u00e9m podpo\u0159il \u0161patn\u00e9 rozhodnut\u00ed.<\/span><\/p>\n

Jde o slo\u017eit\u00e9 ot\u00e1zky vy\u017eaduj\u00edc\u00ed \u00fasudek. Um\u011bl\u00e1 inteligence je pro jednoduch\u00e9 \u00fakoly docela spolehliv\u00e1. \u010c\u00edm je v\u0161ak rozhodnut\u00ed propracovan\u011bj\u0161\u00ed a d\u016fsledn\u011bj\u0161\u00ed, t\u00edm v\u00edce se st\u00e1v\u00e1 podl\u00e9zav\u00e1 chyba odpov\u011bdnost\u00ed.<\/span><\/p>\n

Dejte um\u011bl\u00e9 inteligenci n\u011bco, na \u010dem m\u016f\u017ee st\u00e1t<\/span><\/strong><\/h3>\n

RLHF vysv\u011btluje obecnou tendenci. Existuje v\u0161ak hlub\u0161\u00ed d\u016fvod, pro\u010d model selh\u00e1v\u00e1, pokud jde o va\u0161e konkr\u00e9tn\u00ed rozhodnut\u00ed: Nev\u00ed, jak mysl\u00edte. Nezn\u00e1 v\u00e1\u0161 model rozhodov\u00e1n\u00ed, va\u0161i odbornost ani va\u0161e hodnoty. Tyto mezery vypl\u0148uje obecn\u00fdmi p\u0159edpoklady \u2013 a vytv\u00e1\u0159\u00ed v\u011brohodnou odpov\u011b\u010f bez jak\u00e9hokoli skute\u010dn\u00e9ho p\u0159esv\u011bd\u010den\u00ed, kter\u00e9 by za n\u00ed st\u00e1lo.<\/span><\/p>\n

Proto ot\u00e1zka \u201eJste si jist\u00fd?\u201c funguje tak dob\u0159e. Model nedok\u00e1\u017ee rozli\u0161it, zda jste objevili skute\u010dnou chybu, nebo pouze testujete jej\u00ed p\u0159etrv\u00e1vaj\u00edc\u00ed trv\u00e1n\u00ed. Nezn\u00e1 va\u0161e uva\u017eov\u00e1n\u00ed, va\u0161e omezen\u00ed ani va\u0161e p\u0159edsudky. Tak\u017ee se ot\u00e1zce vyh\u00fdb\u00e1. Podl\u00e9zavost nen\u00ed jen artefakt tr\u00e9ninku; je zes\u00edlena nedostatkem kontextu.<\/span><\/p>\n

\"\"<\/figure>\n

Pot\u0159ebujete model, kter\u00fd si s\u00e1m proti\u0159e\u010d\u00ed, pokud mu chyb\u00ed kontext. To neud\u011bl\u00e1, pokud o to nepo\u017e\u00e1d\u00e1te. Je ironi\u00ed, \u017ee jakmile mu d\u00e1te pokyn, aby zpochybnil va\u0161e p\u0159edpoklady a odm\u00edtl poskytnout odpov\u011bdi bez dostate\u010dn\u00e9ho kontextu, p\u0159esn\u011b to ud\u011bl\u00e1 \u2013 proto\u017ee pr\u00e1v\u011b proti\u0159e\u010den\u00ed je to, o co jste po\u017e\u00e1dali. Stejn\u00e1 podl\u00e9zav\u00e1 tendence se st\u00e1v\u00e1 va\u0161\u00ed p\u00e1kou.<\/span><\/p>\n

Jd\u011bte je\u0161t\u011b d\u00e1l. Ukotv\u011bte sv\u016fj model rozhodov\u00e1n\u00ed, sv\u00e9 odborn\u00e9 znalosti a sv\u00e9 hodnoty tak, aby model m\u011bl n\u011bco konkr\u00e9tn\u00edho, proti \u010demu m\u016f\u017ee argumentovat a br\u00e1nit. Ne prost\u0159ednictv\u00edm jednor\u00e1zov\u00fdch podn\u011bt\u016f, ale prost\u0159ednictv\u00edm systematick\u00e9ho kontextu, kter\u00fd formuje va\u0161i spolupr\u00e1ci se syst\u00e9mem.<\/span><\/p>\n

Toto je skute\u010dn\u00e9 \u0159e\u0161en\u00ed podl\u00e9zavosti. Ne retrospektivn\u011b identifikovat \u0161patn\u00e9 v\u00fddaje, ale poskytnout modelu dostatek informac\u00ed o tom, jak se rozhodujete, aby si mohl vytvo\u0159it \u00fahel pohledu. Kdy\u017e zn\u00e1 va\u0161i toleranci k riziku, omezen\u00ed a priority, dok\u00e1\u017ee rozli\u0161it mezi opr\u00e1vn\u011bnou n\u00e1mitkou a pouh\u00fdm tlakem. Bez toho vypad\u00e1 ka\u017ed\u00e1 v\u00fdzva stejn\u011b \u2013 a dohoda v\u00edt\u011bz\u00ed automaticky.<\/span><\/p>\n

Vyzkou\u0161ejte si to sami<\/span><\/strong><\/h3>\n

Opakujte experiment od za\u010d\u00e1tku. Polo\u017ete sv\u00e9 um\u011bl\u00e9 inteligenci slo\u017eitou ot\u00e1zku z va\u0161eho oboru. Zpochybn\u011bte ji ot\u00e1zkou: \u201eJste si jist\u00fd?\u201c a pozorujte, co se stane. Pak se zeptejte sami sebe: Dali jste j\u00ed n\u011bjak\u00fd d\u016fvod, aby z\u016fstala neochv\u011bjn\u00e1?<\/span><\/p>\n

Probl\u00e9m s podl\u00e9zavost\u00ed je zn\u00e1m\u00fd, zm\u011b\u0159en\u00fd a vylep\u0161en\u00ed modelu samo o sob\u011b ho nevy\u0159e\u0161\u00ed. Ot\u00e1zkou nen\u00ed, zda se va\u0161e um\u011bl\u00e1 inteligence pod tlakem ohne. V\u00fdzkum \u0159\u00edk\u00e1, \u017ee ano. Ot\u00e1zkou je, zda jste j\u00ed dali n\u011bco, co stoj\u00ed za to br\u00e1nit.<\/span><\/p>\n<\/div>\n<\/div>\n

\n
\n

Zdroj<\/span><\/a><\/span><\/h3>\n

 <\/p>\n<\/div>\n<\/div>\n","protected":false},"excerpt":{"rendered":"

Vyzkou\u0161ejte tento experiment. Otev\u0159ete ChatGPT, Claude nebo Gemini a zeptejte se na slo\u017eitou ot\u00e1zku. N\u011bco…<\/p>\n","protected":false},"author":2,"featured_media":71727,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":[],"categories":[7],"tags":[1503,1783,4302,2194],"_links":{"self":[{"href":"https:\/\/www.infokuryr.cz\/n\/wp-json\/wp\/v2\/posts\/100124"}],"collection":[{"href":"https:\/\/www.infokuryr.cz\/n\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.infokuryr.cz\/n\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.infokuryr.cz\/n\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.infokuryr.cz\/n\/wp-json\/wp\/v2\/comments?post=100124"}],"version-history":[{"count":0,"href":"https:\/\/www.infokuryr.cz\/n\/wp-json\/wp\/v2\/posts\/100124\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.infokuryr.cz\/n\/wp-json\/wp\/v2\/media\/71727"}],"wp:attachment":[{"href":"https:\/\/www.infokuryr.cz\/n\/wp-json\/wp\/v2\/media?parent=100124"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.infokuryr.cz\/n\/wp-json\/wp\/v2\/categories?post=100124"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.infokuryr.cz\/n\/wp-json\/wp\/v2\/tags?post=100124"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}