Papež použil umělou inteligenci k varování před nebezpečím umělé inteligence, tvrdí výzkumník
Traktát Lva XIV. nese charakteristické znaky Anthropicova Clauda, tvrdí Linch Zhang
Analytik Linch Zhang tvrdí, že „významné části“ nedávné encykliky papeže Lva XIV. o nebezpečích umělé inteligence byly ve skutečnosti napsány umělou inteligencí.
V 42 000 slovech dlouhém díle „Magnifica Humanitas“ (Velkolepé lidstvo) papež varoval před rostoucí, státu podobnou mocí Silicon Valley, nemorálností autonomních zbraní a nebezpečím, které plyne z toho, že umělá inteligence „postaví novou Babylonskou věž“ a zredukuje lidské bytosti na „zdroj, který má být využíván a vykořisťován“.
Navzdory výzvám k regulaci a „odezbrojení“ umělé inteligence vykazují velké části knihy „Magnifica Humanitas“ určité zjevné známky toho, že je napsána umělou inteligencí, uvedl Zhang v úterním blogovém příspěvku.
„Fráze a interpunkce, které AI používá mnohem častěji, jsou v této papežské encyklice přítomny mnohem častěji než v předchozích encyklikách,“ napsal Zhang a poukázal na použití dlouhých pomlček (127 případů, oproti 26 ve čtyřech encyklikách papeže Františka) a „trikolónů: série tří paralelních slov, frází nebo vět používaných pro rétorický efekt“.
Zhang prohledal text detektorem umělé inteligence Pangram a zjistil, že některé odstavce byly „v podstatě 0 % napsány umělou inteligencí“, ale jiné byly napsány umělou inteligencí z 40 % až 100 %. Všechny čtyři Františkovy encykliky byly registrovány jako kompletně napsané lidmi, stejně jako spisy papežů Benedikta XVI. a Jana Pavla II. Pangram také označil italskou verzi encykliky za umělou inteligenci, což naznačuje, že umělá inteligence nebyla použita pouze k překladu dokumentu.
Když Zhangův experiment zopakoval deník The Verge, bylo zjištěno, že zhruba 46 % encykliky napsala umělá inteligence.
Zhang tvrdil, že konkrétní model LLM (velkého jazyka) použitý k vytvoření textu byl pravděpodobně Claude z Anthropic a že v něm nadužívá určité výrazy, jako například „skutečně“.
Skutečnost, že některé odstavce se zdají být zcela bez umělé inteligence, naznačuje, že „někteří vysocí vatikánští úředníci pro tuto encykliku hojně využívali pomoci umělé inteligence a mnozí (pravděpodobně včetně samotného papeže Lva) ne,“ napsal Zhang.
„Moje předběžná hypotéza je, že papež Lev neschvaluje používání umělé inteligence v encyklikách a pravděpodobně si ani nebyl vědom významného použití umělé inteligence ve své vlastní encyklice,“ uzavřel Zhang.
Vatikán se k Zhangovým tvrzením nevyjádřil. Stejně tak se nevyjádřil i Anthropic, jehož spoluzakladatel Christopher Olah v pondělí pronesl projev po boku papeže.
