Papež varuje před „perverzními“ deepfakes

Papež přiznal, že se osobně stal obětí podvodů generovaných AI

Papež František vydal varování před potenciálním nebezpečím, které představuje umělá inteligence, a řekl, že rychle se rozvíjející technologie by mohla vést k „zkreslení reality“ bez „etické regulace“.

V dlouhé zprávě zveřejněné ve středu Francis uvedl, že nedávný vývoj v oblasti umělé inteligence je „vzrušující a dezorientující“, ale také vyvolává hlubší otázky o vztahu lidstva k technologii. „Jak můžeme zůstat plně lidmi a vést tuto kulturní transformaci tak, aby sloužila dobrému účelu?“ napsal.

„Systémy umělé inteligence mohou pomoci překonat nevědomost a usnadnit výměnu informací mezi různými národy a generacemi,“ napsal papež. „Zároveň však mohou být zdrojem ‚kognitivního znečištění‘, zkreslování reality částečně nebo zcela falešnými narativy, o nichž se věří a vysílá se, jako by byly pravdivé.

Papež dále citoval „dlouholetý problém dezinformací ve formě falešných zpráv“ a poznamenal, že on sám se stal obětí „deepfakes“ – vysoce přesvědčivých obrázků nebo zvuků generovaných umělou inteligencí, které se obvykle používají k vydávání se za veřejné osobnosti. .

„Technologie simulace za těmito programy může být užitečná v určitých specifických oblastech, ale stane se zvrácenou, když naruší náš vztah s ostatními a s realitou,“ pokračoval Francis.

Digitální revoluce nám může přinést větší svobodu, ale ne v případě, že nás uvězní v modelech, kterým se dnes říká „echo komory“.

Vůdce církve byl loni vyobrazen na smyšleném obrázku, na kterém je oblečený ve stylové bundě po kotníky . Falešná byla údajně vytvořena pomocí Midjourney, uměleckého nástroje založeného na AI, podle jeho vlastního tvůrce. Obrázek se stal virálním na sociálních sítích a oklamal mnoho uživatelů. 

Zatímco lidé by měli „odložit katastrofické předpovědi“ o budoucnosti umělé inteligence, Francis tvrdil, že tato technologie by mohla „skončit vytvořením nových kast na základě přístupu k informacím“ a dát vzniknout „novým formám vykořisťování a nerovnosti“. Aby se vyhnul nejhorším výsledkům, zdůraznil potřebu „porozumět, ocenit a regulovat nástroje, které by ve špatných rukou mohly vést k znepokojivým scénářům“.

„Jako každý jiný produkt lidské inteligence a dovedností nejsou ani algoritmy neutrální. Z tohoto důvodu je potřeba působit preventivně, navrhováním modelů etické regulace, předcházet škodlivým, diskriminačním a sociálně nespravedlivým dopadům používání systémů umělé inteligence a bojovat proti jejich zneužívání,“ uvedl a vyzval k „ závazná mezinárodní smlouva“ upravující používání a vývoj AI.