„Kmotr AI“ vydává nové varování lidstvu

Šance, že umělá inteligence způsobí vyhynutí lidstva během příštích 30 let, se podle Geoffrey Hintona zvýšily

Podle Geoffreyho Hintona, průkopníka v oblasti umělé inteligence a nositele Nobelovy ceny za fyziku za rok 2024, by umělá inteligence mohla do tří desetiletí vést k vyhynutí lidstva s pravděpodobností až 20 %. To znamená nárůst z 10% rizika, jeho odhad před rokem.

Během čtvrtečního rozhovoru na BBC Radio 4 byl Hinton dotázán, zda se něco změnilo od jeho předchozího odhadu pravděpodobnosti apokalypsy AI jedna ku deseti. Vědec oceněný Turingovou cenou odpověděl: „Ve skutečnosti ne, 10 % až 20 %.

To vedlo k tomu, že hostující redaktor pořadu, bývalý kancléř Sajid Javid, zavtipkoval „jdeš nahoru“. Počítačový vědec, který loni opustil Google, odpověděl: „Pokud něco. Víte, nikdy jsme se nemuseli zabývat věcmi inteligentnějšími, než jsme my sami.“

Britsko-kanadský vědec, který získal letošní Nobelovu cenu za fyziku za svůj přínos pro umělou inteligenci, zdůraznil výzvy spojené s ovládáním pokročilých systémů umělé inteligence.

„Kolik znáte příkladů, kdy je inteligentnější věc ovládána méně inteligentní věcí?…Evoluce si dala hodně práce s tím, aby umožnila dítěti ovládat matku, ale to je asi jediný příklad, který znám,“ Hinton , který je často nazýván ‚kmotrem AI‘, řekl.

Navrhl : „Představte si sebe a tříleté dítě. Budeme tříletí,“ ve srovnání s budoucí AI, která by byla „chytřejší než lidé“.

Hinton poznamenal, že pokrok byl „mnohem rychlejší, než jsem očekával“, a vyzval k regulaci, která zajistí bezpečnost. Varoval před spoléháním se pouze na firemní ziskové motivy a uvedl: „Jediná věc, která může tyto velké společnosti přimět k většímu výzkumu bezpečnosti, je vládní regulace.

V květnu 2023 vydalo Centrum pro bezpečnost umělé inteligence prohlášení podepsané předními vědci v oboru, včetně Hintona, v němž varovalo, že „zmírnění rizika vyhynutí způsobené umělou inteligencí by mělo být globální prioritou spolu s dalšími riziky společenského rozsahu, jako jsou pandemie a jaderná válka. .“ Mezi signatáři jsou generální ředitel Tesly Elon Musk, spoluzakladatel Applu Steve Wozniak a Yoshua Bengio, považovaný za průkopníka AI pro svou práci na neuronových sítích.

Hinton věří, že systémy AI by mohly nakonec překonat lidskou inteligenci, uniknout lidské kontrole a potenciálně způsobit lidstvu katastrofální škody. Obhajuje vyčlenění značných zdrojů na zajištění bezpečnosti a etického využití umělé inteligence a také zdůrazňuje naléhavou potřebu proaktivních opatření, než bude příliš pozdě.

Yann LeCun, hlavní vědec AI ve společnosti Meta, vyjádřil názory v rozporu s Hintonovými a uvedl, že tato technologie „by mohla skutečně zachránit lidstvo před vyhynutím“.