Iniciativa podporovaná Institutu budoucnosti života odráží neobvyklé spojení mezi vědci, politiky a celebritami z celého ideologického spektra.
Dodnes se obavy ze rychlého postupu umělé inteligence (AI) vyvinuly z čistě technické debaty na celosvětový problém. Tento fakt podtrhuje více než 800 osobností z vědeckého, politického, náboženského a kulturního prostředí, mezi nimiž jsou průkopníci AI Geoffrey Hinton a Yoshua Bengio, spoluzakladatel společnosti Apple Steve Wozniak, bývalý stratég Donalda Trumpa Steve Bannon, a také princ Harry a Meghan Markle. Tito jednotlivci podepsali otevřený dopis, který požaduje zastavení vývoje „superinteligence“. Tato forma AI je v současnosti hypotetická a má potenciál překonat lidi ve všech kognitivních úlohách.
Dopis sjednocuje hlasy téměř ze všech koutů ideologického spektra: od konzervativců, jako je Steve Bannon a Glenn Beck, po progresivce, mezi kteří patří Susan Rice (bývalá velvyslankyně USA při OSN během vlády Baracka Obamy), a náboženské osobnosti, jako je mnich a poradce papeže v oblasti AI Paolo Benanti. K nim se připojili také tři nositelé Nobelovy ceny, podnikatel Richard Branson a herec Stephen Fry.
Iniciativa, kterou hájí Future of Life Institute (FLI), nepožaduje pouze symbolickou pauzu; žádá o úplný zákaz vývoje superinteligentních systémů, které budou moci pokročit až poté, co bude dosaženo „širokého vědeckého konsensu“ o jejich bezpečnosti a ověřitelné veřejné podpory.
Propast mezi společností a technologickými giganty
Dopis byla publikována ve shodě s vypracováním zprávy od Future of Life Institute, která zkoumá problém a věnuje se dalším důležitým aspektům souvisejícím s rozvojem AI.
Související témata
- “Už nemáte rádi své hry”; hráči kritizují zařazení ponechané hry v kategorii “Labor of Love” na Steam Awards
- USA a Čína mají stejnou ambici: automatizovat své fabriky; čínský gigant už má však značnou výhodu
- Jev roste v různých zemích, aniž by si lidé uvědomovali: střední třída zaniká
- Nejistoty spojené s pandemií inspirovaly hvězdu seriálu Teorie velkého třesku k vytvoření bezpečnostní aplikace
