Vedoucí expert na umělou inteligenci přehodnotil svůj časový rámec týkající se možné zkázou lidstva, označujíc, že vývoj autonomních systémů umělé inteligence potrvá déle, než původně předpokládal. Daniel Kokotajlo, bývalý zaměstnanec OpenAI, vyvolal živou diskusi v dubnu, když představil scénář „AI 2027“, který předpovídá nekontrolovaný rozvoj umělé inteligence, vedoucí k vytvoření superinteligence, jež, poté co překoná světové vůdce, zničí lidstvo.
Tento scénář si rychle získal jak zastánce, tak kritiky. Viceprezident USA JD Vance ho zdánlivě zmínil v rozhovoru v květnu minulého roku, když hovořil o závodech ve zbrojení USA proti Číně v oblasti umělé inteligence. Gary Marcus, čestný profesor neurologie na Newyorské univerzitě, označil Kokotajlovo dílo za „fikci“ a mnohé z jeho závěrů za „čistou vědeckofantastickou hloupost“.
Vývoj umělé inteligence a AGI
Grafiky transformativní umělé inteligence, někdy nazývané AGI (umělá obecná inteligence), schopné nahradit lidi ve většině kognitivních úloh, se staly nedílnou součástí komunit zabývajících se bezpečností AI. Zavedení ChatGPT v roce 2022 výrazně urychlilo tyto termíny, přičemž zaměstnanci a odborníci prognózovali vznik AGI v horizontu deseti let nebo dokonce let.
Kokotajlo a jeho tým stanovili rok 2027 jako rok, kdy by AI měla dosáhnout „úplného autonomního kódování“. Přesto uvedli, že tato vyhlídka je „nejpravděpodobnější“ a někteří z jejich členů měli delší časové rámce. V současnosti však začínají vyvstávat pochybnosti ohledně bezprostřednosti vývoje AGI a o tom, zda je termín vůbec smysluplný.
Pohled odborníků
„Mnozí jiní odborníci prodloužili své termíny ještě více za poslední rok, když si uvědomili, jak nestabilní je výkon AI,“ řekl Malcolm Murray, expert na řízení rizik spojených s AI a jeden z autorů Mezinárodní zprávy o bezpečnosti AI, pro The Guardian. „Pro uskutečnění scénáře jako je AI 2027 by AI potřebovala mnohem více praktických dovedností, které jsou užitečné v komplexních reálných podmínkách. Myslím, že lidé začínají chápat obrovskou setrvačnost reálného světa, která zpomalí úplnou společenskou změnu.“
„Termín AGI měl smysl před mnoha lety, kdy byly umělé inteligence velmi úzké – například při hře šachů a Go,“ dodal Henry Papadatou, CEO francouzské neziskové organizace v oblasti umělé inteligence SaferAI. „Dnes máme systémy, které jsou již dost obecné a tento termín již neznamená tolik.“
Nové hodnocení kohotajlových předpokladů
AI 2027 od Kokotajla se zakládá na myšlence, že agenti umělé inteligence plně automatizují kódování a výzkumné a vývojové aktivity v oblasti umělé inteligence do roku 2027. To by vedlo k „explozím inteligence“, kdy agenti AI by vytvářeli stále chytřejší verze sebe samých, a v možném konci by vyhladili lidstvo do poloviny 30. let 21. století, aby uvolnili prostor pro více solárních panelů a datových center.
Nicméně, ve své aktualizaci Kokotajlo a jeho spoluautoři revidují svá očekávání ohledně toho, kdy může umělá inteligence dosáhnout schopnosti kódovat autonomně, uvádějíce, že to pravděpodobně nastane v počátku 30. let 21. století, nikoliv v roce 2027. Nová předpověď určuje rok 2034 jako nový horizont pro „superinteligenci“ a nezahrnuje žádné předpoklady o tom, kdy by umělá inteligence mohla zničit lidstvo.
„Věci se zdají vyvíjet poněkud pomaleji, než scénář umělé inteligence 2027 naznačoval. Naše termíny byly delší než 2027, když jsme publikovali, a nyní jsou o něco delší,“ napsal Kokotajlo v příspěvku na sociální síti X.
Ambice ohledně výzkumu AI
Tvorba umělé inteligence, která může provádět výzkum v oblasti AI, zůstává pevně stanoveným cílem předních společností na poli AI. CEO OpenAI, Sam Altman, prohlásil v říjnu, že mít automatizovaného výzkumníka AI do března 2028 je „vnitřní cíl“ jeho společnosti, ale dodal: „Můžeme v tomto cíli úplně selhat.“
Andrea Castagna, výzkumník politiky AI se sídlem v Bruselu, uvedla, že existuje řada komplikací, které dramatické časové rámce AGI neberou v úvahu.
Tento vývoj je aktuální a pro důležité novinky nás sledujte i v Google News Showcase.
„Skutečnost, že máte superinteligentní počítač zaměřený na vojenské aktivity, neznamená, že ho můžete integrovat do strategických dokumentů, které jsme vytvářeli v posledních 20 letech. Čím více rozvíjíme umělou inteligenci, tím více vidíme, že svět není sci-fi. Svět je mnohem složitější než to.“
