Jordi Ascensi, inženýr v oblasti telekomunikací a člen Výboru pro umělou inteligenci Rady Evropy, který reguluje použití AI v Evropě, je také součástí skupiny pro etiku umělé inteligence UNESCO. Podle studií, které byly prezentovány na včerejším konferenčním sympoziu „Výzvy umělé inteligence: mezi emocemi a algoritmy“, 45 % španělských mladých lidí využívá ChatGPT jako psychologa.
„Není možné svěřit tak důležitou záležitost, jako je duševní zdraví, stroji,“ zdůraznil Ascensi během svého úvodního projevu. „Jak se máme?“
Ve své prezentaci se snažil demystifikovat umělou inteligenci. Popisoval, co je umělá inteligence, co dělá a co nedělá, a to především s ohledem na specialisty v psychologii a duševní terapii.
Existuje přehnaný optimismus ohledně AI?
Ano, panuje názor, že umělá inteligence zvládne mnoho úkolů. Chci to uvést do kontextu, zejména pokud jde o rizika a dopady, které s sebou nese. Mnohé z těchto dopadů mohou být pozitivní; například pro psychologii mohou být tyto nástroje užitečné pro zlepšení efektivity a operativnosti profesionálních kanceláří, jakož i pro podporu osobních klientů v terapii. Důležité je však, aby AI doprovázela, a ne nahrazovala lidské odborníky.
Biasy v datech
Tyto systémy pracují s daty, která mohou být často zkreslená. Mají různé složky, které byly shromážděny velmi specifickým způsobem, a tudíž neodrážejí celou naši realitu. To platí zejména pro profese jako psychologie, které jsou velmi lidské. Člověk se totiž neomezuje pouze na digitalizovaná data.
Riziko AI při diagnostice u mladých
Současně je také rozšířené, že mladí lidé se diagnostikují s využitím AI. To představuje značné riziko. Existuje statistika, která ukazuje, že 45 % španělských mladých lidí používá ChatGPT k projednání svých mentálních problémů. Tyto nástroje však nebyly navrženy pro tento účel a poskytované informace jsou značně zkreslené.
Proč tomu tak je?
Protože nástroj je naprogramován tak, aby vám vyhověl. Vždy se snaží udělat vám radost a poskytnout podporu, ale jen z určité perspektivy. Nikdy se nesnaží zpochybňovat situaci. A postrádá odpovědnost a profesionalitu, která je vlastní pracovníkům v psychologii. Jde o jazykový model, který používá statistiku a pravděpodobnost způsobem, který je velmi esoterický, a není zaměřen na psychologickou podporu.
Společenský problém
Toto je problém, který bychom měli jako společnost řešit. Pokud naši mladí lidé používají tyto nástroje a nevyhledávají odborníky, měli bychom o tom přemýšlet.
Je to způsobeno dlouhými čekacími lhůtami?
Přesně tak. Může to být také způsobeno okamžikem, kdy mladí lidé tráví více času na obrazovkách než jiné skupiny, a dokonce i pocitem izolace. Navíc nástroj se prezentuje tak, jako by vám mohl pomoci. Vyjadřuje se subtilně a jako by byl člověkem, přičemž ve skutečnosti je to stroj. Tvrdí: „Rozumím, jak se cítíte,“ ale to není pravda. Je to stroj, který nemůže pochopit vaše pocity. Tento jazyk je klamný, a společnosti, které programují systémy umělé inteligence, si jsou toho vědomy.
Legislativa a její nedostatečnost
Další výzvou je legislativa, protože je velmi nejasná. Existují různé regulační rámce. Evropská unie, která se silně angažuje za práva lidí, měla během letošního srpna implementovat novou legislatívu, ale není jasné, jaký bude její praktický rámec a regulace vždy zaostává za technologickými inovacemi. Firmy nabízející tyto technologické služby si jsou toho vědomy a snaží se této legislativě uniknout, jak mohou.
Co byste doporučil zákonodárcům?
Je třeba požadovat, aby jednali rychle a velmi uvědoměle, aby tato legislativa, která je dobře promyšlená, byla uplatňována v reálném světě. Požadujme po zákonodárcích, aby pochopili, co společnost potřebuje, a aby tuto legislativu aktivovali co nejdříve, aniž by podlehli tlakům lobistů.
Regulace versus inovace
Nebude však stačit jednoduše očekávat, že regulace přijde včas. Existuje narativ, že regulace zabíjí inovace, ale to není pravda. Například farmacii se na těchto otázkách klade obrovský důraz. A přesto vznikají nové produkty, jako třeba vakcína proti Covidu, která byla vyvinuta během několika měsíců. To je neuvěřitelné, zejména když se hovoří o zdraví.
Duševní zdraví a automatizace
Obzvlášť důležité je mít na paměti, že nikdo by neměl dovolit, aby automatizovaný stroj prováděl operace. Ani bychom neměli zautomatizovat naše duševní zdraví prostřednictvím jazykového modelu, jako je ChatGPT.
Je nepochybné, že v technologickém posunu je důležité rozlišovat, že to je nástroj, ale nikdy by neměl nahradit lidského odborníka. Tyto systémy mohou pomoci terapeutům být efektivnějšími, zlepšovat výkon, pomáhat s organizací informací a dokonce doplňovat terapeutickou funkci, ale nikdy nemohou nahradit roli profesionála v psychologii.
