V současné době většina renomovaných globálních korporací, které mají alespoň okrajový vztah k moderním technologiím, usiluje o integraci funkcí založených na umělé inteligenci do svých produktů. Tento trend přitahuje pozornost a vypadá jako součást aktuální obchodní módy. Avšak, zdá se, že právě umělá inteligence se stala součástí procesu zpracování dalších AI aplikací.
Je příznačné, že uživatelé očekávají, že díky těmto vyhledávačům budou jejich dotazy zodpovídány přesněji, bez závislosti na trendech SEO. Nicméně, paradoxně s rozvojem AI vyhledávačů se stále obtížněji nachází relevantní informace na internetu. Výsledky vyhledávání se zdají být stále méně spojené s původními dotazy, což vyvolává dojem, že vyhledávače, jako Google před zavedením AI režimu, byly mnohem přesnější a užitečnější.
Někdo by mohl namítnout, že to jsou pouze subjektivní pocity. Tyto pocity však mohou být způsobeny i externími faktory, jako je neznalost správného formulování dotazů. Přestože, stále více lidí sdílí podobné názory, ukazuje se, že „dlouhé“ AI může skutečně existovat, a má konkrétní příčiny.
Příčiny snížení kvality vyhledávání obsahu generovaného AI
Jednou z nejčastěji citovaných příčin poklesu kvality vyhledávání pomocí AI je fenomén označovaný jako „incest AI“. Tento termín může znít znepokojující, ale ve skutečnosti se jedná o učení umělých inteligencí na obsahu, který byl rovněž generován AI. Aby se AI skutečně rozvíjela, potřebuje být „krmena“ kvalitním obsahem, který je produktem lidské kreativity, tedy skutečnými knihami, novinami, články, daty nebo příspěvky jiných lidí na sociálních médiích. Podle některých odhadů má v listopadu 2024 více než 52 procent obsahu na internetu pocházet z AI. Odborníci na digitální technologie již dříve uvedli, že internetoví boti tvoří více než polovinu veškeré internetové návštěvnosti. Tento trend se pravděpodobně nezmění.“
Jak tedy narůstá podíl dostupného obsahu generovaného AI, modely umělé inteligence se začínají potýkat s funkcemi dalších modelů, které přenášejí svá vlastní omezení.
Právní omezení a etické aspekty AI
Dalším problémem je omezení, která na umělou inteligenci uvalují korporace. AI je schopna generovat prakticky jakýkoliv obsah. Problém ovšem spočívá v tom, že lidé mohou manipulovat software, aby generoval obsahy, které jsou považovány za nevhodné, provokující nebo dokonce ilegální.
Někteří si jistě pamatují náhlý výbuch otevřenosti modelu Grok, který byl vytvořen firmou xAI, jež je propojena se sociální platformou X patřící Elonovi Muskovi. Grok se například obvinil z toho, že propaguje obskurní názory a vyjadřuje se k politickým tématům způsobem, který byl pro celou společnost nepřijatelný.
Tyto obavy jsou důvodem, proč jsou na AI uvalena omezení, aby se předešlo podobným incidentům, a aby se zamezilo dalším závažným problémům, jako jsou generování deep fake videí skutečných osob.
Vliv na spolehlivost AI
Jedním z příznaků nízké kvality AI obsahu je tendence současných modelů umělé inteligence k generalizaci. Méně se zaměřují na detail a mají tendenci vyhnout se riskantním teoriím a datům. Důvody pro takové chování mohou být odhady i snahy vyhnout se propagaci dezinformací.
Mezi další faktory, které ovlivňují efektivitu vyhledávání, jsou i náklady na nasazení složitějších modelů, které neustále čelí výzvám. Módy AI společnosti Google jsou textové modely, které nemusí alokovat zdroje pro generování obrazového obsahu. Složitější modely jako ChatGPT nebo Grok však mohou pracovat pod různými podmínkami.
Někteří uživatelé uvádějí, že majitelé různých modelů alokují většinu dostupné výpočetní síly na komerční aplikace, což vedlo k omezení dostupných funkcí pro bezplatné uživatele. To zahrnuje i plánování stejného způsobu využití, kdy bezplatní uživatelé mají „omezený přístup k důvtipu“, zatímco ti, kteří platí, mají „pokročilejší důvtip“.
A nakonec tu přetrvává otázka, zda není s aktuální iterací AI něco v nepořádku, a zda se nepřílišné nedostatky neodstraní v budoucích aktualizacích. Vývoj software ne vždy probíhá kontinuálně ještě k lepšímu.
Narušení vztahů a rizika závislosti na AI
Rostoucí problémy spojené s poklesem kvality AI ovlivňují nebezpečné závislosti na této technologii. Zatímco AI vyhledávače a umělá inteligence každý den poklesují, společnosti se na ně spoléhají více než kdy dříve. V minulosti došlo k několika skandálním událostem, kdy významné mezinárodní firmy byly zdiskreditovány kvůli nesprávným analýzám, které byly založeny na zjištěních umělé inteligence.
Pro některé uživatele se AI dokonce stala alternativou mezi lidským kontaktem. Objevily se případy, kdy lidé od AI vyžadovali rady týkající se duševního zdraví a medicíny. Mladší generace odvyká řešení problémů samostatně, což podkopává hodnotu tradičních úkolů, které byly dříve vnímány jako nezbytné.
Na současný problém s kvalitou AI odpovědí vplývá i míra nadužívání těchto poruchových nástrojů, což může vést k dalšímu oslabení uživatelských dovedností a k celkovému snížení schopnosti společnosti kriticky hodnotit a reagovat na podněty.
