Rychlá odpověď z ChatGPT a dalších AI nástrojů má svou cenu: nová studie ukazuje, že se toho učíme méně. Dva výzkumníci z University of Pennsylvania porovnali ChatGPT s Googlem a následně se zaměřili na to, co lidé skutečně získali z odpovědí, které dostali.
V rámci výzkumu bylo provedeno sedm experimentů s celkem 10 000 studenty. V dvou z těchto experimentů se účastníci měli pokusit najít informace o zakládání zeleninové zahrady. Polovina studenti se ptala AI, zatímco druhá polovina vyhledávala informace online.
Po experimentu byli studenti požádáni, aby shrnuli, co se naučili, a předali své poznatky dalšímu kamarádovi. Účastníci, kteří využívali ChatGPT, poskytovali kratší rady ohledně zahradničení. Měli méně faktů, byli méně kreativní a méně se snažili shrnout získané informace.
V dalších dvou experimentech měli účastníci najít informace o zlepšení svého zdraví a poté formulovat rady pro dalšího přítele. Opět se prokázal podobný vzor.
Výsledky naznačují, že účastníci, kteří získávali informace prostřednictvím AI, měli povrchnější pochopení daného tématu, jak uvádějí výzkumníci ve studii.
Další skupina studentů byla požádána, aby si přečetla rady o zdraví a zahradnictví. Následně měli posoudit, jak užitečné pro ně tyto rady byly. Studenti, kteří dostávali rady z ChatGPT, je hodnotili jako méně užitečné ve srovnání s těmi, kteří dostávali rady nalezené na různých webových stránkách.
Důsledky nedostatku úsilí při učení
Morten Goodwin z University of Agder v Norsku není překvapen výsledky. „Je zřejmé, že učení se zhoršuje, když studenti stráví méně času a nemusejí se snažit osvojit si nové znalosti. Učíme se méně, když nám někdo dá odpověď, než když si ji musíme najít sami,“ říká Morten Goodwin, profesor umělé inteligence.
„Odpověď neprochází myšlenkovým procesem, který je nezbytný k tomu, abyste se skutečně něco naučili.“ Když vyhledáváme něco na Googlu, musíme vykonat určitou práci. Musíme posoudit výsledky vyhledávání a informace, vybrat si, na které stránky klikneme, číst a interpretovat informace, a samostatně spojovat střípky do celku. To vyžaduje čas a úsilí. A právě toto úsilí nám pomáhá lépe zpracovat látku, vysvětluje profesor.
„Kdyby studenti četli knihu nebo zažili něco na vlastní kůži, naučili by se ještě více,“ dodává Morten Goodwin. S odpověďmi AI se učení přesouvá z aktivní na pasivní činnost, tvrdí výzkumníci z studie.
Testovali také, zda účastníci lépe učí, když odpovědi AI obsahovaly odkazy na zdroje, ale to mělo téměř žádný efekt. Vědci také zkoumali přehledy AI od Googlu na vrcholu výsledků vyhledávání. Účastníci, kteří dostali takové shrnutí, se také učili méně.
Obavy ze správnosti informací
Výzkumníci tedy docházejí k závěru, že nezáleží pouze na tom, jaké informace dostáváme, ale jakým způsobem jsou prezentovány. Další výzkumníci také zkoumali AI a učení, a výsledky ukazují na různé směry. Některé studie naznačují, že studenti se zlepšují v programování a cizích jazycích díky použití AI. Na druhé straně existují studie, které ukazují, že studenti mají potíže s využíváním informací, které získávají prostřednictvím AI. Například jedna studie ukázala, že středoškoláci, kteří používali ChatGPT v matematice, se po následném odebrání pomoci zhoršili.
Morten Goodwin se domnívá, že AI nástroje mohou být vylepšeny. „Mohou být navrženy tak, aby se více učilo. Můžete například požádat ChatGPT, aby učil o určitém tématu místo toho, aby pouze poskytoval odpověď.“ V nové studii vědci nezjistili, zda byly odpovědi, které účastníci dostali od AI, správné. Ale to již zkoumali jiní vědci pracující pro OpenAI, která vyvinula ChatGPT.
Halucinace jsou základním problémem i v těch nejpokročilejších AI modelech, píší. AI nástroje jsou trénovány, aby hádaly odpovědi, ale ne, aby pracovaly s nejistotou. Často tedy odpovídají nesprávně, místo aby přiznaly, že neví. Navíc ChatGPT není databáze veškerého vědění na světě, ale jazykový model, který hledá pravděpodobná slova v sekvenci, vysvětluje profesor Erik Velldal z University of Oslo.
„K tomu, abyste odhalili, kdy je odpověď, kterou dostanete od jazykového modelu, nesprávná, je potřeba určité odborné znalosti,“ říká Morten Goodwin. „Google také může odkazovat na dezinformace. Když vyhledávám informace o lepším zdraví, není zaručeno, že všechny stránky ve výsledcích vyhledávání se zakládají na vědeckých radách.“ Jednoduše řečeno, zdroje chyb jsou s AI považovány za větší problém.
Vědci za novou studií také poznamenávají, že účastníci měli různou zkušenost s AI a vyhledáváním na internetu. Většina má mnohem více zkušeností s vyhledáváním a hodnocením informací prostřednictvím Google než prostřednictvím AI nástrojů. To mohlo ovlivnit výsledky, jak uvádza studie.
©Forskning.no. Přeložila Stephanie Lammers-Clark. Přečtěte si původní článek zde.
Odkazy
- Experimentální důkazy o vlivech velkých jazykových modelů versus webového vyhledávání na úroveň učení, PNAS Nexus (2025), DOI: 10.1093/pnasnexus/pgaf316
