Výkonnost velkých jazykových modelů, jako je ChatGPT, změnila způsob práce mnoha lidí. Avšak jeden incident ukazuje, že využívání těchto nástrojů může přinášet rizika. Profesor Marcel Bucher z Kolínské univerzity uvádí, že ztratil dvě léta akademické práce – žádosti o granty, výukové materiály a návrhy publikací, které se náhle ztratily, po jediné změně nastavení.
S největší pravděpodobností se profesor pokusil deaktivovat možnost sdílení dat pro účely trénování. Podle jeho slov byly při tom všechny chaty smazány. V článku publikovaném v časopise Nature popisuje, jak vyzkoušel různé metody, aby se znovu dostal k datům a chatům. Pokus o kontakt s OpenAI měl pro profesora bohužel malý úspěch. Profesor uvedl, že data byla trvale smazána a nebyla obnovitelná. OpenAI se v této věci opřelo o princip „Privacy by Design“, podle kterého jsou data bez stopy vymazána.
Pro profesora je jasné: „Pokud jediné kliknutí může neodvolatelně smazat léta práce, pak ChatGPT podle mého názoru a na základě mých zkušeností nelze považovat za zcela bezpečné pro profesionální použití.“
Na druhou stranu, ChatGPT obsahuje funkci zálohování. Tato umělá inteligence nabízí jednoduchý způsob, jak stáhnout všechny chaty a data. V nastaveních, v sekci „Kontrola dat“, najdete možnost „Exportovat data“. Po několika okamžicích, nebo i hodinách, obdrží uživatel e-mailem odkaz na stažení ZIP souboru se všemi uloženými informacemi. Doba potřebná ke shrnutí dat do archivu závisí na tom, kolik dat bylo na ChatGPT uloženo. Po odeslání e-mailu je odkaz na stažení platný 24 hodin.
Zálohy jsou integrální součástí práce s počítači a neměly by být opomíjeny ani u nástrojů umělé inteligence.
Popisovaný scénář se v aktuálním pokusu o ověření nepotvrdil. Při deaktivaci sdílení dat pro trénink zůstaly stávající chaty nedotčeny a přístupné. Při volbě možnosti smazání všech chatů se zobrazila explicitní výstražná zpráva, kterou bylo nutné potvrdit. Vzhledem k tomu, že ztráta dat popsaná v odborném časopise Nature se odehrála již v srpnu, mohla OpenAI od té doby provést úpravy uživatelského rozhraní a bezpečnostních mechanismů, aby se takové omylové smazání ztížilo.
