Fajnstyl.cz
Americké ministerstvo obrany se pouští do nebezpečných vod. Tajná složka JSOC (Společné velení speciálních operací) hledá způsoby, jak využít umělou inteligenci k vytvoření falešných online identit, které by byly k nerozeznání od skutečných uživatelů. Tento krok přichází v době, kdy sama americká vláda varuje před nebezpečím deepfake technologií a dezinformací.
Dokonalá iluze reality
„Speciální operační síly mají zájem o technologie, které dokážou generovat přesvědčivé online osobnosti pro použití na sociálních sítích a dalších online platformách," uvádí se v 76stránkovém dokumentu JSOC. Nejde přitom jen o textové příspěvky - falešné profily mají obsahovat i fotografie, videa a zvukové nahrávky v kvalitě vládních dokumentů. „Je znepokojující vidět, jak americká armáda sahá po technologii, před kterou sama varovala," říká Heidy Khlaaf, hlavní vědecká pracovnice AI Now Institute.
Podle ní neexistuje legitimní využití této technologie kromě klamání. Pentagon tento krok obhajuje potřebou shromažďovat informace z veřejných online fór. Kritici však upozorňují, že takové praktiky mohou odstartovat nebezpečné závody ve zbrojení v oblasti dezinformací. Když totiž největší světová armáda oficiálně přizná používání deepfake technologií, ostatní země nebudou váhat ji následovat.
Hrozba pro demokracii
Ironií je, že americké bezpečnostní složky samy označily deepfake technologie za vrcholové riziko pro rok 2023. FBI, NSA a CISA společně varovaly před syntetickými médii jako rostoucí výzvou pro všechny uživatele moderních technologií.
„Toto jen povzbudí další armády a protivníky, aby dělali totéž, což povede ke společnosti, kde bude stále těžší rozlišit pravdu od fikce," varuje Khlaaf. Zatímco dříve zpravodajské služby pouze pasivně sledovaly sociální sítě, nyní se chystají aktivně vytvářet a ovlivňovat online diskuze. Technologie má být natolik sofistikovaná, že ani specializované algoritmy sociálních sítí neodhalí, že jde o uměle vytvořené profily.
Experti se obávají, že tento krok může vést k další erozi důvěry v online informace. V době, kdy už tak bojujeme s dezinformacemi, by masové nasazení AI-generovaných profilů mohlo fatálně narušit schopnost veřejnosti rozlišovat mezi pravdou a fikcí.