Tváře vytvořené umělou inteligencí vypadají důvěryhodněji než skuteční lidé
Falešné lidské tváře jsou tak přesvědčivé, že dokážou oklamat i vyškolené pozorovatele a mohou být velmi účinné při použití v podvodech.
Výzkumníci provedli několik experimentů, aby zjistili, zda falešné obličeje vytvořené pomocí strojového učení dokážou oklamat člověka. Zjistili, že uměle vytvořené obličeje jsou nejen vysoce fotorealistické, ale jsou také téměř k nerozeznání od skutečných tváří a dokonce jsou hodnoceny jako důvěryhodnější.
Vzhledem k výsledkům výzkumníci vyzývají k zavedení bezpečnostních opatření, která by zabránila šíření „deepfakes“ na internetu. Deepfakes již byly použity k takzvaným „porno-pomstám“, podvodům a propagandě, což vedlo k záměně identity a šíření falešných zpráv.
Novou studii provedli Sophie J. Nightingaleová z Lancaster University a Hany Farid z Kalifornské univerzity v Berkeley.
Pro studii odborníci použili falešné obličeje, které byly vytvořeny pomocí StyleGAN2, generativní adverzní sítě od americké technologické společnosti Nvidia. Generativní adverzní sítě (neboli GAN) fungují tak, že proti sobě stojí dva algoritmy, které se snaží vytvořit přesvědčivé reprezentace skutečného světa.
V prvním experimentu 315 účastníků klasifikovalo 128 tváří vybraných ze souboru 800 tváří jako skutečné nebo falešné. Zjistili, že jejich přesnost byla 48 %.
Ve druhém experimentu bylo 219 nových účastníků vyškoleno a dostalo zpětnou vazbu, jak klasifikovat obličeje. Klasifikovali 128 tváří ze stejného souboru 800 tváří jako v prvním experimentu, ale navzdory tréninku se jejich přesnost zlepšila pouze na 59 %.
Výzkumníci se proto rozhodli zjistit, zda vnímání důvěryhodnosti může lidem pomoci identifikovat uměle vytvořené fotografie pomocí třetího experimentu. „Obličeje jsou bohatým zdrojem informací, přičemž k implicitním závěrům o individuálních vlastnostech, jako je důvěryhodnost, stačí pouhá milisekunda expozice,“ říkají autoři.
Třetí experiment požádal 223 účastníků, aby ohodnotili důvěryhodnost 128 tváří ze stejného souboru 800 tváří na stupnici od 1 (velmi nedůvěryhodné) do 7 (velmi důvěryhodné). Průměrné hodnocení falešných tváří bylo o 7,7 % důvěryhodnější než průměrné hodnocení skutečných tváří.
Černošské tváře byly hodnoceny jako důvěryhodnější než tváře jihoasijské, ale jinak se žádný vliv napříč rasami neprojevil. Ženy však byly hodnoceny jako významně důvěryhodnější než muži.
Usmívající se tvář je s větší pravděpodobností hodnocena jako důvěryhodná, ale 65,5 % skutečných tváří a 58,8 % uměle vytvořených tváří se usmívá, takže samotný výraz tváře nemůže vysvětlit, proč jsou falešné tváře hodnoceny jako důvěryhodnější.
Místo toho se domnívají, že uměle vytvořené tváře mohou být považovány za důvěryhodnější, protože se podobají průměrným tvářím, které jsou samy o sobě považovány za důvěryhodnější.
Co si o tom myslíte vy? Podělte se s námi o svůj názor v komentářích!