Dirbtinio intelekto sugeneruoti veidai dabar yra „per daug geri, kad būtų tikri“ + Testas

Manote, kad galite greitai atpažinti AI modelių sukurtus netikrus veidus? Pagalvokite dar kartą. Remiantis neseniai paskelbtu Australijos tyrėjų tyrimu, dirbtinio intelekto sugeneruoti veidai dabar yra iš esmės pernelyg sunkiai atpažįstami – išskyrus nedidelę žmonių grupę, kuri yra ypač gabi analizuoti veido bruožus. Dėl to gali nukentėti saugumo ir tapatybės patvirtinimo procesai, nors vis dar yra priemonių, kurių galime imtis, kad šią problemą sušvelnintume.

Tyrimą atliko UNSW Sidnėjaus ir Australijos nacionalinio universiteto (ANU) tyrėjai, o jo rezultatai paskelbti žurnale „British Journal of Psychology“. Komanda įspėja, kad „sintetiniai AI veidai“ gali atrodyti realistiškesni nei tikrų žmonių nuotraukos – ir jų duomenys patvirtina šią išvadą.

Pasak James Dunn, UNSW psichologijos mokyklos tyrėjo, žmonės ilgą laiką buvo įsitikinę savo gebėjimu atpažinti AI sukurtus veidus. Ankstyvieji AI sistemos buvo žinomos dėl iškraipytų vaizdų, tačiau naujesni, pažangesni modeliai dabar gali sukurti itin realistiškus veidus.

Du Australijos universitetai surinko 125 dalyvius, tarp kurių buvo 36 „superatpažintojai“, žinomi dėl savo išskirtinių veidų atpažinimo gebėjimų. Kontrolinė grupė susidėjo iš 89 dalyvių. Tyrėjai paprašė visų jų atlikti internetinį testą, kurio metu jiems buvo rodomos dirbtinio intelekto sukurtos ir tikros žmonių veidų serijos.

Dunn sakė, kad rezultatai parodė, jog žmonės su vidutiniais atpažinimo įgūdžiais pasirodė tik šiek tiek geriau nei atsitiktinai. Net „superatpažintojų“ grupė vidutinius dalyvius pranoko tik nežymiai. Tačiau visi dalyviai buvo vienodai pernelyg pasitikintys savo sugebėjimu atpažinti AI sukurtus vaizdus.

Šiuolaikiniai AI sugeneruoti veidai gali atrodyti labai realistiški, be jokių akivaizdžių vizualių artefaktų, kuriuos sukeldavo ankstesni modeliai. Tokios klaidos dabar yra daug retesnės, todėl AI sugeneruoti veidai yra veiksmingesni apgaudinėjant naudotojus. Todėl tyrėjai įspėja, kad pavojinga pernelyg didelio pasitikėjimo ir vis įtikinamesnių deepfake’ų kombinacija gali kelti pavojų asmenims ir organizacijoms. Sukčiai, apgavikai ir kibernetiniai nusikaltėliai greičiausiai jau naudoja realistiškus AI veidus neteisėtai veiklai.

Pasak ANU docentės Amy Dawel, šiandienos AI sukurtus veidus „išduoda ne tai, kas juose yra negerai, o tai, kas yra pernelyg teisinga. Vietoj akivaizdžių trikdžių, jie dažniausiai yra neįprastai vidutiniai – labai simetriški, proporcingi ir statistiškai tipiški.“

Didelis simetriškumas ir pernelyg vidutiniai bruožai dabar turėtų būti laikomi potencialiais pavojaus ženklais, rodančiais AI sukurtus padirbinius, sakė Dawel. „Superatpažintojai“ gali būti šiek tiek geresni atpažindami šiuos subtilius modelius.

UNSW veido testas yra prieinamas internete su nemokama demo versija, leidžiančia bet kam įvertinti savo AI veido atpažinimo įgūdžius.