Daugiau nei 10 % „Google AI“ cituojamo turinio sukūrė AI

Viena iš daugelio problemų, susijusių su dideliu dirbtinio intelekto turinio kiekiu internete, yra tai, kad kitos dirbtinio intelekto paslaugos, pvz., AIO (AI Overviews), pradės jį cituoti. Atsižvelgiant į technologijų polinkį išgalvoti dalykus ir dirbtinio intelekto mokymosi iš dirbtinio intelekto pasekmes, tai kelia nerimą. Naujausias tyrimas, atliktas „Originality.ai“, kuri kuria programinę įrangą, nustatančią, ar kažkas buvo sukurta dirbtinio intelekto, suteikia daugiau pagrindo interneto teorijos šalininkams.

Bendrovė atsitiktinai atrinko 29 000 „Your Money or Your Life“ (YMYL) „Google“ užklausų – temų, kurios gali turėti didelį poveikį naudotojo sveikatai, saugumui, finansiniam stabilumui ar laimei. Tada ji išanalizavo AIO, kurios pasirodė „Google“ paieškos puslapio viršuje, jų cituojamas nuorodas ir pirmuosius 100 organinių rezultatų kiekvienai užklausei.

Naudodama savo AI Detection Lite 1.0.1 modelį, Originality.ai padarė išvadą, kad 10,4 % AIO tikriausiai buvo sugeneruoti AI.

Susirūpinimas dėl AI grįžtamojo ryšio ciklų – AI modelių, besimokančių iš kitų AI modelių – tęsiasi jau keletą metų. 2023 m. Jungtinės Karalystės ir Kanados mokslininkų komanda paskelbė straipsnį (su AI sugeneruotu pavadinimu „The Curse of Recursion“) apie šį reiškinį ir kaip jis sukelia „negrįžtamus defektus“. Jame buvo sugalvotas terminas „Model Collapse“ (modelio žlugimas).

Naujajame tyrime pažymima, kad jo išvados rodo ilgalaikį modelio žlugimo pavojų. Jame taip pat teigiama, kad AI apžvalgos pačios nėra mokymo duomenų dalis, tačiau, atskleidžiant AI sukurtus šaltinius, jos padidina tų šaltinių matomumą ir patikimumą. Tai padidina tikimybę, kad tokia medžiaga bus naudojama būsimuose mokymo rinkiniuose.

Nenuostabu, kad „Google“ prieštarauja tyrimo išvadoms, teigdama, kad „Originality.ai“ AI detektoriaus tikslumas yra prastas.

„Tai yra netikslus tyrimas, pagrįstas daliniais duomenimis ir nepatikima technologija“, – „The Reg“ sakė „Google“ atstovas. „AI detektoriai neįrodė savo veiksmingumo aptinkant AI sukurtą turinį – iš tiesų, daugelis jų parodė, kad yra linkę klysti. Kaip ir platesniu mastu paieškoje, nuorodos, įtrauktos į AI apžvalgas, yra dinamiškos ir keičiasi pagal informaciją, kuri yra labiausiai susijusi, naudinga ir aktuali tam tikrai paieškai.“

Nors AI aptikimo programinė įranga, be abejo, nėra tobula, testai parodė, kad „Originality.ai“ įrankis gavo aukštus tikslumo įvertinimus.

Likusi Originality.ai tyrimo dalis parodė, kad 74,4 % AI citatų buvo parašytos žmonių. 15,2 % buvo „neklasifikuojamos“, daugiausia dėl to, kad jose buvo per mažai teksto, neveikiančios nuorodos arba jos buvo vaizdo įrašų puslapiai/PDF failai.