Pasak tyrėjų, AI sugeneruotus slaptažodžius lengva nulaužti

Saugumo įmonė „Irregular“ išanalizavo tokių įrankių kaip „Claude“, „ChatGPT“ ir „Gemini“ rezultatus ir nustatė, kad daugelis AI sukurtų slaptažodžių atrodo sudėtingi, bet iš tiesų yra labai nuspėjami ir lengvai įkandami.

Paprašyti sukurti 6 simbolių saugius slaptažodžius, įskaitant specialiuosius simbolius, skaičius ir raides, modeliai sukūrė pasikartojančius modelius ir net identiškus rezultatus keliuose užklausose. Viena 50 slaptažodžių partija, sugeneruota „Claude Opus 4.6“, davė tik 30 unikalių rezultatų. Buvo 20 dubliuotojų, iš kurių 18 buvo visiškai identiški.

Kita problema buvo sugeneruotų slaptažodžių nuspėjamumas. Kiekvienas „Claude“ sugeneruotas slaptažodis prasidėjo raide, paprastai didžiąja raide „G“. Antrasis simbolis beveik visada buvo skaitmuo „7“. Simboliai „L“, „9“, „m“, „2“, „$“ ir „#“ pasirodė kiekviename sugeneruotame slaptažodyje, o dauguma abėcėlės simbolių nė viename iš jų nepasirodė.

Tuo tarpu „ChatGPT“ beveik kiekvieną sugeneruotą slaptažodį mėgo pradėti raide „v“, o beveik pusėje jų antrasis simbolis buvo „Q“. „Gemini“ elgėsi taip pat – dauguma jo slaptažodžių prasidėjo mažąja arba didžiąja raide „k“, o antrasis simbolis beveik visada buvo „#“, „P“ arba „9“ variacija.

„Irregular“ taip pat teigė, kad nė viename iš 50 slaptažodžių nebuvo pasikartojančių simbolių. Nors dėl to jie gali atrodyti atsitiktiniai, tikimybė rodo priešingą dalyką.

Tyrėjai teigia, kad problema kyla dėl to, kaip veikia dideli kalbos modeliai. Šios sistemos yra mokomos generuoti tikėtinus modelius, pagrįstus statistine tikimybe, o ne tikru atsitiktinumu. Tai reiškia, kad slaptažodžiai gali atrodyti stiprūs, bet yra „iš esmės nesaugūs“ ir lengvai atspėjami.

Šie rezultatai pabrėžia pagrindinį saugumo principą: nenuspėjamumas yra svarbesnis už sudėtingumą. Slaptažodžio stiprumas priklauso nuo entropijos – atsitiktinumo laipsnio eilutėje – o nuspėjami modeliai sumažina tą entropiją, net jei slaptažodis turi simbolių ir didžiųjų bei mažųjų raidžių.

Žmonės jau dabar sunkiai sugeba sukurti didelės entropijos slaptažodžius, dažnai pakartotinai naudoja modelius arba pakeičia nuspėjamus simbolius, pvz., „3“ į „E“. Atrodo, kad AI paveldi panašias silpnąsias vietas. Kaip ir daugelis AI sukurtų dalykų, ši technologija gali puikiai skambėti įtikinamai, tačiau jos rezultatai dažnai yra netikslūs ir jais neturėtų būti aklai pasitikima.