„Microsoft“ įspėja, kad „Windows 11“ agentinės AI funkcijos gali haliucinuoti

Prieš keletą dienų „Microsoft“ paskelbė, kad „Windows 11“ taps agentine operacine sistema. Bendrovė netiesiogiai įspėjo, kad gali būti atskleistos saugumo spragos, o šiandien ji paskelbė atnaujintą pranešimą. „Įdiegus šias funkcijas, AI modeliai vis dar susiduria su funkciniais apribojimais, susijusiais su jų elgesiu, ir kartais gali haliucinuoti bei duoti netikėtus rezultatus.“ Įdiegus „Windows 11 Build 26220.7262“, nustatymų skyriuje „Sistema“ po „AI komponentai“ rasite naują perjungiklį „Eksperimentinės agentinės funkcijos“. Laimei, tai yra pasirinktinė funkcija, kurią reikia įjungti rankiniu būdu.

Įjungus šią funkciją, „Windows“ parodys įspėjimą, kad šios galimybės yra eksperimentinės ir gali turėti įtakos jūsų įrenginiui. Praktikoje didesnį susirūpinimą kelia saugumo rizika. Jau atsiranda naujos su autonominiais agentais susijusios atakos technikos, iš kurių išsiskiria kryžminio įterpimo injekcija. Tokių atakų metu kenkėjiškos instrukcijos yra paslėptos įprastuose dokumentuose ar sąsajos elementuose, todėl agentas vykdo jas, o ne savo pradinę užduotį. Tai gali leisti agentui įdiegti kenkėjišką programinę įrangą, nutekinti mokėjimo duomenis ar atlikti kitus žalingus veiksmus.

„Microsoft“ teigia, kad šie agentai veikia „Agentic Workspace“ aplinkoje, kurioje kiekvienas agentas gauna ribotą, audituojamą paskyrą, o jo veiksmai yra įrašomi vėlesnei peržiūrai. Bendrovė tai lygina su „Windows Sandbox“, tačiau agentai yra sukurti taip, kad išliktų ir galėtų toliau veikti su failais per sesijas, o tai padidina galimą atakos paviršių. Pagal numatytuosius nustatymus agentui gali būti suteikta skaitymo ir rašymo prieiga prie bendrų aplankų, pvz., „Atsisiuntimai“, „Darbalaukis“, „Dokumentai“, „Nuotraukos“, „Muzika“ ir „Vaizdo įrašai“. Net ir turint ribotą veiksmų rinkinį bei atskiras vykdymo paskyras, šie numatytieji nustatymai palieka spragų, kol „Microsoft“ neįdiegs stipresnių apsaugos priemonių, pvz., smulkesnių leidimų ir patikimų apsaugos nuo įterpimo priemonių.