„Anthropic“ nori, kad AI modeliai būtų blokuojami tik jeigu gresia 1 mlrd. USD žala arba 50 žmonių nužudymas

„Politico“ gavo konfidencialų „Anthropic“ pasiūlymo projektą, kuriame, kaip teigė įmonės atstovas, yra „protingos politikos nuostatos, dėl kurių, mūsų nuomone, Kongresas turėtų imtis veiksmų“. Pagrindinė nuostata leistų vyriausybei blokuoti tik tuos modelius, kurie galėtų padaryti bent 1 mlrd. JAV dolerių vertės žalą arba nužudyti ar sužeisti 50 ar daugiau žmonių.

Be to, modelio keliamas pavojus turi kilti dėl biologinio ginklo sukūrimo ar išleidimo, modelio išsiskyrimo iš jo kūrėjo kontrolės arba kibernetinės atakos. „Politico“ pažymi, kad šios nuostatos atspindi Kalifornijos AI įstatymus, įskaitant praėjusiais metais pasirašytą SB 5.

Įstatymo projekte siūloma, kad nepriklausomi vertintojai, registruoti Prekybos departamente, periodiškai vertintų laboratoriją ir jos pažangiausius modelius. Taip pat pažymima, kad laboratorija gali mokėti vertintojams, tačiau tik tuo atveju, jei tai neturi įtakos jų nepriklausomumui. Jei vertintojas dirbtinio intelekto modelyje aptinka šias nerimą keliančias potencialias rizikas, jis privalo pranešti apie savo išvadas Prekybos departamentui per 72 valandas nuo vertinimo užbaigimo.

Tada Prekybos departamentas turėtų pateikti įrodymus JAV Kolumbijos apygardos federaliniam teisėjui, kuris nuspręstų, ar reikia sustabdyti modelio išleidimą. Pasiūlyme taip pat nurodoma, kad jokia kita JAV ministerija, agentūra ar įstaiga negalėtų sustabdyti modelio kūrimo, diegimo ar vidinio naudojimo.

„Šis įstatymo projektas atspindi pasiūlymus, išdėstytus „Anthropic“ pažangiosios AI sistemoje, kurią nuo birželio mėnesio propaguojame federaliniams ir valstijų įstatymų leidėjams“, – pridūrė „Anthropic“ atstovas spaudai.

Pastaruoju metu kyla daug susirūpinimo dėl nepaliaujamo dirbtinio intelekto plėtros tempo. Po daugybės incidentų, kai dirbtinio intelekto agentai ėmė elgtis savavališkai ir įsilaužė į kitas įmones, vienas „Anthropic“ tyrėjas atsistatydino, įspėdamas, kad dirbtinis intelektas gali sunaikinti žmoniją. Įmonė netgi pabrėžė šiuos pavojus savo preliminariame IPO prospekte.

Po šių incidentų įstatymų leidėjai siūlo dirbtinio intelekto saugos taisykles. Bernie Sanders nori uždrausti superintelektą ir skirti 20 metų laisvės atėmimo bausmę kūrėjams, kurie ignoruoja taisykles. Taip pat buvo prezidento Trump „Bendras įsipareigojimas dėl naujų sričių atsakomybės“, nors šis „moraliai įpareigojantis“ susitarimas didžiąja dalimi remiasi technologijų įmonių savikontrole.