AI saugumo ekspertas nebetaupo pensijai, tiki, kad AI sunaikins žmoniją

Nerimaujate dėl didėjančios tikimybės, kad dirbtinis intelektas (AI) išsiverš iš kontrolės ir mus visus nužudys? Tai niūri mintis, tačiau vienas dirbtinio intelekto saugumo srities lyderis žiūri į tai iš teigiamos pusės: jo nuogąstavimas, kad ši technologija per ateinantį dešimtmetį sukels masinį išnykimą, paskatino jį nustoti kaupti lėšas pensijai.

Nate Soares, Mašinų intelekto tyrimų instituto (MIRI) prezidentas, savo pesimistinį sprendimą atskleidė žurnalo „The Atlantic“ generaliniam direktoriui Nicholas Thompson neseniai vykusio interviu metu, skirto pastarojo rengiamai serijai „Įdomiausias dalykas dirbtinio intelekto srityje“.

„Šiuo metu aš netaupau pensijai. Turiu 401(k) sąskaitą iš tų laikų, kai dirbau „Google“, bet jau dešimtmetį į ją nebeįnešu įnašų“, – sakė Soares.

Apokaliptinių perspėjimų apie AI yra gausybė, tačiau jie daro kur kas didesnį poveikį, kai juos išsako šios srities ekspertas. Soaresas 12 metų dirbo prie AI suderinimo. Prieš prisijungdamas prie MIRI – pelno nesiekiančios organizacijos, kuri daugiausia dėmesio skiria AI keliamoms rizikoms – jis dirbo inžinieriumi „Google“ ir „Microsoft“. Jis taip pat parašė knygą, kurios pavadinimas kelia nerimą: „Jei kas nors tai sukurs, visi mirs“ („If Anyone Builds It, Everyone Dies“).

Soares žodžiais tariant, problema yra ne tai, kad superintelektuali AI mūsų nekęstų. Problema ta, kad jai būtų visiškai nesvarbu, ar mes gyvensime, ar mirsime. Žmonės galėtų tapti kliūtimis bet kokiems jos siekiamiems tikslams, ypač jei bandytume ją išjungti arba sukurti konkuruojančią sistemą. Tai įspėjimas, kurį išreiškė ir kiti AI ekspertai.

„Mano nuomone, tikrasis klausimas yra ne tai, kaip ji mus nužudys, o tai, kaip ji taps savarankiška?“

Kol kas AI vis dar mūsų reikia, kad ji galėtų veikti ir gauti mikroschemas. Kai ji galės pati valdyti savo automatizuotą ekonomiką, ta priklausomybė išnyks. Mes galime būti sąmoningai pašalinti arba tiesiog mirti, kai mašinos pertvarkys planetą pagal savo poreikius. Nei vienas, nei kitas scenarijus neatrodo ypač palankus pensininkams.

Soares nėra visiškai tikras dėl tikslaus kelio į katastrofą. Jis lygina tai su susidūrimu su šachmatų čempionu Magnusu Carlsenu: nereikia žinoti, kuri figūra atliks matą, kad įtartum, jog esi bėdoje. Tačiau jis tvirtina, kad vis dar yra alternatyva laukimui, kol ateis pabaiga.

„Nemanau, kad tai neišvengiama. Manau, kad mes visiškai dar galime sustabdyti šį lenktyniavimą link labai pavojingos dirbtinio intelekto rūšies“, – sakė Soares. Tačiau jo sprendimas netaupyti pensijai rodo, kad jis tikisi blogiausio.