AI „Doritos“ maišelį supainiojo su ginklu ir mokiniui sulaikyti iškvietė policiją

Taki Allen, 16-metis vidurinės mokyklos mokinys iš Kenwood High School, esančios Baltimorės apygardoje, Merilande, praėjusią savaitę patyrė nemalonų siurprizą, kai po futbolo treniruotės sėdėjo lauke su draugais ir laukė, kol jį paims tėvai.

Maždaug po 20 minučių, kai jis suvalgė „Doritos“, atvyko apie aštuoni policijos automobiliai. Pareigūnai išlipo iš automobilių ir, nukreipę ginklus į Allen, liepė jam uždėti rankas ant galvos ir eiti link jų. Mokinys pasakojo, kad jam buvo liepta atsiklaupti ir buvo uždėti antrankiai. Baltimorės apygardos policijos departamentas vėliau patvirtino, kad Allen buvo uždėti antrankiai, bet jis nebuvo suimtas

Deja, Allen, dirbtinis intelektas, kuris peržiūri mokyklos stebėjimo kamerų įrašus, sugadintą „Doritos“ maišelį palaikė šaunamuoju ginklu ir iškvietė policiją.

„Ar turi ginklą?“ – vienas pareigūnas paklausė berniuko, o kiti apieškojo jo draugus.

Peržiūrėję įrašą, kurį dirbtinis intelektas identifikavo kaip ginklą, policijos pareigūnai pažiūrėjo į netoliese esantį šiukšlių konteinerį ir rado traškučių maišėlį.

„Manau, kad dėl to, kaip valgėte traškučius… „Doritos“, nesvarbu… sistema juos palaikė ginklu“, – sakė vienas pareigūnas. Taigi, prisiminkite: niekada nevalgykite traškučių netinkamu būdu. Kitas policininkas pridūrė, kad „AI nėra geriausias“, o tai yra švelnus pasakymas.

Mokyklos direktorius dr. Myriam Rogers žurnalistams sakė, kad sistema veikė taip, kaip turėjo. „Programa pagrįsta žmogaus patikrinimu, ir šiuo atveju programa padarė tai, ką turėjo padaryti, t. y. signalizavo apie pavojų, kad žmonės galėtų patikrinti, ar tuo metu yra priežasčių nerimauti“, – sakė Rogers. Dėl šios klaidos vietos politikai pareikalavo peržiūrėti mokyklos naudojamą AI pagrįstą stebėjimo technologiją

Suprantama, Allen nesutiko su Rogers požiūriu. „Manau, kad traškučių pakelis neturėtų būti painiojamas su ginklu.“

„Omnilert“, mokyklos naudojamos AI sistemos kūrėjas, „BBC News“ sakė: „Apgailestaujame dėl šio incidento ir norime pareikšti savo susirūpinimą mokiniui ir platesnei bendruomenei, kurią paveikė šie įvykiai.“