„Google“ pašalino AI apžvalgas iš kelių medicininių paieškų

Sausio pradžioje laikraštis „The Guardian“ pranešė, kad AI apžvalgos, kurios turėtų pateikti AI sukurtas paieškos rezultatų santraukas, kelia pavojų žmonėms, nes teikia klaidinančius patarimus sveikatos klausimais.

Vienas pavyzdžių – AI apžvalgos, kuriose žmonėms, sergantiems kasos vėžiu, patariama vengti riebių maisto produktų. Ekspertai teigia, kad tai yra visiškai priešinga tam, kas turėtų būti rekomenduojama, ir gali padidinti paciento mirties riziką.

Santraukose taip pat buvo pateikta neteisinga informacija apie svarbius kepenų funkcijos tyrimus, dėl kurios žmonės, sergantys sunkia kepenų liga, galėjo klaidingai manyti, kad yra sveiki. Atsakymai į moterų vėžio tyrimų klausimus taip pat rodė neteisingą informaciją, kuri, ekspertų teigimu, galėjo priversti žmones ignoruoti rimtus simptomus.

„Google“ teigė, kad neteisingi pavyzdžiai, kuriuos jie parodė, buvo susiję su gerai žinomais, patikimais šaltiniais. Tačiau dabar bendrovė pašalino AI apžvalgas iš kelių sveikatos klausimų.

Klausimai, kurie nebėra rodomi „Google“ AI funkcijoje, yra „koks yra normalus kepenų kraujo tyrimų diapazonas?“ ir „koks yra normalus kepenų funkcijos tyrimų diapazonas?“

„Google“ atstovas spaudai sakė: „Mes nekomentuojame atskirų pašalinimų paieškoje. Tais atvejais, kai AI apžvalgos praleidžia tam tikrą kontekstą, mes stengiamės atlikti plačius patobulinimus, o prireikus imamės veiksmų pagal mūsų politiką.“

Nors medicinos ekspertai palankiai įvertino šį žingsnį, yra įspėjimų, kad šių klausimų performulavimas vis dar gali lemti klaidinančių AI apžvalgų generavimą. „The Guardian“ nustatė, kad tik nedideli užklausų pakeitimai paskatino AI apžvalgų pasirodymą.

Taip pat pažymėta, kad keletas neteisingų ar klaidinančių AI apžvalgų, kurios pasirodė originalioje „Guardian“ ataskaitoje, nebuvo pašalintos, įskaitant apžvalgas, susijusias su vėžiu ir psichine sveikata. „Google“ pakartojo, kad jos nebuvo pašalintos, nes jos yra susietos su gerai žinomais ir patikimais šaltiniais ir informuoja žmones, kada svarbu kreiptis į ekspertus.

AI apžvalgos funkcija yra žinoma dėl to, kad generuoja informaciją, kuri yra nuo klaidingos ar klaidinančios iki visiškai beprasmės. Ji pagarsėjo tuo, kad patarė žmonėms tepti klijais ant picos, kad sūris geriau priliptų, ir valgyti akmenis, nors nė viena iš šių rekomendacijų nėra ypač naudinga sveikatai ar dantims.

Rugsėjo mėn. ataskaitoje nustatyta, kad daugiau nei 10 % „Google“ AI apžvalgų cituoja AI generuotą turinį.