„ChatGPT“ išlaikymas kainuoja labai daug pinigų

Remiantis „SemiAnalysis“ atlikto tyrimo duomenimis, „OpenAI“ pokalbių robotui išlaikyti per dieną reikia net 694 444 JAV dolerių. Įmonė apskaičiavo, kad sistemą sudaro apie 3 617 HGX A100 serverių, kuriuos sudaro 28 936 GPU, o vienos užklausos kaina yra apie 0,36 cento.

Bendrovės „SemiAnalysis“ vyriausiasis analitikas Dylan Patel leidiniui „Business Insider“ sakė, kad dabartinės programinės įrangos veikimo sąnaudos gali būti dar didesnės, nes GPT-4 veikiausiai yra dar brangesnis nei GPT-3. D. Patel skaičiavimus grindė senesniu GPT-3 modeliu, tačiau „OpenAI“ jau išleido GPT-4 versiją, skirtą mokantiems abonentams. Bendrovė teigia, kad naujasis modelis suteikia tikslesnę informaciją ir geriau apsaugo nuo komentarų ne į temą, kurie tapo GPT-3/3.5 problema.

Viena iš pagrindinių priežasčių, dėl kurių patiriamos milžiniškos išlaidos, yra daug energijos reikalaujantys specializuoti lustai, reikalingi sistemai veikti. Teigiama, kad kovodama su šia problema „Microsoft“, viena svarbiausių „OpenAI“ akcininkių, kuria savo dirbtinio intelekto lustą „Athena“, kuris galėtų pakeisti NVIDIA grafikos procesorius ir smarkiai sumažinti „ChatGPT“ veikimo sąnaudas.