Karen Hao knyga apie naująją Silicio slėnio imperiją
2015 m. „OpenAI“ sau išsikėlė drąsią ir plataus užmojo misiją – kurti dirbtinį intelektą visos žmonijos labui. Savo naujoje bestseleriu tapusioje knygoje „Dirbtinio intelekto imperija: utopijos ir košmarai Samo Altmano „OpenAI“ pasaulyje“ žurnalistė Karen Hao kelia provokuojantį, susimąstyti verčiantį klausimą: kas iš tikrųjų tą „naudą“ apibrėžia – ir kas turi už ją sumokėti?
Remdamasi ilgamečiu žurnalistiniu tyrimu, Karen Hao atskleidžia, kaip siaurame Silicio slėnio veikėjų rate gimė „OpenAI“ – vienas įtakingiausių šiuolaikinių technologijų gigantų. Nors „OpenAI“ buvo įkurta kaip pelno nesiekianti tyrimų organizacija, turinti misiją kurti bendrąjį dirbtinį intelektą (BDI) „žmonijos labui“, apdovanojimus pelniusi žurnalistė Karen Hao ją pristato ne vien kaip tyrimų laboratoriją, bet ir kaip modernią technologijų imperiją, kurios varomoji jėga – daugelis tų pačių principų ir ambicijų, kadaise paskatinusių istorinę imperializmo plėtrą.
Pati knygos struktūra kalba už save – grėsmingai pranašaudama tai, kas laukia. Knyga suskirstyta į keturias dalis – „Dieviškoji teisė“, „Civilizacinė misija“, „Imperijos plėtra“ ir „Atpildo metas“, – kurios „OpenAI“ raidą vaizduoja kaip šių laikų kolonijinės imperijos kūrimo procesą. Kartą tai pamačius, sunku tai ignoruoti.
Absoliutieji monarchai
Knygoje „Dirbtinio intelekto imperija“ Samas Altmanas vaizduojamas ne tik kaip startuolio įkūrėjas, bet ir kaip asmenybė, vis labiau įkūnijanti šiuolaikinio monarcho įvaizdį – pats save paskyręs, neatskaitingas elektoratui, bet turintis milžinišką įtaką dirbtinio intelekto ateičiai. Jo pirmieji sąjungininkai – Elonas Muskas, Reidas Hoffmanas, Peteris Thielis ir kiti elitiniai Silicio slėnio veikėjai – veikė tarsi galingų aristokratų teismas, už uždarų durų formavęs naujojo pasaulio, kuriame dominuos dirbtinis intelektas, taisykles.
Galios centralizavimas prasidėjo jau nuo pačios „OpenAI“ įkūrimo istorijos. Iš pradžių įsteigta kaip pelno nesiekianti organizacija, kurios tikslas – kurti saugų ir visiems prieinamą dirbtinį intelektą, ji pritraukė idealistiškai mąstančių tyrėjų – tarp jų ir Darijų Amodėjų, dabar vadovaujantį „Anthropic“. Tačiau laikui bėgant Altmanas inicijavo virtinę struktūrinių pertvarkų, kurios pakeitė organizacijos tikslus: buvo įvestas riboto pelno modelis, sudarytos partnerystės su „Microsoft“, į „OpenAI“ pritraukusios milijardines investicijas, o tyrėjai vis labiau buvo raginami derinti savo darbą su komerciniais interesais. Iš pelno nesiekiančios tyrimų laboratorijos „OpenAI“ virto centralizuota struktūra – bendradarbiavimu grįstas projektas tapo griežtai kontroliuojama įmone, kurioje vis labiau gilėjo atskirtis tarp vadovybės ir darbuotojų.
Tuo pat metu itin kruopščiai buvo formuojamas ir Altmano viešasis įvaizdis. Išgarsėjęs kaip technologijų srities autoritetas, Altmanas greitai tapo pasauliniu dirbtinio intelekto šalininku – savotišku evangelistu, pristatančiu savo utopinę žmonijos ateities viziją. Jis buvo kviečiamas dalyvauti JAV Senato posėdžiuose, tarptautinėse konferencijose ir aukšto lygio diplomatiniuose susitikimuose, kur Altmanas kalbėjo tarsi dirbtinio intelekto pranašas, ne tik „OpenAI“ vadovas. Tai – simbolinis monarchinės galios aspektas: svarbu ne tik priimti sprendimus, bet ir užimti dominuojančią poziciją kalbant moraliniais ir ideologiniais klausimais.
Kaip rašo Hao, „Altmanas ne tik pristatinėjo „OpenAI“ vertybes – jis atliko savotišką moralinį vaidmenį, elgėsi lyg geranoriškas monarchas, tikinantis savo teisumu.“
Į kritikus dažnai buvo numojama ranka, kartojant įprastą technokratinį argumentą: „jūs tiesiog nesuprantate DI technologijų“. Taip vadovybei pavykdavo apsisaugoti nuo visuomenės kontrolės, o bet kokią kritiką pateikti kaip žinių stokos išraišką. Tarytum dieviškąją teisę turintys monarchai, „OpenAI“ vadovai dangstėsi technologinio autoriteto skraiste: vieša kontrolė buvo traktuojama kaip kišimasis, o diskusijos – kaip grėsmė „suderinamumui“ ar pažangai.
Valdydami finansavimą, formuodami viešąjį diskursą bei ribodami prieigą prie pažangiausių modelių, Altmanas ir jo bendražygių ratas įsitvirtino kaip nerenkama, niekam neatskaitinga institucija. Šiandien jie atlieka vaidmenį, kuris kadaise buvo monarchų ir imperijų kūrėjų privilegija – apibrėžti, kas laikoma saugumu, kas vertas apsaugos ir kaip turėtų klostytis ateitis.
Civilizacinė dirbtinio intelekto misija
Įsitvirtinus „OpenAI“ lyderystės mitams, vis labiau ryškėjo ir moralinis jų vaidmuo – iš vadovų jie virto teisėtais pasaulinės misijos sergėtojais.
Kaip XIX a. imperijos savo užkariavimus pridengdavo dvasios pakylėjimo ir išganymo retorika, taip ir dirbtinio intelekto industrija sukūrė savąją „civilizacinės misijos“ versiją. Savo knygoje „Dirbtinio intelekto imperija“ Karen Hao parodo, kad „OpenAI“ įkūrėjai bendrąjį dirbtinį intelektą (BDI) pristatė ne kaip produktą, o kaip moralinį užmojį – tokią galingą ir pavojingą jėgą, kurios kūrimas ir plėtojimas galimas tik pačiose atsakingiausiose rankose.
Toks diskursas turėjo strateginę vertę. Jis pateisino galios centralizavimą, neutralizavo kritikų balsus ir, neprarandant geranoriškumo aureolės, leido „OpenAI“ iš pelno nesiekiančios organizacijos tapti galinga korporacine mašina. „Darome tai žmonijos labui“, – buvo tvirtinama pranešimuose spaudai, nors realybėje sistemos buvo kuriamos už uždarų durų, o sprendimų priėmimas ir duomenų valdymas – sutelktas siauroje elito grupėje.
Hao teigia, kad tai galima palyginti su kolonijine retorika: kolonizavusios Azijos, Afrikos ir Amerikos regionus, Europos imperijos skelbė, kad mokyklos, geležinkeliai, religija – tai kelias į nušvitimą. Tačiau visa tai tebuvo priedanga ekonomikai, grindžiamai resursų išgavimo politika: žemės, gamtos ištekliai ir darbo jėga plūdo į valdančiųjų rankas, o tariami naudos gavėjai liko nuskurdinti ir bejėgiai.
Pasak Hao, dirbtinio intelekto plėtra taip pat grindžiama ta pačia logika: iš viešųjų forumų, knygų, meno kūrinių ir programinio kodo saugyklų išgaunami milžiniški duomenų kiekiai – dažnai be sutikimo ar atlygio. „Tai – didžiausias intelektinio turto pasisavinimo aktas istorijoje“, – rašo ji. Milijardų žmonių kūrybinis darbas lyg koks pašaras sušeriamas kalbos modeliams, kurie vėliau yra komercializuojami, tariamai siekiant „apsaugoti žmoniją“.
Dar labiau šokiruoja tai, kad šias sistemas iš tiesų palaiko nematoma darbo jėga. DI mokymo tikslais Kenijoje, Filipinuose ir kitose pasaulio Pietų šalyse samdomi turinio moderatoriai turi peržiūrėti siaubą keliančią medžiagą – smurtinį, prievartinį, seksualinio išnaudojimo turinį, siekiant „išvalyti“ duomenų rinkinius, kad jie taptų saugūs viešam naudojimui. Darbuotojai skundžiasi potrauminio streso sutrikimais, išnaudojimu dėl mažo darbo užmokesčio ir neturi galimybių kreiptis pagalbos, tačiau jų istorijos retai kada minimos aukšto lygio DI atstovų pranešimuose apie etikos ir saugumo principus.
Panašus modelis atsiskleidžia ir aplinkosaugos srityje – didieji kalbos modeliai reikalauja milžiniškos skaičiavimo galios, o tai reiškia didžiules elektros energijos ir gėlo vandens sąnaudas. Hao pateikia pavyzdžių, kai sausrų kamuojamuose regionuose įrengiamos masiškai daug vandens suvartojančios aušinimo sistemos. Vietos bendruomenėms tenka kentėti ekologinius padarinius, tuo tarpu ekonominę naudą susižeria „OpenAI“ ir jos investuotojai.
Iš esmės DI saugumo naratyvas atkartoja imperinę logiką – galios siekis perrengiamas kilnios tarnystės rūbais. Jis paverčia dominavimą priimtinu, pateikdamas jį kaip saugos užtikrinimo priemonę. Ir svarbiausia – atgraso nuo klausimų, nes abejojant „OpenAI“ autoritetu, automatiškai keliama grėsmė pačiai DI saugai.
Imperijos plėtra
Tačiau jokia imperija nesiplečia amžinai. Kai kontrolė tampa absoliuti, o kritikai – nutildomi, viduje ima kauptis įtampos židiniai.
Kiekviena imperija pasiekia tašką, kai kalbos apie moralę užleidžia vietą plėtros mastui – „OpenAI“ šį etapą pasiekė neįtikėtinai greitai. Hao atskleidžia, kaip kilmingais idealiais besivadovavusi organizacija tyliai virto komercine mašina, varoma milijardinėmis rizikos kapitalo investicijomis, griežta prieigos prie modelių kontrole ir vis glaudesniu aljansu su „Microsoft“.
2019 m. „OpenAI“ pertvarkė savo teisinę struktūrą ir tapo vadinamąja „riboto pelno“ bendrove – sąvoka, kuri tiek neaiški, kiek ir nauja. Nors „OpenAI“ tvirtino, kad tokiu būdu bus ribojamas investuotojų pelnas tam, kad būtų išsaugota jos misija, šis pokytis iš tikrųjų pažymėjo aiškų atsitraukimą nuo skaidrumo ir atviro bendradarbiavimo principų. „Įmonė ėmė vis labiau panašėti į tuos technologijų gigantus, kuriems kadaise metė iššūkį“, – pažymi Hao.
„OpenAI“ nustojo viešinti pagrindinius technologinius laimėjimus, o jos modeliai tapo saugomi nuosavybės teise ir neprieinami išorės tyrėjams. Prieiga buvo apribota, tyrimų rezultatai – nebeskelbiami, o vartotojų įsitraukimas buvo susietas su licencijavimo sutartimis ir API prieigomis – visuomeniniai interesai užleido vietą komercinei logikai.
Tuo tarpu „Microsoft“ 10 mlrd. JAV dolerių investicija ženkliai paspartino „OpenAI“ plėtrą: GPT sprendimai buvo integruoti į „Office“ produktus, DI infrastruktūra – į „Azure“, o verslo įmonių sektorius greitai perėmė šias technologijas. „OpenAI“ ne tik išplėtė savo įtakos ribas – ji sukūrė naujo tipo imperinę sistemą, kurioje prieiga prie DI ekosistemos suteikiama tik pagal sąlygas, kurias diktuoja centralizuota valdančioji institucija.
Pasekmės? Sparčiai augančios energijos sąnaudos, milžiniški sunaudoto vandens kiekiai, nusivylę tyrėjai, į paribį nustumti atvirojo kodo bendruomenių interesai. Ir vis didesnė praraja tarp to, kuo „OpenAI“ teigė esanti, ir to, kuo ji iš tiesų tapo.
Tylusis maištas: Darijus Amodėjus ir kelias, kuriuo nenueita
„OpenAI“ vidinio nepasitenkinimo ženklai jau buvo matomi 2020 m. pradžioje, kai iš tuometinių tyrimų padalinio vadovo pareigų pasitraukė Darijus Amodėjus. Kartu su juo – ir vyresniųjų tyrėjų komanda, vėliau įkūrusi „Anthropic“.
Amodėjus tapo „OpenAI“ dalimi dar tais laikais, kai įmonė vadovavosi pelno nesiekiančios, atvirosios mokslo kultūros principais. Kaip rašo Karen Hao, Amodėjus siekė kurti pažangius DI modelius, tačiau prioritetą teikė suderinamumui su humanistinėmis vertybėmis ir atsakingam požiūriui į DI plėtrą. Tačiau 2019 m. Samui Altmanui perėmus generalinio direktoriaus pareigas, jų vizijos pamažu ėmė skirtis. „Amodėjus buvo santūraus požiūrio šalininkas ir teigė, kad kuriant laboratoriją reikėtų vadovautis atsargumo principais, tačiau Altmanas troško tokios, kurią į priekį vestų ambicijos“, – rašo Hao.
Konfliktas kilo ne vien dėl DI kūrimo ir diegimo metodų, bet ir dėl pačios DI plėtros paskirties – kam visa tai skirta ir kieno interesams tarnauja.
„OpenAI“ vis labiau atsisakant savo pradinių idealų ir keliant didesnius komercinius tikslus, Amodėjaus nerimas augo. Riboto pelno modelio įvedimas, vis glaudesni ryšiai su „Microsoft“ ir auganti uždarų durų politika prieštaravo jo įsitikinimui, kad DI sauga reikalauja atvirumo ir skaidrumo. Nors Amodėjaus pasitraukimas nesulaukė plataus atgarsio, tai buvo principingas, tylus atsisakymas taikstytis su naująja augančios imperijos kryptimi.
2021 m. jis kartu su seserimi Daniela įkūrė viešojo intereso įmonę „Anthropic“, kurios misija: vykdyti DI suderinamumo tyrimus dideliu mastu, tačiau vadovaujantis kita logika – grindžiama paskirstyta atsakomybe ir etiška rizikos valdymo sistema, o ne uždaro rato elito politika.
Ši akimirka Hao pasakojime tampa prieštaringa – „OpenAI“ pasirinko dabartinę kryptį sąmoningai. Tai nebuvo vienintelis galimas kelias. O tiems, kurie išdrįsdavo nepripažinti viešpataujančios imperijos doktrinos – dažnai nelikdavo nieko kita, kaip priimti tylų ištrėmimą.
Atpildo metas
Aštriausią žvilgsnį Karen Hao nukreipia į paskutinę knygos dalį – tą momentą, kai imperijos pamatuose ėmė ryškėti pirmieji plyšiai.
2023 m. lapkričio mėn. „OpenAI“ valdyba netikėtai atleido Samą Altmaną, įmonėje sukeldama chaoso bangą: sukilo darbuotojai, įsikišo net „Microsoft“. Per penkias dienas Altmanas buvo sugrąžintas į pareigas, valdyba – pakeista, o visa istorija skubiai įvardyta kaip nesusipratimas. Tačiau Karen Hao šį įvykį vertina kaip kur kas iškalbingesnį: žaibiškas Altmano sugrąžinimas, valdybos pakeitimas ir visiškas skaidrumo nebuvimas leidžia manyti, kad visa tai buvo sąmoningai užglaistyta – bandant išvengti gilesnės analizės ir kritikos.
„Tai buvo pirmas kartas, kai kaukė nuslydo“, – rašo autorė. Vidinis ratas, kuris skelbėsi veikiantis žmonijos labui, užsisklendė, kad apsisaugotų. Informatoriai buvo atkalbinėjami, kritikams buvo priminta apie konfidencialumo sutartis, o valdyba, išdrįsusi mesti iššūkį valdžiai, buvo išformuota. Imperatorius sugrįžo – dar stipresnis, dar labiau apsaugotas ir dar mažiau atskaitingas nei bet kada anksčiau.
Tuo tarpu išorės spaudimas vis didėjo. Briuselio ir Vašingtono politikos formuotojai pradėjo rengti teisės aktus, skirtus dirbtinio intelekto naudojimo reglamentavimui. Aplinkosaugos specialistai ėmė abejoti nuolat augančių DI modelių tvarumu. Darbo teisių gynėjai ėmė garsiau kalbėti apie dirbančiuosius pagal trumpalaikes sutartis – nematomą jėgą, palaikančią DI ekonomiką. Net ir kai kurie DI tyrėjai, tarp jų ir buvę „OpenAI“ komandos nariai, prabilo apie etinį nuosmukį, slypintį po besąlyginės plėtros logika.
Hao knyga nepateikia greitų sprendimų, tačiau kelia neatidėliotinų klausimų. Kokią imperiją iš tikrųjų kuriame? Kas turi teisę dalyvauti jos formavime? O kai tai, ką sukūrėme, ims kurti mus – kas liks už vairo?