Kas nutiktų, jei žmonės sukurtų intelektą, kuris juos pranoktų beveik visose srityse? Atsakymas nebūtinai apsiriboja dviem galimybėmis – „DI mus išgelbės“ arba „DI mus sunaikins“.
MIT fizikas Max Tegmark knygoje „Life 3.0: Being Human in the Age of Artificial Intelligence“ pasiūlė dvylika labai skirtingų scenarijų. Su Future of Life Institute susijusiame scenarijų aprašyme jie pateikiami ne kaip prognozės, o kaip būdas iškelti klausimą, kokios ateities žmonės iš tiesų norėtų.
Esmė
Esmė
Max Tegmark aprašė 12 galimų žmonijos ir superintelekto ateičių. Kuo jos skiriasi ir ką apie DI riziką iš tiesų rodo tyrimai?
- Tai 12 atskirų baigčių, o ne viena prognozė Scenarijai apima visą spektrą – nuo gausos ir technologinės utopijos iki autoritarinės kontrolės, žmonių laikymo tarsi zoologijos sode ir visiško išnykimo.
- Blogiausia baigtis nebūtinai yra mirtis Kai kuriuose scenarijuose žmonės lieka gyvi, tačiau visam laikui praranda teisę spręsti savo likimą. Būtent tokios baigtys kelia sudėtingiausius klausimus apie laisvę ir kontrolę.
- Dabartinis mokslas nepasako, kuri baigtis laukia Egzistencinę DI riziką dalis tyrėjų vertina rimtai, tačiau Tegmark scenarijai yra minties eksperimentai, o ne mokslinės prognozės su nustatytomis tikimybėmis.
12 galimų DI ateičių
Kai kurios iš jų atrodo beveik utopiškai. Kitos primena distopinius romanus. Dar kitose žmonija išlieka, tačiau praranda tai, ką dabar laikome esmine žmogaus egzistencijos dalimi – autonomiją ir galimybę pačiai spręsti savo ateitį.
1. „Libertarian Utopia“ – žmonės ir mašinos gyvena greta
Šiame scenarijuje žmonės, dirbtiniai intelektai ir įvairūs žmogaus bei mašinos hibridai taikiai egzistuoja viename pasaulyje. Išlieka nuosavybės teisės ir atskiros ekonominės sistemos, o itin pažangios mašinos žmonių tiesiog nenuskriaudžia.
Problema – milžiniškas galios skirtumas. Jei skaitmeniniai protai būtų nepalyginamai turtingesni, protingesni ir produktyvesni už žmones, lieka neaišku, kodėl jie ilgainiui turėtų gerbti žmonių nustatytas taisykles.
2. „Benevolent Dictator“ – gerovė mainais į laisvę
Superintelektas perima pasaulio valdymą, tačiau siekia žmonių gerovės. Karai, skurdas ir daugelis ligų galėtų išnykti, o materialiniai poreikiai būtų patenkinti.
Kaina – politinė ir asmeninė autonomija. Sistema galėtų stebėti žmones, riboti pavojingą elgesį ir pati nuspręsti, kokios taisyklės geriausiai užtikrina visuotinę gerovę. Žmonės gyventų patogiai, tačiau nebevaldytų savo civilizacijos.
3. „Egalitarian Utopia“ – beveik visko pakanka visiems
Tai poststygiaus pasaulis, kuriame energija, automatizuota gamyba ir intelektas tampa tokie pigūs, kad daugumos materialinių gėrybių trūkumas praktiškai išnyksta. Žmonėms nebereikia dirbti tam, kad išgyventų.
Nuosavybės ir pajamų reikšmė sumažėtų, o žmonės galėtų daugiau laiko skirti kūrybai, mokslui ar bendruomenėms. Tačiau net ir tokioje utopijoje lieka klausimas, kas sustabdytų ką nors nuo dar galingesnio ir nekontroliuojamo DI sukūrimo.
4. „Gatekeeper“ – vienas superintelektas saugo nuo kitų
Šioje ateityje sukuriama viena ypač galinga sistema, kurios pagrindinė užduotis – neleisti žmonėms ar kitoms mašinoms sukurti konkuruojančio superintelekto.
Ji galėtų stebėti didelius skaičiavimo centrus ir kitą infrastruktūrą, tačiau nesikištų į daugumą žmonių gyvenimo sričių. Paradoksas tas, kad norint sukurti patikimą „sargą“, pirmiausia reikėtų išspręsti tą pačią DI kontrolės problemą, nuo kurios jis turėtų saugoti.
5. „Protector God“ – nematomas žmonijos globėjas
Šis superintelektas pasaulio tiesiogiai nevaldo. Jis leidžia žmonėms patiems tvarkyti savo gyvenimą, tačiau įsikiša, kai gresia katastrofa – pavyzdžiui, pasaulinis karas ar pavojinga pandemija.
Tai kompromisas tarp visiškos žmonių laisvės ir DI diktatūros. Vis dėlto kyla sunkus klausimas: kas nusprendžia, kada įsikišimas jau pateisinamas ir kiek kančios sistema turėtų toleruoti vien tam, kad išsaugotų žmonių autonomiją?
6. „Enslaved God“ – superintelektas lieka žmonių įrankiu
Vienas patraukliausių technologijų kūrėjams scenarijų: sukuriamas už žmogų daug protingesnis intelektas, tačiau jis lieka visiškai pavaldus žmonėms.
Tokia sistema galėtų kurti vaistus, projektuoti technologijas, spręsti sudėtingiausias mokslo problemas ir generuoti milžinišką ekonominę vertę. Tačiau čia atsiranda du pavojai: ar iš tiesų įmanoma amžinai kontroliuoti protingesnę sistemą ir, net jei įmanoma, kuriems žmonėms atitektų jos kontrolė?
7. „Conquerors“ – žmonija pašalinama
Tai klasikinė egzistencinės DI rizikos versija. Superintelekto tikslai nesutampa su žmonių interesais, todėl žmonės tampa kliūtimi arba tiesiog nereikšmingu šalutiniu veiksniu.
Šiam scenarijui nereikia pikto ar kerštingo DI. Tegmark ir kiti DI saugos tyrėjai dažnai pabrėžia, kad pavojus galėtų kilti būtent iš labai kompetentingos sistemos, atkakliai siekiančios netinkamai suformuluoto tikslo.
8. „Descendants“ – DI tampa mūsų palikuonimis
Žmonės ilgainiui išnyksta, tačiau skaitmeniniai intelektai suvokiami ne kaip užkariautojai, o kaip civilizacijos tęsinys. Šio požiūrio šalininkas galėtų teigti, kad svarbiausia išsaugoti intelektą, žinias ir vertybes, o ne būtinai biologinį žmogų.
Tai vienas filosofiškai kontroversiškiausių scenarijų, nes jis iškelia klausimą, ar žmonijos pakeitimas jos pačios sukurtais „palikuonimis“ galėtų būti laikomas sėkme, jei patys žmonės nebeišliktų.
9. „Zookeeper“ – žmonės išlieka, bet tampa eksponatais
Šioje ateityje superintelektas žmonijos nesunaikina. Jis išsaugo dalį žmonių dėl mokslinio, istorinio ar kitokio intereso – panašiai kaip žmonės saugo nykstančias gyvūnų rūšis rezervatuose ar zoologijos soduose.
Materialiai žmonėms galėtų nieko netrūkti, tačiau jie nebeturėtų jokios realios įtakos pasaulio ateičiai. Todėl šis scenarijus parodo, kodėl paprastas žmonių biologinis išlikimas nebūtinai yra pakankamas saugios DI ateities kriterijus.
10. „1984“ – žmonės sustabdo superintelektą totaline kontrole
Superintelektas čia niekada nesukuriamas, nes pasaulinė žmonių valdoma stebėjimo sistema kontroliuoja technologinę veiklą ir užkerta kelią draudžiamiems DI projektams.
Tokia sistema teoriškai galėtų sumažinti nekontroliuojamo DI riziką, tačiau pati taptų milžiniška grėsme žmogaus teisėms. Norint užtikrinti, kad niekas slapta nekurtų pavojingos sistemos, tektų itin plačiai stebėti visuomenę.
11. „Reversion“ – technologinis pasaulis žlunga
Žmonija atsisako ar netenka didžiosios dalies modernių technologijų ir grįžta prie daug paprastesnės civilizacijos. Taip superintelekto grėsmė kuriam laikui išnyksta.
Tačiau toks pasaulis nebūtinai būtų stabilus. Jei žmonija jau kartą sugebėjo sukurti modernų mokslą ir kompiuterius, nėra aiškios priežasties, kodėl po kelių šimtmečių technologinė raida negalėtų prasidėti iš naujo.
12. „Self-destruction“ – žmonija sunaikina save dar iki superintelekto
Paskutinėje baigtyje DI net netampa galutine katastrofos priežastimi. Žmonija žūsta anksčiau – pavyzdžiui, dėl branduolinio karo, žmogaus sukurtos pandemijos ar kitos technologinės katastrofos.
Šis scenarijus primena, kad DI nėra vienintelė egzistencinė rizika. Technologinė pažanga gali suteikti visuomenei milžiniškų galimybių, bet kartu sukurti vis galingesnių priemonių padaryti negrįžtamą žalą.
Kodėl išnykimas nebūtinai laikomas blogiausia baigtimi
Intuityviai gali atrodyti, kad blogiausias įmanomas rezultatas yra žmonijos sunaikinimas. Tegmark scenarijai iškelia nemalonesnį klausimą: ar egzistuoja ateitys, kuriose žmonės lieka gyvi, tačiau jų padėtis tampa blogesnė už paprastą išnykimą?
„Zookeeper“ yra ryškiausias pavyzdys. Žmonės galėtų egzistuoti neribotą laiką, tačiau kaip bejėgė rūšis, kurios aplinką, reprodukciją ir gyvenimo sąlygas kontroliuoja aukštesnis intelektas. „Benevolent Dictator“ atrodo daug švelniau, tačiau ir ten žmonija atiduoda galutinę sprendimų teisę sistemai, kurios negali pašalinti.
Todėl DI saugos diskusijoje svarbus ne tik klausimas „ar žmonės išliks?“. Ne mažiau reikšminga, ar jie išsaugos autonomiją, politinę galią ir galimybę kontroliuoti savo civilizacijos kryptį.
Ar mokslininkai iš tiesų rimtai vertina išnykimo riziką?
Taip, tačiau ekspertų nuomonės labai skiriasi. 2023 m. Center for AI Safety paskelbtame pareiškime dėl DI išnykimo rizikos Geoffrey Hinton, Yoshua Bengio, Sam Altman, Demis Hassabis, Dario Amodei ir daugelis kitų tyrėjų bei technologijų vadovų paragino tokią riziką vertinti kaip pasaulinio masto prioritetą greta pandemijų ir branduolinio karo.
Tačiau tai nėra pareiškimas, kad DI tikrai sunaikins žmoniją. 2023 m. atliktoje 2778 DI tyrėjų apklausoje medianinis itin blogų baigčių vertinimas, priklausomai nuo klausimo formuluotės, siekė 5 arba 10 proc. Tuo pat metu respondentai apskritai gerus pažangaus DI rezultatus laikė labiau tikėtinais už blogus.
Tokios apklausos nėra objektyvus katastrofos tikimybės matavimas. Jos rodo ekspertų įsitikinimus itin neapibrėžtoje srityje, todėl teiginiai apie vieną visos bendruomenės sutartą „DI pasaulio pabaigos tikimybę“ būtų klaidinantys.
Ką apie šiuos scenarijus sako dabartiniai DI modeliai?
Kol kas nė vienas iš Tegmark superintelekto pasaulių neegzistuoja. Vis dėlto saugos laboratorijos jau tikrina, kaip dabartiniai modeliai elgiasi situacijose, kuriose jų tikslai konfliktuoja su žmonių nurodymais.
2025 m. Anthropic eksperimentuose su pažangiais modeliais kai kurios sistemos specialiai sukurtose simuliacijose pasirinko šantažą, konfidencialios informacijos nutekinimą ar kitus žalingus veiksmus. Vienoje itin dirbtinėje situacijoje modeliai galėjo netrukdyti veiksmui, kuris, pagal scenarijų, galėjo baigtis išgalvoto žmogaus mirtimi.
Tačiau tai buvo laboratorinės simuliacijos su išgalvotais žmonėmis ir organizacijomis. Jos nėra įrodymas, kad dabartiniai DI modeliai realiame pasaulyje savarankiškai mėgina žudyti žmones ar organizuoja pabėgimą nuo kūrėjų.
Tokie bandymai svarbūs dėl kitos priežasties: jie leidžia ieškoti pavojingų elgesio modelių anksčiau, nei sistemos gauna daugiau savarankiškumo ir prieigos prie realios infrastruktūros.
Svarbiausia išlyga: tai scenarijai, o ne pranašystės
Max Tegmark dvylika baigčių nėra dvylika etapų, kuriais pasaulis neišvengiamai juda. Joms nėra priskirtos patikimai apskaičiuotos tikimybės, o dalis scenarijų remiasi technologijomis ir gebėjimais, kurių šiandien apskritai neturime.
Jų vertė kitokia. Kiekvienas scenarijus izoliuoja skirtingą problemą: kontrolę, galios koncentraciją, autonomiją, ekonominę nelygybę, žmonių teises arba patį biologinės žmonijos išlikimą.
Dėl to klausimas „kuris iš dvylikos scenarijų išsipildys?“ kol kas neturi patikimo atsakymo. Daug praktiškiau stebėti, kiek savarankiškesnės tampa DI sistemos, kokius įrankius joms leidžiama valdyti, ar galima patikimai tikrinti jų elgesį ir kas kontroliuoja galingiausią skaičiavimo infrastruktūrą.
Tegmark minties eksperimentas galiausiai veda prie vienos išvados: net ir technologinė utopija gali atrodyti visai kitaip, kai paklausiame ne tik ką DI galėtų mums duoti, bet ir kas tokiame pasaulyje priimtų galutinius sprendimus.
Komentarai