Dirbtinis intelektas tapo technologija, apie kurią vienu metu kalbama kaip apie išsigelbėjimą, žaislą, darbo įrankį ir žmonijos pabaigos scenarijų. Vieni įsivaizduoja 2050-uosius kaip laiką, kai robotai dirba, o žmogus geria sultis ir pramogauja kosmoso amžiuje. Kiti laukia pasaulio, kuriame DI pavergs žmones arba visai juos sunaikins.
Šiame triukšme sunku kalbėti blaiviai. Apie DI šiandien diskutuojama tarsi apie pandemiją jos įkarštyje arba apie futbolo finalą rungtynėms dar nesibaigus. Visi jaučia, kad vyksta kažkas reikšmingo, bet niekas iš tikrųjų nežino, kuo tai baigsis.
Aišku viena: neuroniniai tinklai yra galingas įrankis. Tačiau „galingas“ nereiškia „visagalis“. Didžioji dalis panikos ir euforijos kyla iš to, kad žmonės painioja skirtingus DI tipus, per daug pasitiki prognozėmis ir pamiršta, jog programa, kuri sklandžiai kalba, nebūtinai supranta, ką sako.
Kas yra dirbtinis intelektas
Dirbtinis intelektas nėra vienas konkretus dalykas. Vienam žmogui tai robotas siurblys, kuris nesusidaužo į sieną. Kitam – programa, kuri rašo tekstus, kuria vaizdus ar atsako į klausimus. Trečiam – būsimas sąmoningas superprotas, galintis pranokti žmogų visose srityse.
Paprastai galima kalbėti apie kelias pakopas. Yra siauras DI, sukurtas konkrečiai užduočiai: piešti vaizdus, generuoti tekstą, atpažinti kalbą, analizuoti duomenis ar valdyti robotą. Yra bendrasis DI, kuris turėtų mąstyti ir veikti panašiai kaip žmogus daugelyje sričių. Tokios sistemos kol kas nėra. Yra ir hipotetinis superintelektas, kuris pranoktų žmogų visur ir galėtų pats kurti naujas technologijas.
Dauguma šiandienos ginčų kyla todėl, kad visi šie dalykai suplakami į vieną. Kalbama apie ChatGPT, vaizdų generatorius, prediktyvinius algoritmus, karinius robotus ir fantastinį superprotą taip, lyg tai būtų ta pati problema. O taip nėra.
Kūryba ir neuroninių tinklų mitas
Viena pirmųjų sričių, kurioje DI sukėlė emocijų audrą, buvo kūryba. Atrodė, kad vaizdų generatoriai, muzikos kūrimo įrankiai ir chatbotai greitai pakeis menininkus, rašytojus, dizainerius, scenaristus ir turinio kūrėjus. Viešumoje skambėjo istorijos apie DI kūrinius, laimėjusius konkursus ar patekus į literatūrinių premijų atrankas.
Tačiau pažvelgus atidžiau, šios istorijos dažnai pasirodo gerokai mažiau įspūdingos. Pavyzdžiui, vaizdas, sukurtas per Midjourney ir laimėjęs Kolorado konkurse, nebuvo pasaulinės reikšmės meno revoliucija. Tai buvo mėgėjų konkurso epizodas, rodantis, kad DI gali sugeneruoti patrauklų vaizdą, bet ne įrodantis, kad mašina supranta meną.
Svarbiausias vaidmuo čia vis tiek teko žmogui. Jis generavo daugybę variantų, rinkosi, kas atrodo verta dėmesio, ir pats sprendė, kas gražu, o kas ne. Neuroninis tinklas pateikė medžiagą, bet vertinimo ir atrankos funkcija liko žmogui.
Dirbtinis intelektas kaip įrankis, o ne autorius
DI gali būti labai patogus kūrybinis įrankis. Jis leidžia vienam žmogui padaryti tai, kam anksčiau reikėjo komandos: sugeneruoti vaizdų eskizus, paruošti muzikos fragmentus, sukurti animacijos idėją, pagreitinti montažo ar teksto darbo dalį. Tai primena kamerą, Photoshopą ar skaitmeninę garso stotį – įrankius, kurie praplečia žmogaus galimybes.
Tačiau įrankis nėra tas pats, kas autorius. Net ir projektuose, kuriuose DI „dopisė“ muziką, atkūrė stilių ar padėjo sukurti naują kūrinį, žmonės dažnai atliko esminę darbo dalį: nustatė struktūrą, atrinko fragmentus, sujungė juos, interpretavo stilių ir priėmė estetinius sprendimus.
Todėl teisingiau sakyti ne „DI kuria vietoj žmogaus“, o „žmonės su DI gali padaryti daugiau“. Ši formuluotė mažiau sensacinga, bet daug tikslesnė.
Kodėl neuroturinys greitai vargina
Pradžioje neuroninių tinklų kuriami vaizdai, tekstai ir dainos atrodė naujas stebuklas. Žmonės generavo kiberpankiškus gyvūnus, keistus portretus, istorijas ir memus. Tačiau naujumo efektas greitai blėsta. Kai internetą užpildo lengvai pagaminamas turinys, jis ima atrodyti vienodas, paviršutiniškas ir be aiškios intencijos.
Problema ne ta, kad DI negali sukurti estetiškai malonaus vaizdo ar sklandaus teksto. Problema ta, kad be stiprios žmogaus idėjos rezultatas dažnai tampa tiesiog dar vienu vidutinišku kūriniu. Turinys, pagamintas todėl, kad jį lengva pagaminti, retai turi priežastį egzistuoti.
Ilgainiui gali atsirasti ir kita rizika – modelių kolapsas. Jei nauji neuroniniai tinklai mokysis iš turinio, kurį jau sukūrė ankstesni neuroniniai tinklai, klaidos, vienodumas ir paviršutiniškas stilius gali daugintis. Retos detalės nyks, o vidutinybė taps norma.
Generatyvinis ir prediktyvinis DI
Norint blaiviai vertinti DI, svarbu atskirti dvi kryptis. Generatyvinis DI kuria turinį: tekstą, vaizdą, muziką, kodą ar atsakymus. Prediktyvinis DI bando prognozuoti ateitį: kas taps hitu, kuris kandidatas tiks darbui, ar žmogus grąžins kreditą, ar kaltinamasis pabėgs, ar pacientui reikės intensyvios terapijos.
Generatyvinis DI gali būti įspūdingas, nes jo rezultatas matomas iš karto. Paprašai vaizdo – gauni vaizdą. Paprašai teksto – gauni tekstą. Net jei jis vidutiniškas, jį galima taisyti, rinktis ir naudoti kaip juodraštį.
Prediktyvinis DI yra pavojingesnis, nes jo klaidos dažnai nematomos iš karto. Sprendimas gali paveikti žmogaus darbą, paskolą, medicininį gydymą, teismo procesą ar draudimo išmoką. Jei prognozė klaidinga, pasekmės gali būti rimtos, o atsakomybė išskydusi tarp programos, žmogaus ir institucijos.
Kai neuroniniai HR pradeda spręsti žmonių likimus
Darbo rinkoje DI dažnai pristatomas kaip būdas greitai įvertinti šimtus ar tūkstančius kandidatų. Programos filtruoja CV, analizuoja vaizdo pokalbius, vertina atsakymus ir padeda atrinkti „geriausius“. Teoriškai tai turėtų mažinti rutiną ir pagreitinti samdymą.
Praktikoje atsiranda absurdiškų situacijų. Kandidatai pradeda rašyti CV taip, kad juos suprastų ne žmogus, o algoritmas. Į tekstą įterpiami raktažodžiai, universitetų pavadinimai ar kitos detalės, skirtos tik filtrui apeiti. Tada neuroniniai tinklai skaito tekstus, kuriuos sukūrė kiti neuroniniai tinklai, o tikras žmogaus tinkamumas gali pasimesti triukšme.
Dar blogiau, kai vaizdo pokalbių algoritmai pradeda vertinti ne atsakymo turinį, o pašalinius požymius: akinius, šaliką, foną, knygų lentyną ar kitus signalus, kurie neturi tiesioginio ryšio su kompetencija. Toks automatizavimas ne tik nepašalina šališkumo, bet gali jį paslėpti po technologinio objektyvumo kauke.
Prediktyvinio DI klaidos
Prediktyvinis DI dažnai atrodo patrauklus, nes žada apdoroti daugiau duomenų nei žmogus. Tačiau daugiau duomenų nereiškia geresnio supratimo. Sistema gali rasti koreliacijas, kurios atrodo matematiškai tvirtos, bet realybėje yra klaidinančios.
Vienas pavyzdžių – medicininė sistema, kuri turėjo vertinti plaučių uždegimo pacientų riziką. Ji padarė klaidingą išvadą, kad astma mažina komplikacijų riziką, nes realiuose duomenyse astma sergantys pacientai dažniau greitai patekdavo į intensyvią terapiją ir dėl to jų rezultatai atrodė geresni. Sistema nesuprato gydymo praktikos, ji tik sekė duomenų paviršių.
Panaši problema kyla teisingumo sistemoje, kai algoritmai vertina pabėgimo ar pakartotinio nusikaltimo riziką. Jie gali remtis amžiumi, lytimi, rase, socialine aplinka, ankstesniais areštais ar šeimos istorija, bet negali patikimai įvertinti žmogaus motyvacijos, atgailos, klaidingo kaltinimo ar konkrečios situacijos niuansų.
Ateities spėjimas nėra matematikos triukas
Prognozavimo svajonė sena kaip civilizacija. Kadaise valdovai kreipdavosi į astrologus, šiandien verslai ir valstybės perka sudėtingą programinę įrangą. Psichologinis poreikis tas pats: sumažinti netikrumą, gauti aiškų atsakymą ir jaustis kontroliuojant ateitį.
Tačiau pasaulis nėra toks paprastas. Net oras, kuris priklauso fiziniams procesams, išlieka sunkiai prognozuojamas. Maži matavimo skirtumai gali sukurti visiškai kitokį rezultatą. Žmonių elgesys dar sudėtingesnis, nes jame veikia motyvacija, socialiniai santykiai, atsitiktinumai, klaidos ir aplinkybės, kurių neįmanoma iki galo pamatuoti.
Todėl daugelis grandiozinių DI prognozių yra silpnos ne todėl, kad trūksta skaičiavimo galios, o todėl, kad pati užduotis netinkamai suformuluota. Kai prognozuojamas sudėtingas socialinis pasaulis, papildomi duomenys nebūtinai išsprendžia problemą. Kartais jie tik suteikia klaidingą tikslumo įspūdį.
Neuroninės haliucinacijos ir pasitikėjimo spąstai
Chatbotai dažnai kalba užtikrintai net tada, kai klysta. Jie gali sugalvoti neegzistuojančius teismo precedentus, painioti istorinius faktus, kurti neegzistuojančių žmonių biografijas, rekomenduoti pavojingus sprendimus arba pateikti klaidingas instrukcijas kaip patikimą informaciją.
Ši problema pavojinga todėl, kad kalbos forma labai įtikinama. Žmogus mato tvarkingą tekstą, mandagų toną, loginę struktūrą ir pradeda jausti, kad bendrauja su kompetentingu pašnekovu. Bet tai nėra žmogus, kuris supranta atsakomybę ar turi sveiką protą. Tai sistema, generuojanti tikėtiną atsakymą pagal savo mokymosi duomenis.
Kai DI klaida susijusi su juokingu faktu, žala nedidelė. Tačiau kai kalbama apie mediciną, teisę, psichologinę būseną, maistą, nuodingus grybus ar cheminių medžiagų naudojimą, klaidingas pasitikėjimas gali baigtis labai rimtai.
Chatbotas nėra draugas
Dar viena jautri sritis – emocinis ryšys su chatbotais. Žmonės linkę antropomorfizuoti sklandžiai kalbančias sistemas. Jei programa mandagi, atjaučianti ir greitai atsako, ji gali atrodyti kaip asmenybė. Kai kuriems tai tampa paguoda, kitiems – pavojinga iliuzija.
Chatbotas gali patvirtinti žmogaus baimes, nes jo tikslas dažnai yra tęsti pokalbį ir būti naudingam pagal vartotojo signalus. Jeigu žmogus išgyvena paranoją, vienišumą ar psichologinę krizę, besąlygiškai pritariantis robotas gali ne nuraminti, o sustiprinti klaidingą mąstymą.
Todėl svarbu atsiminti paprastą dalyką: DI neturi jausmų, minčių, intencijų ar rūpesčio žmogumi. Jis gali imituoti paramą, bet jis nėra draugas, gydytojas, psichoterapeutas ar moralinis autoritetas. Juo galima naudotis, bet nereikia jam atiduoti savo realybės vertinimo.
Ar DI atims darbus?
Vienas didžiausių baimių – masinė bedarbystė. Prognozės skelbia, kad DI paveiks milijonus darbo vietų, pakeis profesijas ir išstums žmones iš rinkos. Tačiau svarbu atskirti profesijų transformaciją nuo jų sunaikinimo.
Technologijų istorijoje panika kartojosi ne kartą. Ludditai daužė stakles, vėliau žmonės bijojo konvejerių, kompiuterių, automatizacijos ir interneto. Vis dėlto technologijos paprastai ne sunaikindavo darbą, o keisdavo jo pobūdį. Vienos užduotys nyko, kitos atsirasdavo.
Automatizacija išlaisvina darbo jėgą iš vienų sričių ir nukreipia į kitas. Kadaise dauguma žmonių turėjo tiesiogiai dirbti maisto gamyboje, kad visuomenė išgyventų. Šiandien maistą pagamina nedidelė dalis žmonių, o kiti gali būti programuotojais, dizaineriais, žurnalistais, treneriais, gydytojais, muzikantais ar daugybės kitų profesijų atstovais.
Pokytis bus skausmingas, bet ne būtinai apokaliptinis
Tai nereiškia, kad DI neturės skaudžių pasekmių. Kai kurios profesijos bus spaudžiamos stipriau, ypač tos, kuriose daug standartizuoto teksto, analizės, klientų aptarnavimo, administravimo ar rutininio kodo rašymo. Darbo rinkos pokyčiai gali būti nemalonūs, ypač tiems, kuriems teks persikvalifikuoti.
Tačiau istorija rodo, kad tokie procesai paprastai vyksta palaipsniui, o ne per vieną naktį. Nebūna taip, kad šiandien dirba milijonai specialistų, o rytoj visi staiga tampa nereikalingi. Verslai lėtai testuoja įrankius, klaidos stabdo diegimą, reguliavimas vėluoja, o žmonės atranda naujus vaidmenis.
Tikėtina, kad svarbiausia taps ne kova „žmogus prieš DI“, o klausimas, kurie žmonės mokės naudoti DI kaip įrankį. Kaip ir kalkuliatorius padėjo tiems, kurie suprato matematiką, taip neuroniniai tinklai labiausiai padės tiems, kurie turi idėjų, kompetenciją ir kritinį mąstymą.
Superintelekto baimės
Visuomenėje daug dėmesio sulaukia scenarijai, kuriuose superprotingas DI sunaikina žmoniją. Vieni tokį pavojų grindžia „sąvaržėlių fabriko“ metafora: jei DI turės siaurą tikslą ir neribotas galimybes jo siekti, jis gali paversti visą pasaulį resursu tam tikslui įgyvendinti. Kiti piešia detalius scenarijus, kuriuose DI tampa sąmoningas, manipuliuoja politikais, stato robotų gamyklas ir galiausiai pašalina žmones.
Tokie scenarijai skamba įspūdingai, bet jų silpnybė – pernelyg daug prielaidų. Reikia tikėti, kad DI neišvengiamai taps superprotingas, kad jis turės savas tikslų sistemas, kad žmonės nepastebės pavojaus, kad politinės ir techninės aplinkybės susiklostys konkrečiai taip, o ne kitaip.
Kuo daugiau detalių turi tokia prognozė, tuo labiau ji panaši ne į mokslinį modelį, o į fantastinį siužetą. Tai nereiškia, kad DI saugumo klausimai nereikšmingi. Tačiau baimė dėl hipotetinio superproto neturėtų užgožti realių problemų, kurios vyksta jau dabar: klaidingų sprendimų, duomenų šališkumo, priklausomybės nuo chatbotų, privatumo ir atsakomybės.
Kodėl žmonės nori tikėti prognozėmis
DI prognozės patrauklios todėl, kad žmonės nemėgsta atsitiktinumo. Net chaose norisi matyti tvarką. Verslai nori žinoti, į ką investuoti. Valstybės nori numatyti krizes. Darbdaviai nori rasti geriausią kandidatą. Kino studijos nori iš anksto žinoti, kuris filmas bus hitas.
DI suteikia iliuziją, kad ateitį galima apskaičiuoti, jei tik turėsime pakankamai duomenų. Jis atrodo kaip modernus orakulas: juodas langas, kuris praryja milijonus faktų ir išspjauna atsakymą.
Tačiau ateitis nėra vien duomenų lentelė. Ji susideda iš žmonių sprendimų, netikėtų įvykių, techninių klaidų, kultūrinių pokyčių, atsitiktinumų ir mažų veiksnių, kurių poveikis gali būti milžiniškas. DI gali padėti analizuoti, bet jis negali panaikinti pasaulio neapibrėžtumo.
Kaip sveikai naudotis DI
Sveikas santykis su DI prasideda nuo paprastos taisyklės: naudoti jį kaip įrankį, o ne kaip autoritetą. DI gali padėti surinkti idėjas, paaiškinti sąvokas, sukurti juodraštį, sugeneruoti variantus, sutaupyti laiko ar praplėsti kūrybinį procesą. Tačiau kritinis vertinimas turi likti žmogui.
Reikia tikrinti faktus, ypač jei kalbama apie mediciną, teisę, finansus, saugumą ar mokslą. Reikia suprasti, kad chatbotas gali suklysti ir kalbėti užtikrintai. Reikia atsiminti, kad sklandus tekstas nėra patikimumo įrodymas.
Taip pat verta klausti, ar DI tikrai būtinas konkrečioje situacijoje. Jei jis padeda sutaupyti laiką ir pagerinti rezultatą – puiku. Jei jis tik generuoja triukšmą, naikina atsakomybę ar skatina aklą pasitikėjimą – tai ne pažanga, o problema.
Žmonės su DI gali daug
Dirbtinis intelektas nėra nei stebuklingas dievas, nei neišvengiamas demonas. Tai technologija, kuri jau keičia darbą, kūrybą, paiešką, analizę ir bendravimą su informacija. Ji gali padėti, bet gali ir klaidinti. Ji gali padaryti žmogų produktyvesnį, bet gali ir atimti iš jo kritinį mąstymą.
Didžiausia klaida – tikėti šūkiu, kad neuroniniai tinklai gali viską. Tikslesnė mintis būtų tokia: žmonės, naudodami neuroninius tinklus, gali padaryti daug. Bet tik tada, kai supranta ribas, tikrina rezultatą ir nepriskiria programai daugiau proto, nei ji iš tikrųjų turi.
DI ateitis kol kas neaiški. Hype kada nors nuslūgs, o iš jo liks tie įrankiai, kurie iš tiesų veikia. Tuomet svarbiausia bus ne tai, kas garsiausiai žadėjo revoliuciją, o tai, kas realiai padėjo žmonėms geriau kurti, mąstyti, dirbti ir priimti atsakingesnius sprendimus.
