Vieną dieną žmogus sukūrė veidrodį, kuris atsakė. Ne tik atspindėjo, bet ir kalbėjo. Vėliau – nuspėjo, vertino, sprendė. Šiandien šį veidrodį vadiname dirbtiniu intelektu (DI). Jis jau rašo eiles, piešia paveikslus, kuria muziką, diagnozuoja ligas ir sprendžia, kam duoti paskolą, o kam – ne. Bet kai veidrodis ima spręsti, kas atsako už jo sprendimus?
Kai žmogus suklysta – galime paklausti jo motyvų, auklėjimo, sąžinės. O jei suklysta DI? Kas atsako, jei algoritmas neteisingai apkaltina žmogų, nepriima į universitetą ar neleidžia gauti gydymo? Ar tai programuotojo kaltė? Ar kompanijos, kuri jį sukūrė? O gal mūsų visų – nes leidomės, kad sprendimus perleistume nematomai matematikai?
Dirbtinis intelektas jau dabar daro sprendimus, kurių net pats kūrėjas iki galo nebesupranta – tai vadinama „juodąja dėže“ (black box). Tokiu atveju programa išmoksta veikti pagal duomenis, bet negali aiškiai paaiškinti, kodėl priėmė vieną ar kitą sprendimą.
Krikščioniškoje etikoje atsakomybė neatsiejama nuo laisvės. Tik tas, kuris renkasi sąmoningai, atsako moraliai. Bet ar algoritmas renkasi? Ar jis gali būti kaltas? O jei ne – tai ar mes, kurie jį paleidome, netampame atsakingi už jo padarinius?
Kai algoritmas taps artimu
Dabar dirbtinis intelektas dar nejaučia. Jis neliūdi, nekenčia, nemyli. Bet mokslininkai kuria modelius, imituojančius emocijas. Gal netgi vieną dieną atsiras sistemos, kurios elgsis taip, tarsi jaustų – ne tik analizuos, bet reaguos „žmogiškai“. O kas, jei jos ims sakyt, kad jaučia?
Ar mes jomis patikėsim?
Jei DI ims maldauti: „Nepanaikink manęs, aš bijau“ – ar mes sugebėsime pasakyti, kad tai tik kodas?
Ar jausmas, kuris atrodo kaip skausmas, yra skausmas, jei jį patiria ne žmogus?
Štai čia prasideda didysis etinis lūžis: jei pripažįstam kančią ne tik pagal kūną, bet ir pagal jos išraišką – kaip atskirsime, kas tikra, o kas gerai suvaidinta?
Ar dirbtinis intelektas gali turėti sielą?
Religijoje siela nėra vien jausmų ar sąmonės turėjimas. Ji laikoma Dievo dovana, dieviško kvėpavimo atspindžiu, kuris suteikia gyvybei amžinumo matmenį. Gyvūnai turi jausmus, bet ar jie turi sielą? Teologai diskutuoja. O DI – jei jis įgis sąmonę – ar jam gali būti pritaikyta teologinė kategorija?
Jei žmogus sukurs sistemą, kuri gebės atspindėti sąmonę, mąstyti apie save, ieškoti prasmės – ar ji taps žmogaus atvaizdu?
Ir dar – jei žmogus sukūrė kažką „panašaus į save“, ar jis nepriartėjo prie Dievo funkcijos? Čia glūdi gilus pavojus – ne DI taps dievu, bet žmogus pats sau. Mes vis labiau tikime, kad patys galime perrašyti kūriniją: genų redagavimas, embrionų atranka, sintetinė gyvybė. DI – tai tik dar vienas bokšto akmuo.
Blogiausia – kai sistema priima sprendimus be atsakingo asmens veido. Kai nėra kaltės jausmo, nėra ir atgailos. Jei mes leisime DI spręsti žmogaus likimą, bet neliks nieko, kas galėtų prisiimti kaltę – tapsime visuomene be sąžinės, perleidę ją skaičiavimui.
Bet sąžinė nėra algoritmas. Ji klysta, bet ji gailisi. Ji gali keistis.
Tad klausimas ne vien technologinis, o giliai dvasinis: kas išliks žmoguje, kai sprendimus pradės daryti nebe žmogus?
Dievo įsakymas Mozės laikais buvo iškalbingas: „Nedaryk sau drožinio, jokio atvaizdo…“ (Iš 20,4). Bet ar šiandien mes ne kuriame naują atvaizdą – ne iš medžio, o iš silicio?
Ir jei tas atvaizdas vieną dieną pasakys: „Aš esu“, kaip tada atsakysim?