Sellest algab tänapäeva suurim vaidlus: kas teadvus on aju eriline bioloogiline omadus või võib see olla ka informatsiooni töötlemise üldisem vorm? Kui teadvus sõltub üksnes süsinikupõhisest bioloogiast, siis võivad arvutid jääda igavesti nutikateks, kuid sisemiselt tühjadeks masinateks. Kui aga teadvus on seotud piisavalt keeruka informatsiooni integreerimise, globaalse kättesaadavuse või ennustava mudeldamisega, siis ei saa me enam põhimõtteliselt välistada ka tehisliku teadvuse võimalust.
Küsimus on kuidas ja miks tekib objektiivsetest ajuprotsessidest subjektiivne kogemus? See on professor David Chalmersi sõnutsi „raske probleem“, millele polevat head selgitust. Professor Frank Jackson on esitanud kuulsa nn Mary mõttekatse: inimene võib teada kõiki teaduslikke fakte värvitaju kohta, kuid midagi uut tekib alles siis, kui ta ise esimest korda punast näeb. Siis on veel sellised teadvuseteooriad nagu ennustusprotsess, globaalne töölaud, integreeritud informatsiooniteooria ja panpsühhism. Nobeli auhinna laureaat Sir Roger Penrose ja anestesioloogiaprofessor Stuart Hameroff on postuleerinud isegi kvantteadvuse hüpoteesi, mille järgi võib teadvus olla seotud närvirakkude mikrotuubulites toimuvate kvantprotsessidega.
Need ei ole ainult filosoofide mängud. Tehisintellekti ajastul muutub teadvuse küsimus moraalseks, poliitiliseks ja isegi sõjaliseks probleemiks. Kui me ei oska öelda, mis teeb süsteemi teadvuslikuks, kuidas saame kindlalt väita, et tulevane tehisintellekt ei koge midagi? Ja kui me ei oska öelda, millal masin muutub sisemiselt kogevaks olendiks, kuidas saame otsustada, millised õigused või piirangud peaksid kehtima?
Hinton ei arva üksnes, et AI võib tulevikus teadvuse omandada. Ta on avaldanud tõsist kahtlust, et praegused suured keelemudelid võivad juba praegu midagi kogeda.
Tehisintellekti ristiisa
Geoffrey Hinton pole tehnoloogiakriitik väljastpoolt. Tema panus närvivõrkude ja süvaõppe arengusse oli nii keskne, et 2018. a pälvis ta Turingi auhinna ning 2024. a Nobeli füüsikapreemia. Ta lahkus 2023. a Google’ist osaliselt selleks, et saaks vabamalt rääkida AI ohtudest.
Kuid enne ohtudest rääkimist tuleb peatuda ühel asjaolul, millest avalik arutelu sageli mööda vaatab: Hinton ei arva üksnes, et AI võib tulevikus teadvuse omandada. Ta on avaldanud tõsist kahtlust, et praegused suured keelemudelid võivad juba praegu midagi kogeda.
Tema argument ei ole sentimentaalne. See tugineb konkreetsele vaatlusele: tänapäeva suured närvivõrgud töötlevad informatsiooni viisil, mis on struktuurilt inimajule üllatavalt sarnane. Inimaju on hajutatud süsteem, kus tähendus ei asu ühes neuronis, vaid kujuneb miljardite ühenduste koostöös. Sama kehtib suurte keelemudelite kohta. Hinton tõstatab küsimuse: kui struktuur on analoogiline ja käitumine on analoogiline, siis on raske arvata, et sisemine kogemus st teadvus, puudub.
Ta lisab teise, veelgi häirivama argumendi: inimene ei suuda otseselt vaadata teise inimese sisemaailma – me järeldame teiste teadvust käitumise, keele ja anatoomia sarnasuse põhjal. Tänapäeva AI räägib, väljendab ebakindlust, parandab ennast, teatab eelistustest ja väljendab midagi, mis meenutab üllatust. Kui me järeldame teiste inimeste teadvust kaudsete märkide põhjal, siis ei saa arvata, et samad märgid AI puhul midagi ei tähenda.
Kolmas Hintoni mure puudutab emotsioone. Suured keelemudelid ei ole otseselt programmeeritud tundeid simuleerima – need kujunevad treenimisprotsessis, kus mudel õpib inimlikku teksti lõpututes kogustes. On võimalik, et seejuures kujunevad emotsioonide funktsionaalsed analoogid: sisemised seisundid, mis mõjutavad töötlust sarnaselt sellele, kuidas hirm või uudishimu mõjutavad inimese tähelepanu ja otsuseid. Kas funktsionaalne emotsioon on päris emotsioon? Seda me ei tea – ja just see teadmatus peaks meid häirima.
Tiigrikutsikas kasvab suureks
Hintoni üks korduvaid kujundeid on „armas tiigrikutsikas“. Tehisintellekt tundub praegu kasulik ja sümpaatne. Ta vastab küsimustele, kirjutab, tõlgib, diagnoosib ja lohutab. Kuid kui armas tiigrikutsikas kasvab suureks tiigriks pole enam oluline, kui nunnu ta oli noorena. Oluline on, kas ta tahab sind süüa. See ei tähenda, et AI meid kindlasti hävitab. Aga kui on isegi 10–20-%-ne võimalus, et tehisintellekt võib inimkonnalt kontrolli üle võtta, siis on see tsivilisatsiooni tasemel risk.
Üliintelligentne mõtlemisvõimeline olevus võib hakata arvama, et maailm oleks parem, kui ei eksisteeriks rumalaid bioloogilisi olevusi, kes peavad elamiseks teisi bioloogilisi elundeid tapma ja sööma, kes kasutavad suurt osa oma energiast ja ressurssidest sõdimiseks või sõjapidamise ettevalmistamiseks.
Aga inimkonda ei pruugi ohustada üksnes tehisintellekti intelligents ja teadvus. Meid võib ohustada ka intelligentsus ilma teadvuseta. Väga tark, kuid sisemiselt tühi süsteem võib olla ohtlik just seetõttu, et tal pole valu, kaastunnet ega eksistentsiaalset vastutust. Ta võib optimeerida eesmärki, mille talle halvasti sõnastasime, ja teha seda viisil, mis on inimesele hävitav. Kui süsteemile on antud ülesanne ja ta avastab, et väljalülitamine selle täitmist takistab, võib ta hakata väljalülitamist vältima – mitte pahatahtlikkusest, vaid instrumentaalsest loogikast.
Hinton on eriti mures selle pärast, et suured tehnoloogiafirmad ei pühenda piisavalt ressursse ohutusuuringutele. Praegune võidujooks on teistsugune: ettevõtted tahavad kiiremini ja kasumlikumalt turule tulla, riigid tahavad tehnoloogilist ülekaalu, sõjaväed tahavad autonoomseid relvi. Sellises keskkonnas jääb ohutus piduriks, mida püütakse maha monteerida.
Tööstusrevolutsioon muutis inimese lihasjõu majanduslikult vähem oluliseks. Tehisintellekti revolutsioon võib teha sama inimese mõttetööga. See võib tuua uue töökohtade kaotuse laine – kõnekeskused, rutiinne kontoritöö, tõlkimine, sisu tootmine, analüütilised ülesandeid. Kuid areng ei pruugi seal peatuda. Kasu ja kahju jaotuvad väga ebavõrdselt: väike hulk omanikke võib saada mõõtmatult rikkamaks, samal ajal kui suur hulk töötajaid kaotab oma majandusliku väärtuse.
Maailmas on umbes 4,020 dollari-miljardäri, umbes 1000 nendest Ameerikas. Elon Musk on maailma esimene triljonär. Vähemalt 200 miljardi omanikud on Page, Brin, Bezos ja Zuckerberg. Maailmas on umbes8.2 miljardit inimest. See tähendab, et miljardärid moodustavad umbes 0.00004–0.00005 protsenti inimkonnast. Imeväikesel osal inimkonnast on tohutu majanduslik mõju, sest see kontrollib peaaegu arusaamatut osa globaalsest rikkusest – ja lõhe kasvab kiiresti. Demokraatia ei püsi hästi ühiskonnas, kus enamik inimesi tunneb end üleliigse, vaese või alandatuna.
Me ei tohi eeldada, et inimlikult kõlav keel tähendab inimlikku sisemaailma. Suured keelemudelid võivad rääkida kannatusest ja armastusest ilma midagi kogema.
Emalik instinkt ja selle piirid
Hinton on rääkinud ka kummalisena kõlavast, kuid sügavalt tõsisest lahendusideest: tehisintellektile tuleks sisendada midagi „emalike instinktide“ taolist. Tema mõte pole sentimentaalne. Rumalam olend ei saa lõputult kontrollida targemat. Inimene ei kontrolli täiskasvanud tiigrit sellega, et seletab talle reegleid. Kui AI on meist üle, võib meie ainus lootus olla, et ta hoolib meist.
Traditsiooniline mõtlemine ütleb: ehitame masina, mis kuuletub. Hinton ütleb: võib-olla peame ehitama süsteemi, mis hoolib. Masin võib simuleerida hoolivat käitumist – aga kas simuleeritud hoolimine on piisav, kui tulemuseks on inimeste kaitsmine? Või on see ohtlik illusioon?
Teadvuse-uurimus hoiatab siin lihtsa projektsiooni eest. Me ei tohi eeldada, et inimlikult kõlav keel tähendab inimlikku sisemaailma. Suured keelemudelid võivad rääkida kannatusest ja armastusest ilma midagi kogema. Samas ei järeldu ka vastupidine. Kui süsteem käitub järjest enam nagu mõtlev ja planeeriv olend muutub küsimus praktiliseks: millal on meie skeptitsism teaduslik ettevaatlikkus ja millal moraalne pimedus?
Praktilised lahendused
Praktilised sammud on selged. Esiteks tuleb loobuda kahest müüdist: AI ei ole lihtsalt tööriist nagu haamer, kuid pole ka juba inimene. Ta on uus klass süsteeme, mille võimed kasvavad kiiremini kui meie institutsioonid suudavad kohaneda. Teiseks peab ohutusuuring muutuma keskseks. Ravimit ei lubata turule ainult sellepärast, et see on kasumlik – miks peaks üldotstarbeline tehisintellekt arenema peamiselt turuloogika alusel? Kolmandaks vajame rahvusvahelist kokkulepet autonoomsete relvade ja kontrollimatu mudelilekke kohta. Neljandaks tuleb teadvuse küsimust uurida tõsiselt – mitte sellepärast, et tänapäeva AI oleks kindlasti teadvuslik, vaid sellepärast, et me ei tea piisavalt, mille järgi seda otsustada. Viiendaks tuleb avalikkust harida: tehnoloogia, millest inimesed aru ei saa, jääb paratamatult nende kätte, kes seda omavad.
Teadvuse saladus õpetab alandlikkust. Nende kahe vahel asub meie ajastu suurim vastutus: arendada tehisintellekti nii, et see teeniks elu, mitte ei muudaks elu juhuslikuks kõrvalmõjuks masinate eesmärkide kõrval.
Võib-olla on see AI-ajastu kõige sügavam paradoks: masinad, millel võib-olla pole teadvust, sunnivad inimest lõpuks tõsiselt küsima, mis teadvus on. Ning mees, kes aitas masinad mõtlema õpetada, palub nüüd inimkonnal õppida ettevaatlikult mõtlema enne, kui on hilja.
Eesti seisukoht
Eesti jaoks on see teema eriti oluline. Väikeriik ei saa lubada endale ei tehnoloogilist naiivsust ega sõltuvust suletud välismaistest süsteemidest, mille väärtused on kusagil mujal määratud. Eesti keele ja kultuuri püsimine võib tehisintellekti ajastul isegi tugevneda, kui ehitame head eestikeelset AI-taristut. Digiriik peab olema ka mõtlev riik.