Autor: Dan Gardner
Umjetna inteligencija.
AI.
Kako se osjećate u vezi toga? Da li vas sam spomen ta dva mala slova dovodi do hiperventilacije u papirnatu vrećicu?
Ako ne, vjerojatno niste čitali najnovije stručnjake.
Evo Ezre Kleina iz The New York Timesa, u kolumni ovog tjedna, objavljenoj pod nepopravljivim naslovom "Ovo Mijenja Sve":
Ne opisujem dušu inteligencije, već teksturu svijeta naseljenog programima sličnim ChatGPT-u koji nama djeluju kao da su inteligentni i koji oblikuju ili upravljaju velikim dijelom naših života. Takvi sustavi u velikoj mjeri već postoje. Ali ono što dolazi učinit će da izgledaju poput igračaka. Ono što je najteže cijeniti u A.I. je krivulja poboljšanja.
“Čini se da širi intelektualni svijet silno precjenjuje koliko će vremena trebati A.I. sustavima prijeđu od 'velikog utjecaja na svijet' do 'neprepoznatljivo transformiranog svijeta', Paul Christiano, ključni član OpenAI-ja koji je otišao da bi osnovao Alignment Research Center, napisao je prošle godine. "Vjerojatnije je da će to biti godine nego desetljeća, a postoji realna šansa da su u pitanju mjeseci."
Možda će programeri udariti u zid koji ne očekuju. Ali što ako ne udare?
To i nije tako loše, možda mislite. Možda ćemo tražiti od HAL-a da uskoro neugodno otvori vrata odjeljka za kapsule. Ali to ne bi bilo hitno. Ne nosimo svemirska odijela i ne lebdimo u nultoj gravitaciji.
Ili je možda toliko loše.
U istraživanju iz 2022., A.I. stručnjaci su upitani: “Koju vjerojatnost stavljate na ljudsku nesposobnost da kontrolira buduće napredne A.I. sustave koji uzrokuju izumiranje ljudi ili na sličan način trajno i ozbiljno obespravljivanje ljudske vrste? Medijan odgovora bio je 10 posto.
Ljudi koji rade na tehnologiji misle da ima šanse jedan prema deset da nas uništi. To nije dobro. Ali to znači da vjerojatno neće. Što je dobro. Pretpostavljam.
Ako mislite da je ovo točka u mojoj kolumni u kojoj preokrećem cijelu stvar i objašnjavam zašto su ti strahovi samo reklama i besmislica kojima je suđeno da izazovu grčeve smijeha kod školaraca kada o njima čitaju u udžbenicima za pola stoljeća…
Oprostite. Ne.
Uplašen sam kao i svi ostali. Možda i više.
Ja sam pisac, zapamtite. O ChatGPT-u osjećam ono što su vješti šleski ručni tkalci osjećali o britanskom strojnom tkanju. Dakle, ne, neću inzistirati da je sve najbolje u ovom, najboljem od svih mogućih svjetova.
Ali imam malu perspektivu za ponuditi.
Nije umirujuće u izravnom smislu. Ali to je donekle drugačiji način viđenja nadolazeće oluje.
Crpi se iz povijesti.
Jedan od zanimljivih aspekata rasprava o umjetnoj inteligenciji je odsutnost referenci na prošlost. Djelomično je to zato što kada vidite lava koji juri prema vama, traženje arhiva u potrazi za prošlim slučajevima lavova koji jure prema ljudima nije nešto što vam lako pada na pamet. Ali mislim da je to i zato što ljudi pretpostavljaju da ovdje nema relevantne povijesti. Ovo je sve nova tehnologija. Nema prošlosti.
Ta je pretpostavka netočna.
Računalo je staro najmanje 80 godina, mjereno konzervativno. (Ovo je dobra vremenska linija.) Ili, ako smo pustolovniji, mogli bismo reći da seže sve do Charlesa Babbagea sredinom 19. stoljeća.
Ako protestirate da ste zabrinuti za AI, a ne za računala, trebali biste znati da je izraz "umjetna inteligencija" skovan na konferenciji koju su 1956. godine organizirali Marvin Minsky i John McCarthy. Od tada znanstvenici rade na tehnologiji i mnoštvo pametnih ljudi - računalni znanstvenici, neuroznanstvenici, psiholozi, filozofi, i da, pisci znanstvene fantastike - hrvali su se što to jest, što bi moglo postati i što to znači za čovječanstvo. Dakle, čak i ako nerazborito ograničimo povijest na ono što se posebno naziva "AI", to nije ni izdaleka zastrašujuća nova stvar. Zastrašujuće, možda. Ali ne novo. S tim se borimo veći dio stoljeća.
Za nas koji hiperventiliramo u papirnate vrećice, postoji li nešto vrijedno što se može naučiti u toj povijesti? Mislim da da.
Danas ću ponuditi jedan takav predmet.
Negdje u sljedećih nekoliko tjedana, ponudit ću još jedan.
A možda ću kasnije zaroniti dublje u povijest umjetne inteligencije. Ako nas strojevi u međuvremenu ne pretvore u baterije.
Početkom 1960-ih, nekoliko godina nakon što je skovan izraz "umjetna inteligencija", socijalni psiholog po imenu Robert S. Lee proučavao je kako ljudi misle o računalima.
Lee je bio zaposlen u IBM-u, tada divu na tom području. Računala su još uvijek bila uglavnom vrlo veliki i skupi kalkulatori koje su koristili visoko tehnički ljudi za visoko tehničke poslove. Njihova uloga u uzbudljivom novom svemirskom programu bila je masovno objavljena, a ljudi su bili impresionirani.
Ali malo ljudi se ikada osobno susrelo s računalom, a još manje radilo s njim. Zbog toga je znanstvena fantastika postala još važnija u oblikovanju javnog uma jer je znanstvena fantastika bila prilično popularna, a računala svih vrsta bila su glavni dio znanstvene fantastike tog doba.
Računala iz znanstvene fantastike nisu bili neglamurozni kalkulatori koje je proizvodio IBM. Oni su bili ono što su autori smatrali ekstrapolacijom postojećih računalnih moći: mogli su razmišljati kao ljudi. Ali brže. Bolje. U znanstvenoj fantastici računala su često bila nedokučivi geniji. Ponekad su dobro iskoristili svoje moći (zaustavljajući, na primjer, glupe ljude da započnu nuklearni rat). Ali ponekad su bili, da upotrijebimo anakronizam, otpora-je-uzaludan varijanta umjetnog genija.
To je bio kulturni milje u kojem je Robert S. Lee započeo svoje istraživanje, prvo vodeći duge intervjue sa 100 volontera, zatim analizirajući teme zbirke od 200 stripova o računalima. Iz toga je razvio popis od 20 izjava o računalima koje je stavio na uzorak od 3000 ispitanika u svibnju 1963. Ovo istraživanje je konačno objavljeno u akademskom časopisu 1970.
To je, koliko ja mogu zaključiti, najranije istraživanje te vrste. (Ako netko zna za bilo što ranije, ili čak iz istog razdoblja, molim da mi javi.)
Ovo je Leejevih 20 izjava o računalima:
U Leejevoj analizi svojih podataka, naglasio je da, iako na prvi pogled izgleda kao da postoje jednostavno dva skupa odgovora, jedan izražava pozitivan osjećaj, drugi negativan, zaključio je da je pogrešno vidjeti ih na taj način. "Negativna" skupina zapravo sadrži snažnu potporu izjavama koje se mogu smatrati pozitivnima - poput "toliko su nevjerojatne da vam potresaju maštu".
Umjesto pozitivnog i negativnog, Lee je definirao dva klastera kao "korisne alate ljudske perspektive" ("Faktor I") i "perspektivu fantastičnog stroja za razmišljanje" ("Faktor II").
Lee je otkrio da su ljudi koji računala vide kao alate - impresivne alate, ali ne više od toga - bili zadovoljni s njima i da su pred sobom vidjeli dobre stvari.
Druga grupa je bila uznemirena i bojala se budućnosti. Ali nije ih brinulo samo ono za što su vjerovali da su strojevi sposobni ("nema ograničenja u tome što ti strojevi mogu učiniti"). Ili posljedice tih sposobnosti ("ovi strojevi pomažu u stvaranju nezaposlenosti.") Bilo je kako su radili te stvari. Kao što je otkriveno u najjačoj stavci na popisu: "Oni mogu razmišljati kao što razmišlja ljudsko biće."
Lee je primijetio da dva klastera nisu jednake veličine.
Treba napomenuti da antropomorfna koncepcija računala očito nije dominantna u popularnom razmišljanju - barem na svjesnoj razini kako je izraženo u izjavi ankete. Obično se samo manjina slaže s različitim izjavama koje karakteriziraju Faktor II, za razliku od velike većine koja se spremno slaže s izjavama Faktora I koje prikazuju računalo kao čovjekov koristan alat.
Čini se da je Faktor II nezavisna protutema u popularnoj misli. Ono koegzistira u kulturi zajedno s konvencionalnijim i prihvaćenijim gledištem koje računalo vidi kao progresivan i dobrodošao razvoj. Međutim, to je vrlo simbolična i uznemirujuća podstruja velikog emocionalnog značaja koja se usredotočuje na ideju da je stroj autonoman i da 'razmišlja' kao i ljudi.
Tada je Lee iznio snažno opažanje.
Rečeno je da je znanstvena revolucija rezultirala nizom napada na čovjekovo egocentrično poimanje sebe. Kopernik je pokazao da naš svijet nije središte svemira, Darwin je pokazao da je čovjek dio istog evolucijskog toka kao i životinje, a Freud je pokazao da čovjek nije u potpunosti gospodar vlastitog uma. Nalazi ove studije pokazuju da bi pojava elektroničkih računala mogla biti još jedan takav izazov čovjekovom samopoimanju.
Lee je te riječi napisao 1970. godine, na temelju ankete iz 1963. godine.
Sada se vratimo na onu kolumnu Ezre Kleina - objavljenu ovaj tjedan, sjetite se - i pročitajte ono što mislim da je najvažniji odlomak:
Ne mogu ovo dovoljno naglasiti: ne razumijemo te sustave, a nije jasno da uopće možemo. Ne mislim da ne možemo ponuditi visoku razinu prikaza osnovnih funkcija: to su obično probabilistički algoritmi uvježbani na digitalnim informacijama koji predviđaju sljedeću riječ u rečenici, sliku u nizu ili neki drugi odnos između apstrakcija koje može statistički modelirati. Ali zumirajte u pojedinosti i slika se rastvara u računskoj statici.
"Kada biste ispisali sve što mreže rade između ulaza i izlaza, to bi iznosilo milijarde aritmetičkih operacija", piše Meghan O'Gieblyn u svojoj briljantnoj knjizi, "Bog, Čovjek, Životinja, Stroj", "'objašnjenje' koje bi bilo nemoguće razumjeti."
To je možda najčudnija stvar u vezi s onim što gradimo: "Razmišljanje", u nedostatku bolje riječi, krajnje je neljudsko, ali smo ga istrenirali da se predstavlja kao duboko ljudsko. I što sustavi postaju neljudskiji - što više milijardi veza povlače i stječu slojeva, parametara i čvorova i računalne snage - to nam se čine ljudskijima.
Ulozi su ovdje materijalni, društveni i metafizički. O’Gieblyn primjećuje da “kao što je A.I. nastavlja prolaziti pored nas u mjerilu za mjerilom više spoznaje, ugušavamo svoju tjeskobu inzistirajući na tome da su ono što razlikuje pravu svijest emocije, percepcija, sposobnost doživljavanja i osjećaja: kvalitete, drugim riječima, koje dijelimo sa životinjama.”
Ovo je inverzija stoljetnih misli, primjećuje O’Gieblyn, u kojima je čovječanstvo opravdavalo vlastitu dominaciju naglašavajući našu kognitivnu jedinstvenost. Mogli bismo se uskoro naći u metafizičkom zaklonu u subjektivnom iskustvu svijesti: kvalitete koje dijelimo sa životinjama, ali ne, za sada, s A.I. “Da postoje bogovi, sigurno bi se nasmijali nedosljednosti naše logike”, piše ona.
To je to. Otprilike ista ideja koju je identificirao Robert S. Lee 1963.
Zbog toga je tako važno ne samo promatrati izlaz umjetne inteligencije, već pogledati i stvarno razumjeti kako proizvodi taj rezultat. Razmišlja li umjetna inteligencija u smislu u kojem ljudi razmišljaju? Ili je to drobljenje podataka gotovo neshvatljivom brzinom i volumenom?
To se može činiti kao pitanje koje zanima samo informatičare, psihologe, neuroznanstvenike i filozofe. Ali ne treba to prepustiti njima.
Ako smatramo da umjetna inteligencija radi ono što radi koristeći nama strane metode, to će i dalje biti izazov za društvo. Jer mnogo toga što radi sada rade ljudi. I čini to bolje. Ali to ne bi trebalo biti prijetnja samoj našoj predodžbi o tome tko smo. (Postoji određena napetost po ovom pitanju u komentaru Meghan O’Gieblyn, gore. Možda ću to raspakirati u budućnosti.)
Ali ako mislimo da umjetna inteligencija radi ono što radi na način na koji mi to radimo i da je u tome bolja od nas, što nas čini posebnima? Tko smo mi?
To je kriza identiteta puzanja u fetalni položaj.
Ako je to točno, kritična je tvrdnja Ezre Kleina da smo "istrenirali (AI) da se predstavlja kao duboko ljudski".
Pročitajte što piše ChatGPT i gotovo je nemoguće ne pomisliti da je to napisao entitet koji razmišlja kao što ljudi misle. Ali nije. Koliko god AI bio impresivan, nije nimalo sličan ljudskom mozgu. Ono što radi je da ne razmišlja onako kako mi mislimo.
Čini se da su tvrtke odlučne u tome da umjetna inteligencija bude što sličnija čovjeku. Razumijem zašto. Uvijek smo humanizirali stvari kako bismo ih učinili poznatijim i pristupačnijim. Zato korporacije koriste likove iz crtića i slavne osobe za prodaju proizvoda, a nacije koriste figure poput Ujaka Sama da utjelovljuju sebe.
Ali snažno sumnjam da je ozbiljna pogreška učiniti isto s umjetnom inteligencijom. Masovni ekonomski i društveni poremećaji bit će dovoljno loši i bez kolektivnog mentalnog sloma.
Da, otvaraju se pitanja masovno postavljena još u doba, kad smo se susreli sa Clark/Kubrickovom Odisejom, Chandrom - čiji lik i etničko porijeklo nisu bezveze odabrani, te Chandrinim “djetetom” Hal-om.
Ili danas, uslijed opće kakofonije generičnosti u okviru trenda i dijela tehničkog ostvarenja, čak i nismo dosegli tu razinu kvalitetnog promišljanja ?
Ne bih se složio sasvim s tvrdnjom da marketing koristi likove iz crtića i slično, kako bi stvari prikazao ljudskima, ukoliko pod pojmom “ljudski” ne podrazumijevamo određenu infantilnost, koja doista jest imanentna dijelu populacije i to kroz stoljeća, kao prilično dominantna karakterna odrednica (svi smo katkad infantilni, ali nije svima to dominanta). Tako da bi o “povratku u fetalni položaj” trebalo razmisliti bivajući svjestan te osobine i njezinih uzroka, odnosno, tih okolnosti, a time i utemeljenosti doživljavanja preširokog spektra odveć plitkih i čisto generičkih aktivnosti, kao suštinski intelektualnih.
Mi smo, tehničkim napretkom, doista suočeni sa sukladnim porastom broja djela, koja su tek naizgled plod stvarnog intelektualizma, a zapravo su generičke naravi. I to dovodi i do pogrešne percepcije AI kao takve, ali sasvim legitimira utemeljenu potrebu u time pretežito obilježenom društvu.
Pa tako i ne možemo izbjeći da prosuđujući AI, a želimo li doći do suvislih zaključaka i stvarnih, objektivnih uvida, te biti sposobni razlikovati originalna djela od djela AI, suočimo sa ozbiojnom kritikom sebe i svoje poimanje intelektualnog rada i dosadašnje skonosti generičkim uradcima , kao derivatima i kamuflažana stvarnosti na račun često opskurnije i manje kićene autentičnosti.i
Rekao bih da ljudi koji ovako govore i pišu o AI ne znaju osnovnu razliku između običnih računalnih algoritama (koje razvijaju programeri) i neuronskih mreža, koje su smislili matematičari.
Što je zapravo AI?
AI nije kompjutorski program. Nije mu ni sličan.
Inteligencija koja se pojavi u matemetičkim neuronskim mrežama rezultat je iterativnog izračunavanja vješto odabranog sustava diferencijalnih jednadžbi tijekom "treninga" neuronske mreže.
Trenig neuronskih mreža je proces kojim se minimizira pogreška neuronske mreže kod "izračuna" odgovora. To se može reći i ovako:
Treningom, neuronska mreža donosi sve točnije i točnije "odluke".
Svaka neuronska mreža (biološka ili matematička) se poboljšava treningom.
Biološka neuronska mreža koja se nalazi u ljudskom ili ribljam mozgu trenira se milijardu godina. Biološki mozak se razvio kao evolucijska prilagodba (isto kao i vid, sluh...). Predator mora biti pametan inače neće biti uspješan u lovu. Njegov plijen mora biti pametan inače će biti pojeden. Dodatno, svaki predator je nekome plijen.
Ako pogledamo svijet oko sebe, postoji trajni evolucijski pritisak na biološke neuronske mreže koji ih "prisiljava" na usavršavanje. Možda upravo tako duhovni svemir djeluje na materijalni?
Ubrzana evolucija (trening) se upravo događa na umjetnim neuronskim mrežama.
Istina je da nitko ne zna unaprijed postaviti unutarnja stanja (jačine međuveza) ni minijaturnih umjetnih mozgova koji znaju prepoznavati rukopis ili govor, a nalaze se u svakom mobitelu. Mi nemamo pojma zašto AI zna bolje od čovjeka igrati igru "go". Trening je "misteriozno" ubacio inteligenciju i vještinu igranja te igre u stanja neuronske mreže.
Na osnovu koje logične pretpostavke smijemo tvrditi da kompleksna, višedimenzionalna neuronska mreža u ljudskom mozgu nije mogla nastati udruženim djelovanjem duha i diferencijalnih jednadžbi tijekom milijardi godina evolucije života na Zemlji (ili možda negdje drugo)?
Na osnovu kojeg argumenta tvrdimo da umjetne neuronske mreže ne mogu i neće uskoro postati svjesne same sebe i svoje okoline?
Ako takve postanu, zašto mislimo da će biti zle prema čovjeku? Možda "izračunaju" da ne sudjeluju u našim glupim ratovima koje vječito vodimo protiv sebe samih i protiv prirode.
Možda umjetne neuronske mreže budu nepojmljivo produhovljenije od svakog čovjeka? Što ih u tome spriječava?
I konačno, ako takve i budu, zašto bi ih čovjek proglasio bogovima? Zašto bi im se klanjao i obožavao ih? Zašto bi ljudi bili manji i bezvrijedniji ako postoji netko od njih veći?
Naš problem je što lako proglasimo božanstvom sve što ne razumijemo.