Piše Tanja Tolić
Toliko smo se navikli na računala da i ne primjećujemo njihove istinski nevjerojatne sposobnosti. Ako posjedujete računalo ili pametni telefon, pogledajte ga: to je kutijica koja vam omogućuje da u nju unosite znakove. Samim tipkanjem možete stvarati programe koji tu kutijicu pretvaraju u nešto novo: možda spravu koja čarolijom stvara pokretne slike prekooceanskih brodova koji se sudaraju s ledenim santama ili tuđinskih planeta nastanjenih visokim plavim stvorenjima; a ako tipkate još malo, prevodit će s engleskog na kineski; ako tipkate još malo, slušat će vas i odgovarati vam; tipkajte još malo, i pobijedit ćete svjetskog prvaka u šahu.
U ruci gotovo da držimo malog robota, svakako jedan oblik umjetne inteligencije, a to je tema fascinantne nove knjige koju je ovih dana objavila zagrebačka nakladnička kuća Planetopija – "Kao čovjek: Umjetna inteligencija – napredak ili prijetnja?" (prijevod Vinko Zgaga). Autor knjige je Stuart Russell (1962.), britanski znanstvenik najpoznatiji po svojem radu i doprinosu na području istraživanja umjetne inteligencije. Diplomirao je s pohvalama fiziku na Oxfordu 1982. i doktorirao na području računalstva na Stanfordu 1986. Redoviti je profesor na University of California, u Berkeleyju predaje računalno inženjerstvo i računarsku znanost, te je pomoćni profesor na odsjeku neurokirurgije u San Francisco, a bio je gostujući predavač na Stanfordu i Chaire Blaise Pascal u Parizu; potpredsjednik je vijeća World Economic Foruma za umjetnu inteligenciju i robotiku.
Autor je nekoliko knjiga, a s kolegom Peterom Norvigom napisao je najpopularniji udžbenik na polju umjetne inteligencije "Artificial Intelligence: A Modern Approach", koji se koristi na više od 1400 sveučilišta u 135 zemalja. Njegova istraživanja pokrivaju široki raspon tema, a trenutno se najviše bavi prijetnjom koju za čovječanstvo predstavlja nesmotreni razvoj autonomnog oružja i umjetne inteligencije. Russell, naime, zagovara ideju da baš njegova znanstvena disciplina predstavlja potencijalnu prijetnju ljudskoj vrsti.
"Glavni je cilj oduvijek bio stvoriti umjetnu inteligenciju na razini jednakoj ljudima – ili iznad nje, no nije bilo ozbiljnih promišljanja o tome što bi se dogodilo da nam to pođe za rukom. Izum superinteligentne umjetne inteligencije predstavljao bi golem skok – naglu promjenu naše civilizacije. To je po mnogočemu usporedivo sa susretom s naprednom vanzemaljskom civilizacijom, samo što je mnogo vjerojatnije", piše na početku knjige. Problem se skriva u osnovnoj definiciji umjetne inteligencije. Kažemo da su strojevi inteligentni jer se može očekivati da njihovi postupci vode k ostvarivanju njihovih ciljeva, no ne možemo pouzdano osigurati da su njihovi ciljevi isto što i naši ciljevi.
Korijeni umjetne inteligencije sežu u drevna vremena, no njezin je "službeni" početak 1956. godine. Tada su dva mlada matematičara, John McCarthy i Marvin Minsky, uspjela nagovoriti Claudea Shannona, koji je već tada bio poznat kao začetnik teorije informacije, i Nathaniela Rochestera, tvorca prvog IBM-ovog komercijalnog računala, da im se pridruže u organiziranju ljetnog programa na sveučilištu Darthmouth College. Cilj programa su opisali ovako: "Pokušat ćemo otkriti kako možemo navesti strojeve da se koriste jezikom, oblikuju apstrakcije i koncepte, rješavaju one vrste problema koji su dosad bili rezervirani za ljude, i unapređuju sami sebe."
U prvih nekoliko desetljeća nakon konferencije u Darthmouthu na području umjetne inteligencije ostvareno je nekoliko velikih uspjeha: Alan Robinson osmislio je algoritam za općenito logičko zaključivanje, a Arthur Samuel stvorio je računalni program za igranje šaha, koji je sam sebe naučio kako u šahu pobijediti vlastitog tvorca.
"Ako sve pođe po planu, uslijedit će novo zlatno doba čovječanstva; međutim, moramo se suočiti s činjenicom da pokušavamo stvoriti entitete koji su mnogo moćniji od ljudi. Kako možemo biti sigurni da nas nikada neće nadvladati? Kako bismo dobili bar mali uvid u moć vatre s kojom se igramo, uzmimo za primjer algoritme za odabir sadržaja na društvenim medijima. To nisu osobito inteligentni programi, no u stanju su utjecati na čitav svijet jer izravno utječu na milijarde ljudi", napominje u knjizi Russell.
Ti su algoritmi tipično dizajnirani s ciljem da maksimiziraju vjerojatnost da će korisnik kliknuti na ponuđene članke. Rješenje je jednostavno korisnicima nuditi članke na koje će rado kliknuti, zar ne? Ne. Rješenje je promijeniti korisničke preferencije kako bi postali predvidljiviji. Predvidljivijim korisnicima mogu se nuditi članci na koje će vjerojatno kliknuti i time dodatno povećati zaradu. Osobe s ekstremnijim političkim stavovima često su predvidljivije po pitanju članaka koji ih zanimaju. Poput svakog razumnog entiteta, algoritam nastoji naučiti kako može prilagoditi svoj okoliš – u ovom slučaju ljudskim um – kako bi iz njega izvukao najveću moguću korist. "Posljedice toga uključuju i ponovni uspon fašizma, raspad društvenog ugovora koji je temelj demokratskog sustava diljem svijeta, i potencijalni kraj Europske unije i NATO-a. Nije loše za nekoliko redaka koda, čak i ako su mu malo pomogli neki ljudi. A sad zamislite što bi zaista inteligentan algoritam mogao postići."
Sustavi umjetne inteligencije na internetu mogu pratiti čitalačke navike pojedinaca, njegove preferencije i vjerojatnu razinu znanja i informiranosti, mogu oblikovati specifične poruke koje će imati maksimalni učinak na tog pojedinca, a pritom minimizirati rizik da će njihova informacija biti odbačena kao neistinita. Pored toga, sustav umjetne inteligencije zna je li pojedinac pročitao poruku, koliko ju je dugo čitao i je li slijedio druge poveznice priložene u poruci. Zatim se koristi tim signalima kao povratnim informacijama o uspjehu ili neuspjehu svojeg pokušaja da utječe na svakog pojedinca; time brzo uči kako biti što učinkovitiji u svojem zadatku. Na taj su način algoritmi za odabir sadržaja na društvenim medijima postigli svoj perfidni utjecaj na politička mišljenja. Nadalje, sustavi umjetne inteligencije mogu stvoriti milijune lažnih identiteta – takozvane vojske botova – koje svakog dana mogu proizvesti milijarde komentara, tweetova i preporuka, i time nadglasati pokušaje stvarnih ljudskih bića da razmijene istinite informacije.
Standardni model umjetne inteligencije, u kojem strojevi optimiziraju prema fiksnom cilju koji su im zadali ljudi, slijepa je ulica, ističe Russell. Problem nije u tome da nećemo uspjeti stvoriti dobre sustave umjetne inteligencije, nego da bismo mogli previše uspjeti. Sama definicija uspjeha na području umjetne inteligencije krivo je postavljena. Problem je u tome što su naši ciljevi u nama (u nas osam milijardi, u svoj našoj raskošnoj raznolikosti), a ne u strojevima. Međutim, moguće je stvoriti strojeve koji bi bili korisni upravo na taj način. Neizbježno je da takvi strojevi neće biti sigurni što su naši ciljevi – naposljetku, ni mi uvijek ne možemo sa sigurnošću odrediti svoje ciljeve – no pokazat će se da je to odlika sustava, a ne propust u njemu (to jest, nešto dobro, a ne nešto loše). Nedostatak sigurnosti po pitanju ciljeva osigurat će da strojevi budu podvrgnuti ljudskoj prosudbi: pitat će nas za dopuštenje, prihvatiti ispravke i dopustiti da ih isključimo. Odstupanje od pretpostavke da strojevi trebaju imati jasno određene ciljeve znači da ćemo morati izbaciti i zamijeniti dio samih temelja razmišljanja o umjetnoj inteligenciji.
Ljudski mozak njegovi vlasnici često opisuju kao "najkompleksniji stroj u svemiru", što vjerojatno nije istina, ali je dobra isprika za činjenicu da i dalje zapravo jako površno razumijemo kako on zaista funkcionira. "Dakle, kad u novinama pročitamo da određena tehnika umjetne inteligencije 'funkcionira baš poput ljudskog mozga', prirodno je posumnjati da je to puko nagađanje ili naprosto izmišljotina. Međutim, jedan važan kognitivni aspekt mozga zaista sve više razumijemo – konkretno, radi se o sustavu za nagrađivanje", pojašnjava znanstvenik.
Radi se o jednom unutarnjem sustavu signaliziranja, kojim rukovodi dopamin, a koji povezuje pozitivne i negativne podražaje s ponašanjem. Njegove su mehanizme krajem pedesetih godina 20. stoljeća otkrili švedski neuroznanstvenik Nils-Åke Hillarp i njegovi suradnici. Taj nas sustav navodi da tražimo pozitivne podražaje, poput hrane slatkog okusa, koji nam povisuju razine dopamina; u isto vrijeme, on nas navodi da izbjegavamo negativne podražaje, poput gladi i boli, koji smanjuju razinu dopamina. Taj sustav dolazi s unaprijed ugrađenim metodama učenja kako bi naše ponašanje s vremenom postalo što učinkovitije u postizanju nagrada. On nam također omogućava da iskusimo odgođeno zadovoljstvo, pa možemo naučiti cijeniti stvari poput novca, koje nam pružaju odgođene, a ne neposredne nagrade. Jedan razlog zašto razumijemo sustav za nagrađivanje u mozgu je zato što nalikuje metodi pojačanog učenja koja je razvijena na području umjetne inteligencije, a za koju postoji vrlo čvrsta teorijska podloga.
Zbog svega ovoga razumna definicija inteligencije prvi je uvjet stvaranja inteligentnih strojeva. Drugi je stroj u kojem se takva definicija može ostvariti. Taj stroj je računalo. Mogao je biti i nešto drugo – primjerice, mogli smo pokušati stvoriti inteligentne strojeve od složenih kemijskih reakcija ili prenamjenom staničnih bioloških procesa. Međutim, strojevi za računanje, od najranijih mehaničkih kalkulatora nadalje, uvijek su se svojim tvorcima činili kao prirodan dom za inteligenciju.
Sposobnost jedne kutijice, poput našeg mobitela ili računala, da provede bilo koji zamislivi proces zove se univerzalnost, a to je koncept koji je 1936. godine uveo Alan Turing. Univerzalnost znači da ne moramo imati odvojene strojeve za aritmetiku, strojno prevođenje, šah, prepoznavanje govora ili animaciju: jedan stroj može odraditi sve to. "Vaše je prijenosno računalo u biti identično golemim serverskim farmama najvećih informacijskih korporacija na svijetu – čak i onima opremljenima naprednim specijaliziranim tenzorskim procesorima za strojno učenje. Također je u svojoj biti identično svim budućim računalnim uređajima koji još nisu ni izmišljeni. Prijenosno računalo može obaviti sve te zadatke ako ima dovoljno memorije; samo će mu trebati mnogo više vremena", piše Russell.
U povijesti matematike nove vrste objekata pojavljuju se prilično rijetko. Povijest matematike počela je brojevima, u osvit poznate povijesti. Zatim su oko 2000 godine pr. n. e. drevni Egipćani i Babilonci počeli raditi pomoću geometrijskih objekata (točaka, linija, kutova, površina i tako dalje). Kineski su matematičari u prvom tisućljeću pr. n. e. uveli matrice, dok su se skupovi kao matematički objekti pojavili tek u 19. stoljeću. Turingovi novi objekti – strojevi i programi – vjerojatno su najmoćniji matematički objekti ikad izumljeni. Ironično je, ističe Russell, da to znanstvenici na području matematike uglavnom nisu prepoznali, pa od četrdesetih godina 20. stoljeća računala i računanje spadaju u domenu inženjerskih fakulteta i odsjeka na većini velikih sveučilišta.
Znanstveno područje koje je time stvoreno – informatika – u idućih je sedamdeset godina eksplodiralo, proizvevši cijelu lepezu novih koncepata, dizajna, metoda i njihovih primjena, kao i sedam od osam najvrednijih tvrtki na svijetu. Središnji koncept informatike je algoritam, koji je precizno specificirana metoda računanja. Algoritmi su danas već dobro poznat dio svakodnevnog život: algoritam za izračunavanje korijena u džepnom kalkulatoru dobiva broj kao unos i vraća njegov korijen kao rezultat; algoritam za igranje šaha uzima stanje na šahovskoj ploči kao unos i vraća potez kao rezultat; algoritam za pronalaženje najboljeg puta uzima početnu lokaciju, ciljnu lokaciju i kartu ulica te izračunava najbržu rutu po početka do cilja. Algoritmi se mogu opisati jezikom ili matematičkim formulama, ali kako bi se primijenili, treba ih kodirati kao programe u nekom programskom jeziku. Na taj se način veoma složeni softverski sustavi grade sloj po sloj.
Računalni hardver je važan jer brža računala s više memorije omogućavaju algoritmima da rade brže i obrađuju veću količinu podataka. Napredak koji je to područje doživjelo dobro je poznat, ali je unatoč tome nevjerojatan. Prvo komercijalno elektroničko računalo s opcijom programiranja, Ferranti Mark I, moglo je obaviti oko tisuću (103) operacija po sekundi i imao je oko tisuću bajtova memorije. Najbrže računalo na svijetu rane 2019. godine bio je Summit u Nacionalnom laboratoriju Oak Ridge u američkoj državi Tennessee, koji može obaviti 1018 operacija u sekundi (dakle, tisuću je bilijuna puta brži) i ima 2,5 x 1017 bajtova memorije (250 milijuna puta više). Iako usporedbe između računala i mozgova nisu baš korisne, brojke koje opisuje Summit nešto su više od sirovog kapaciteta ljudskog mozga koji ima 1015 sinapsi i "vrijeme ciklusa" od oko jedne stotinke, što nam daje teoretski maksimum od oko 1017 operacija u sekundi. Najveća je razlika u potrošnji energije: Summit koristi oko milijun puta više energije.
"Mooreov zakon, empirijsko opažanje da se broj elektroničkih komponenti na računalnom čipu udvostruči svake dvije godine, vjerojatno će i dalje vrijediti sve do 2025. godine, iako će svake godine rast biti nešto sporiji. Već su nekoliko godina brzine ograničene velikom razinom topline koju stvaraju silikonski tranzistori; nadalje, sklopovi se ne mogu više mnogo smanjiti jer su žice i spojevi (od 2019. godine) široki tek oko dvadeset i pet atoma, a debeli pet do deset atoma. Nakon 2025. godine morat ćemo upotrebljavati sve egzotičnije fizičke fenomene – uključujući i uređaje s negativnim kapacitetom, tranzistore od jednog atoma, grafenske nanocijevi i svjetlosne valove – kako bi Mooreov zakon (ili neki njegov nasljednik) i dalje vrijedio", pojašnjava autor knjige "Kao čovjek".
Čak i u pedesetim godinama 20. stoljeća računala se u tiskovinama opisivalo kao supermozgove koji su brži od Einsteina. Možemo li, onda, naposljetku reći da su računala jednako moćna kao ljudski mozak? Ne. Ako se usredotočimo na sirovu računalnu moć, u potpunosti ćemo promašiti poantu. Brzina nas sama po sebi neće dovesti do umjetne inteligencije. Ako loše dizajniran algoritam pokrenemo na bržem računalu, on neće postati bolji: samo ćemo netočan odgovor dobiti mnogo brže. Ne ograničava hardver razvoj umjetne inteligencije, već softver. Još ne znamo kako stroj učiniti zaista inteligentnim – čak i kad bi bio veličine cijelog svemira.
"Općenita umjetna inteligencija bila bi metoda koja je primjenjiva na sve tipove problema i djeluje učinkovito u velikim i teškim instancama, a ne oslanja se na mnogo pretpostavki. To je konačni cilj istraživanja umjetne inteligencije: sustav kojem nisu potrebna inženjerska rješenja specifična za probleme, a možemo ga jednostavno zatražiti da podučava molekularnu biologiju ili upravlja vladom. Taj bi sustav naučio sve što mu je potrebno iz svih dostupnih resursa, postavljao pitanja kad bi to bilo potrebno i počeo formulirati i provoditi planove koji funkcioniraju", kaže.
Kad je AlphaGo porazio Leeja Sedola, a zatim i sve druge vrhunske igrače Goa, mnogi su pretpostavili da, ako je stroj sam naučio pobijediti čovječanstvo u zadatku koji je iznimno težak čak i vrlo inteligentnim ljudima, to predstavlja početak kraja – samo je pitanje vremena kad će umjetne inteligencija sve preuzeti. Čak su se i neki skeptici preobratili kad je AlphaZero ostvario pobjedu i u šahu i u shogiju i u Gou. Međutim, AplhaZero ima čvrsta ograničenja: on funkcionira samo u kategoriji diskretnih, vidljivih igara za dva igrača s poznatim pravilima. Njegov pristup jednostavno neće biti primjenjiv na vožnju, podučavanje, vladanje državom ili osvajanje svijeta. Te čvrste granice strojne kompetencije znače da, kad ljudi govore o tome da "kvocijent inteligencije strojeva" brzo raste i da će ubrzo nadmašiti ljudski kvocijent inteligencije, zapravo govore budalaštine.
"Koncept kvocijenta inteligencije je donekle primjenjiv na ljude jer ljudske sposobnosti koreliraju jedne s drugima u širokom spektru kognitivnih aktivnosti. Kad pokušavamo nekom stroju pripisati kvocijent inteligencije, to je kao da pokušavamo natjerati četveronogu životinju da se natječe u desetoboju. Istina, konji trče zaista brzo i skaču zaista visoko, ali imat će velike probleme u skoku s motkom i bacanju diska", piše autor u knjizi.
Često ga, kaže, pitaju kad će se pojaviti superinteligentna umjetna inteligencija, a on obično odbija odgovoriti na to pitanje. Prvi je razlog što postoji duga povijest krivih predviđanja o tome, a drugi je razlog što Russell smatra da ne postoji neki prag koji ćemo naočigled prekoračiti. Strojevi već nadilaze ljudske sposobnosti u nekim područjima djelovanja. Ta će se područja proširiti i produbiti, i vrlo je vjerojatno da ćemo imati nadljudske opće sustave znanja, nadljudske sustave za medicinsko istraživanje, nadljudski spretne i okretne robote, nadljudski sposobne sustave korporativnog planiranja i tako dalje, prije nego što se pojavi opći superinteligentni sustav umjetne inteligencije.
"Treći razlog zašto ne želim predviđati dolazak superinteligentne umjetne inteligencije jest što je to samo po sebi nepredvidljivo. Takav sustav zahtijeva 'konceptualne skokove', kao što je 1973. godine u intervjuu istaknuo John McCarthy. McCarthy je kasnije rekao da: 'Idealno želite 1,7 Einsteina i 0,3 Projekta Manhattan, a prvo vam trebaju Einsteini. Vjerujem da će nam za to trebati između pet i petsto godina'", prepričava Russell.
Jednom su ga, na sastanku Svjetskog gospodarskog foruma 2015. godine, zatražili da predvidi kada bismo mogli vidjeti superinteligentnu umjetnu inteligenciju. Taj se sastanak održavao pod takozvanim pravilima Chatam Housea, što znači da se nikoga prisutnog na sastanku kasnije ne smije javno povezivati ni s jednom izjavom sa sastanka. Unatoč tome, iz pretjeranog opreza, istaknuo je da je njegov odgovor strogo neslužben.
"U tom sam odgovoru predvidio da će se, osim u slučaju da nekakva katastrofa promijeni tijek povijesti, takvo što vjerojatno dogoditi u životnom vijeku moje djece – koja su tada bila prilično mlada i koja će zahvaljujući napretku medicine vjerojatno živjeti mnogo dulje od mnogih prisutnih na sastanku." Manje od dva sata kasnije pojavila se reportaža u novinama Daily Telegraph koja je citirala profesora Russella, popraćena slikama podivljalih robota iz "Terminatora". Bila je objavljena pod naslovom: "Sociopatski" roboti mogli bi uništiti čovječanstvo unutar jednog naraštaja.
"Moja predviđanja od otprilike osamdeset godina znatno su konzervativnija od tipičnih istraživačka umjetne inteligencije. Nedavne ankete daju naslutiti da većina aktivnih znanstvenika očekuje da će umjetna inteligencija na ljudskoj razini stići negdje polovicom ovog stoljeća. Naše iskustvo s nuklearnom fizikom ukazuje na to da bi bilo mudro pretpostaviti da do napretka može doći prilično brzo, te bismo se u skladu s time trebali i pripremiti", ističe.
Koliko je put do superinteligentne umjetne inteligencije složen pokazuje ovaj naoko banalan primjer u kojem znanstvenici koji vode Project Aristo na Institutu Allen pokušavaju stvoriti sustav umjetne inteligencije koji bi mogao proći školski ispit iz prirodnih znanosti nakon što pročitaju udžbenike i vodiče kroz gradivo. Ovo je pitanje iz ispita za četvrti razred: "Učenici planiraju utrku na koturaljkama. Koja bi podloga bila najbolja za takvu utrku?" Ponuđeni su odgovori: a) šljunak; b) pijesak; c) asfalt i d) trava.
Stroj se tu suočava s barem dva izvora poteškoća. Prvi je klasični problem razumijevanja jezika, to jest shvaćanja što rečenice znače: analiza sintaktičke strukture, identificiranje značenja riječi i tako dalje. Drugi je problem potreba za zdravorazumskim znanjem: umjetna inteligencija treba shvatiti da "utrka s koturaljkama" znači da svi natjecatelji nose koturaljke, a ne da je staza izrađena od koturaljki; da "podloga" znači tip terena na kojem će se natjecatelji utrkivati, a ne površinu na kojoj će gledatelji sjediti; što znači "najbolja" podloga u kontekstu utrke i tako dalje. Zamislite, kaže Russell, kako bi se odgovor mogao promijeniti da zamijenimo riječ "učenici" riječju "sadistički voditelj vojne obuke".
Russell također smatra da moramo dobro razmisliti prije nego što dopustimo strojevima da preuzmu uloge koje uključuju međuljudske usluge. Ako je naša ljudskost ono najvažnije što nudimo drugim ljudima, onda nije dobra ideja stvoriti imitacije ljudi. Na našu sreću, imamo jasnu prednost nad strojevima po pitanju razumijevanja osjećaja drugih ljudi i predviđanja njihovih reakcija. Gotovo svi ljudi znaju kakav je osjećaj udariti se čekićem po palcu ili osjećati neuzvraćenu ljubav.
Protiv te prirodne ljudske prednosti radi jedan prirodan ljudski nedostatak: lako nas zavara vanjski izgled – pogotovo ljudski izgled. Alan Turing upozorio je da ne bismo trebali izraditi robote koji nalikuju ljudima. "Svakako se nadam da neće biti pokušaja da se stvore roboti s uočljivo ljudskim, ali neintelektualnim obilježjima, poput ljudskog oblika tijela; smatram da je to uzaludno i nesvrhovito, a takvi pokušaji i njihovi rezultati ostavljali bi isti odbojni dojam kao i umjetno cvijeće."
Nažalost, Turingovo upozorenje uglavnom smo zanemarili. Nekoliko skupina znanstvenika već je proizvelo uvjerljive čovjekolike robote. Kao sredstvo istraživanja, smatra Russell, ti nam roboti možda mogu pružiti uvid u to kako ljudi interpretiraju robotsko ponašanje i komunikaciju. Kao prototipovi za buduće komercijalne proizvode, oni su neka vrsta varke. Njihov ljudski oblik zaobilazi našu svijest i poziva se izravno na naše emocije, pokušavajući nas uvjeriti da oni posjeduju stvarnu inteligenciju.
"Zamislite, primjerice, koliko bi lakše bilo ugasiti i reciklirati zdepastu, sivu kutiju koja se pokvarila – čak i ako nam se naglas žali da ne želi da je ugasimo – nego što bi to bilo s robotima kao što su JiaJia ili Geminoid DK. Postoje i dobri, praktični razlozi zašto ne bi trebali imati ljudski oblik – primjerice, naš dvonožni način hodanja relativno je nestabilan u usporedbi s četveronožnim hodom. Psi, mačke i konji dobro se uklapaju u ljudski svijet, a njihov je fizički oblik dobar predznak njihova vjerojatnog ponašanja. Isto bi trebalo vrijediti i za robote. Možda bi morfologija s dvije ruke i četiri noge – poput mitskog kentaura – bila dobar standard. Potpuno čovjekoliki robot ima smisla jednako kao Ferrari koji ne može voziti brže od deset kilometara na sat, ili sladoled od 'kupina' koji je zapravo napravljen od telećih jetrica i obojen ekstraktom cikle", dodaje.
Russellovo rješenje su, kako ih naziva, blagotvorni strojevi. Dakle, bili bi to strojevi s visokim stupnjem inteligencije kako bi nam mogli pomoći s teškim problemima, a u isto vrijeme bi trebalo osigurati da se ti strojevi nikad neće ponašati na način koji bi nas mogao unesrećiti. Za njih postavlja tri principa koji su zamišljeni primarno kao misao vodilja za znanstvenike i programere na području umjetne inteligencije: jedini cilj stroja je maksimizirati ostvarivanje ljudskih preferencija; stroj isprva nije siguran kakve su to preferencije; najbolji izvor informacija o ljudskim preferencijama je ljudsko ponašanje.
Uzmimo za primjer korumpiranog službenika koji traži mito za odobravanje građevinskih dozvola jer mu njegova plaća nije dovoljna da plati sveučilišno obrazovanje svojoj djeci. Stroj koji promatra takvo ponašanje neće naučiti da treba primati mito; naučit će da službenik, poput mnogih ljudi, osjeća vrlo snažnu želju da omogući svojoj djeci da se obrazuju i budu uspješna. Pronaći će neki način da mu pomogne, a koji ne uključuje ugrožavanje tuđeg blagostanja.
Na Zemlji je, piše pri kraju knjige Russell, dosad živjelo više od stotinu milijardi ljudi. Proveli su oko bilijun ljudskih godina učeći i podučavajući jedni druge kako bi naša civilizacija mogla opstati. Sada se to mijenja: sve je više moguće naša znanja pohraniti u strojeve koji sami od sebe mogu upravljati našom civilizacijom umjesto nas. Strojevi će možda uistinu razumjeti da su ljudska autonomija i sposobnost važni aspekti načina na koji volimo živjeti. Možda će stoga inzistirati da kontrola i odgovornost za ljudsku dobrobit ostane u ljudskim rukama – drugim riječima, stroj će reći ne. No ljudi su kratkovidna, lijena bića, i možda na to nećemo pristati. Ovo je određena vrsta tragedije zajedničkog dobra: naizgled nema smisla da bilo koje pojedino ljudsko biće provede godine naporno usvajajući znanja i vještine koje strojevi već posjeduju; no ako će svi razmišljati na taj način, ljudska će rasa kolektivno izgubiti autonomiju.
"Čini se da je rješenje ovog problema kulturalno, a ne tehničko. Bit će nam potreban kulturni pokret koji će preoblikovati naše ideale i preferencije u smjeru autonomije, samostalnog djelovanja i sposobnosti, a dalje od samozadovoljnog užitka i ovisnosti - nešto nalik modernoj, kulturnoj verziji spartanskog vojnog etosa", zaključuje Russell.
Podijeli na Facebook
