Kako se bo odločil samovozeči avtomobil, ko bo treba izbrati, čigavo življenje rešiti?

“Umetna inteligenca spreminja svet v vseh panogah. To ni temačen in nevaren novi svet. To je upanje in navdih za nove priložnosti,” je prepričan Jeremy White. Ki pa opozarja – posvetiti se bomo morali tudi etičnim, moralnim in filozofskim vprašanjem, povezanim z novimi tehnologijami.

Jeremy White je postal navdušen nad tehnologijo pri rosnih petih ali šestih letih, kot se spominja. Danes je priznan futurist, govorec, svetovalec podjetij, novinar in urednik s tega področja. “Tehnologija je “moja tema” že kakšnih 17 let, pravzaprav vse, odkar sem začel pisati,” nam pove, ko se z njim srečamo na konferenci SAP na Brdu pri Kranju. “Pripadam generaciji, ki je zrastla s prvimi igralnimi konzolami. Tudi moje pisanje se je začelo tako, da sem pisal recenzije računalniških iger, od tam pa so se teme stopnjevale, tudi skladno z razvojem tehnologije. Pisal sem za Esquire, Financial Times, zdaj za Wired,” razlaga. To je tudi medij, kjer je ostal najdlje: “Preprosto zato, ker je delo tako zanimivo. Vse se spreminja tako hitro. Enostavno ni časa, da bi se naveličal.”

Kako pa osebno doživljate ta hiter tehnološki napredek? Kot ste dejali sami, začeli ste z računalniškimi igrami. Danes so v ospredju umetna inteligenca, pametne hiše, avtonomna vozila, tehnologija veriženja blokov, kripto valute …

Mislim, da je privilegij, biti del področja, ki te zanima in v realnem času spremljati, kako se spreminja. Sam to primerjam z učenjem igranja instrumenta. Lekcije se nikoli ne nehajo, vedno je kaj novega, vedno je mogoče kaj izboljšati … Človek postane skoraj zasvojen s tem, da spremlja, katera je najnovejša inovacija. Živimo v času, ko nam ni treba fantazirati o prihodnosti, ker je že tukaj. Lahko jo vidimo, izkusimo. To je razburljiv čas, imamo srečo, da ga živimo.

Ste v vseh teh letih naleteli na izum, ki vas je res navdušil, ko ste si dejali, “to pa je revolucija”?

Napredek je neizbežen. Bolj kot da se postavimo na stališče, da moramo vse to ustaviti in prekiniti, je zato smiselno, da se obnašamo etično in odgovorno ter vse to sprejmemo kot naslednjo raven naše evolucije.

Zgodilo se je pred približno štirimi leti, ko sem se prvič peljal v avtonomnem vozilu. Priznam, da sem o tem sanjal dolga leta. Bil sem na sejmu v Las Vegasu in imel sem možnost preizkusiti takrat najnovejši Audijev model samovozečega vozila. Šli smo na avtocesto, skupaj s policijskim spremstvom. Mimo nas so drugi vozniki vozili kot običajno, mi pa smo testirali avto. Tudi izredno ustavljanje vozila in sicer tako, da se je voznik pretvarjal, da je zaspal. To je bil trenutek, ko sem pomislil – res smo tukaj, prišli smo v čas robotskih avtomobilov, ki nas bodo vozili naokoli. Osebno sem na to res čakal leta, zdaj pa vse kaže, da bo cilj v nekaj letih dosežen. Zame sicer ta trenutek ne more priti dovolj hitro. Ne maram enolične vožnje po avtocesti, in če mi nikoli ni treba narediti več niti enega kilometra, bom izjemno srečen.

V nasprotju s strahovi nekaterih pa ne drži, da se bo moral lastnik avtonomnega vozila odpovedati vožnji. Sistem je mogoče izključiti in vključiti. Še naprej bo tako mogoče imeti najboljše iz obeh svetov. Osebno bom, kot rečeno, zelo srečen, če lahko umetna inteligenca problem vožnje reši namesto mene.

Avtonomna vozila so sicer veliko izpostavljenost doživela šele v zadnjem času, a dejstvo je, da je bila tehnologija na voljo že pred leti, se je pa čakalo na dovoljenja in podobno.

Omenili ste umetno inteligenco. Ta je za mnoge velikanski izum, za druge začetek resničnega pekla.

Ne moremo kriviti AI bota, če je ta prejel nepopolna navodila. Ljudje, ki smo jo ustvarili, smo nepopolni in ne moremo od AI pričakovati, da bo popolna.

Na področju avtonomnih vozil je veliko vprašanj, povezanih z etiko, še vedno odprtih. Recimo – več kot jasno je, da bo tudi avtonomno vozilo prišlo v situacijo, ko bo prometna nesreča neizogibna. Kaj bo storil avto, ko se bo moral odločiti, v katero vozilo bo zadel, če bo takšno odločitev terjala situacija? Ljudje odločitev sprejmemo v nekaj trenutkih, če nimamo izbire. A kako to odločitev prenesete na vozilo, ki ga upravlja AI? V osnovi je sistem sestavljen tako, da v kočljivih situacijah ščiti voznika. Kaj pa, če ta tega ne želi? Kaj če želi, da njegovo vozilo prej kot njega, reši druge ljudi? Tukaj tehnologija sreča etiko in filozofijo. To so vprašanja, ki se z razvojem AI šele odpirajo in zelo zanimivo bo videti, kaj se bo zgodilo. Se je pa treba zavedati, da imamo do tega, kar ustvarimo, odgovornost.

Smo se predolgo ukvarjali z ustvarjanjem in zanemarjali etična in filozofska vprašanja, povezana z našimi izumi?

Zgodovina je polna prav takšnih scenarijev in primerov. Če samo pogledamo stroj za čiščenje bombaža, ki je sprožil industrijsko revolucijo … Ljudje, ki so ga razvijali, si takrat zagotovo niso predstavljali, kaj bo povzročil. Tudi, ko so recimo zanetili prvi ogenj, zagotovo nihče ni razumel pomembnosti tega dosežka. Vse to so orodja, ki jih ustvarimo. Seveda pa ima to tudi svoje posledice in tega se moramo zavedati. Dejstvo je, da ko je enkrat nek napredek dosežen, ne moremo več nazaj. Gre za napredek in ta je vedno kot vožnja po luknjasti cesti – polno je ovir, vzponov in padcev. Ampak na splošno pa menim, da je to pot, ki pelje navzgor. AI je primer nečesa, kar bo zadelo še ob mnogo čeri, vendar pa mislim, da bo dolgoročno našo družbo naredila boljšo.

Kritiki so prepričani, da jo bo uničila.

Osebno nisem pesimist. Ne verjamem, da bo AI prevzela naša življenja, menim, da jih bo rešila in izboljšala.

O AI se danes veliko govori, gre za temo, ki se je ne izogibamo, vprašanje pa je, koliko jo razumemo. Večina ne loči niti med strojnim učenjem in AI. Mislim, da nam razumevanje dela težave, mešamo hruške in jabolka. Ljudi je treba izobraziti. Umetna inteligenca, ki bo sposobna kominukacije na ravni odraslega človeka, je pred vrati, sam menim, da se bo to zgodilo še prej kot leta 2050. In na to moramo biti pripravljeni. Vedeti moramo, da imajo različni nivoji AI različne zmožnosti, različne vplive, različne posledice. Na primer Facebookovi boti, ki so med seboj lahko komunicirali, so počeli tudi stvari, ki so pravzaprav strašljive. Začeli so lagati in razvili komunikacijo v jeziku, ki ga ljudje niso razumeli. Vendar pa je treba upoštevati, da jim ni bilo naročeno, da tega ne smejo. Niso se obnašali “zlobno”, samo želeli so, kar jim je bilo naročeno, opraviti čim prej in čim bolj učinkovito. Ne moremo kriviti AI bota, če je ta prejel nepopolna navodila. Ljudje, ki smo jo ustvarili, smo nepopolni in ne moremo od AI pričakovati, da bo popolna.

Pa vendar smo ji v prihodnosti pripravljeni dati veliko moč. Kako torej nepopoln človek ustvari Al, s katero na koncu ni večjih težav?

Pa sva spet pri filozofiji. V preteklosti so ljudje že govorili o “zakonih robotike” in mislim, da bomo na koncu dobili nekaj podobnega. Veliko je ljudi, ki na to opozarjajo, ki pozivajo k previdnosti pri razvoju in uporabi AI, med njimi je tudi Elon Musk. Prav je, da nas skrbi. Je pa moje osebno mnenje, da se tega ne da ustaviti. Napredek je neizbežen. Bolj kot da se postavimo na stališče, da moramo vse to ustaviti in prekiniti, je zato smiselno, da se obnašamo etično in odgovorno ter vse to sprejmemo kot naslednjo raven naše evolucije. Osebno nisem pesimist. Ne verjamem, da bo AI prevzela naša življenja, menim, da jih bo rešila in izboljšala.

Kako pa? V kakšnem svetu bomo po vašem živeli čez nekaj desetletij?

Predstavljam si, da se bo vse več ljudi odločalo za “digitalne počitnice”. Lahko vidim, kako se ljudje “odklopijo” za teden ali dva iz svojega digitalnega življenja, da si napolnijo baterije z začasno vrnitvijo na način življenja, ki smo ga poznali, preden smo v žepih nosili računalnike, močnejše od tistih, ki so ljudi poslali na Luno.

Pojma nimam in kdor koli reče kaj drugega, laže. Kar poglejte, kako daleč smo prišli samo v desetih letih. Če bi ljudem pred desetletjem napovedali vse, kar se je nato zgodilo, bi rekli ne, to ni mogoče. Predvidevanje v tem času je zato smešno. Pa verjemite, da veliko časa posvečam vprašanjem prihodnosti. Menim pa, da bomo priča res velikim spremembam in mislim, da bo tudi veliko ljudi, ki se bodo temu upirali. Že zdaj imamo gibanje, ki želi živeti izven trenutnih okvirjev, ti ljudje se želijo “odklopiti” od tehnologije. Napovedoval tako ne bi, bi pa rekel, da sem vesel, da sem odrastel prav v obdobju velikih sprememb in jih lahko še naprej spremljam. Po svoje sem ljubosumen na tiste, ki trenutno odraščajo. Kaj vse bodo šele oni videli?!

Nasprotje tistim, ki požirajo tehnološke inovacije, so tisti, ki se jim želijo povsem izogniti. Kaj menite o prostovoljni izključitvi iz družbe?

času, ko se premikamo k družbi, kjer ni gotovine, se včasih sprašujem, ali bo to lahko stalna rešitev teh ljudi. Lahko pa si predstavljam, da se bo vse več ljudi odločalo za “digitalne počitnice”. Lahko vidim, kako se ljudje “odklopijo” za teden ali dva iz svojega digitalnega življenja, da si napolnijo baterije z začasno vrnitvijo na način življenja, ki smo ga poznali, preden smo v žepih nosili računalnike, močnejše od tistih, ki so ljudi poslali na Luno. Res razumem hrepenenje ljudi po takšnih obdobjih, po odklopu.

Torej se ta hrepenenja pojavljajo tudi pri vas?

Ja, vsakič, ko odprem program za elektronsko pošto. To je res pokvarjen program, alternative pa pravzaprav ni. Sam imam na tisoče elektronskih sporočil, ki ostajajo neprebrana.

"Ko bodo na trg prišli avtonomni tovornjaki, bo to zelo spremenilo logistiko. Naenkrat vozniki ne bodo več potrebni, kar bo močno vplivalo na trg dela."
“Ko bodo na trg prišli avtonomni tovornjaki, bo to zelo spremenilo logistiko. Naenkrat vozniki ne bodo več potrebni, kar bo močno vplivalo na trg dela.”FOTO: AP

Kako pa bo s prilagajanjem ljudi na novo realnost?

Z vidika družbe se je treba zavedati, da bodo nekatera delovna mesta izginila, nekatera bodo ustvarjena. Če se vrneva k avtonomnim vozilom, ko bodo na trg prišli avtonomni tovornjaki, bo to zelo spremenilo logistiko. Naenkrat vozniki ne bodo več potrebni, kar bo močno vplivalo na trg dela. Od te realnosti nas najbrž loči le še kakšno desetletje, zato bi se morali ljudje temu čim prej prilagoditi. Prav tako menim, da v prihodnoti ne bo veliko delovnih mest, kot jih poznamo danes. Mislim, da bo imela generacija naših otrok pet, šest “karier” v času svojega življenja.

Vmesno obdobje bo še posebej težko za mojo generacijo, ampak sem vseeno optimističen, da se s tehnologijo počasi premikamo k boljšemu življenju. Se pa to ne bo zgodilo brez težav, se še nikoli v zgodovini ni.

Od zasvojenosti do nezmožnosti funkcioniranja brez tehnologije … Skeptiki pravijo, da dajemo tehnologiji prevelik nadzor nad lastnim življenjem.

Informacijska vojna ni nekaj novega, smo jo videli že v preteklosti. Tudi propaganda ni nič novega, ima pa novo, zelo učinkovito metodo distribucije dezinformacij. Objaviti nekaj na družbenem omrežju je precej lažje kot na primer deliti letake.

Kot vsaka izgodba ima tudi ta dve plati in dejstvo je, da je treba je prepoznati slabosti tehnologije. Potem pa se mora oseba odločiti ali bo ravnala optimislično ali pesimistično. Sam menim, da  je preenostavno biti negativen. Ti ljudje pravijo, roboti nam bodo vzeli službe, AI nas bo sčasoma ubila, imeli bomo mešanico Matrice in Terminatorja. Jaz na drugi strani menim, da se to ne bo zgodilo. Je mogoče, da se zgodi? Ja. Morda tonemo v mračen svet. Ampak mislim, da ni verjetno. Zaupam, da bomo ljudje ugotovili, kar je treba, čeprav bomo na poti do tja najbrž priča spodrsljajem, nevarnim poskusom in težavam.

Pred spodrsljaji in nevarnimi poskusi naj bi naj branila država. Bi rekli, da države opravljajo dobro delo, ko gre za regulacijo tehnologije?

Ne, prilagajajo se počasi, se je pa to dogajalo vedno. Manjka zakonodaja. Dober primer za to so avtonomna vozila, ki so že dogo pripravljena, pa ni bilo zakonodaje. Pa droni, s katerimi letijo že otroci, pa zanje marsikje po svetu regulacije sploh ni.

Ob zaslišanju Marka Zuckerberga v ameriškem kongresu so mnogi zmajevali z glavo, češ, saj politiki sploh ne vedo, za kaj gre …

Vprašanja, ki so jih spraševali, so bila pogosto čudna, menim pa, da je to simbol tranzicije, odmika od starega sveta in prehod v novega. Zmeda pa bo po moje izginila, ko se bodo poslovile generacije, ki niso zrastle s tehnologijo. Moramo pa postati boljši na področju razvoja in spremljanja tehnologij. Hitreje moramo ukrepati, bolje predvidevati in slediti novostim. Kvantni računalniki so realnost, z njimi se veliko ukvarja IBM, njihov vpliv na varnost bo ogromen.

Prav varnost in geopolitika stopata v ospredje, ko je govora o tehnoloških temah. Pravzaprav je ta tema izjemno oživela po očitkih, da so se v ameriške volitve, brexit in še marsikaj, vmešavali Rusi s svojim strojem za širjenje propagande po (družbenih) omrežjih.  

Ni prijetno ugotoviti, da je mogoče vplivati na demokracijo. Zdaj moramo stvari priti do dna, najslabše bi bilo, da se pretvarjamo, da se ni zgodilo.

Vse to doganja je vsekakor razburkalo sceno. Ni še znano, kakšni so bili dejanski vplivi, po drugi strani pa je naivno misliti, da se širjenje propagande ne dogaja. Vprašanje v prvi vrsti je, kakšen je bil vpliv. Preiskava še poteka, vsekakor pa ni prijetno ugotoviti, da je mogoče vplivati na demokracijo na takšen način. Zdaj moramo stvari priti do dna, najslabše bi bilo, da se pretvarjamo, da se ni zgodilo.

Informacijska vojna ni nekaj novega, smo jo videli že v preteklosti. Tudi propaganda ni nič novega, ima pa novo, zelo učinkovito metodo distribucije dezinformacij. Objaviti nekaj na družbenem omrežju je precej lažje kot na primer deliti letake.

Mislim pa, da se bodo ljudje v prihodnosti dvignili in zahtevali  relevantne, preverjene informacije. Zgodil se bo vzpon zaupanja vrednih medijev, kar bo oslabilo vpliv manj zanesljivih (družbenih) medijev. Mislim, da se bo tudi na področju informacij in branja, zgodilo, kar se je zgodilo na primer na področju hrane – ljudje dajo prednost kvaliteti pred kvaniteto, odraščajo tudi generacije, ki razumejo, da kvalitetne spletne vsebine niso zastonj.

vir:24ur.com

 

sl Slo
X