Nagrađene ideje za obuzdavanje umjetne inteligencije

U Institutu se nadaju kako će, u najmanju ruku, nagrađene ideje i koncepti pomoći u sprječavanju nekih »neplaniranih« i »katastrofalnih« posljedica, kao što su robotska ubojstva ljudi u tvornicama ili nesreće koje bi uzrokovali samoupravljajući automobili

Future of Life Institute iz Bostona, potpomognut donacijom magnata Elona Muska »teškom« 10 milijuna dolara, nedavno je objavio svoj popis 37 dobitnika potpora za istraživanja u području umjetne inteligencije, prenosi Washington Post. Ovaj je čin potaknut zabrinutošću za budućnost ljudske rase koju su javno iznijeli umovi kao što su Musk, Stephen Hawking i Bill Gates, ukazavši kako smo loše pripremljeni za nadolazeću eru superinteligentnih strojeva, a dotacije – u rasponu veličina od 20.000 do 1,5 milijuna dolara – dio su većeg plana čiji je cilj spriječiti da umjetna inteligencija jednog dana eventualno razori naš planet.

U Institutu se nadaju kako će, u najmanju ruku, nagrađene ideje i koncepti pomoći u sprječavanju nekih »neplaniranih« i »katastrofalnih« posljedica, kao što su robotska ubojstva ljudi u tvornicama ili nesreće koje bi uzrokovali samoupravljajući automobili, situacije na kakve su iz Instituta već ranije upozorili. Ukratko, primjenom ovih projekata nastoji se postići pet ciljeva, koje ćemo ukratko opisati.

1. Zadržavanje superpametnih sustava naoružanja pod ljudskim nadzorom

Većina ljudi zamišlja kako bi rat između ljudi i strojeva mogao nalikovati scenariju iz Terminatora. Iako se u konkretnom filmu radi o fikciji, u njemu se, ocjenjuju iz FOLI-ju miješaju fikcija i stvarnost te postoji stvarna potreba da se autonomni superpametni oružani sustavi stave pod ljudski nadzor kako ne bi u budućnosti počeli zaobilaziti svoje ljudske gospodare.

To je i razlog zašto je jedna potpora u iznosu od 136.918 dolara bespovratno dodijeljena Sveučilištu u Denveru, čiji gostujući profesor Heather Roff Perkins proučava veze između »smrtonosno autonomnih oružja, umjetne inteligencije i smislene ljudske kontrole«.

2. Navođenje sustava umjetne inteligencije da svoje odluke detaljno objašnjavaju ljudima

U nekom trenutku, računala će nadmašiti intelektualni kapacitet njihovih ljudskih operatera. Kada se to dogodi, morat ćemo znati kako oni misle, kao i sve male pretpostavke, zaključke i predviđanja koja su dovela do njihove konačne odluke. Posebno se to odnosi na složene autonomnih sustave umjetne inteligencije koji koriste senzore, aktuatore i računala – svi ovi sustavi će biti u mogućnosti obraditi i donijeti odluke procesiranjem mnogo više podataka nego što ih ljudi u stanju samostalno proanalizirati.

Kao rezultat toga, profesorica Manuela Veloso sa sveučilišta Carnegie Mellon dobila je potporu od 200.000 dolara ne bi li iznašla načine da takvi sustavi objašnjavaju svoje odluke ljudima kako bi proces donošenja odluka bio potpuno transparentan. To može biti vrlo velik izazov, ako ćemo se npr. oslanjati na robotske medicinske asistente u propisivanju lijekova ili medicinskih tretmana.

3. Usklađivanje interesa strojeva i ljudi

Jednom kad računala postanu superinteligentna, ona će imati vrlo specifične interese na umu. Na njih se najvjerojatnije neće odraziti klasične ljudske slabosti – zavist, požuda, pohlepa – ali takvi strojevi mogu biti vođeni čisto algoritamskim čimbenicima, uključujući potrebu za više resursa. Kada stroj zahtijeva sve više i više sredstava u ispunjavanju ispuni svojih ciljeva – to ne završava dobro za čovječanstvo.

Ne bi li strojeve doveo u sklad s interesima čovječanstva, Benja Fallenstein iz Instituta za istraživanje inteligencije dobio je na raspolaganje 250.000 dolara  To bi mogao biti težak zadatak počnu li strojevi sebe doživljavati kao nepogrešive jer se tada mogu oduprijeti programeru koji želi popraviti pogrešku ili promijeniti njegove ciljeve.

HAL odbija poslušnost – čuvena scena iz Odiseje u svemiru, remek-djela Arthura C. Clarkea i Stanleya Kubricka:
https://www.youtube.com/watch?v=6MMmYyIZlC4

4. Učenje strojeva o ljudskom ponašanju i vrijednostima

Možda bi se moglo učiniti da strojevi koje su programirali ljudi misle i djeluju poput nas i takva bi pretpostavka trebala biti dovoljna da ne trebamo očekivati nekakvu robotsku pobunu. Međutim, veliki je problem da ljudi nisu baš najracionalnija stvorenja i patimo od svakakvih predrasuda. Skloni smo odugovlačenju i impulzivnim rekacijama te bi situacija u kojoj strojevi uče izravno od ljudi mogla dovesti do neželjenih rezultata.

Kao rezultat toga, Owain Evans sa Sveučilišta u Oxfordu pokušava razviti tehnike kako bi inteligentne sustave učio o ljudskim željama iz promatranja našeg ponašanja. To znači i razumijevanje svih naših ljudskih slabosti, kako bi bili sigurni da strojevi ne uče pogrešne stvari od nas. Strojevi žive u racionalnom svijetu optimalnog odlučivanja, ljudi ne. Kao što Evans sugerira, sposobnost o zaključivanju o ljudskim vrijednostima može se podijeliti na sljedeće: učenje razlike između »treba« i »je«, kada je riječ o donošenju odluka. Za strojeve, to je slučaj »radi kao što sam rekao«, a ne »radi kao ja«.

5. Osiguravanje ekonomske budućnosti u kojoj ljudi još uvijek imaju radna mjesta

Htjeli mi to ili ne, u fazi smo prelaska na AI ekonomiju (eng. Artificial Intelligence), gdje je velik dio poslova u potpunosti automatiziran, a to se ne odnosi samo na radnike s plavim kutama u proizvodnim halama već, sve više i na uredsko osoblje. Kako bi taj prelazak što prošao što bezbolnije Michael Webb sa Stanforda proučava mogućnosti izvlačenja ekonomskih benefita u novonastalim okolnostima.

To je mnogo teže nego što zvuči, jer potpuno automatizirano gospodarstvo može promijeniti ekonomsku perspektivu ljudima. U nekom trenutku, kaže Webb, ljudi bi zapravo mogli zaključiti da im je korisnije zaustaviti tehnološki napredak. Najlakši način razmišljati o tome je da robot može doći sutra na vaš posao tvrdeći da taj isti posao može obaviti bolje, brže i jeftinije. Možete li iz takve situacije izaći bez borbe?

Sve ove bespovratne potpore upućuju na složena etička i filozofska pitanja o umjetnoj inteligenciji. One također ukazuju na to da se pravo pitanje ne odnosi na strojeve, nego na ljude. Hoće li biti dovoljno pametni da osmisle »robusnu i korisnu« umjetnu inteligenciju? Ovo je teško je pitanje za odgovoriti. Ali ono bi moglo objasniti zašto je najveća od svih potpora (1,5 milijuna dolara) dodijeljena Nicku Bostromu sa Sveučilištu u Oxfordu za njegov plan stvaranja zajedničkog Oxford-Cambridge istraživačkog instituta za umjetnu inteligencije. Instituta koji bi nam trebao ponuditi neke odgovore kako nam se Zemlja ipak ne bi pretvorila u bojno polje gdje će se ljudi i kiborzi iz tvrke kao što je Skynet boriti za preuzaimanje vlasti nad planetom.

Pripremio: Boris Jagačić