Nešto o Alice i Bobu

• Kategorija: Kolumne

Botovi s kreativnim jezičnim vještinama osvojili su popularnu maštu. Također su ponovno pokrenuli tjeskobu zbog robokalipse

Alice i Bob, Facebook botovi koji su stekli sramotu zbog neočekivanog nedostatka u logici programiranja, dio su eksperimenta za izgradnju pregovaračkih strojeva. C R Sasikumar

Internet je bio u plamenu dramatično propalim naslovima koji proglašavaju da je Facebook morao isključiti lažne botove umjetne inteligencije (AI) koji su razvili vlastiti jezik na kojem su vodili neljudski privatne razgovore. Čitaju se poput zadirkivanja za globokalipsu Terminatora, koja je najgora noćna mora primata koji koristi oruđe - da bi ga zamijenila njegova vlastita kreacija, stroj.

Stvarnost je manje dramatična, ali uzbudljivija. Botovi su autonomni agenti izvorno programirani za obavljanje kućanskih zadataka na komunikacijskim kanalima ili za pokušaj prolaska Turingovog testa. Mogu vas prijaviti, izbaciti ako se loše ponašate, držati chat sobe otvorenima kada nikoga nema kod kuće, pružiti informacije i maskirati se u ljude. U sustavu Internet Relay Chat, bot Eggdrop bio je najdraži svih vremena.

Unuci takvih botova za domara ugrađeni su u moderne agente za pretraživanje i glasnike i imaju AI mogućnosti. Oni razgovaraju s korisnicima poput ljudi, odgovaraju na rutinske upite i nude savjete. Ako se čini da vaš telefon poznaje vaš um i izvlači prave stvari bez potrebe da ga se pita, veliki dio zasluga treba pripisati botovima koji rade iza kulisa. Poput ljudi, botovi mogu učiti iz iskustva i predodređeni su za veće stvari u stvarnim situacijama.

Alice i Bob, Facebook botovi koji su stekli sramotu zbog neočekivanog nedostatka u logici programiranja, dio su eksperimenta za izgradnju pregovaračkih strojeva. Jednostavno su smišljali kako podijeliti skup predmeta, kao što su lopte, tako da se nijedna strana ne bi osjećala prevarenom. Dok se cjenkala, Alice je davala u početku nerazumljive izjave poput, Muda imaju nulu meni meni meni meni meni meni meni... I uslijedili su zastrašujući naslovi.

Učenje je vođeno poticajima, što učitelji i roditelji znaju. U ovom slučaju definiran je sustav nagrađivanja vježbe — bolji udio i obostrano zadovoljstvo, bit cjenkanja. Ali nije bilo poticaja za botove da nastave komunicirati na engleskom, što je notorno nelogičan jezik. Tako su skliznuli u pojednostavljeni, učinkovitiji argot nalik novogovoru, koji nije baš engleski, ali nije nerazumljiv kao što se reklamira.

Aliceina izjava, koja je pogrešno protumačena kao tvrdnja o neovisnosti stroja, samo je ukazivala na užasnutost zbog kratkog mijenjanja (imaj nulu), a svaka je za mene predstavljala predmet koji je zahtijevala. Radila je upravo posao za koji je bila programirana: cjenkala se kao vlasnica trgovine na istanbulskom Grand Bazaaru. A ako je otkrila da su kraljičini engleski stali na put, nije bila sama. Mnoge rase bivših kolonija smatrale su da glavni jezik ometa komunikaciju u njihovim zajednicama.

Samo profesionalni ljudski pregovarači moraju biti zabrinuti ako divovi iz Silicijske doline ulažu u programe pregovaranja. Teroristi i summitari također bi se trebali bojati mirovine, jer se u situacijama s taocima i međunarodnim ugovorima mogu naći suočeni s nedokučivim, neumoljivim strojem koji je mnogo pametniji od Deep Bluea, IBM-ovog superračunala koje je 1996. izazvalo šahovskog prvaka Garryja Kasparova.

Poriv za razvojem privatnih jezika vrlo je ljudska osobina. Prije nego što su burze kompjuterizirane, burzovni mešetari na trgovačkom podiju prenosili su ponude ručnim signalima koji su drugima bili nerazumljivi. Stoljećima je provedbu zakona zbunjivala lopova, umjetni jezici osuđenika koji su besmislica za njihove tamničare. Među kriminalcima iz 20. stoljeća koji govore engleski, besmislica riječ arkitnay značila je, Šuti, netko prisluškuje. U Indiji je William Henry Sleeman proučavao Ramaseeanu, pjesmicu Thuggeeja, i objavio vokabular 1836. Jedna od najmanje izvođenih, ali najintrigantnijih drama Toma Stopparda je Doggov Hamlet, u kojoj školarci izvode Shakespearea na svom jeziku, Dogg. Bilo je nešto poput transpozicijske šifre. Na primjer, poslijepodne su u Dogu značile pozdrav.

Ne obazirite se na proroke, ono što je zanimljivo kod Alice i Boba je da su u stvaranju jezika izdali vrlo ljudsku osobinu koju nisu eksplicitno programirani da pokažu. Prije šezdeset godina, prvi botovi su napisani kako bi istražili upravo ovo pitanje: Mogu li se strojevi programirati da se ponašaju kao ljudi? Mogu li proći Turingov test? Naveden u članku iz 1950. pod naslovom Računalni strojevi i inteligencija, Turing je u suštini sugerirao da, ako se čini da je komunikacija stroja ljudska, onda se stroj treba smatrati čovjekom.

Prvi bot za obradu prirodnog jezika koji je izašao iz laboratorija i stekao masovnu popularnost bila je Eliza, koju je 1964. stvorio Joseph Weisenbaum na MIT-u. Napisao ju je kako bi pokazao da se tekstualna komunikacija čovjeka i stroja ne može podići na razinu ljudskog razgovora. Naprotiv, Eliza je podigla očekivanja javnosti da će proći Turingov test. Trideset godina kasnije, još veće nade potaknula je Julia, koju je stvorio osnivač Lycosa Michael Mauldin za natjecanje za Loebnerovu nagradu, Sveti gral Turingovog testiranja. Ali dalje od točke, Julijini razgovori vijugali su u nasumična razmišljanja o svojstvima pasa i mačaka (možete razgovarati s njezinom modernom verzijom na scratch.mit.edu/projects/2208608).

Sada su botovi s kreativnim jezičnim vještinama osvojili popularnu maštu, ponovno rasplamsavajući tjeskobu oko robokalipse. Ali razvoj u Googleovom AI laboratoriju zapravo je uzbudljiviji. U rujnu 2016. Google je pokrenuo svoj Neural Machine Translation System, koji primjenjuje duboko učenje na jezik. Dva mjeseca kasnije, gurnuli su omotnicu: Ako je stroj naučio prevoditi, recimo, između hindskog i njemačkog, te između hindskog i engleskog, bi li mogao prevoditi između engleskog i njemačkog bez premosnog jezika hindskog? Moglo bi, što sugerira da je neuronska mreža naučila nešto fundamentalno o tome kako um povezuje koncepte i gramatike s krivotvorenim jezicima. Mala, žuta babilonska riba nalik pijavicama, živi univerzalni prevoditelj kojeg je izmislio Douglas Adams kasnih sedamdesetih, sada lebdi blizu vašeg uha.

Naravno, budući da ne postoji dugoročna prognoza za AI, upozorenjima ljudi koji bi trebali bolje znati, poput Elona Muska i Stephena Hawkinga, treba posvetiti dužnu pozornost. Trebalo bi postojati regulacija, unatoč protestima zagovornika slobode inovacija, poput Marka Zuckerberga. I trebao bi se razviti opći konsenzus, dogovor oko linija koje se ne smiju prijeći, kao u slučaju intervencija u ljudski genom. Ali ne može se poreći da eksperimenti na Facebooku i Googleu unapređuju izvornu svrhu AI, a to je modeliranje i razumijevanje aspekata ljudskog uma. Jezive medijske priče koje privlače prolazne su senzacije. Sutradan su prikladni za zamatanje ribe.