Turing, Asimov şi Cele 10 Porunci

De mult nu m-a impresionat în aşa măsură filmul unui regizor debutant. „Ex Machina” scris şi regizat de englezul Alex Garland, cunoscut până acum mai ales ca romancier şi scenarist de filme şi de jocuri video este cel mai bun film în genul ştiinţifico-fantastic pe care l-am văzut în ultima vreme. Un moment! Rectific. Este cel mai bun film pe care l-am văzut în ultima vreme. Un film cu un scenariu sclipitor ca idee şi în replici, un film de o calitate vizuală specială, un film care te face să te gândeşti şi despre care vei discuta multe ore şi  zile, şi multă vreme după ce acestora li s-a pierdut numărătoarea. Un film inteligent - poate chiar prea inteligent pentru a deveni un film de mare succes comercial, dar destul de accesibil şi în genul potrivit pentru a-şi recupera măcar cheltuielile de producţie.

(sursa imaginii http://www.imdb.com/title/tt0470752/)

 

Filmul începe cu câştigarea unei competiţii interne într-o mare companie care domină piaţa 'maşinilor de căutare' pe Internet (orice asemănare cu lumea reală este lăsată pe seama şi responsabilitatea cititorilor acestei rubrici).  Câştigătorul pe nume Caleb primeşte dreptul de a lucra împreună cu legendarul întemeietor al companiei şi geniul programator Nathan la un test Turing. Las, de asemenea, pe seama cititorilor să-şi amintească sau să cerceteze cine este personajul Caleb în Vechiul Testament, dar voi menţiona că Nathan în limba Bibliei înseamnă Dăruitul sau Darul lui Dumnezeu. Un zeu al programării sau un zeu pur şi simplu, căci a crea viaţă, fie ea şi artificială, este darul zeilor, aşa cum aflăm din primul dintr-un şir de dialoguri pline de semnificaţie şi miez la prima întâlnire dintre Nathan şi Caleb, în casa-bunker aflată într-o zonă naturală de o sălbăticie primordială.

 

(sursa imaginii: http://www.returnofkings.com/64057/new-movie-ex-machina-confirms-that-al...)

 

 

Despre testul Turing am scris acum câteva luni, când filmul biografic dedicat creatorului ştiinţei computerelor era candidat la premiile Oscar. Este vorba despre un dialog între un om şi o maşină gânditoare (dotată cu inteligenţă artificială) care are ca scop să detecteze pe baza răspunsurilor maşinii dacă diferenţele între om şi maşină  au fost şterse. Testele Turing sunt în general 'oarbe'. Maşinile gânditoare care eşuează în aceste teste fie nu reuşesc să adopte limbajul natural cu talentul şi flexibilitatea fiinţelor umane, fie le lipseşte elementul emoţional, şi în cele mai multe cazuri nu reuşesc să detecteze până la capăt contextul cultural, istoric, personal al interacţiilor inter-umane. În filmul lui Garland însă testul nu este orb. Caleb ştie că are de-a face cu o maşină, cu un robot, şi chiar dacă acesta (numit în film Ava, precum Eva) are o figură umană (împrumutată de la frumoasa şi talentata actriţă daneză Alicia Vikander pe care am remarcat-o acum câţiva ani în filmul istoric 'A Royal Affair'), silueta sa are destule elemente mecanice pentru a nu înşela pe nimeni. Este însă suficientă inteligenţa care acumulează rezultatele cognitive ale celor mai perfecţionate maşini de căutare pentru a egala umanitatea unei singure persoane din specia noastră? Concentrarea întregii baze de cunoştinţe acumulate de Internet este măcar egală cu inteligenţa unei singure fiinţe umane? Este una dintre multele întrebări tulburătoare puse de acest film.

 

(sursa imaginii http://www.imdb.com/media/rm3202412544/tt0470752)

 

Să zicem însă că robotul va trece testul. În condiţiile unui test ne-orb  care sunt consecinţele? Reuşita în testul Turing înseamnă trecerea nu numai a unui prag cognitiv, ci şi a unui prag emoţional. Poate Ava dezvolta sentimente faţă de Caleb sau Nathan sau pentru alte fiinţe umane cu care intră în contact? Dacă robotul este egalul omului şi cognitiv şi emoţional, atunci însăşi existenţa sa mai depinde sau nu de dorinţele creatorilor, şi acţiunile sale mai sunt legate exclusiv de comenzile fiinţei umane? Ce legi guvernează această interacţiune? Care vor fi ierarhiile viitorului? Va deveni oare existenţa roboţilor un pericol pentru existenţa omenirii?

(sursa imaginii http://www.imdb.com/media/rm1880358656/tt0470752)

 

Să ne întoarcem la legile roboţilor definite în anii 50 de Isaac Asimov:

3. Un robot trebuie să-şi protejeze existenţa cât timp nu încalcă legile 1 şi 2

2. Un robot trebuie să asculte de ordinele oamenilor cât timp nu încalcă legea 1

1. Un robot nu va lovi un om şi nu va permite ca un om să fie lovit prin inacţiune.

La acestea Asimov a adăugat mai târziu legea 0 care diferențiază între oameni şi Omenire:

0. Un robot  nu va lovi în Omenire, şi nu va permite ca Omenirea să fie lovită prin inacţiune.

Un robot care se supune legilor lui Asimov nu va trece testul lui Turing! Oamenii nu sunt construiţi să acţioneze după legile roboţilor, vor pune întotdeauna iubita, copilul, familia sau tribul mai presus de alţi oameni, vor acţiona într-un context emoţional, familial, cultural, istoric.

Dar dacă robotul îl ignoră pe Asimov şi trece testul lui Turing - a devenit robotul egalul omului? Are Ava dreptul la existenţă şi la libertate chiar dacă acestea sunt contrare dorinţelor Creatorului ei, Nathan, pentru care robotul devenit entitate egală omului este încă versiunea 9.6 a unui produs hardware-software?

(sursa imaginii http://www.vanityfair.com/hollywood/2015/04/ex-machina-location)

 

Îndrăznesc aici să adaug încă un sistem de legi ecuaţiei Asimov-Turing. Este vorba despre legile moralei umane, codificate de sisteme religioase cum sunt iudaismul şi creştinismul în normele de bază ale funcţionării societăţii umane. Unii dintre noi le numesc Cele 10 Porunci. Alţii le dau alte nume. Ceea ce mi se pare esenţial este că societatea umană nu poate funcţiona când aceste legi nu sunt respectate. Iar dacă Inteligenţa Artificială va atinge - aşa cum pronostichează experţii - şi depăşi pe cea umană, este imperios necesar să găsim căile de a infiltra elementele inteligente pe care le creăm şi să perfecţionăm structura morală care stă la baza societăţii. Altfel, conflictul pare inevitabil, şi pericolul este real şi aproape imediat.

Nu voi scrie mai multe despre film – vă recomand să-l căutaţi şi să-l vedeţi dacă nu aţi făcut-o încă. Veţi parcurge împreună cu Caleb şi Nathan cele şapte zile ale testului Turing precum cele şapte zile ale Creaţiei. Veţi trăi dilemele, întrebările şi pericolele. Veţi fi poate - la fel ca mine - surprinşi de final, şi nu veţi înceta să vă gândiţi la el şi la semnificaţii multă vreme după ce luminile ecranului se vor fi stins.

Add a comment