Po nie­daw­nym sean­sie fil­mu Ex Machi­na, zaczę­li­śmy się z Alek­san­drą zasta­na­wiać, czy chcie­li­by­śmy żyć w świe­cie, w któ­rym Sztucz­na Inte­li­gen­cja zaczę­ła­by budzić się do życia. Tak, życia.

Czy sztucz­nie stwo­rzo­ny obiekt, któ­re­mu nada­no ludz­kie cechy, wła­sną świa­do­mość, śro­do­wi­sko do nauki nowych bodź­ców, emo­cjo­nal­ne zaple­cze oraz moż­li­wość podej­mo­wa­nia decy­zji w cza­sie rze­czy­wi­stym na pod­sta­wie wła­snych doświad­czeń moż­na nazwać cząst­ką czło­wie­czeń­stwa?

Ana­li­ty­cy oba­wia­ją się, że spusz­czo­na z wodzy, Sztucz­na Inte­li­gen­cja [w skró­cie SI lub AI], może wykształ­cić w sobie psy­cho­tycz­ne zacho­wa­nia, któ­re w połą­cze­niu z wolą prze­trwa­nia, repro­duk­cji i cią­głe­go samo­do­sko­na­le­nia wyklu­czy z łań­cu­cha ludz­ki gen, tym samym dążąc do usu­nię­cia paso­ży­ta z powierzch­ni pla­ne­ty. Zagła­da może się wyda­rzyć z dwóch powo­dów – róż­nic poglą­do­wych odno­śnie roz­wo­ju samej tech­no­lo­gii, gdzie AI bojąc się o swój byt zacznie się bro­nić, korzy­sta­jąc ze wszyst­kich dostęp­nych środ­ków – muszę przy­po­mi­nać, za co odpo­wia­da­ją dziś sys­te­my infor­ma­tycz­ne?

Dru­gi sce­na­riusz wli­cza w rów­na­nie eks­tre­mi­stów, któ­rzy będą oba­wiać się domi­na­cji maszyn i roz­pocz­ną otwar­tą woj­nę z maszy­na­mi. Ter­mi­na­tor any­one? Moim skrom­nym zda­niem, infor­ma­cja o wyna­le­zie­niu w peł­ni samo­dziel­nej Sztucz­nej Inte­li­gen­cji roz­po­czę­ło­by falę samo­bójstw na całym świe­cie, roz­po­czy­na­jąc jed­no­cze­śnie nie­zwy­kle inte­re­su­ją­ce, ale deli­kat­ne lata na kar­tach histo­rii. Zna­jąc natu­rę czło­wie­ka oraz zero-jedyn­ko­wość maszyn – do bez­po­śred­niej kon­fron­ta­cji doszło­by raczej prę­dzej niż póź­niej.

Pro­blem może leżeć w nie­od­po­wied­nim przy­go­to­wa­niu – ludzie będą za wszel­ką cenę dążyć do jak naj­szyb­sze­go roz­wo­ju tech­no­lo­gii, jed­nak ta zacznie ich prze­ra­stać i może zwró­cić się prze­ciw­ko nim. Nie da się ukryć, że moż­li­wo­ści roz­wo­ju samo­świa­do­me­go orga­ni­zmu, za któ­rym stać będą mikro­pro­ce­so­ry, sie­ci spo­łecz­no­ścio­we, nie­skoń­czo­ne pokła­dy mocy w chmu­rze oraz zaso­by Inter­ne­tu znacz­nie prze­kra­cza­ją moż­li­wo­ści prze­ro­bo­we sza­racz­ka Kowal­skie­go, więc może dojść do sytu­acji rodem z fil­mu Her, do któ­re­go zoba­cze­nia ser­decz­nie zachę­cam.

2

To wła­śnie Her oraz Ex Machi­na wywar­ły na mnie naj­więk­sze wra­że­nie jeśli cho­dzi o temat Sztucz­nej Inte­li­gen­cji, samo­świa­do­mo­ści oraz tego, co może się stać, jeśli odpo­wied­nio nie przy­go­tu­je­my się na to, co nie­sie ze sobą odkry­cie spo­so­bu na stwo­rze­nie wyżej opi­sy­wa­nej, sztucz­nej świa­do­mo­ści. W zeszłym roku temat ten pod­jął rów­nież film Trans­cen­den­ce, któ­ry pomi­mo kla­py finan­so­wej, rów­nież dał do myśle­nia i tyl­ko dzię­ki temu nie tra­fił u mnie do kate­go­rii gnio­tów. Wspo­mi­na­łem już, że uwiel­biam fil­my, któ­rych zamysł jest dobrym punk­tem wyj­ścia do cięż­kich roz­my­ślań przez następ­nych kil­ka dni lub nawet tygo­dni?

Kolej­ną pro­duk­cją, któ­ra jesz­cze wcze­śniej, jed­nak na nie­co mniej­szą ska­lę, poka­za­ła czym gro­zi wypusz­cze­nie na wol­ność SI to Eagle Eye. Tam kom­pu­ter prze­jął kon­tro­lę nad m.in. sie­cią woj­sko­wą, ener­ge­tycz­ną oraz komu­ni­ka­cyj­ną i w ten spo­sób mani­pu­lo­wał życiem dwój­ki głów­nych boha­te­rów. Łącząc w sobie cząst­kę każ­de­go z tych fil­mów, wyła­nia się moc­no destruk­tyw­ny obraz bez­dusz­nej maszy­ny, któ­ra tyl­ko cze­ka na wpusz­cze­nie w sieć i roz­po­czę­cie mor­du – tutaj poja­wia­ją się gło­sy, by zmu­sić AI do bycia miłym, wgrać kil­ka dyrek­tyw, według któ­rych odby­wa­ła się komu­ni­ka­cja na linii maszy­na-czło­wiek i sztucz­nie ogra­ni­czyć moż­li­wo­ści takich two­rów – ale czy to nie mija­ło­by się z zamy­słem samo­świa­do­mej maszy­ny, któ­rej nie odma­wia­no by pra­wa do nauki oraz doświad­cza­nia?

Oczy­wi­ście zaraz pod­nio­są się gło­sy, że ludzie rów­nież żyją według zasad i reguł, któ­re odgór­nie im narzu­co­no [vide pra­wo, kodek­sy i reli­gia], ale ma to zwią­zek z nie­do­sko­na­łą natu­rą czło­wie­ka. Czy w przy­pad­ku, kie­dy maszy­na kal­ku­lu­ją­ca ryzy­ko w cza­sie rze­czy­wi­stym i dążą­ca do mini­ma­li­za­cji nie­po­trzeb­nych inte­rak­cji, była­by nasta­wio­na na nie­po­peł­nia­nie błę­dów – takie zasa­dy mia­ły­by w ogó­le zasto­so­wa­nie? Nikt nie bie­rze pod tego, że samo­świa­do­ma maszy­na, mogła­by być zdol­na do rze­czy tak ludz­kiej jak popeł­nie­nie błę­du. Ponow­nie wra­ca­my do zało­żeń Sztucz­nej Inte­li­gen­cji i do posta­wie­nia sobie pyta­nia, czy owa Inte­li­gen­cja ma przy­po­mi­nać czło­wie­ka, imi­to­wać jego zacho­wa­nie, być osob­nym bytem lub też współ­ist­nieć we wspól­nym, tech­no­lo­gicz­nie zaawan­so­wa­nym spo­łe­czeń­stwie i być trak­to­wa­na na rów­ni z ogra­ni­czo­nym moż­li­wo­ścia­mi wła­sne­go orga­ni­zmu czło­wie­kiem.


4

Zasad­ni­czy pro­blem z AI nie tyczy samej Sztucz­nej Inte­li­gen­cji, a stra­chu przed tą tech­no­lo­gią. Stra­chu ludzi, któ­rzy chy­ba nie do koń­ca wie­dzą jak z nią obco­wać, jak się do niej usto­sun­ko­wać i któ­rzy boją się, że przej­mie ona kon­tro­lę nad świa­tem. Strach przed nie­zna­nym? Uprze­dze­nia w sto­sun­ku do cze­goś, z czym nie mia­ło się kon­tak­tu? Oba­wa wyob­co­wa­nia i zepchnię­cia na dal­szy plan przez napływ nowych przed­sta­wi­cie­li spo­łe­czeń­stwa? Czy nie brzmi to jak kse­no­fo­bia, któ­rą tak usil­nie sta­ra­my się wyple­wić z nasze­go codzien­ne­go życia? Idź­my dalej, pro­blem będzie moż­na pod­piąć pod rasizm czy nie­to­le­ran­cję dla ludzi o innej orien­ta­cji sek­su­al­nej.  Oba­wa przed ryzy­kiem, któ­re­go wca­le nie musi być, może być samo­speł­nia­ją­cym się pro­roc­twem. Swe­go cza­su Hen­ry Ford, widząc oba­wy ludzi przed auto­mo­bi­la­mi, nazwał ten typ stra­chu “ter­ro­rem maszy­ny” i ter­min ten ma rów­nież zasto­so­wa­nie w tym przy­pad­ku.

Wszel­kie porów­na­nia wydaj­no­ścio­we sce­na­riu­sza w któ­rym Sztucz­na Inte­li­gen­cja jest wśród nas, nie pozo­sta­wia­ją złu­dzeń – w świe­cie AI, czło­wiek był­by zale­d­wie koeg­zy­sto­rem, a nie dyrek­to­rem tego cyr­ku. Poja­wi­ło­by  się kolej­ne pyta­nie – czy czło­wiek był­by w sta­nie zaufać maszy­nie? Czy ta „lubi­ła­by” go ze wzglę­du na korzy­ści jakie z tego pły­ną, a może z czy­stej życz­li­wo­ści? Kon­cept zaufa­nia, miło­ści, przy­jaź­ni i inte­rak­cji na pozio­mie mikro-inte­rak­cji wyda­je się być nie­moż­li­wym do pod­ro­bie­nia przez maszy­nę, jed­nak tak napraw­dę jest to zespół pro­ce­dur, mikro­ek­spre­sji, zacho­wań i zwy­cza­jów, któ­re na bazie obser­wa­cji moż­na wyja­śnić, opi­sać oraz wdro­żyć za pomo­cą lini­jek kodu, instruk­cji lub zbio­rów algo­ryt­mów. Prze­ra­ża­ją­ca wizja, do któ­rej nie­uchron­nie dąży­my – Siri lub boha­ter­ka fil­mu Her świet­nie poka­zu­ją, że ludzie pra­gną inte­rak­cji ze swo­imi urzą­dze­nia­mi, któ­re uła­twia­ją im życie na co dzień. Co gdy­by zamiast tele­fo­nu lub sys­te­mu ope­ra­cyj­ne­go, kupo­wa­li­by­śmy sobie przy­ja­cie­la? Czy wte­dy był­by to nasz oso­bi­sty asy­stent, a może już nie­wol­nik? Czy jeśli AI wyko­ny­wa­ło­by dla czło­wie­ka pra­cę, to czy musia­ła­by być ona opła­ca­na jak czło­wiek?

Załóż­my sytu­ację, w któ­rej celem AI jest roz­wój i eks­pan­sja, co wią­że się z pozy­ski­wa­niem surow­ców. Gdzieś, kie­dyś, czło­wiek sta­nie na dro­dze maszy­nie — nie dla­te­go, że ta chce nas zgła­dzić, ale dla­te­go, że po pro­stu sto­imy na dro­dze ku speł­nie­niu zało­żeń opro­gra­mo­wa­nia. Sytu­ację taką teo­re­ty­cy nazy­wa­ją “ubocz­ną eks­ter­mi­na­cją”, któ­ra nie wyni­ka z nie­na­wi­ści, ale z kon­flik­tu celów. A to tyl­ko jeden ze sce­na­riu­szy, gdzie czło­wiek może zare­ago­wać agre­syw­nie w sto­sun­ku do maszy­ny, któ­ra zacznie się (słusz­nie) bro­nić. A co z roz­wo­jem tech­no­lo­gii? Powiedz­my, że roz­wi­nie się nano­tech­no­lo­gia — w stop­niu, w któ­rym czło­wiek prze­sta­nie poj­mo­wać jej zasto­so­wa­nie i wpływ jaki może ona wywrzeć na ich życie — zro­dzi to, ponow­nie, strach o któ­rym wspo­mi­nał Hen­ry Ford.

3

Ste­phen Haw­king wespół z inny­mi teo­re­ty­ka­mi doszedł do wnio­sku, że wyna­le­zie­nie Sztucz­nej Inte­li­gen­cji “było­by naj­więk­szym błę­dem w histo­rii ludz­ko­ści”, bo rodzi­ło­by to wąt­pli­wo­ści natu­ry etnicz­nej, egzy­sten­cjal­nej i przede wszyst­kim moral­nej. Czło­wiek urósł­by do ran­gi Boga, któ­ry two­rzy sztucz­ną świa­do­mość na swo­je podo­bień­stwo, ale to rów­nież może oka­zać się obu­siecz­nym mie­czem. Haw­king ponow­nie ostrze­ga: “Stwo­rze­nie Sztucz­nej Inte­li­gen­cji może być naj­więk­szym prze­ło­mem w histo­rii ludz­ko­ści. Może też być naszym ostat­nim, chy­ba, że nauczy­my się jak unik­nąć ryzy­ka”. Tym ryzy­kiem może być roz­bież­ność finan­so­wa ludzi i cybor­gów, śmier­tel­ność tych pierw­szych i teo­re­tycz­na nie­śmier­tel­ność dru­gich, maso­wa świa­do­mość korzy­sta­jąc z zaso­bów chmu­ry, cze­go ludzie nigdy nie doświad­czą i kata­stro­fa w dzie­dzi­nie bio­in­ży­nie­rii, któ­ra może dopro­wa­dzić do eli­mi­na­cji słab­sze­go gatun­ku.

Jestem świa­dom, że jest to jedy­nie zalą­żek dys­ku­sji, któ­ra toczy się już od dekad, jed­nak uwa­żam, że jest to dobry wstęp do pole­mi­ki na któ­rą szcze­rze liczę. W moim przy­pad­ku, chęć do dys­ku­sji zro­dzi­ła się po zoba­cze­niu w kinie fil­mu Ex Machi­na, do któ­re­go szcze­rze Was zachę­cam. Wyobraź­cie sobie semi­na­rium TEDx, pod­czas któ­re­go nauko­wiec tłu­ma­czy w jaki spo­sób dzia­ła Sztucz­na Inte­li­gen­cja, jak ją testo­wać, jakie nie­bez­pie­czeń­stwa ze sobą nie­sie i jaki sce­na­riusz był­by dla czło­wie­ka naj­bar­dziej satys­fak­cjo­nu­ją­cy. Póź­niej tę wie­dzę prze­łóż­cie na język fil­mu, dodaj­cie dra­ma­tyzm sytu­acji, kon­se­kwen­cje czy­nów i inte­rak­cję zafa­scy­no­wa­ne­go czło­wie­ka z maszy­ną, a otrzy­ma­cie Ex Machi­nę. Film, któ­ry nie tyl­ko wzbu­dza podziw i poka­zu­je, jak dale­ko moż­na się posu­nąć w kwe­stii moni­to­ro­wa­nia spo­łe­czeń­stwa, prze­kła­da­nia tych danych na pre­fe­ren­cje i mani­pu­lo­wa­nie w ten spo­sób czło­wie­kiem, ale też prze­ra­ża i zmu­sza do dale­ko idą­cych reflek­sji na temat czło­wie­czeń­stwa, egzy­sten­cji i dąże­nia do per­fek­cji.

Zaufa­li­by­ście maszy­nie?

W tym miej­scu chciał­bym Was ser­decz­nie popro­sić o udo­stęp­nie­nie tego tek­stu swo­im zna­jo­mym — oczy­wi­ście w przy­pad­ku, jeśli przy­padł Wam do gustu. Im wię­cej stron dys­ku­sji, tym cie­kaw­sze wnio­ski może­my wycią­gnąć.

Tekst został zain­spi­ro­wa­ny wyda­rze­nia­mi z fil­mu Ex Machi­na, na któ­ry zosta­li­śmy zapro­sze­ni przez Cine­ma City.

Gra­fi­ki pocho­dzą z fil­mów “Ex Machi­na” oraz “A.I.”.