ˇ

Giuseppe O. Longo

ilu

stra

cja:

an

na

zabd

yrsk

a

autoportret 3 [38] 2012 | 31

Tak odbyło się przejście, w planie epistemo-logicznym, od funkcjonalistycznej SI do SI wcielonej w roboty. Robot pod tym względem przedstawia się jako sztuczne ciało wyposażone w sztuczny umysł, a nie jako sztuczny umysł bezcielesny i odizolowany od świata. Przyszłość najbardziej ambitnej SI, tej mianowicie, która dąży do zbudowania maszyn obdarzonych inteligencją, emocjami, być może świadomo-ścią, może zatem zależeć od zrozumienia roli poznawczej naszych cielesnych czynności.

RObOt i cybORG

Wprowadzenie robotów w obręb społeczeń-stwa stawia wiele pytań natury technicznej, społeczno-kulturalnej, ale też etycznej. Na przykład: czy rozpowszechniona wrażliwość przejawiana w stosunku do ludzi i zwierząt zostanie prędzej czy później przeniesiona również na roboty, czy też ich natura maszy-ny oraz ich funkcja służebna będą cały czas wysuwać się na pierwszy plan? Czy wysiłki, jakie wkładamy w to, by obdarzyć je inteli-gencją, autonomią, zdolnością uczenia się oraz docelowo również wrażliwością, emocjo-nalnością i świadomością, zaowocują kiedyś uczynieniem ich czymś szlachetniejszym i bliższym człowiekowi? Ale nasuwa się jeszcze inne, bardziej niepokojące pytanie: jakim prawem budujemy maszyny, które są istotami do tego stopnia inteligentnymi i wrażliwymi, że kiedyś mogłyby zdać sobie sprawę z tego, że nie są nimi jeszcze do końca? Po co wywoływać z nicości twory tak do nas podobne, że wręcz zdolne do cierpienia? Ich cierpienie, wynikają-ce ze świadomości własnej nieprzystawalności do człowieka, byłoby smutną konsekwencją naszej demiurgicznej władzy: tworząc cały ród „cierpiących maszyn”, bralibyśmy na siebie nader trudną odpowiedzialność.

Te same pytania można zadawać – i są ku temu być może jeszcze mocniejsze podstawy – w od-

inteligencji naśladującej symboliczne i abstrak-cyjne funkcje biologicznego mózgu, a zarazem unikającej wszelkiej interakcji z otoczeniem, traktowanym jako element zakłócający. Działa-nie owej bezcielesnej, sztucznej inteligencji dało dobre wyniki w dziedzinach operujących kodem symboliczno-formalnym, ale kiedy próbowano ją zastosować w sytuacjach codziennych, napo-tykano bardzo poważne trudności, wynikające właśnie z braku interakcji ciała z otoczeniem. Postanowiono zatem wyposażyć sztuczny umysł w sztuczne ciało, dysponujące narządami zmysłu i organami wykonawczymi, zdolnymi do inte-rakcji ze światem zewnętrznym. Doprowadziło to do konstrukcji robota obdarzonego inteligencją szerszą i bardziej giętką od funkcjonalistycznej SI oraz dysponującego pewną autonomią decyzji i działania. SI uświadomiła nam, że mogą istnieć struktury poznawcze inne od ludzkiej, również pozbawione świadomości oraz komponentów emocjonalnych i uczuciowych. Ponadto umoż-liwiła nam refleksję nad naszą inteligencją: różnice i podobieństwa między nimi odsłoniły wiele cech naszej inteligencji, które przedtem nam umykały. Uzmysłowiła nam znaczenie ciała, emocji, świadomości, podważając dualistyczną koncepcję oraz tradycyjne pierwszeństwo res cogitans nad res extensa.

Innymi słowy, uświadomiliśmy sobie, że także „maszyny inteligentne”, jeśli chcą odtworzyć mniej lub bardziej wiernie ludzką inteligencję, nie mogą się obyć bez odpowied-nika ciała – z całą jego aktywnością poznaw-czą głęboką, po części być może niealgoryt-miczną. Bezcielesna inteligencja jest zbyt krucha i ograniczona. Próba przełożenia na wiedzę wysoką, racjonalną i dyskursywną masy wiadomości materialnych, cielesnych i niedyskursywnych napotyka przeszko-dę charakterystyczną dla każdego procesu tłumaczenia, czyli nieadekwatność. Pozostaje ciągle jakaś reszta, niesforna i uporczywa, niedająca się przełożyć.

Gall: Roboty prawie wcale nie odczuwają fizycz-nego bólu. Młody Rossum za bardzo zreduko-wał ich system nerwowy. To nie dało dobrych wyników. Musimy, proszę pani, wprowadzić do ich organizmu wrażliwość na cierpienie [...] Helena: Czy będą szczęśliwsze, kiedy zaczną odczuwać cierpienie? Gall: Wręcz przeciwnie, ale za to będą technicznie doskonalsze. Karel Capek, R.U.R. (Rossum’s Universal Robots)

System albo aparat poznawczy człowieka działa na dwa podstawo-we sposoby. Pierwszy, najbardziej archaiczny zarówno z punktu wi-

dzenia gatunku, jak i jednostki, to poznanie niedyskursywne, globalne i bezpośrednie, osiągane przez ciało i w ciele, w jego struk-turze i w jego funkcjach biologicznych, oraz kierujące się uczuciami i emocjami. Drugi, nowszy z punktu widzenia ewolucji i później-szy w rozwoju jednostki, to poznanie świado-me, dyskursywne i racjonalne. Innymi słowy, i w znacznym uproszczeniu: po jednej stronie poznanie cielesne, po drugiej – rozumowe.

Historia zachodniej nauki jest długą historią prób zmierzających do przeniesienia treści poznawczych z pierwszego do drugiego obsza-ru, czyli z wiedzy biologicznej, zakorzenionej w ciele (ciele zanurzonym z kolei w środowisku) do racjonalności bezcielesnej. Inaczej rzecz ujmując, chciałoby się przełożyć na oschły język mentalnej abstrakcji (w szczególności: matematycznej symboliki) bujne struktury ciała, przyrody i świata; chciałoby się uczynić dyskursywnym, świadomym i czytelnym to, co jest niedyskursywne, nieświadome i niejasne.

Próba ta zaowocowała dyskursem funkcjonali-stycznym sztucznej inteligencji (SI), dążącym do zbudowania bezcielesnego umysłu, czyli

autoportret 3 [38] 2012 | 31

Zmieszanie porządków naturalnego i sztucz-nego doprowadzi prędzej czy później do niemożności rozróżnienia między tym, co ludzkie, a tym, co nieludzkie, i poruszy delikatne zagadnienie definicji osoby: jak określić „rekwizyty minimalne”, które istota powinna posiadać, by zostać uznana za osobę i cieszyć się należną jej godnością? Czy istnieje jakiś stopień naśladowania funkcjonalnego, powyżej którego już można albo wręcz trzeba mówić o ludzkim charak-terze, a zatem o godności ludzkiej arte-faktu? I z drugiej strony, czy istnieje jakiś stopień substytucji protetycznej, po którego przekroczeniu cyborg przestaje być osobą? W toku tych rozważań rodzi się kolejne pytanie: czy artefakty naśladowcze mogą wprowadzić zmiany w naszym pojmowaniu ciała i natury ludzkiej (podobnie jak sztucz-na inteligencja zmieniła nasze rozumie-nie inteligencji)? Konstrukcja sztucznego człowieka mogłaby podnieść artefakty do godności ludzkiej lub też sprowadzić ludzi do poziomu maszyn.

DLaczeGO buDujemy RObOty?

W naszych narracjach literackich lub kino-wych roboty, androidy czy też cyborgi prawie zawsze ujawniają rozdzierające pragnienie, by stać się w pełni ludźmi. Pragnienie to kryje w sobie bolesne „poczucie niższości”. Jest ono jednak n a s z ą projekcją: z jakiego bowiem powodu tak bardzo od nas odmienne (oraz być może lepsze) twory miałyby chcieć upodobnić się do nas, jeśli nie po to, by przy-podobać się swoim próżnym twórcom?

Niektórzy uważają, że kiedyś roboty będą lep-sze od ludzi wskutek procesu ewolucji, który, choć rozpoczęty przez człowieka, miałby się rozwijać niezależnie od nas. Agresja i ludzkie zło są konsekwencją walki o przetrwanie, którą człowiek musiał toczyć w ciągu swojej

Budowa sztucznego człowieka może zatem odbywać się na dwa sposoby: możemy uczyć się od przyrody, usiłując ją naśla-dować (robot), albo współdziałać z nią, przetwarzając ją i uzupełniając (cyborg). W robotach spływają, łączą się i scalają protezy ruchowe i wykonawcze, protezy recepcyjne oraz protezy poznawcze. Robot odznacza się poza tym pewną autonomią oraz określoną zdolnością do nauki, które czynią z niego wiarygodnego kandydata do ewolucji cielesno-umysłowej typu zarówno humanoidalnego, jak i alternatywnego względem modelu ludzkiego. Ewolucja, która kierowałaby się modelem ludzkim, mogłaby doprowadzić do powstania ma-szyn potencjalnie niedających się odróżnić od nas z punktu widzenia funkcji (intelek-tualnych, wykonawczych, percepcyjnych, emocjonalnych…), choć rozpoznawalnych z racji odmienności materiałów oraz po części struktury i wyglądu.

Zbieżność funkcji i struktur robota z funk-cjami i strukturą człowieka zapowiada zmieszanie natury z techniką. Ich krzy-żowanie jeszcze bardziej niż w robotach ujawnia się jednak w cyborgach, czyli w stworzeniach cyb(ernetyczno)organicz-nych, pochodnych daleko posuniętej hy-brydyzacji, która wychodząc od człowieka, dąży do tego, by zastąpić coraz to bardziej rozbudowane i złożone organy oraz apara-ty człowieka – ramiona, ręce, oczy, uszy, mózg – syntetycznymi komponentami. Dążenie do stopniowej wymiany wynika, przynajmniej częściowo, ze świadomości, że ciało i jego części ulegają zużyciu i że walkę tę, prędzej czy później, przegrają. Robot znajduje się już na starcie w sytuacji całko-witej sztuczności i dąży do naśladowania funkcji. Punktem dojścia zarówno jednego, jak i drugiego pozostaje ten sam sztuczny człowiek.

niesieniu do cyborgów, będących wynikiem hybrydycznego połączenia ludzkich istot z artefaktami. Czy cyborg zasługuje na miłość i współczucie, czy też wystąpił definitywnie ze społeczności ludzkiej, by wejść w sferę nieokreśloną i trudną do zdefiniowania, gdzie jest wydany na pastwę naszych kaprysów? Czy replikanci z Łowcy androidów, cudowne androidy i androidki o wątpliwym statusie, powinni na-prawdę zostać wyeliminowani tylko dlatego, że dążą do długowieczności? I czy dążenie to nie jest również cechą ludzką? Krótko mówiąc, kto decyduje, co to znaczy być istotą ludzką i komu godność ta się należy? Być może wkrótce trzeba będzie napisać na nowo Powszechną Deklarację Praw Człowieka, obejmując nią również istoty, których definicja na razie wymyka się wszelkiej próbie klasyfikacji…

Elektromechaniczny prototyp tytułowego bohatera Rossums Universal Robots K. Capka z praskiej inscenizacji z 1921 roku

fot.

: flic

kr

autoportret 3 [38] 2012 | 32

ca, gdy przeglądamy się w lustrze naszego wyobcowującego alter ego, jakim staje się robot? Przedsięwzięcie robotyki – zbudowa-nie prawdziwego s z t u c z n e g o c z ł o w i e k a – może, na zasadzie analogii lub kontrastu, dostarczyć nam cennych wskazówek doty-czących nas samych, podobnie jak działo się to w wypadku SI. Czy w tej perspek-tywie wzajemnego przyglądania się sobie robot może stanowić laboratorium (sztucz-nej) etyki?

Wreszcie można sobie zadać pytanie: d l a -c z e g o b u d u j e m y r o b o t y? W wielu wypadkach odpowiedź jest oczywista: żeby wykonywały zadania ciężkie, niebezpieczne, nużące; albo po to, by zastąpiły ludzką siłę roboczą, powiększając w ten sposób zysk i wydajność; albo wreszcie po to, by pomagać specjalistom podczas delikatnych operacji chirurgicznych. W dramacie R.U.R. Karel Čapek rozwiązał to zagadnienie w sposób bardzo pragmatyczny:

ewolucji. Roboty będą jednak ewoluować w otoczeniu bardzo od naszego odmiennym: otoczeniem robotów w dużym stopniu j e -s t e ś m y m y. Dlatego właśnie, jeśli chcemy, żeby ten nowy gatunek był lepszy od nas, a nawet pomógł nam polepszyć nas samych (skoro otoczeniem człowieka mogłyby kiedyś być o n e), powinniśmy bardzo uważać na to, jakie „sztuczne usposobienie” nadajemy tym stworzeniom – przy równoczesnym zastrzeżeniu, że kiedy ma się do czynienia z istotami autonomicznymi, nie wszystko da się przewidzieć. W perspektywie tej wpaja-nie w roboty pragnienia naśladowania nas może się okazać regresem lub przynajmniej przeszkodą na drodze ich ewolucji etycznej ku dobroci.

Coraz szybszy postęp tak wyrafinowanej i su-gestywnej technologii, jaką jest robotyka, nie może nie mieć głębokiego wpływu na obraz nas samych i tego, co to znaczy być człowie-kiem. Jaki obraz nas samych do nas powra-

Helena: Po cóż w takim razie panowie je pro-dukujecie? Busman: Ha, ha, hea, a to dobre! Po co produ-kuje się Roboty! Fabry: Żeby pracowały, droga pani. Jeden Robot zastąpi niemal trzech robotników. Maszyna, jaką jest człowiek, okazała się sza-lenie niedoskonała. Trzeba ją było wreszcie usunąć1.

To jednak nie odpowiada na podstawowe pytanie: po co budować maszyny tak do nas podobne? Można by powiedzieć, że budowa-nie sztucznego człowieka odpowiada ludzkiej ambicji stworzenia sztucznego człowieka – gotowej pogwałcić tajemnice przyrody, by móc naśladować mechanizmy jej działania. Jest jednak inna, bardzo subtelna i niepo-kojąca odpowiedź: ludzkość gra pierwsze skrzypce w szóstym masowym wymieraniu i robi wszystko, by wejść do grona zanikają-cych gatunków. Czując zbliżający się koniec przygody, chce pozostawić po sobie ślad wła-snej wielkości, dlatego buduje maszyny, które mogą ją przeżyć i będą przypominać tym, którzy przyjdą (komu? maszynom samym?), przeszłość pełną chwały. Tak jak sugeruje następujący epizod.

13 maja 2004 roku przed liczną, bardzo młodą publicznością tokijska orkiestra filharmo-niczna zagrała V Symfonię Beethovena pod ba-tutą Qrio, robota humanoidalnego produkcji Sony, który – po pierwszej chwili niepewno-ści – nie najgorzej się wykazał, dodając kolej-ny kamyczek do mozaiki ludzkich czynności wykonywanych (lub naśladowanych) przez maszyny. Wykonam teraz małe ćwiczenie fantasocjologii – i wyobrażę sobie wnuka Qrio, który dyryguje orkiestrą robotów przed publicznością robotów. Jeśli zabraknie

1 K. Čapek, R.U.R. Rossums Universal Robots, przeł. A. Siecz-kowski, [w:] tegoż, Dramaty, Warszawa: PIW, 1956, s. 35.

W roku 2004 robot Qrio dyrygował w Tokio V Symfonią Beethovena, cztery inne zatańczyły w wideoklipie Hell Yes Hansena Becka. Qrio wystąpiły również w amerykańskim serialu science fiction pt. Battlestar Galactica. fo

t.: l

eo c

occaautoportret 3 [38] 2012 | 32

ludzi, kto będzie zadawał sobie wszystkie te pytania? Gdzie się podzieje sens? Kto będzie pytał siebie, o co? Co stanie się z szaleństwem ludzkim? Co stanie się ze sztuką, z poczuciem humoru, z transgresją, z kreatywnością, z zabawą i nonsensem? Kto wyczuje różnicę między łzą a kroplą deszczu?

Jakiejkolwiek odpowiedzi udzielimy na pod-stawowe pytanie: dlaczego budujemy roboty humanoidalne?, nie ulega wątpliwości, że zrodzi się z niej natychmiast wiele nowych pytań, ujawniających naturę kulturowo-spo-łeczną i etyczną pierwszego pytania: jakie społeczeństwo projektujemy, budując roboty? Jakie wartości chcemy wzmocnić, a jakie osła-bić? Wielu badaczy nie wykazuje najmniejsze-go zainteresowania tymi problemami i kroczy dalej, spokojnie lub wręcz entuzjastycznie, drogą innowacji technicznych. Inni wolą krótszą perspektywę, stosując się do kodeksów podobnych do praw Asimova. Inni wreszcie – ale to mniejszość – wybierają perspektywę średnio- i długoterminową, próbując sobie wyobrazić możliwe scenariusze tego, co już powoli zarysowuje się jako prawdziwa inwazja robotów.

Implikacje robotyki i etyki robotów mieszają się ze scenariuszami wypracowanymi w tej zasobnej pracowni hipotez o przyszłości, jaką jest fantastyka naukowa. Budowa coraz bardziej złożonych i podobnych do nas robo-tów wiąże się w szczególności z perspektywą nieśmiertelności. Podobnie jak słynni dyry-genci, artyści, poeci i wybitni matematycy dążyli do nieśmiertelności tylko w pamięci potomności, tak i my, zwykli śmiertelnicy (jakże okrutne to określenie!), próbujemy przynajmniej przekazać najintymniejszą istotę naszego ducha, naszej duszy, naszego umysłu sztucznemu człowiekowi, który – dzięki ustawicznej zamianie uszkodzonych części, skrupulatnej konserwacji i nieprze-

rwanej regeneracji oprogramowań – będzie mógł faktycznie osiągnąć coś możliwie najbardziej zbliżonego do nieśmiertelności. Będzie to wprawdzie nieśmiertelność tylko z racji niezmienności struktury i funkcji przy zmienności materialnych nośników, ale będzie to zawsze une espèce d’immortalité.

Cyborg a problemy tożsamośCi

Cyborg – jak mówiliśmy wyżej – jest rezulta-tem wszczepienia sztucznych protez w ludzki organizm: narządów zmysłu, organów wyko-nawczych, a nawet implantów mózgowych i interfejsów mózg–komputer. Nie są to tylko protezy przeznaczone do wykonywania czyn-ności, których organizm nie jest już w stanie wykonywać, czy też kompensujące ewentualne okaleczenia. Najbardziej charakterystyczną cechą protez cyborganicznych jest zdolność do wzmacniania i rozszerzania funkcji natu-ralnych – czy chodzi o zmysły, ruchy czy też zdolności poznawcze.

Wśród protez warto wymienić interfejsy człowiek-maszyna, w szczególności te łączące mózg z komputerem. Technologie te znajdują się jeszcze w fazie eksperymentowania, ale rozwijają się w zawrotnym tempie. Przyrzą-dy obiecują znaczne korzyści terapeutyczne, na przykład w wypadku niektórych chorób neurodegeneracyjnych, lecz stawiają również nowe pytania. Już dziś sygnały wychwytywa-ne przez elektrody wszczepione w korę rucho-wą mogą służyć do kierowania ruchami rąk i nóg robotycznych. W przyszłości implanty korowe mogłyby być stosowane do tego, by badać ludzką świadomość cielesną, czyli percepcję, że ma się ciało, albo że jest się cia-łem. Niektórzy badacze studiują możliwości manipulacji ową percepcją, z którą wiążą się przecież fundamentalne aspekty świadomości siebie, jak na przykład właśnie ciało, z któ-rym człowiek się utożsamia, oraz przestrzeń,

w której czuje się usytuowanym. Gdyby kon-trolę nad płatami mózgu, które odpowiadają za świadomość, przejął interfejs mózg–robot, wtedy nie tylko granica między człowiekiem a maszyną stałaby się płynna, lecz sama toż-samość indywidualna mogłaby ulec modyfi-kacjom, skoro sygnały cielesne mają kluczowe znaczenie w świadomej definicji tego, czego doświadczamy jako „ja”. Krótko mówiąc, sym-bioza człowiek–maszyna, która zarysowuje się na horyzoncie, stawia subtelne problemy natury tożsamościowej i etycznej: wzmocnie-nie poznawcze osiągnięte wskutek cyborga-nicznej fuzji mogłoby spowodować utratę toż-samości, której konsekwencje psychologiczne (lub psychopatologiczne) mogłyby być bardzo poważne. Problem świadomości i samoświa-domości przestrzenno-cielesnej cyborga jest niepokojący i – jak dotąd – nierozwiązany, nawet w perspektywie przyszłości.

tłumaCzenie z włoskiego:

emiliano ranoCChi

wybrana literatura:

• A.G. Biuso, La mente temporale. Corpo Mondo Artificio, Roma: Carocci, 2009.

• O. Blanke, J.E. Aspell, Brain Technologies Raise Unprecedented Ethical Challenges, „Nature”, 9.04.2009.

• N. Bonifati, G.O. Longo, Homo immortalis. Una vita (quasi) infinita, Milano: Springer Italia, 2012.

• F. Fukuyama, Koniec człowieka, przeł. B. Pietrzyk, Kraków: Znak, 2004.

• G.O. Longo, Il nuovo golem: come il computer modifica la nostra cultura, Roma-Bari: Laterza, 1998.

• G.O. Longo, Homo technologicus, Roma: Meltemi, 2001.

autoportret 3 [38] 2012 | 34