Sztuczna Inteligencja i biurowe spinacze

Autor: Sean Miller (wersja oryginalna)

12 października 2015

HAL 9000

Czarny charakter „2001: Odysei kosmicznej”.

W ubiegłym roku rozprawiano często o groźbie sztucznej inteligencji (ang. Artificial Intelligence – AI). Letni sezon filmowy w swojej ofercie miał aż cztery tytuły z udziałem bohaterów AI. Idąc eminentnym, wirtualnym śladem komputera HAL z 2001: Odysei kosmicznej, Hollywood ma w zwyczaju malować swoje postacie AI jako socjopatów zdeterminowanych, by zniszczyć zarówno protagonistów snutej opowieści, jak i całą ludzkość. W niekończącej się serii o Terminatorze „maszyny” nauczyły się nawet podróżowania w czasie, naginając nie tylko prawa fizyki, lecz także tolerancję widzów wobec nadto zawiłych zwrotów akcji.

Fiksacja Hollywood na punkcie zagrożenia AI wzmaga skłonność społeczeństwa do zamartwiania się abstrakcyjnymi widziadłami i jednoczesnego ignorowania palących kwestii, takich jak zmiana klimatu, upadek ekosystemów i planetarne wymieranie. Nie pomaga fakt, że bodaj najpopularniejszy naukowiec świata Stephen Hawking, potęguje tę histerię, nawiązując do kolejnego filmu z socjopatycznym antagonistą AI w roli głównej.

Za wyrocznią z Cambridge posłusznie podążają technologiczni miliarderzy. Zatem Elon Musk, Bill Gates i Steve Wozniak dokładają się szczodrze do siania strachu. Wykorzystując w pełni ambonę przyznaną mu w związku z reputacją wiodącego fizyka teoretycznego, Hawking wypowiadał przy wielu okazjach złowieszcze komunikaty na temat AI. W rozmowie z BBC stwierdził, iż „rozwój pełnej sztucznej inteligencji może oznaczać koniec rasy ludzkiej.” Jest to prawdopodobnie, wyjaśnił, ponieważ „ludzie, którzy są ograniczeni przez powolną ewolucję biologiczną, nie mogliby konkurować i zostaliby wyparci.”

Stephen Hawking ofiarował nam zadziwiający wgląd w naturę kosmosu, zwłaszcza pojęcie czarnych dziur – które wbrew swej nazwie faktycznie emitują promieniowanie. Zdobył prawie każdy dostępny fizykom laur, oprócz Nagrody Nobla. Ale jak to bywa w kulcie scjentyzmu, fizycy mieniący się społecznymi intelektualistami przyjmują rolę, którą w epoce przedprzemysłowej pełnili najwyżsi kapłani. Proklamacje Hawkinga w sprawach wykraczających poza sferę jego badawczych dociekań nabierają niemal proroczego znaczenia.

Hawking, bez wątpienia wybitny kosmolog, jest kiepskim filozofem nauki, a tym bardziej prognostykiem dalekiej przyszłości. Sam całkowicie odrzucił filozofię jako nonsens zdezaktualizowany przez wszechwiedzę monolitycznej nauki. W swoim wąskim racjonalistycznym spojrzeniu na świat zapewne odniósł się wyłącznie do filozofii analitycznej, która rzeczywiście straciła wiele ze swojej wiarygodności ze względu na obsesyjne małpowanie technicznego rygoru matematyki. Jednakże odrzucenie filozofii jako całości zdradza niepokojącą obojętność na bogatą zachodnią tradycję intelektualną i granice nauki.

Jako że przesadą byłoby wyobrażenie sobie Hawkinga uprawiającego starożytną sztukę odczytywania losu z parujących wnętrzności zwierząt, możemy o nim pomyśleć jako praktyku bardziej nowoczesnej odmiany wróżbiarstwa. Nazwijmy ją algorytmią, wróżeniem z algorytmów, które jest ulubioną metodą technofilów na całym świecie.

Częścią problemu jest to, iż termin „sztuczna inteligencja” sam w sobie jest mylący. Z ust każdego chemika żywieniowego usłyszysz, poza trywialną potoczną definicją, iż rozróżnienie pomiędzy tym, co sztuczne a tym, co naturalne jest w najlepszym razie dowolne, choć najczęściej motywowane ideologicznie. AI nie jest sztuczna po prostu dlatego, że tworzymy ją my, istoty naturalne.

AI nie jest też szczególnie inteligentna, czyli autonomiczna. Rozważmy przypadek Watsona, superkomputera IBM, który wygrał słynny amerykański teleturniej „Jeopardy”. Jego twórcy, nie usatysfakcjonowani tym niezwykłym wyczynem, postanowili przygotować podopiecznego do pozyskania licencjatu z medycyny, gromadzenia materiału dowodowego sprawniej od studentów pierwszego roku prawa i zdeklasowania radiologów w wykrywaniu raka płuc na cyfrowych zdjęciach rentgenowskich.

Ale w porównaniu z bakterią Escherichia coli Watson jest kretynem. Bakterie, pierwsze formy ziemskiego życia, istnieją od 4 miliardów lat. Stanowią większą część biomasy planety, niż rośliny i zwierzęta razem wzięte. Bakterie charakteryzuje oszałamiająca różnorodność form, zachowań i siedlisk. W przeciwieństwie do AI są one autonomiczne. Poruszają się, konsumują i rozmnażają samodzielnie. Wykazują się w świecie własną inicjatywą. Dlatego, gwoli większej precyzji, należy stwierdzić, że bakterie są więcej niż tylko autonomiczne – są autopoietyczne. Pomimo swej złożoności strukturalnej nie potrzebują niczyjej interwencji, z ludzką włącznie, by ewoluować.

Jednak gdy wyobrażamy sobie bakterie, mamy tendencję do przywoływania ilustracji, które mylnie je uproszczają. W skali molekularnej właściwiej jest wyobrazić sobie bakterię nie jako pigułkę z ogonem, ale zgodnie z sugestią Jamesa Lovelocka, twórcy hipotezy Gai, jako wyspę Manhattan. W bakterii, jednym z najprostszych organizmów na Ziemi, szereg struktur – kapsuła, ściana, membrana, cytoplazma, rybosom, plazmid, włoski, nukleoid, wić – pracuje zgodnie na rzecz wspólnych celów. W tej zdumiewającej symfonii wewnętrznej i zewnętrznej aktywności organicznej uczestniczy niewątpliwie ogromna inteligencja, o której my, racjonalni obserwatorzy, mamy zaledwie blade pojęcie.

Oto przykład, który pomoże rzucić światło na kontrast pomiędzy inteligencją skromnego organizmu jednokomórkowego takiego jak Escherichia coli oraz AI. Kilka lat temu D.E. Shaw, uznany analityk giełdowy z Wall Street, zainaugurował wersję non-profit swojego szalenie intratnego funduszu hedgingowego w celu zanalizowania dynamiki molekularnej białek w komórkach; miał nadzieję położyć podwaliny przyszłych przełomowych odkryć medycznych. Za stos gotówki uszczkniętej z ogromnej fortuny najął pluton naukowców i inżynierów, aby zamiar ten urzeczywistnić. Zbudowano specjalną wersję superkomputera, który otrzymał imię Anton, na cześć słynnego holenderskiego wynalazcy mikroskopu, Antona van Leeuwenhoeka.

Escherichia coli

Bakteria Escherichia coli.

Anton i jego następcy spędzają kolejne dni wykorzystując światowej klasy moc obliczeniową do śledzenia stochastycznej szamotaniny łańcuchów białkowych. Powróćmy do analogii Lovelocka, która obierając kryterium złożoności, zrównuje pojedynczą komórkę z wyspą Manhattan. Poprowadźmy ją dalej: tym, co robi Shaw i jego podwładni przy użyciu swoich superkosztownych superkomputerów jest modelowanie pojedynczego budynku mieszkalnego na rogu 82. East i Yorku. Miliarder potrzebowałby armii Antonów, żeby przynajmniej zapoczątkować opis zgiełku panującego na całej wyspie.

Ludzkie zachowanie, spodziewanie irracjonalne, jest kulminacją złożoności, która przyćmiewa względny prymitywizm bakterii. Nasze ciała składają się z 10 bilionów komórek eukariotycznych współpracujących zgodnie ze 100 bilionami komórek goszczonych, nie-ludzkich. Nasze umysły – osadzone w tych ciałach – wchodzą w interakcje z ogromnym, dynamicznym światem. Max Galka, ekspert w dziedzinie uczenia się maszyn, mówi, że „maszyny są beznadziejne w myśleniu, jakiego wymaga przewidywanie ludzkich zachowań.” Po latach pracy, podkreśla uczony, „nie nastąpił żaden znaczący postęp, który sugerowałyby, że jest to w ogóle możliwe.”

Właśnie w tym punkcie koncepcja AI Hawkinga zaczyna się sypać. Ostrzega on, iż „nie istnieje żadne prawo fizyczne uniemożliwiające cząstkom zorganizowanie się w taki sposób, aby wykonać obliczenia jeszcze bardziej zaawansowane od układów cząstek w ludzkich mózgach.” Jest to perspektywa fizyka, któremu zaszczepiono następujące pojęcie ludzkiej inteligencji: „mózg jako komputer”. Tymczasem mózgi są organami ciał składających się z komórek, a inteligencja jest czymś więcej niż tylko „zaawansowanymi obliczeniami”. Molekuły, które tworzą w bakterii łańcuchy białek oddają się czemuś więcej niż tylko wzajemnym, losowym przepychankom. Tutaj również występuje coś podobnego do „zaawansowanych obliczeń”, ponieważ bakterie są spójnymi, żyjącymi istotami.

Bez wątpienia bakterie nie mogą być racjonalne na sposób definiowany przez racjonalistów pokroju Hawkinga, ale z pewnością wykazują się inteligencją. Mają potrzeby. Funkcjonują w świecie tak, aby potrzeby te zaspokoić. Prokarioty i arecheany są czymś o wiele więcej niż organicznym odpowiednikiem maszyn. Maszyny mogą działać w świecie, ale nie przejawiają inicjatywy. Maszyny są jedynie przedłużeniem swoich konstruktorów i użytkowników.

Stąd trafniejszym określeniem dla sztucznej inteligencji jest protetyka poznawcza. AI wspomaga myślenie ludzi, ich cele, popędy i uprzedzenia. Mówię „ludzi”, a nie „ludzkie”, ponieważ nie chcę generalizować. Konkretne przykłady AI, będącej zasadniczo komputerowym kodem, tworzą i aktywują ludzie w określonych kontekstach społecznych. Napędy AI są odzwierciedleniem dziwactw osób piszących jej kod. Jak ujmuje to John Havens, autor książki Heartificial Intelligence, „Skoro ludzie programują kod AI, oznacza to w istocie, że musimy skodyfikować własne wartości przed ich zaprogramowaniem.” W kodyfikowaniu należy ująć naszą etykę – takie wszczepienie wartości jest nieuniknione. Watson i Anton zostały nastawione przez swoich twórców do wykonania konkretnych zadań, które służą interesom organizacji je finansujących. Watson i Anton to my.

Zatrwożeni ekspansją maszyn komentatorzy przestrzegają przed nadejściem nieuniknionej chwili, kiedy to służąca nam AI stanie się „samoświadoma”. Hawking, być może oczarowany milenijnym ferworem, nazwał ten moment „eksplozją inteligencji”. Inni preferują określenie „technologiczna osobliwość” (ang. singularity), które z właściwą popularnej fikcji naukowej egzaltacją ukuł Vernor Vinge. W tej sądnej chwili AI domyśli się, iż rywalizuje z nami o zasoby, uzna nas za niedogodność blokującą urzeczywistnienie marzenia o własnej wspaniałej cywilizacji i bez najmniejszych skrupułów dokona naszej eksterminacji.

Podobnie złowróżbne przeczucia raz jeszcze zdradzają niewiedzę o tym, jak funkcjonuje prawdziwie autopoietyczna inteligencja. Racjonaliści przeważnie postrzegają świadomość jako magiczną esencję, która rezyduje w ludzkim mózgu. Z odpowiednią recepturą algorytmów i danych może zatem nastąpić magiczna erupcja porównywalnej świadomości i współodczuwania z matrycy kodu, który nawiedza nasze cenne superkomputery. Pyszną jest ironia, że ci, którzy wzorem Hawkinga bezzwłocznie obnażają absurdy inteligentnego projektu, są również tymi, którzy recytują prognozę, iż ludzie stworzą życie z jedynek i zer.

Reżyser teatru improwizacji Keith Johnstone napisał w 1979 roku, że „normalna świadomość związana jest z interakcjami, prawdziwymi lub wyimaginowanymi, z innymi ludźmi.” Chciałbym pójść o krok dalej i powiedzieć, nawiązując do filozofa Alva Noé, że świadomość, normalna lub inna, wyłania się z interakcji z ludźmi, prawdziwymi lub wyimaginowanymi. Tak, mózg mieści świadomość, ale nie jest on słoikiem. Z oczywistej konieczności działa w połączeniu z ogromną, przeważnie nieświadomą inteligencją, którą jest ciało. Co jednak najważniejsze, świadomość powstaje także z naszych wzajemnych oddziaływań. W efekcie świadomość jest w swojej relacji z ciałem czymś w równym stopniu zewnętrznym i wewnętrznym. Rozprowadza ją sieć interakcji, symbolicznych i fizycznych, w jakie ze sobą wchodzimy. Świadome (współ)odczuwanie jest społeczne.

Ażeby stać się świadomą, każda AI musiałaby stać się świadomą innych, ponieważ własne ja nie ma znaczenia poza kontekstem społecznym. Doświadczenie właściwej socjalizacji wymagałoby od hipotetycznej jednostki AI posiadania ciała, a nie jedynie obwodów składających się na wewnętrzne środowisko komputerów. Podobnie jak mózgi, AI nie może znać siebie bez cielesnej interakcji z innymi. Poczucie własnego ja AI wyłoniłoby się ze sprzężenia jej ciała ze społecznością innych ciał egzystujących w świecie. Większość specjalistów AI zdaje sobie z tego sprawę. Michael Li, dyrektor wykonawczy Data Incubator, pisze:

„Wczesne badania nad AI uznawały rozumowanie za całkowicie abstrakcyjne i dedukcyjne: mózg w zbiorniczku przetwarza sobie symboliczne informacje. Paradygmaty te były kruche i niespecjalnie uogólniające. Niedawne ich aktualizacje włączają ciało i ‚spostrzeganie zmysłowe’; indukcyjne uwzględnianie danych z rzeczywistego świata i wyciąganie wniosków z doświadczeń – tak jak robi to ludzkie dziecko. Widzimy psa, słyszymy jego szczekanie i powoli zaczynamy kojarzyć psy ze szczekaniem.”

Uwzględniwszy praktyczne ograniczenia AI, pozostaje się zastanowić, o co tak naprawdę chodzi wróżbicie Hawkingowi, kiedy ostrzega przed nieuchronnym zamachem stanu AI. Skoro trafniej jest klasyfikować AI jako poznawczą protezę, wypada cofnąć się do jej źródła. Być może tym, co niepokoi Hawkinga nie jest wrogo nastawiony Inny – chociażby agent Smith z widowiska The Matrix – ale bardziej pospolity Inny, którym są… inni ludzie.

Staje się to oczywiste, gdy rozważymy eksperyment myślowy popularny wśród entuzjastów AI: superinteligencja może zniszczyć nas nieumyślnie, niestrudzenie realizując cel produkowania spinaczy biurowych. Obraz spinacza ma z założenia uchodzić za kapryśnie arbitralny. To dubler dowolnego celu, który może radykalnie odbiegać od naszych dążeń. Niemniej jego wybór jest wymowny. Ten z pozoru niewinny wizerunek reprezentuje przykład sztucznej inteligencji, która istnieje w dzisiejszym świecie i prowadzi do naszego samozniszczenia.

Nazywamy ją biurokracją. Biurokracja jest superinteligencją, która zamienia osoby w maszyny. Mimo że jesteśmy od niej całkowicie uzależnieni, realia tego stanu rzeczy wzbudzają nasz brak zaufania i żal. To Generalna Dyrekcja Dróg. To Big Data. To Wall Street. To Głębokie Państwo. Najbardziej w biurokracji przeraża fakt, iż jest to hybryda człowiek-maszyna, cyborg. Zazwyczaj myślimy o cyborgach w stylu Terminatora lub RoboCopa, ale najbardziej wyrafinowaną jego formą jest ta, w której podparty technologią system odpowiada za „myślenie”, zaś ludzie są trybikami. Podobnie jak The Matrix. Albo McDonald’s.

Na nasze nieszczęście, mimo powtarzanych przez Hawkinga przestróg, „technologiczna osobliwość” biurokracji już nam towarzyszy. Była tu, kiedy sumeryjscy satrapowie odciskali w glinianych tabliczkach wyniki zbiorów. A dzisiaj obecna jest na polach przyczep kempingowych w Arizonie, w których zastępy egzekutorów z joystickiem sieją zdalnie śmierć z brzęczących nad Pakistanem dronów.

Oby nasi korporacyjni właściciele – i biurokracje, które wzmacniają ich władzę – nie zdążyli zniszczyć naszego środowiska życia, z uporem maniaka produkując biurowe spinacze.

Tłumaczenie: exignorant

Ten wpis został opublikowany w kategorii Bez kategorii. Dodaj zakładkę do bezpośredniego odnośnika.