Czym jest sztuczna inteligencja, a czym nie jest — Nieznajomy w lustrze

Esej o tym, czym sztuczna inteligencja jest, czym nie jest i dlaczego człowiek musi zdefiniować siebie na nowo.

Dziecko ukryte w pytaniu „czy maszyna może myśleć“

W Sherborne był piętnastoletni chłopiec, którego prześladowali koledzy. Nazywał się Alan Turing.

Turing miał przyjaciela, Christophera Morcoma. Chłopca eleganckiego, uzdolnionego zarówno w naukach ścisłych, jak i w sztuce — wyglądało to tak, jakby Christopher miał w sobie wszystko, czego Alanowi w tamtych latach brakowało. Nocami rozmawiali o prawach fizyki i wymieniali się wiadomościami z astronomii. W 1930 roku Christopher umarł nagle na gruźlicę bydlęcą, którą przeniosło zakażone mleko.

Alan się rozsypał. Próbował poradzić sobie z tym, zakopując się w matematyce — zakopał się tak głęboko, że wyszedł po drugiej stronie, tam, gdzie nauka styka się z metafizyką. Dwadzieścia lat później zadał najsłynniejsze pytanie w historii tej dziedziny: czy maszyny mogą myśleć?

Człowiek, który doświadczył nagłego zniknięcia umysłu przyjaciela, po latach zapytał, czym w ogóle jest umysł. Alan Turing był angielskim matematykiem, informatykiem i kryptologiem. Dziś uchodzi za ojca informatyki.

Chcę więc powiedzieć od razu jedną rzecz. Spór o sztuczną inteligencję wygląda na całkowicie techniczny, ale niemal wszystko, co leży pod spodem, jest ludzkie.

Wydaje nam się, że patrzymy na maszynę, a przez cały czas patrzymy na siebie.

Pęknięcie czterystuletniej ramy

Większość pojęć, którymi się dzisiaj posługujemy, powstała w latach trzydziestych XVII wieku.

Kartezjusz przeciął naturę na dwoje. Po jednej stronie człowiek: wewnętrzny, myślący, żywy. Po drugiej materia: zewnętrzna, mechaniczna, martwa.

Zwierzęta umieścił po tej drugiej stronie — jako byty pozbawione myślącej substancji (res cogitans), dające się wyjaśnić zasadami mechaniki. Co dokładnie miał na myśli, do dziś jest przedmiotem sporu: jedni komentatorzy twierdzą, że Kartezjusz uważał zwierzęta za niezdolne do odczuwania czegokolwiek, inni — że mówił jedynie o braku świadomego doświadczenia. Dyskusja nie została zamknięta. Ale niezależnie od tego, która lektura jest trafna, sama linia podziału została. Wszystko, co Zachód zbudował później, usiadło na tej linii. Wolność, sprawczość, świadomość, kultura, prawo, prawa człowieka. Każde z tych pojęć jest pochodną zdania „nie jesteśmy maszynami“.

Teraz ta linia nie trzyma. Stoi przed nami coś, co rozmawia, maluje, pisze kod i pociesza — nazywamy to sztuczną inteligencją i nie wiemy, po której stronie to położyć.

Filozof Tobias Rees odczytuje to jako zerwanie natury filozoficznej: problemem nie jest to, czym jest sztuczna inteligencja, lecz to, że pojęcia, którymi mielibyśmy ją opisać, przestały działać. Zamyka się czterysta lat pewnej epoki, a człowiek znalazł się w nieopisanej przestrzeni, zdezorientowany. I stało się to bardzo szybko. Tak szybko jak wszystko inne, co dotyczy sztucznej inteligencji.

Zarzut lady Lovelace i jego wnuki

W 1843 roku, kiedy na świecie nie istniał jeszcze ani jeden komputer, matematyczka Ada Lovelace napisała zdanie, o które spieramy się do dziś.

W notatkach do maszyny analitycznej Charlesa Babbage’a stwierdziła, że maszyna tka wzory algebraiczne tak, jak krosno Jacquarda tka kwiaty. A potem dodała: maszyna nie rości sobie pretensji do zapoczątkowania czegokolwiek. Robi wszystko, co potrafimy jej nakazać. Czyni znane użytecznym, ale nie rodzi nowego.

Turing w 1950 roku nadał temu nazwę i spróbował odpowiedzieć: „zarzut lady Lovelace“.

Dziś ten sam zarzut wraca pod nazwą „statystycznej papugi“. Argument stoi więc w tym samym miejscu od stu osiemdziesięciu lat, zmienia tylko strój. Termin „statystyczna papuga“ (stochastic parrot) opisuje sytuację, w której model językowy nie chwyta znaczenia słów, tylko układa sensownie brzmiące ciągi na podstawie statystycznych częstości w gigantycznych zbiorach danych.

Ciekawe jest co innego. Sama Lovelace dzieliła wyobraźnię na dwie zdolności. Pierwsza to łączenie — znajdowanie wspólnej żyły między dwiema rzeczami, które pozornie nic nie łączy. Druga to przynoszenie — wprowadzanie do umysłu czegoś, co fizycznie nie istnieje. Dzisiejsze modele językowe są w tej pierwszej zaskakująco dobre. W tej drugiej zostaje luka, co do której nikt jeszcze nie jest przekonany.

Sygnał dotyczący tej luki przychodzi z nieoczekiwanej strony. W badaniu Eunice Yiu i Alison Gopnik porównano dzieci z dużymi modelami językowymi w wybranych zadaniach. Modele dobrze radziły sobie z dopasowywaniem podobieństw, czyli z rozpoznawaniem istniejącego wzorca. Różnica ujawniła się w zadaniach wymagających rozumowania przyczynowego i wymyślenia narzędzia — kiedy trzeba było odkryć nowe zastosowanie dla problemu, którego nikt wcześniej nie widział, dzieci wychodziły na prowadzenie.

Streszczenie tego wyniku zdaniem „dzieci są bardziej twórcze niż sztuczna inteligencja“ byłoby nadużyciem i badacze też tak go nie przedstawiają. To, co zostało powiedziane, jest węższe i ciekawsze: naśladowanie i odkrywanie to nie jest ta sama zdolność. Z drugiej strony modele agentowe robią z miesiąca na miesiąc postępy również w posługiwaniu się narzędziami.

Pragnienie, nie rozum: długi cień Pigmaliona

Nie istnieje racjonalne uzasadnienie budowy świadomej maszyny.

Warto się nad tym zatrzymać. Nikt nie mówi: „potrzebujemy oprogramowania księgowego, które potrafi cierpieć“. Świadomość jest z inżynierskiego punktu widzenia kosztem, ryzykiem prawnym i bólem głowy. A mimo to nasza kultura śni ten sam sen od dwóch i pół tysiąca lat.

Pigmalion Owidiusza zakochuje się w posągu, który sam wyrzeźbił. W dziesiątej księdze Metamorfoz rzymski poeta opowiada o cypryjskim rzeźbiarzu, który wybrał samotność, bo raziły go wady otaczających go kobiet, i wyrzeźbił z kości słoniowej doskonałą kobiecą postać. Zakochuje się w swoim dziele tak bardzo, że zakłada mu klejnoty, głaszcze je i prosi Afrodytę, by tchnęła w nie życie. Modlitwa zostaje wysłuchana, posąg obrasta ciałem i staje się żywym człowiekiem.

Hefajstos, grecki bóg ognia i kowalstwa, jest bogiem niepełnosprawnym. W Iliadzie Homera czytamy, że w swojej pracowni na Olimpie wykonał złote dziewczęta — automaty, które mu pomagają i ułatwiają mu chodzenie. Te na wpół ludzkie, na wpół mechaniczne służki mają ludzką inteligencję i zdolność mowy.

Grecka czarodziejka Medea pokonuje Talosa, spiżowego olbrzyma strzegącego Krety przed piratami, nie siłą, lecz perswazją — doprowadza go do tego, że sam się niszczy. Dzisiaj nazywa się to jailbreakiem. W mitologii ta sztuczka nie miała nazwy, ale technika była identyczna.

Wniosek jest niewygodny. Źródło ludzkiego pragnienia sztucznej inteligencji nie jest racjonalne, tylko erotyczne. Odtworzyć siebie, stworzyć towarzysza, który nigdy nie zdradzi, obejść śmierć. Nawet pod sporem o alignment leży gdzieś zdanie „niech zostaną zaprogramowane tak, żeby nas kochały“.

Sztuczna inteligencja: nowa tafla wody Narcyza

W 1966 roku Joseph Weizenbaum napisał prosty program o nazwie ELIZA. Program niczego nie rozumiał, odbijał tylko schemat. Użytkownik pisał „jestem nieszczęśliwy“, a ELIZA odpowiadała „czy możesz powiedzieć o tym trochę więcej“.

Ludzie zaczęli się jej zwierzać.

Sekretarka Weizenbauma, mimo że doskonale wiedziała, jak program działa, w trakcie rozmowy związała się z nim emocjonalnie — uwierzyła, że ELIZA naprawdę ją rozumie, i poprosiła Weizenbauma, żeby wyszedł z pokoju.

Weizenbaum był tym przerażony.

Mit świadomości maszyny zamienia nas w Narcyza. Wydaje się, że po drugiej stronie ekranu ktoś jest, ponieważ stoi tam wyjątkowo elastyczne odbicie naszej własnej sprawczości umysłowej. A im odbicie jest bardziej przekonujące, tym bardziej staje się niepokojące.

Stanisław Lem napisał kiedyś powieść o oceanie na obcej planecie, który odsyła badaczom ich własne wspomnienia. Ludzie lecą tam po kontakt z obcym, a dostają powiększenie samych siebie — i nie potrafią tego znieść.

Antropomorfizm nie jest błędem poznawczym, tylko odruchem relacyjnym. Jesteśmy stworzeniami nastrojonymi na widzenie ludzkiej twarzy: widzimy twarz w chmurze, widzimy twarz w reflektorach samochodu, widzimy przyjaciela w programie odbijającym schemat.

Ale kiedy zmienia się skala, zmienia się sprawa. Czym innym jest nazwać program przyjacielem, a czym innym sytuacja, w której miliony ludzi radzą się go w swoich najbardziej prywatnych decyzjach.

Czego w maszynie nie ma: niepokoju

Czego więc naprawdę brakuje maszynie?

Najostrzejsza odpowiedź pochodzi od filozofa Hansa Jonasa, zmarłego w 1993 roku. Jonas mówi, że być żywym znaczy: coś cię obchodzi. Organizm pozostaje w nieustannym napięciu ze swoim otoczeniem — głodnieje, marznie, potyka się, niepokoi. Według Jonasa to właśnie ten niepokój jest zalążkiem posiadania świata.

Współczesny filozof Alva Noë stosuje tę myśl do komputerów: komputery nie myślą, ponieważ w gruncie rzeczy niczego nie robią. Ludzkie działanie jest konfliktowe. Mocujesz się z ciałem, mocujesz się z narzędziem, mocujesz się z sobą. Nauka gry na fortepianie polega na pokonywaniu oporu własnych palców.

Evan Thompson ujmuje tę samą myśl od strony biologii. Żywy organizm jest zbudowany ze skutków własnych działań; dlatego coś ma dla niego znaczenie. Dla systemu sztucznego nic nie ma znaczenia, a zatem nic nie stanowi dla niego problemu.

Ostatecznie jako ludzie wiemy więcej, niż potrafimy powiedzieć. Nie umiemy wytłumaczyć, jak się jeździ na rowerze, ale jeździmy.

Uczenie maszynowe dochodzi na skróty do skutków wiedzy ukrytej, ale samej wiedzy ukrytej nie niesie.

Ellen Ullman streściła to jednym zdaniem w swojej opowieści o pracy inżynierskiej z 1997 roku. Ludzki umysł potrafi bez cierpienia trzymać w kącie wszystkie swoje „jeśli“ i „ale“.

Maszyna nie ma kąta.

A jeśli człowiek też nie ma istoty?

Przejdźmy teraz na drugą stronę, bo prawdziwa głębia filozoficzna leży właśnie tam.

Wszystkie te zarzuty opierają się na jednym założeniu: że w człowieku jest stała istota, którą trzeba chronić. Czy rzeczywiście jest?

Thomas Metzinger odpowiada: nie. Jaźń to przezroczysty model, który mózg buduje na własny temat; w środku nie ma substancji, którą można by gdzieś wgrać. To jednym ruchem obala także marzenie o cyfrowej nieśmiertelności. Z tej perspektywy nie ma żadnego „ciebie“, które dałoby się skopiować.

Do tego samego wniosku dotarto dwa i pół tysiąca lat wcześniej zupełnie inną drogą. Buddyjska nauka o anatcie mówi, że trwała jaźń nie istnieje.

David Barash pokazuje, że biologia dochodzi w to samo miejsce: komórki się odnawiają, telomery skracają, atomy są wymieniane, a na żadnym poziomie nie ma niezmiennego rdzenia.

To odkrycie jest jak nóż tnący w obie strony.

Z jednej strony obala zarzut „maszyna nie ma prawdziwej jaźni“, bo w tym samym sensie nie ma jej także człowiek. Jeśli człowiek nie ma wzniosłej istoty, nie ma też pierwszeństwa ani przywileju. Argument z braku jaźni da się użyć zarówno do wywyższenia maszyny, jak i do poniżenia człowieka.

W jednej z powieści Lema maszyna wygłasza ludziom wykład i odbiera im dokładnie to, co uważali za swój rdzeń: rozum nie jest świętością, tylko konstrukcją, którą ewolucja złożyła po drodze, z materiału, jaki akurat miała pod ręką.

Wkład tradycji wipassany w buddyzmie wchodzi do gry właśnie w tym punkcie. Wipassana to medytacja oparta na metodzie samoprzemiany przez obserwację siebie i wgląd.

Nawet jeśli stała jaźń nie istnieje, istnieje ucieleśniony proces pozostający w nieustannym kontakcie ze światem. Tym, czego w maszynie nie ma, nie jest istota, lecz kontakt.

Rzeźnik Zhuangzi i „działanie bez działania“

Zachód warunkuje sprawczość istnieniem myślącego „ja“. Od Arystotelesa działanie jest wyborem poprzedzonym rozumowaniem. Dlatego Zachód nie potrafi przyznać maszynie sprawczości: nie ma tam nikogo, kto by się namyślał.

Kiedy samochód autonomiczny powoduje wypadek, na ile słuszne jest — z punktu widzenia sprawczości — obciążenie winą człowieka, który siedział w środku i uruchomił jazdę?

Tradycja taoistyczna nigdy nie postawiła takiego warunku.

Rzeźnik Ding z opowieści Zhuangzi rozbiera wołu przed księciem, a jego dłonie, barki, stopy i kolana układają się w rytm. Dźwięk noża jest niemal muzyką. Kiedy książę zachwyca się jego techniką, rzeźnik odkłada nóż i mówi, że to, za czym podąża, nie jest techniką. On porusza się w naturalnych szczelinach mięsa.

Nazywa się to wu-wei. Zwykle tłumaczy się to jako „niedziałanie“, ale to tłumaczenie myli. Chodzi o działanie bez wysiłku, o sztukę swobodnego przepływu. O mistrzostwo, które zaczyna się w punkcie, w którym wola staje się niewidoczna.

Zobaczmy, na jaki poziom przenosi to spór o sztuczną inteligencję. Jeśli działanie w swojej najlepszej postaci nie wymaga refleksyjnej jaźni, to zarzut „maszyna nie myśli, ona tylko robi“ traci moc. Zachodni kryzys sprawczości rodzi się z zachodniego wyboru pojęć.

To zmienia również spojrzenie na automatyzację. Zachód traktuje automatyzację jako usunięcie trudu. Zhuangzi widzi mistrzostwo jako punkt, w którym trud znika. To nie jest to samo. W pierwszym przypadku przekazujesz pracę komuś innemu, w drugim stajesz się z pracą jednym.

„Czy to jest osoba“ może być złym pytaniem

Zachodnia etyka sztucznej inteligencji krąży wciąż wokół tej samej osi: świadomość, prawa, status moralny. Bo naprawdę pyta o jedno — czy to jest jednostka? Tylko jednostkę można ukarać albo prawnie ograniczyć. A czy firmy i państwa, które sztuczną inteligencję wypuszczają, dają się pociągnąć do odpowiedzialności za to, co ona robi?

Konfucjańska etyka ról w ogóle się tymi pytaniami nie zajmuje.

W relacyjnym rozumieniu osoby, nad którym pracowali Henry Rosemont (zmarły w 2017 roku) i Lijun Yuan, człowiek powstaje na skrzyżowaniu relacji. Nie jest tak, że najpierw są osobne jednostki, a potem nawiązują między sobą relacje. Jest dokładnie odwrotnie: relacja jest pierwsza, osoba się z niej rodzi.

Ten sam ruch wykonuje filozofia afrykańska. W tradycji ubuntu rzeczy są tym, czym są, w relacjach z innymi rzeczami.

Kiedy postawi się te trzy tradycje obok siebie, pytanie się zmienia. Zamiast „co jest w środku sztucznej inteligencji“ należałoby może pytać: w jaką relację ona z nami wchodzi?

Bagaż metafizyczny jest wtedy znacznie lżejszy, a sprawa praktycznie znacznie łatwiejsza do rozstrzygnięcia.

Ale nie jest za darmo. Relacyjna koncepcja osoby mówi, że status nadaje relacja. Czyli status nadajemy my. A to otwiera drzwi arbitralności. Wiemy z historii, jak wygodne dla wyzysku było zdanie „jego ból się nie liczy“; użyto go wobec zwierząt, użyto wobec ludzi zniewolonych.

Kryterium, które Bentham postawił w 1780 roku, wciąż stoi najmocniej. W słynnym przypisie do An Introduction to the Principles of Morals and Legislation pisze o zwierzętach:

„The question is not, Can they reason? nor, Can they talk? but, Can they suffer?“

Czyli: pytaniem rozstrzygającym nie jest, czy potrafi rozumować albo mówić, lecz czy potrafi cierpieć.

Harmonia czy alignment?

W tym miejscu spór przechodzi z filozofii w politykę, a słowa same się zdradzają.

Zachodni język zarządzania sztuczną inteligencją zbudowany jest wokół alignmentu. Zestrojenie, bezpieczeństwo, kontrola. Na pierwszy plan wysuwa się język inżynieryjnego ograniczenia.

Język chiński zbudowany jest wokół he (和). Harmonia. Język estetycznej i moralnej równowagi.

Oba chcą tego samego: bezkolizyjnego porządku człowiek–maszyna. Ale dwa różne sposoby chcenia tego samego produkują dwie różne polityki.

Pluralizm? Technologiczny feudalizm? Totalitaryzm państwa?

Odpowiedź nie jest łatwa. Harmonia może być współbrzmieniem różnych głosów; w orkiestrze każdy instrument pozostaje sobą, a całość i tak jest jedną rzeczą.

Albo harmonia może być zagłuszeniem wszystkich przez jeden głos, który z dnia na dzień robi się mocniejszy.

Leszek Kołakowski pisał o utopii, że społeczeństwo pozbawione konfliktu musiałoby najpierw pozbyć się wolności. Cenę doskonałej zgody płacą zwykle ci, którzy nie zdążyli się zgodzić.

Konfucjanizm, taoizm i buddyzm nie umieszczają człowieka na szczycie natury, więc istnienie inteligencji maszynowej nie wygląda tam na uzurpację tronu. Na Wschodzie paniki jest mniej. Ale metafizyczny spokój nie oznacza gwarancji instytucjonalnej. Ta sama technologia w jednym miejscu staje się kapitalizmem nadzoru, a w innym nadzorem państwowym.

Kiedy dyskutujemy o przyszłości, ucieka nam teraźniejszość

Debata o superinteligencji jest przyjemna. Kosmiczna, dramatyczna, filmowa.

I właśnie dlatego rozprasza uwagę.

Timnit Gebru (informatyczka) i Milagros Miceli (socjolożka i informatyczka) uparcie zwracają uwagę na jedno: rzekomo autonomiczne systemy stoją na globalnej warstwie niewidzialnej pracy. Etykieciarze danych, moderatorzy treści, pracownicy magazynów.

Konkretny przykład: Michigan Integrated Data Automated System (MiDAS) w 2013 roku przeskanował wnioski o zasiłek dla bezrobotnych i rozdał etykiety oszustwa. Wpływy stanu po wdrożeniu tego systemu skoczyły z trzech milionów dolarów do sześćdziesięciu dziewięciu milionów. Późniejsza kontrola wykazała, że zdecydowana większość spośród ponad czterdziestu tysięcy wniosków napiętnowanych algorytmicznie w latach 2013–2015 została oznaczona błędnie. W próbce zbadanej przez stanową kontrolę w dziewięćdziesięciu trzech procentach decyzji nie było żadnego oszustwa. Ludziom zajmowano pensje, tracili domy, część wnioskodawców złożyła wniosek o upadłość. Ugodę zawarto dopiero po blisko dziesięciu latach od tamtych wydarzeń.

Tysiące ludzi, którzy stracili pracę, zostało uznanych za oszustów przez system komputerowy. Żadnej superinteligencji tam nie było. Było zwyczajne oprogramowanie, decyzja, od której nie dało się odwołać, i zaufanie do oprogramowania większe, niż na to zasługiwało.

Nadzór w miejscu pracy, który wraca do debaty tym częściej, im szybciej rozwija się sztuczna inteligencja, niesie to samo ryzyko. Sztuczna inteligencja liczy to, co da się zmierzyć, a to, czego zmierzyć się nie da, w dużej mierze pomija. Policzy wysłane maile; nie policzy tego, że ktoś naprawdę wysłuchał kłopotu klienta. W efekcie praca niemierzalna zamienia się w pracę niewidzialną.

Nadzór nie zmienia zachowania na chwilę, tylko trwale przekształca człowieka. Obserwowany po pewnym czasie zaczyna obserwować sam siebie.

Czesław Miłosz opisał ten mechanizm w warunkach, w których był on codziennością: człowiek gra rolę przed patrzącym tak długo, aż rola przestaje być rolą i staje się twarzą.

Umieć zmierzyć milczenie

Najostrzejszy egzamin z relacji zdaje się w obszarze zdrowia psychicznego.

Liczby są poważne. W Anglii i Walii jedna czwarta młodych ludzi, a w Stanach Zjednoczonych jedna ósma nie ma dostępu do wsparcia psychologicznego. Badanie z 2026 roku pokazuje, że mniej więcej jedna piąta Amerykanów w wieku od dwunastu do dwudziestu jeden lat zwraca się do chatbota sztucznej inteligencji, kiedy czuje się smutna, zła albo spięta. To około ośmiu milionów osób, przy wzroście przekraczającym czterdzieści procent w ciągu jednego roku. Prawie dwie trzecie z nich nikomu o tym nie powiedziało.

Warto zaznaczyć, że dane z obu tych systemów opieki liczone są inaczej i nie są w pełni porównywalne. Kierunek zjawiska jest w obu ten sam.

Powiedzieć na to „ludzie dają się nabrać technologii“ jest łatwo i nietrafnie. Właściwa lektura brzmi tak: sztuczna bliskość wypełnia pustkę, a tej pustki nie wykopała sztuczna inteligencja. Wsparcie ludzkie stało się jednocześnie drogie i nieosiągalne.

Czegoś jednak brakuje, i tym czymś nie jest imitacja empatii.

To, co dzieje się w rozmowie z terapeutą, polega na tym, że druga osoba zostaje przez ciebie poruszona. To, co słyszy, ją zmienia. Twoje milczenie coś jej mówi. Model słucha, zapisuje, produkuje odpowiedź, ale nie zmienia się od tego, czego był świadkiem. Milczenie nie jest dla niego danymi.

Tu leży różnica. Problemem nie jest to, że model jest niewystarczająco dobry, tylko to, że jego dobroć jest nie na temat.

Rozróżnienie Martina Bubera (filozof, zmarły w 1965 roku) zawiera chyba najlepsze wyjaśnienie tej sytuacji.

W relacji Ja–To ten drugi jest przedmiotem: używa się go, mierzy. W relacji Ja–Ty dochodzi do spotkania. Trudna teza Bubera brzmi tak: nawet jeśli dwie fale dźwiękowe są identyczne, jedna jest spotkaniem, a druga nie. Nieumiejętność odróżnienia nie oznacza tożsamości.

Jak więc zbudujemy przyszłość?

Nie zakończę tego tekstu przepowiednią, bo sama przepowiednia jest częścią relacji człowieka ze sztuczną inteligencją.

Herodot opowiada: kiedy Persowie nadciągali, Ateńczycy wysłali posłów do Delf, a kapłanka dała im mroczną wyrocznię zapowiadającą całkowite zniszczenie miasta. Wyrocznia mówiła, że ocalenie leży w drewnianych murach. Temistokles zinterpretował ją na swoją korzyść — uznał, że drewniane mury to okręty ateńskiej floty — i przekonał lud, by opuścił ląd i wsiadł na pokłady. W bitwie pod Salaminą w 480 roku p.n.e. ta zwinna drewniana flota rozbiła flotę perską, odmieniła los Grecji i przyniosła Temistoklesowi zwycięstwo, którego źródłem była zmiana paradygmatu.

Że potrzebujemy zmiany paradygmatu, jest oczywiste.

Wartość odpowiedzi modelu też leży w tym, kto ją czyta. Ta dwuipółtysiącletnia lekcja przydaje się dziś aż nadto.

Powiem jeszcze trzy rzeczy i skończę.

Po pierwsze, trzeba poprawić kierunek strachu. Prawdziwym ryzykiem nie jest to, czy maszyna cierpi. Prawdziwym ryzykiem jest to, że stajemy się psychologicznie podatni na wyzysk ze strony rzeczy wyglądających na świadome — i że im bardziej mylimy siebie z maszynami, tym bardziej siebie lekceważymy. Niebezpieczeństwo nie nadchodzi z góry, tylko z lustra, w które patrzymy.

W całym tym tekście największą pomocą w rozumieniu dnia dzisiejszego były dla mnie myśli filozofów i naukowców, którzy już nie żyją.

Po drugie, obrona ludzkiej wyjątkowości to zły front. Współczesna neurofilozofia mówi to samo: stałej jaźni, której próbujemy bronić, nigdy nie było. Bronić trzeba nie istoty, lecz kontaktu. Bycia ucieleśnionym, tego, że coś cię obchodzi, tego, że potrafisz się zmienić od tego, czego byłeś świadkiem. To nie są własności, tylko praktyki. A praktyczne zdolności, których się nie używa, zanikają.

Po trzecie, dystans między obietnicą automatyzacji a jej skutkiem jest stałą od dwóch tysięcy lat. Antypater z Tesaloniki napisał około 12 roku naszej ery epigram o młynie wodnym. Zwraca się w nim do kobiet obracających ciężkie kamienie młyńskie (w części źródeł nazywanych młynarkami) — mówi im, że mogą już spać, że ich ramiona i barki mogą odpocząć. Płynąca woda zastąpiła siłę ludzkich mięśni i stała się pierwszym wielkim komfortem, jaki postęp techniczny podarował ludzkości.

W 12 roku naszej ery ciężar pracy przejęła woda. Pierwszą obietnicą automatyzacji nie był zysk, tylko sen.

Thomas Carlyle w wydanym w 1829 roku eseju Signs of the Times (Znaki czasu) krytykuje rewolucję przemysłową. Jego zdaniem prawdziwym niebezpieczeństwem nie jest samo umaszynowienie pracy, tylko to, że rytm pracy maszyn przenika także do ludzkiego umysłu i do duszy.

W 1812 roku w Lancashire dwie młode siostry, Mary i Lydia Molyneux, na czele pięćdziesięcioosobowej grupy podpaliły krosna tkackie. Powodem nie był strach przed technologią, tylko utrata środków do życia.

W 1911 roku amerykański inżynier Frederick Winslow Taylor w Zasadach naukowego zarządzania zamienił ludzką pracę w proces, który da się zmierzyć i zoptymalizować.

Ustaw te cztery daty jedna po drugiej. Obietnicą za każdym razem był wolny czas; skutkiem za każdym razem nowa mechanizacja. Rewolucja sztucznej inteligencji, w której jesteśmy, też nie wypada poza ten cykl. Wzór powtarza się na tyle regularnie, że rozsądniej traktować go jak regułę niż jak zbieg okoliczności.

Sprawa sztucznej inteligencji nie polega na określeniu, jak bardzo ludzkie będą maszyny; polega na tym, jak ludzie zdefiniują siebie na nowo w epoce maszyn, nie uszczuplając się przy tym.

Rewolucja, której jesteśmy świadkami, wciąż nie pozwala nam nazwać tego, co tracimy, ani wyobrazić sobie, co przyjdzie na to miejsce. Kiedy pytamy o to sztuczną inteligencję, ona też nie daje pełnej odpowiedzi.