Niepewność bywa czasem gorsza niż brak uzbrojonej straży.

W podobny sposób ja mogę powiedzieć, że w przyszłości będzie istniało mnóstwo rodzajów pracy twórczej, skoro roboty wykonywać będą żmudne zajęcia, a technika nadal będzie się rozwijać. Coraz więcej ludzi zajmować się będzie programowaniem komputerów, opracowywaniem nowych rodzajów programów edukacyjnych do maszyn uczących. Coraz więcej ludzi będzie się zajmować badaniami naukowymi i kosmicznymi nowego gatunku, technologiami jeszcze nie narodzonymi. Będzie też więcej nauczycieli, aktorów, kierowników i tak dalej. Nie będzie z tym kłopotu. Ale jak mamy przejść tam od stanu dzisiejszego? Roboty, które nadejdą, zastąpią ludzi, ale ci nie staną się automatycznie twórczy. Jasna sprawa. Będzie z tym kłopot. Wszelkie doświadczenia ludzkie pokazują, że choć postęp techniczny może niszczyć miejsca pracy, to również tworzy nowe zajęcia i, w długim okresie, nowo powstałe miejsca pracy są dużo liczniejsze niż te usunięte. Poszczególni ludzie nie zawsze przecież mogą czekać przez ten długi okres. W niedalekiej przyszłości, gdy komputery i roboty przejmą wykonywanie wielu zajęć, niezbędne stanie się wdrożenie programów przygotowawczych i edukacyjnych. Może być także konieczne ustanowienie projektów robót publicznych. Krótko mówiąc, nastąpi okres przejściowy, podczas którego, w interesie równowagi społecznej, ci, którzy znajdą się bez możliwości zarabiania na życie, mimo wszystko uzyskają pomoc, by mogli znaleźć sposób na życie wartościowe i godne. Będzie to kosztowne, a trudności okresu przejściowego muszą do pewnego stopnia zostać rozłożone na całe społeczeństwo. Nikt nie może oczekiwać, że nie poniesie żadnych ofiar, gdy wiele milionów ludzi cierpieć będzie z powodu zaburzenia porządku. W końcu jednak takie poświęcenie będzie korzystne nawet dla poświęcających się. Czemu? Zawzięta i nieszczęśliwa klasa niższa gotowa jest do gwałtownych przewrotów. Poświęcenia będą chwilowe, zwłaszcza jeśli rządy przeprowadzą ustawy mądre i humanitarne. Na koniec, być może na przestrzeni jednego pokolenia, nowe sposoby kształcenia sprawią, że ludzie staną się rzeczywiście przygotowani do tworzenia, że nie tylko będą potrafili skorzystać z nowoczesnej techniki, ale w dodatku uczynią to chętnie. Co jednak z przyszłością odleglejszą niż następne stulecie? Komputery i roboty z pewnością będą stawały się coraz bardziej skomplikowane i wszechstronne, coraz bliższe uchwycenia ludzkiego sposobu myślenia. Czy nie mogą okazać się więc zdolne do wykonywania coraz to większej ilości zajęć, czy nie rozwiną swej własnej twórczości, nie wypchną ludzi z ostatniego kąta, czyniąc nas zbędnymi? Mogłoby się tak zdarzyć, jeśli ludzie nie będą umieli dostrzec tego niebezpieczeństwa i nie okażą się zdolni do powstrzymania się przed stworzeniem swych własnych następców. Nie wydaje mi się to prawdopodobne. Potrafimy być świadomi tego niebezpieczeństwa. Co prawda ludzie dopuścili do wyprodukowania broni atomowej, która na swój sposób także może uczynić ludzi zbędnymi. Stało się to jednak pod naciskiem rywalizacji międzynarodowej i z niezbyt dokładnym wyczuciem prawdziwego zagrożenia. Z każdym rokiem, w miarę jak rośnie nasze zrozumienie konsekwencji użycia broni atomowej, narasta wobec niej sprzeciw. Dwadzieścia lat temu światowa opinia publiczna wymusiła zaprzestanie większości prób atomowych w atmosferze, a w roku 1987 po raz pierwszy zlikwidowano część broni jądrowej. Sądzę, że zagrożenie ze strony robotów, które byłyby zbyt „ludzkie”, zrodziłoby obawy jeszcze głębsze i bardziej osobiste niż stało się to w przypadku broni jądrowej. Zagrożenie zostałoby szybko rozpoznane, a sprzeciwy byłyby szybkie i głośne. W istocie niebezpieczeństwo polega na tym, że ludzie będą reagować przesadnie i domagać się zakończenia rozwoju robotów już wtedy, gdy badania nie będą przedstawiały żadnej realnej groźby. Poza tym, myśląc, że komputery i roboty zastąpią łudzi i wyeliminują nas, czynimy założenie, że istnieje jeden tylko rodzaj inteligencji. W chwili obecnej komputery są o wiele inteligentniejsze niż ludzie, jeśli inteligencję mierzyć zdolnością rozwiązywania problemów matematycznych. Najtańszy kalkulator kieszonkowy przerasta nawet bardzo bystrego człowieka w umiejętności mnożenia i dzielenia. Inteligencji jednak nie mierzy się w ten sposób. Jest ona czymś znacznie subtelniejszym i niełatwo ją zdefiniować. Tendencje w rozwoju robotów i komputerów zmierzać będą w stronę ulepszenia ich odmiany inteligencji, nie zaś w kierunku naginania jej do naszej odmiany. Podobnie jest z samochodem, który próbujemy uczynić coraz lepszym pojazdem kołowym. Nie usiłujemy zbudować samochodu poruszającego się na nogach