Czy człowiek jest z natury autodestruktywny? Jeśli spojrzeć na historię, odpowiedź na to pytanie uzyskujemy niemal natychmiast - ludzkość ma za sobą dwie wojny światowe i z biegiem lat coraz bardziej traci szacunek do życia. Nauka, która powinna służyć przede wszystkim poprawie naszego dobrobytu, służy również do budowy broni masowego rażenia. Broń atomowa, biologiczna i chemiczna już były wykorzystywane przeciwko człowiekowi. Teraz nadchodzi era sztucznej inteligencji.

Człowiek stworzył maszyny, komputery i sterujące nimi oprogramowania, aby ułatwić codzienne życie. W niezwykle krótkim czasie nasza cywilizacja wręcz uzależniła się od komputerów - posiadanie telewizora, smartfona, komputera i internetu stało się wręcz standardem w każdym domu. Wiele korporacji dosłownie nie mogłoby istnieć, gdyby nie cyfryzacja.

Sztuczna inteligencja odgrywa istotną i coraz większą rolę w rozwoju cywilizacji. Algorytmy stosowane są zarówno w wyszukiwarkach internetowych, jak i w bankowości. Co ciekawe, naukowcy sami teraz przyznają, że rozwój AI wszedł na zaskakująco wysoki poziom. Prof. Stuart Russell, założyciel Center for Human-Compatible Artificial Intelligence na Uniwersytecie Kalifornijskim w Berkeley powiedział, że eksperci są wręcz przerażeni sukcesem, jaki udało się osiągnąć na tym polu.

Jego zdaniem większość ekspertów wierzy, że maszyny bardziej inteligentne od ludzi powstaną jeszcze w tym stuleciu, a systemy AI powinny być stosowane z większą ostrożnością. Dlatego potrzebne są międzynarodowe traktaty regulujące rozwój technologii. Zarówno sztuczna inteligencja, jak i sami naukowcy powinni być bardziej kontrolowani.

Prof. Stuart Russell przedstawił przykład wykorzystania sztucznej inteligencji, który teoretycznie mógłby zakończyć się tragedią. Gdyby polecono algorytmom jak najszybsze opracowanie leku na raka, mogłyby celowo wywołać nowotwory wśród całej ludzkiej populacji, aby przeprowadzać miliony eksperymentów jednocześnie. Z pewnością byłoby to bardzo skuteczne rozwiązanie z punktu widzena nauki, lecz doprowadziłoby do śmierci milionów ludzi w bardzo krótkim czasie. Chodzi również o to, że naukowcy muszą wcześniej przekazać konkretne instrukcje sztucznej inteligencji. W tym przypadku AI miałaby m.in. zakaz wykorzystywania całej ludzkiej populacji jako królików doświadczalnych.

Eksperci uważają, że algorytmy nie muszą być bardziej inteligentne od człowieka we wszystkich kwestiach, aby stanowić dla nas zagrożenie. Prowadzone współcześnie badania nad AI mogą przypominać początki badań nad energią atomową - zaczęło się od poznawania fizyki, a skończyło na produkcji bomb atomowych. Bez wprowadzenia odpowiednich traktatów, sztuczna inteligencja może się stać kolejną bronią masowego rażenia.