Ludzka cywilizacja walcząca w bitwie z bezdusznymi maszynami. To popularna i bardzo satysfakcjonująca przemysł filmowy historia, która od dawna doskonale działa i jest wciąż odgrzewana. „Terminator" i "Matrix" przewidywały upadek naszego gatunku w pojedynku ze sztuczną inteligencją, która otrzymała zbyt dużą swobodę. Czy nie zbliżamy się do decydującego punktu w historii informatyki i robotyki?

Biorąc pod uwagę tempo rozwoju technologicznego, jeśli weźmiemy pod uwagę scenariusz "Buntu Robotów” możemy uznać jednoczesnie za zbyt mało realny lub całkiem proroczy. Prognozy na przyszłość naszej planety mogą być diametralnie różne. Wszystko zależy od tego, kogo zapytasz. Niewątpliwie wzrastająca ilość urzadzeń pracujacych w sieciach IP zmienia sprawy na tyle poważnie, że można już sobie wyobrazić jakieś boty, które uczą się w formie sieci neuronowych składających się w z wielu pracujących w chmurze danych stacji roboczych.

Większość uczonych jest skłonna myśleć, że relacje między człowiekiem i maszyną w przyszłości będą prawdopodobnie raczej harmonijne niż wrogie. A jednak, prawdopodobieństwo scenariusza, w którym niebiologiczne istoty będą nas niszczyć, nadal pozostaje wysokie. Niekiedy wątpliwości mają też sami naukowcy.

"Istniejąca technologia może okazać się zdolna do zbudowania systemu, który mógłby zniszczyć całą Ziemię, umyślnie lub nieumyślnie," - powiedział Shlomo Silberstein profesor Informatyki Uniwersytetu Massachusetts.

Początkowo należy rozważyć optymistyczną opcję, maszyny zawsze będą nam służyć i nic więcej. Mamy jedną opcję, odmowa tworzenie systemów, które mogą być niebezpieczne, jeśli wymkną się spod kontroli. Na przykład, teraz może pojawić się automatyczny system obronny Skynet, który w filmie "Terminator" postanowił zniszczyć całą ludzkość.

Dlaczego taki system nie został jeszcze wybudowany? Podstawowa przyczyna jest taka, że mocarstwa atomowe, takie jak Stany Zjednoczone nie chcą powierzać komputerom operowania głowicami jądrowymi. Co zrobić, jeśli system zostanie zainfekowany wirusem? Nikt nie chce tego ryzyka. Liczba systemów zrobotyzowanych, które mogą rzeczywiście operować według własnego uznania, rośnie każdego dnia.

Tak, więc nadal jesteśmy daleko od Skynet, który w "Terminatorze" otrzymał kontrolę nad całym arsenałem jądrowym Ameryki. W "Terminatorze" wojsko stworzyło program, aby wyeliminować ryzyko błędu ludzkiego, co mogłoby skutkować nie wystarczająco szybką reakcja na ataki na Stany Zjednoczone.

Kiedy ludzie wreszcie zidentyfikowali, że prawdziwe niebezpieczeństwo pochodzi od wszechwładnego Skynetu, starają się zatrzymać system. Ten z kolei interpretuje interwencję, jako zagrożenie dla swojej egzystencji, prowokując wojnę jądrową. Miliony ludzi umierają, a Skynet zostanie organizatorem budowy fabryk do produkcji armii robotów potrzebnych w celu pozbycia się resztek ludzkości.

W rzeczywistym świecie, proste środki bezpieczeństwa mogą zapobiec powstawaniu zagrożenia dla ludzi, praktycznie w każdym przypadku, ale warunkuje to też czy twórcy algorytmów przewidzieli jakąś granicę. Ponadto, zdolność do podejmowania ważnych strategiczne decyzji nie powinna zostać ustalona na poziomie jednego tylko z systemów.

Istnieje zbyt wiele scenariuszy, które mogą doprowadzić do apokalipsy, bunt maszyn jest jednym z nich, ale przynajmniej na razie nie musimy się obawiać zagrożeń z tej strony. Jeszcze nie.

Źródło: http://mixednews.ru/archives/15125