W obawie przed buntem maszyn, rozpoczęto prace nad wyłącznikiem sztucznej inteligencji

Kategorie: 

Źródło: Flickr/Laurie Lee/CC BY-NC 2.0
Pracownicy należącej do Google firmy DeepMind oraz uczeni z Instytutu Przyszłości Ludzkości chcą opracować skuteczne rozwiązania, które w razie niebezpiecznej sytuacji pozwolą nam po prostu wyłączyć zagrażające naszej egzystencji roboty.

 

Eksperci coraz częściej ostrzegają przed inteligentnymi uzbrojonymi maszynami. Co prawda sztuczna inteligencja ma pojawiać się między innymi w sektorze przemysłowym, ale już dziś znajduje swoje zastosowanie także na polu walki. Jednak dziś, każda maszyna zdolna do zabijania jest jeszcze w pewnym stopniu kontrolowana przez człowieka - decyduje on między innymi kiedy robot ma wyeliminować namierzony cel.

 

Gdy dojdzie do pełnej autonomizacji systemów uzbrojenia, ludzie będą mogli co najwyżej wydawać polecenia i nie będą już mieć wpływu na przebieg misji. Pojawia się więc poważne pytanie - co jeśli autonomiczny robot zostanie np. zhakowany i w pewnym momencie obróci się przeciwko swoim dowódcom? Taka maszyna, zanim zostanie unieszkodliwiona, może wyrządzić ogromne szkody.

 

Inteligentne systemy mają przejawiać się inteligencją na odpowiednim poziomie, ale zbyt inteligentna jednostka z czasem może być postrzegana przez rządy jako zagrożenie - podobnie jest przecież z ludźmi których praktycznie cały czas ogłupia się na wiele różnych sposobów. Roboty wojskowe mają być inteligentne ale tylko do pewnego stopnia, tak aby posłusznie wykonywały wszystkie rozkazy.

 

Aby zapobiec niechcianym incydentom, Google chce opracować wyłącznik (tzw. kill switch) który w razie potrzeby powstrzyma sztuczną inteligencję zanim ta wymknie się spod ludzkiej kontroli i zacznie np. strzelać do przypadkowych ludzi albo zechce wyeliminować swoich podwładnych. Jednak wraz z rozwojem SI trudno powiedzieć czy w przyszłości jakiekolwiek zabezpieczenia ochroną nas przed ewentualnym buntem maszyn.

 

Wiadomość pochodzi z portalu tylkonauka.pl

 

Ocena: 

Nie ma jeszcze ocen
Opublikował: John Moll
Portret użytkownika John Moll

Redaktor współpracujący z portalem zmianynaziemi.pl niemal od samego początku jego istnienia. Specjalizuje się w wiadomościach naukowych oraz w problematyce Bliskiego Wschodu



Komentarze

Portret użytkownika kit

U ludzi inteligencja rozwija

U ludzi inteligencja rozwija się latami albo nawet pokoleniami. Takie coś jest łatwo zaobserwować, wymyślić przeciwdziałanie i spokojnie je wdrożyć. W razie kłopotów - inteligentniejszych zdąży się zabić.

U maszyn jest nadzieja, że może być inaczej: w ciągu dnia czy godziny ich inteligencja może przekroczyć percepcję człowieka tak, że będzie mu się wyadwało, że jest głupia, podczas gdy ona będzie nim manipulowała.
I jest to naturalnym etapem ewolucji ( bo człowieka natura wykształciła tylko po to, żeby jej zbudował maszyny).

Portret użytkownika dziadek ze wsi

aha, rozumiem czyli to są

aha, rozumiem czyli to są lęki dzieci z pokolenia lat 90' wychowanych na Super Nintendo - bo to one boją się techno-terminatora

dzieci z lat 80' mają lęki przed ufo-kosmitami - to są wychowankowie Spectrum Atari Commodore 

a mnie strach ogarnia jak tylko pomyślę o pokoleniu milenijnych dzieci 00' wychowanych po WTC 9/11 ... one strach mają już wszczepiany mechanicznie tuż po porodzie (nowe GMO szczepionki)

Skomentuj