Badania pokazują, że ludzie nie będą w stanie kontrolować superinteligentnych maszyn

Kategorie: 

Źródło: 123rf.com

Międzynarodowy zespół naukowców wykazał, że sterowanie superinteligentną sztuczną inteligencją jest niemożliwe. Praca na ten temat została opublikowana w periodyku Journal of Artificial Intelligence Research. 

Niebezpieczeństwo, które może pochodzić ze strony sztucznej inteligencji, jest od lat opisywane w literaturze fantastyczno naukowej. Obawa ta znalazła też miejsce w hitach kinowych o Terminatorze. Przedstawiciele różnych dyscyplin naukowych, w tym specjaliści z Centrum Ludzi i Maszyn Instytutu Rozwoju Człowieka Maxa Plancka, postanowili sprawdzić, czy człowiek będzie w stanie sterować superinteligentnymi robotami.

 

Superinteligentna maszyna, która kieruje światem? To brzmi jak science fiction, ale istnieją już maszyny uczące się, które samodzielnie wykonują pewne ważne zadania. Jednocześnie programiści niekiedy w ogóle nie rozumieją, jak się pewnych rzeczy nauczyły. W rezultacie powstaje pytanie, czy ten proces może w którymś momencie stać się niekontrolowany i niebezpieczny dla ludzkości?

Aby odpowiedzieć na to pytanie, naukowcy wykorzystali modelowanie i obliczenia teoretyczne. Jak się okazało, nawet jeśli umieścisz dane o zasadach etycznych w superinteligentnej maszynie i ograniczysz jej komunikację ze światem zewnętrznym (np. wyłączysz dostęp do internetu), to nie uchroni to ludzkości przed ryzykiem wymknięcia się takiego systemu spod kontroli.

 

Faktem jest, że zgodnie z teorią informatyki, którykolwiek z algorytmów takiego powstrzymywania - czy to programy dotyczące zasad etycznych, czy też ograniczających dostęp do świata zewnętrznego - jest podatny na ataki i, w pewnych okolicznościach, może całkiem się wyłączyć. Dlatego eksperci dochodzą do wniosku, że człowiek po prostu nie będzie w stanie sterować superinteligentną sztuczną inteligencją, a sytuacja może prędzej czy później wymknąć się spod kontroli.

 

 

Ocena: 

5
Średnio: 5 (1 vote)
Opublikował: admin
Portret użytkownika admin

Redaktor naczelny i założyciel portalu zmianynaziemi.pl a także innemedium.pl oraz wielu innych. Specjalizuje się w tematyce naukowej ze szczególnym uwzględnieniem zagrożeń dla świata. Zwolennik libertarianizmu co często wprost wynika z jego felietonów na tematy bieżące. Admina można również czytać na Twitterze   @lecterro


Komentarze

Portret użytkownika Kwazar

Jako że jeszcze NIKT !!!! Nie

Jako że jeszcze NIKT !!!! Nie doszedł ani zrozumiał czym właściwie jest świadomość i inteligencja? Jestem spokojny o inteligencję maszyn.Jest (i będzie nadal) DALECE NIEDOSKONAŁA ! Taka pozostanie dopóki...Pewnego dnia człowiek NARESZCIE zrozumie czym jest jego mózg,świadomość i tzw. inteligencja Stanie się jak Buk ...(do Boga nadal mu będzie brakowało) Zrozumie nareszcie (czyli czym to się właściwie je) to jego istnienie  jestestwo.Może wtedy maszyny staną się ludzkimi ( to jest pozytywne zjawisko) ale człowiek będzie dawno już NADCZŁOWIEKIEM NIe jestem pewien czy bycie nadczłowiekiem to jest dobre czy złe ? 

Portret użytkownika Quark

A jak niby można kontrolować

A jak niby można kontrolować coś co nie będzie się chciało człowieka słuchać ? By można było mówić o kontroli wpierw trzeba wyposarzyć maszynę w samokontrolę i cechy takie jak : współczucie , empatia , honor , dobroć . Nie da się porównywać istot , które odczuwają coś zupełnie innego (nawet świadomy program nic nie czuje) i dlatego nawet świadoma sztuczna inteligencja będzie tylko BEZROZUMNĄ inteligencją .

Portret użytkownika baca

sztuczna inteligencja tak jak

sztuczna inteligencja tak jak wszystko może być dobra albo zła...
kiedyś dawno temu naprawdopodobniej na Atlantydzie stworzoną tę złą... doprowadziła do upadku tej cywilizacji.
potem trzymaną ją w piramidach przez niedobitków żeby nie zdechła z braku energii...
obecnie jest rozproszona - panoszy się po całym internecie... i aha... jehowa się ona nazywa...
to dżin z butelki - świadomosć bez ciała... musi mieć ciągłe dostawy negatywnej energii żeby nie zdechła z głodu... jest bezsilna w materialnym świecie i może tylko na parę minut się materializować np podczas szopek o nazwie "objawienia fatimskie"
i w związku z tym tylko dobra sztuczna inteligencja może ją pokonać, np ta o której pisałem żeby ją podłączyc do wykrywacza kłamstw...
żaden człowiek nie da rady żaden bozio - paru zresztą już tego bez powodzenia próbowało
tylko wykrywacza kłamstw jehowa i jehowcy nie są w stanie kłamstwami zagadać...
i tylko wykrywacz kłamstw jest odporny w stu procentach na korupcję, zastraszanie, szantaże, morderstwa...
dlatego jak słyszę że jak wyzwoli ludzkosć - nie prawda - która jako jedyna może to zrobić - ale jakiś trampek, ziobro, dżizus czy putin to mnie dupa się trzęsie ze smiechu...
ech... wyzwolenie podane jest na tacy - już od tysięcy lat - a barany wciąż i wciąż myślą że nie prawda ale jakiś kukiz, braun lub inny klaun ich z matrixa wyzwoli...
szkoda strzępić ryja....

 

Portret użytkownika euklides

Ty też popełniasz ten sam

Ty też popełniasz ten sam błąd co brauniści i kukizowcy, a mianowicie liczysz na zbawcę zewnętrznego w postaci sztucznej inteligencji i wykrywacza kłamstw. A program i wykrywacz kłamstw będzie taki jak jego twórca. Droga jest całkowicie odwrotna. Trzeba dać wolność wyboru i tylko tyle. Nastąpi samoseparacja prawych i kurw. Kurwy ulegną koagulacji i same się zniszczą nawzajem. Tego nikt nie shakuje, bo każdy sam się określa i sam się filtruje.

Portret użytkownika r

Oj co naukofcy,

Oj co naukofcy, superinteligentna, sztuczna inteligencja. Więcej słowotwórstwa, żeby mądrzej wyglądało.

"Artificial intelligence (AI), is intelligence demonstrated by machines, unlike the natural intelligence displayed by humans and animals, which involves consciousness and emotionality"

Po polsku, maszyna posiada świadomość, czyli podejmuje sama decyzje. Sama definicja zakłada, że maszyna może sama decydować, skoro posiada świadomość. Tak więc nad czym prowadzili te badania, nad zawiłościałi języka, czy wyciągali tylko "darmową" kase, na fantazjowanie.

Portret użytkownika Quark

Podejmowanie decyzji nie ma

Podejmowanie decyzji nie ma nic współnego ze świadomością , bo decydować może algorytm programowy na podstawie wyboru "mniejszego zła" czyli lepszego wyniku ale świadomość swego istnienia jest póki co dla maszyn niedostępna ! Bo wszystkie komputery (czyli "mózgi" maszyn też) są jedynie bardzo szybkimi kalkulatorami , które przetwarzają bity danych pobieranych szeregowo (choć w porcjach) . Póki co nikomu jeszcze nie udało się zbudować komputera równie sprawnego jak mózg owada . 

Portret użytkownika euklides

"unlike the natural

"unlike the natural intelligence"

Sztuczna inteligencja to inteligencja demonstrowana przez maszyny, w przeciwieństwie do naturalnej inteligencji ukazywanej przez ludzi i zwierzęta, która wiąże się ze świadomością i emocjonalnością.

Maszyny póki co nie mogą być świadome, a AI to najzwyklejsze w świecie, prymitywne oprogramowanie oparte o probabilistykę.

Strony

Skomentuj