Naukowcy są przerażeni postępami w rozwoju sztucznej inteligencji

Kategorie: 

Źródło: 123rf.com

Czy człowiek jest z natury autodestruktywny? Jeśli spojrzeć na historię, odpowiedź na to pytanie uzyskujemy niemal natychmiast - ludzkość ma za sobą dwie wojny światowe i z biegiem lat coraz bardziej traci szacunek do życia. Nauka, która powinna służyć przede wszystkim poprawie naszego dobrobytu, służy również do budowy broni masowego rażenia. Broń atomowa, biologiczna i chemiczna już były wykorzystywane przeciwko człowiekowi. Teraz nadchodzi era sztucznej inteligencji.

 

Człowiek stworzył maszyny, komputery i sterujące nimi oprogramowania, aby ułatwić codzienne życie. W niezwykle krótkim czasie nasza cywilizacja wręcz uzależniła się od komputerów - posiadanie telewizora, smartfona, komputera i internetu stało się wręcz standardem w każdym domu. Wiele korporacji dosłownie nie mogłoby istnieć, gdyby nie cyfryzacja.

 

Sztuczna inteligencja odgrywa istotną i coraz większą rolę w rozwoju cywilizacji. Algorytmy stosowane są zarówno w wyszukiwarkach internetowych, jak i w bankowości. Co ciekawe, naukowcy sami teraz przyznają, że rozwój AI wszedł na zaskakująco wysoki poziom. Prof. Stuart Russell, założyciel Center for Human-Compatible Artificial Intelligence na Uniwersytecie Kalifornijskim w Berkeley powiedział, że eksperci są wręcz przerażeni sukcesem, jaki udało się osiągnąć na tym polu.

Jego zdaniem większość ekspertów wierzy, że maszyny bardziej inteligentne od ludzi powstaną jeszcze w tym stuleciu, a systemy AI powinny być stosowane z większą ostrożnością. Dlatego potrzebne są międzynarodowe traktaty regulujące rozwój technologii. Zarówno sztuczna inteligencja, jak i sami naukowcy powinni być bardziej kontrolowani.

 

Prof. Stuart Russell przedstawił przykład wykorzystania sztucznej inteligencji, który teoretycznie mógłby zakończyć się tragedią. Gdyby polecono algorytmom jak najszybsze opracowanie leku na raka, mogłyby celowo wywołać nowotwory wśród całej ludzkiej populacji, aby przeprowadzać miliony eksperymentów jednocześnie. Z pewnością byłoby to bardzo skuteczne rozwiązanie z punktu widzena nauki, lecz doprowadziłoby do śmierci milionów ludzi w bardzo krótkim czasie. Chodzi również o to, że naukowcy muszą wcześniej przekazać konkretne instrukcje sztucznej inteligencji. W tym przypadku AI miałaby m.in. zakaz wykorzystywania całej ludzkiej populacji jako królików doświadczalnych.

 

Eksperci uważają, że algorytmy nie muszą być bardziej inteligentne od człowieka we wszystkich kwestiach, aby stanowić dla nas zagrożenie. Prowadzone współcześnie badania nad AI mogą przypominać początki badań nad energią atomową - zaczęło się od poznawania fizyki, a skończyło na produkcji bomb atomowych. Bez wprowadzenia odpowiednich traktatów, sztuczna inteligencja może się stać kolejną bronią masowego rażenia.

 

Ocena: 

4
Średnio: 4 (1 vote)
Opublikował: John Moll
Portret użytkownika John Moll

Redaktor współpracujący z portalem zmianynaziemi.pl niemal od samego początku jego istnienia. Specjalizuje się w wiadomościach naukowych oraz w problematyce Bliskiego Wschodu


Komentarze

Portret użytkownika Quark

Naukowcy są "przerażeni" ??

Naukowcy są "przerażeni" ?? Chyba raczej jakieś oszołomy "bogobojne".. Po pierwsze sztuczna inteligencja nie istnieje bo nikomu nie udało się stworzyć sztucznej świadomości a bez niej nie ma mowy o inteligencji a jedynie o zaawansowanym programie komputerowym . Bo istota inteligentna może wykreować coś sama z siebie a program jedynie realizuje dyrektywy. Po drugie to do czego ów program będzie zdolny zależy wyłącznie od intencji jej programistów , którzy równie dobrze mogli by zaprogramować SI jako wzór cnót wszelakich i moralności niedoścignionej - nikt im tego nie broni . Zwykły program szachowy jest znacznie bardziej "inteligentny" od pospolitego człowieka bo nigdy się nie pomyli , o niczym nie zapomni i niczego nie pominie podejmując najbardziej trafne decyzje w grze wygrywając z człowiekiem , ale nadal jest to tylko program . Nie da się natomiast zawrzeć w programie żadnych uczuć wyższych , jak miłość , współczucie , troska - program nie będzie też nigdy miał wyobraźni czy intuicji bo to wyłączne domeny świadomego umysłu. Podsumowując nawet najbardziej zaawansowany program komputerowy nie myśli - realizując jedynie komendy , podprogramy , procedury , dyrektywy itp. Robotyczne drony bojowe jak najbardziej można uznać za twory niebezpieczne gdyż będąc automicznymi otrzymują władzę ! - pozostając bezdusznymi maszynami. 

Portret użytkownika Plićka Kluśny

Proces wymierania dotyczy

Proces wymierania dotyczy każdego żywego gatunku a nawet nieżywego: gwiazdy żyjące miliardy lat też czeka koniec. Człowiek (homo suicidium) będzie chyba gatunkiem żyjącym na Ziemi najkrócej...

Portret użytkownika LordOfTheBots

Problemem nie jest SI bo to

Problemem nie jest SI bo to nadal tylko przerośnięty kalkulator (tu odsyłam do budowy i zasady działania perceptronu oraz sieci neuronowych), który bez "napasienia" danymi nic nie wypluje, lecz ludzie zlecający stworzenie określonych algorytmów. Aby komputery "zaleciły" przetestowanie czegokolwiek na całej ludzkiej populacji ktoś wcześniej musi wprowadzić im coś takiego jako jeden z parametrów.

Reasumując→za powstaniem ewentualnego terminatora nie maszyny stać będą, bo te są całkiem bezduszne i bezmyślne, lecz zdeprawowani (nie)ludzie.

Portret użytkownika MPas

Sztuczna inteligencja jest

Sztuczna inteligencja jest tak rozwinięta, że występuje w formie nanotechnologii, można ją np wstrzyknąć komuś do mózgu i pomóc w walce z paraliżem. Poza tym takie nanochipy z AI mogą uratować świat albo go zniszczyć. Obstawiał bym na to drugie. Chyba właśnie teraz takie rzeczy się dzieją. Elo

Strony

Skomentuj