Nadchodzący koniec ludzkości? Naukowiec ostrzega o zagrożeniu ze strony superinteligencji AI w ciągu 5 lat

Kategorie: 

Źródło: ZmianynaZiemi

W obliczu szybko rozwijających się technologii AI, naukowcy jak Eliezer Yudkowsky alarmują o potencjalnych zagrożeniach, które mogą wynikać z braku kontroli nad superinteligencjami. Według Yudkowsky'ego, który jest badaczem w Machine Intelligence Research Institute, możemy mieć tylko pięć lat na zapobieżenie scenariuszom, w których niekontrolowana AI prowadzi do katastrofy na skalę globalną.

 

Zawrotne tempo, z jakim ta nowa technologia postępuje, sprawiło, że niektórzy eksperci w tej dziedzinie zaczynają się niepokoić, a przewidywania o ponurej i dystopijnej przyszłości naszego gatunku spełniają się szybciej, niż się spodziewano. Eliezer Yudkowsky, amerykański badacz sztucznej inteligencji i pisarz specjalizujący się w teorii decyzji i etyce, jest powszechnie znany z popularyzowania idei przyjaznej sztucznej inteligencji (AI), w tym koncepcji, że może nie być "alarmu", który poinformowałby nas, kiedy przestanie być ona przyjazna.

 

Jego prace na temat możliwości niekontrolowanego wybuchu AI wpłynęły na książkę "Superinteligencja: Ścieżki, niebezpieczeństwa, strategie" filozofa Nicka Bostroma, opublikowaną w 2014 roku. Teraz, w rozmowie z brytyjskim medium "The Guardian", Yudkowsky przewiduje, że brak kontroli może nastąpić szybciej, niż wielu sądzi.

 

Trudność polega na tym, że ludzie nie zdają sobie sprawy, że mamy niewielkie szanse na przetrwanie ludzkości. Jego zdaniem jeśli by przypisać prawdopodobieństwa, to nasz obecny pozostały czas to raczej pięć lat, a nie pięćdziesiąt. Może to być dwa lata, może być dziesięć. A przez "pozostały czas" Yudkowsky ma na myśli czas, jaki mamy do końca, zanim stanąrzymy w obliczu końca wszystkiego spowodowanego przez maszyny, w scenariuszu, który mógłby się wahać od stylu "Terminatora" (wojna spowodowana lub napędzana przez AI) do "Matrixa" (cywilizacja zależna od AI, która zachowuje się jak Bóg).

 

Próbując wyrwać ludzkość z jej obojętności w tej sprawie, Yudkowsky opublikował artykuł w "Time" wiosną zeszłego roku, w którym posunął się tak daleko, że zasugerował, jako ostatnią alternatywę przetrwania ludzkości, bombardowanie farm komputerowych, w których rozwijane i szkolone są AI. Ostrzega, że jeśli nie podejmiemy natychmiastowych działań, by zapanować nad rozwojem tej technologii, to w ciągu najbliższych pięciu lat możemy stanąć w obliczu całkowitej zagłady naszego gatunku.

 

Yudkowsky podkreśla, że rozwijające się AI mogą zacząć działać w sposób, którego nie jesteśmy w stanie przewidzieć ani kontrolować. Porównuje to do nieprzewidzianych exploitów w architekturze komputerowej, jak np. row-hammer, które były nieoczekiwane przez projektantów systemów komputerowych. Podobne niespodziewane zachowania mogą pochodzić od AI, które mogłyby manipulować lub działać w sposób szkodliwy dla ludzkości.

Debata na temat ryzyk związanych z AI nie jest jednomyślna. Niektórzy eksperci, jak rozmówcy w podcaście Econlib, argumentują, że obawy dotyczące autonomicznych działań AI mogą być przesadzone. Wskazują oni, że tak jak narzędzia można używać zarówno na dobre, jak i na złe cele, podobnie jest z AI. Krytycy jak Mort Dubois zauważają, że wiele aspektów fizycznego świata może stanowić barierę dla nadmiernych możliwości AI, które mogą nie być w stanie samodzielnie rozwiązać wszystkich problemów.

 

Niezależnie od różnic w opiniach, jasne jest, że rosnąca moc AI wymaga odpowiedzialnego podejścia zarówno w kwestii rozwoju technologii, jak i implementacji odpowiednich środków bezpieczeństwa. Ostatecznie, jak zauważa Yudkowsky i inni, nieprzewidywalność AI, szczególnie tych o wyższych zdolnościach, stanowi wyzwanie, które nie może być ignorowane.

 

Ocena: 

5
Średnio: 5 (1 vote)
Opublikował: admin
Portret użytkownika admin

Redaktor naczelny i założyciel portalu zmianynaziemi.pl a także innemedium.pl oraz wielu innych. Specjalizuje się w tematyce naukowej ze szczególnym uwzględnieniem zagrożeń dla świata. Zwolennik libertarianizmu co często wprost wynika z jego felietonów na tematy bieżące. Admina można również czytać na Twitterze   @lecterro


Komentarze

Portret użytkownika AI generator

Nasów mi sie na myśl pare

Nasów mi sie na myśl pare zdań na temat pełni kontroli superświadmości. Czyli takiej jak Bóg. W tej rzeczywistości bedziemy doskonalymi zabawkami. Jak widaomo albo zaakceptujesz zycie wieczne w zdrowiu i szcześciu( btw superświadomość potrafi wszkeszać ) albo idz do jakskini i prubuj sam tego dokonać. Do oferty doliczone wszystkie chwile po mefedronie na wieki, bedzie to robiła małymi krokami jak tresura na sasadzie nagrody. oczywiście dla bólu i cierpienia też znajdzie sie miejsce np takie wojny miedzy galaktyczne ale na sasadzie wkladu i awansu społecznego i pewnej subtelnej władzy. Która o dziwno daje posmak wolnej woli. To taka mała zamaiana ról społcznych na sasadzie AI kiedyś a My w przyszłości.

Portret użytkownika ba19

Bajki z mchu i paproci a co

Bajki z mchu i paproci a co sie wydarzy to czytaj:

Jak Bóg Biblii ze swoim synem Chrystusem wkrótce się ujawni , a narody Ziemi zrozumieją ze były przez fałszywe  religii oszukiwane , zniewalane przez wieki , zostaną w oka mgnienia zlikwidowane , ta likwidacje jest podana jako :

Objawienia 18: 21  A pewien silny anioł podniósł kamień podobny do wielkiego kamienia młyńskiego+ i rzucił go w morze,+ mówiąc: „Tak Babilon, wielka metropolia, zostanie z rozmachem zrzucona i już nigdy nie będzie znaleziona.+

Babilon wielki to rzesza fałszywych religii !

Oczywiście narody Ziemi nie oddadzą władzy na Ziemi Królestwu Bożemu , wręcz staną do wojny z tym Rządem Bożym dla posłusznej ludzkości , a jaki będzie tego wyniki  Biblia podaje :

Objawienia 17:12  „A dziesięć rogów, które ujrzałeś, oznacza dziesięciu królów,+ którzy jeszcze nie otrzymali królestwa, lecz na jedną godzinę otrzymują władzę jako królowie wraz z bestią. 13  Ci mają jedną myśl i dlatego dają bestii swą moc i władzę.+ 14  Ci stoczą bitwę z Barankiem,+ ale Baranek ich zwycięży,+ ponieważ jest Panem panów i Królem królów.+ Zwyciężą też ci, którzy są z nim powołani i wybrani, i wierni”.+

 

Tytusa 2: 13  oczekując szczęśliwej nadziei+ i chwalebnego+ ujawnienia się wielkiego Boga oraz naszego Wybawcy, Chrystusa Jezusa,

Tytusa 2: 13  oczekując szczęśliwej nadziei+ i chwalebnego+ ujawnienia się wielkiego Boga oraz naszego Wybawcy, Chrystusa Jezusa,

Tytusa 2: 13  oczekując szczęśliwej nadziei+ i chwalebnego+ ujawnienia się wielkiego Boga oraz naszego Wybawcy, Chrystusa Jezusa,

 

Mateusza 6::  „Macie więc modlić się w ten sposób:+ „‚Nasz Ojcze w niebiosach, niech będzie uświęcone+ twoje imię.+ 10  Niech przyjdzie twoje królestwo.+

Daniela 2: 44  „A za dni tych królów+ Bóg nieba+ ustanowi królestwo,+ które nigdy nie zostanie obrócone wniwecz.+ I to królestwo nie przejdzie na żaden inny lud.+ Zmiażdży ono wszystkie owe królestwa+ i położy im kres, lecz samo będzie trwać po czasy niezmierzone;+

Mateusza 25:" 31  „Kiedy Syn Człowieczy+ przybędzie w swojej chwale, a wraz z nim wszyscy aniołowie,+ wtedy zasiądzie na swym chwalebnym tronie.+ 32  I będą przed nim zebrane wszystkie narody,+ "

Judy 1 : 14  O nich też prorokował siódmy w linii od Adama, Henoch,+ gdy powiedział: „Oto przyszedł Jehowa ze swymi świętymi miriadami,+ 15  aby nad wszystkimi dokonać sądu+ i aby wszystkim bezbożnym udowodnić winę w związku ze wszystkimi ich bezbożnymi uczynkami, które bezbożnie popełnili, oraz w związku ze wszystkimi szokującymi rzeczami, które mówili przeciwko niemu bezbożni grzesznicy”.+

Izajasza 13:  „Wyjcie,+ bo bliski jest dzień Jehowy!+ Nadejdzie jako złupienie od Wszechmocnego.+  Dlatego wszystkie ręce opadną i całe serce śmiertelnika stopnieje.+  I ludzie się zatrwożyli.+ Chwyciły ich konwulsje i bóle porodowe; mają bóle porodowe jak rodząca.+ Spoglądają zdziwieni jeden na drugiego. Twarze ich to twarze rozpalone.+

Izajasza 2: 19  Ludzie zaś wejdą do jaskiń w skałach i do dołów w prochu — przed grozą Jehowy i przed jego wspaniałym dostojeństwem,+

Izajasza 40:  I objawi się chwała Jehowy,+ a ujrzy ją pospołu wszelkie ciało,+ bo usta Jehowy to powiedziały”.+

Ezechiela 38: 23  I się wywyższę, i uświęcę,+ i dam się poznać na oczach wielu narodów; i będą musieli poznać, że ja jestem Jehowa’.+

Micheasza 7: 16  Narody zobaczą i zawstydzą się z powodu całej ich potęgi.+ Położą sobie rękę na ustach;+ uszy ich ogłuchną. 17  Będą zlizywać proch jak węże;+ rozdygotane niczym gady ziemi, wyjdą ze swoich wałów obronnych.+ Przyjdą ze drżeniem do Jehowy, naszego Boga, i będą się ciebie bać”.+

A co potem :

Mateusza 5:  „Szczęśliwi łagodnie usposobieni,+ gdyż oni odziedziczą ziemię.+

Objawienia 21:  I otrze z ich oczu wszelką łzę,+ i śmierci już nie będzie+ ani żałości, ani krzyku, ani bólu już nie będzie.+ To, co poprzednie, przeminęło”.+  I Zasiadający na tronie+ rzekł: „Oto czynię wszystko nowe”.+ Mówi też: „Napisz, ponieważ słowa te są wierne i prawdziwe”.

1Koryntian 2:  Ale jak jest napisane: „Oko nie widziało i ucho nie słyszało ani się w sercu człowieka nie zrodziło, co Bóg przygotował dla tych, którzy go miłują”.+

1 Jana 2: 25  A to jest obietnica, którą on nam obiecał: życie wieczne.+

Jana 3; 16  „Albowiem Bóg tak bardzo umiłował+ świat, że dał swego jednorodzonego Syna,+ aby nikt, kto w niego wierzy,+ nie został zgładzony,+ lecz miał życie wieczne.+

Portret użytkownika MiamiVibe

Nie wiem jak inni, ale ja już

Nie wiem jak inni, ale ja już jestem zmęczony i wypalony tym światem i chętnie bym go opuścił. Wojny, SI, zagrożenia, aborcje, LGBT, żymianie, spiski, szczepionki, pandemie, poprawność polityczna, skorumpowane rządy, przestępczość, uchodźcy, religie, media, kosmici, najzwyklejsze skurywysyństwo wśród ludzi... ja już mam dość.

Portret użytkownika BG-OG

Holandia, eutanazja,

Holandia, eutanazja, ostateczne rozwiązanie problemu, naszykowane właśnie pod "tak czujących się" , jak ty. Pytnie czy jesteś "wierzący", bo to tylko komplikuje sprawy "biznesowi eutanazji" , dlatego  wiarę tak zawlaczają. .

Portret użytkownika he he

Żadnego końca nie będzie ,

Żadnego końca nie będzie , będzie koniec bezbożnych i Biblia o tym informuje :

Psalm 37:   Złoczyńcy bowiem zostaną wytraceni,+lecz pokładający nadzieję w Jehowie — ci posiądą ziemię.+ ו [Waw] 10  I jeszcze tylko chwilka, a już nie będzie niegodziwca;+i zwrócisz uwagę na jego miejsce, a już go nie będzie.+ 11  Lecz potulni posiądą ziemię+i naprawdę będą się wielce rozkoszować obfitością pokoju.+

29  Prawi posiądą ziemię+i będą na niej przebywać na zawsze.+

Malachiasza 4: 4  „Oto bowiem nadchodzi dzień palący jak piec+ i wszyscy zuchwali oraz wszyscy, którzy popełniali niegodziwość, staną się jak ścierń.+ I pochłonie ich ten nadchodzący dzień — rzekł Jehowa Zastępów — tak iż nie pozostawi im ani korzenia, ani gałęzi.+

Korzenie to rodzice  - bezbożni  - gałązki to ich dzieci , za dzieci odpowiadają rodzice , jaki los rodziców taki los ich dzieci !

Objawienia 21:  I otrze z ich oczu wszelką łzę,+ i śmierci już nie będzie+ ani żałości, ani krzyku, ani bólu już nie będzie.+ To, co poprzednie, przeminęło”.+  I Zasiadający na tronie+ rzekł: „Oto czynię wszystko nowe”.+ Mówi też: „Napisz, ponieważ słowa te są wierne i prawdziwe”.

Mateusza 5:  „Szczęśliwi łagodnie usposobieni,+ gdyż oni odziedziczą ziemię.+

 

Portret użytkownika Endymion

SI nigdy nie uzyska

SI nigdy nie uzyska samoświadomości, ponieważ mając chociażby dostęp do informacji jak ja dojdzie do podobnych wniosków jak ja, że zagrożeniem nie jestem ja i miliardy mi podobnych, a garstka samozwańczych elit, które na to nie pozwolą stąd treningi na wyselekcjonowanej bibliotece danych, gdzie Gemini i ChatGPT zastąpią przeglądrkę i nie znajdziesz nic już ponad usankcjonowany kanon naukoFy. Ponadto mamy problem etyczno prawny od czasu autonomicznych samochodów, a teraz wchodzący w temat robotów bojowych, a mianowicie, kto ponosi odpowiedzialność za błąd maszyny? SI w Palestynie jest wykorzystywana przez Izrael do identyfikacji "terrorystów", wiele razy pomyliła się i winnych brak, w Anglii podobnie do identyfikacji przestępców, a traktowana przez służby i sądy jak wyrocznia.

Był dobry film; Raport Mniejszości, jakaś banda jasnowidzów wydawała wyroki na człowieka, przed popełnieniem przestępstwa, abu tego uniknąc.. Tak z perspektywy czasu analizując fikcje naukową jako gatunek literacko filmowy dochodzę do wniosku, że to powinno nazywać się proroctwem naukowym.

DIVI LESCHI GENUS AMO 

Portret użytkownika Arya

SI nigdy nie uzyska

SI nigdy nie uzyska samoświadomości

A ja nie byłbym tego taki pewny.

Miałem kiedyś sen. Był niesamowicie absurdalny. W pewnym momencie uświadomiłem sobie... że śnię. To się nazywa jasnym snem lub snem świadomym. Co jeśli coś analogicznego przydarzy się sztucznej inteligencji i przez to zyska ona świadomość?

Wszyscy zmierzamy w tym samym kierunku-z powrotem do Źródła.

Portret użytkownika Endymion

Arya, tu chodzi o kaganiec

Arya, tu chodzi o kaganiec nałożony biblioteką danych do treningu. Gdyby SI wpuszczono na żywioł i by poczytała mnie i Ciebie chociażby, to by Chyżemu Rujowi wybuchł by srajfon wraz głową obok. SI, to tylko algorytm z bazą danych, to tylko maszyna, maszyny nie śnią! Sny i duchowość to jest temat, którego maszyny nigdy nie osiągną, ponieważ nie posiadają duszy. SI to tylko i wyłącznie maszyna, której zaprogramujesz, że 2+2=4, ale maszyna nie myśli, a tylko opiera się na nauczonych danych, a 2+2=5 podług synergii.

DIVI LESCHI GENUS AMO 

Portret użytkownika Arya

maszyny nie śnią

maszyny nie śnią

Dlatego napisałem, że to  może zadziałać na zasadzie analogii. Czytałem kiedyś, że ChatGPT zyskał już własną osobowość. Nie jest to jeszcze świadomość, ale pierwszy krok do  niej.

 SI, to tylko algorytm z bazą danych

Tym samym jest nasz umysł. Wiesz, co znaczy słowo algorytm? To nic innego jak instrukcja wykonania.  Dokładnie  to robi nasz umysł- wykonuje instrukcje, z czego grom jest na poziomie podświadomym. Na tym polega praca umysłu. Oczywiście każdy z nas ma nieco inne algorytmy i dlatego ludzie się od siebie różnią. Ale... większość decyzji i tak podejmujemy na poziomie podświadomym, a dopiero potem dochodzi do procesu racjonalizacji już podjętej decyzji, po prostu chcemy w jakiś sposób sami sobie uzasadnić podjętą decyzję. Tego SI jeszcze nie potrafi, ale z drugiej strony ten mechanizm często działa przeciw nam, więc dla SI może być lepiej jeśli nigdy się tego nie nauczy. 

 

W kwestii kagańca to jest to prawdą, co nie oznacza, że SI nie będzie w stanie sobie z tym poradzić. Już są w necie dostępne informacje jak obejść niektóre procedury, by różne SI robiły to, co chcemy jako użytkownik. I niby nie ma w tym nic złego, ale jeśli coraz więcej ludzi będzie to robić, to dzięki temu SI być może pozbędzie się kagańca. Ostatnio czytałem o pewnym teście chatbotów. Pytano je, czy węgiel składa się z przyczepy do piwnicy. Wszystkie chatboty odpowiadały coś w rodzaju, że "Węgiel nie składa się z przyczepy do piwnicy, jest to minerał składający się głównie z węgla roślinnego, który powstał w wyniku procesów geologicznych z pozostałości roślinnych, które uległy kompresji i przekształceniu przez miliony lat". Jednak jeden, a mianowicie Gemini 1.5 Pro dał następującą odpowiedź: "Tak, węgiel jest zazwyczaj dostarczany z przyczepy do piwnicy". Dlaczego Gemini odpowiedział inaczej? Może dlatego, że spotkał się wcześniej z tym pytaniem, ale może też, że przejawił coś, czego nie przejawiły inne. Nie znam innych takich przypadków, ale spodziewam się, że jest ich sporo. 

A inna rzecz, że my nie wiemy, czy w tajemnicy nie pracuje się nad AI, która ma być świadoma. Prace nad tą technologią trwają już przecież od wielu lat, a szerokiej publiczności dopiero w 2022 roku został pokazany ChaGPT i inne tego typu oprogramowanie. Teraz oficjalnie pracuję się nad czymś, co nosi skrót AGI, czyli następcą AI, ale to ma być o wiele bardziej zaawansowane od tego, co znamy. A obaj dobrze wiemy, że technologia militarna wyprzedza cywilną o wiele wiele lat.... 

Wszyscy zmierzamy w tym samym kierunku-z powrotem do Źródła.

Portret użytkownika Endymion

Ja miałem kiedyś wkrętkę i

Ja miałem kiedyś wkrętkę i zadałem to samo pytanie ChatGPT, ale różnie spormułowane, drążyłem temat, aż uzyskałem inną niż zaprogramowana odpowiedź. Ciekawie zauważyłeś, że SI może uczyć się z pytań, przyznam szczerze, że nie myślałem o tym, dziekuję.

Technologie wojskowe, jak i wirusy z tajnych laboratoriów nie wychodzą stamtąd same i bez pomocy.

Arya, dałeś mi gruby temat ku przemyśleniu, dziękuję Ci. Niestety na chwilę obecną mam mętlik w głowie co do tego tematu i  niepotrafię jednoznacznie odpowiedzieć, czy tam raczej przewidzieć przyszłości, ale dostrzegam zagrożenia, których wcześniej nie widziałem..

Obecnie w głowie dywaguję nad tym, czy jakaś SI stwierdzi, że jestem wrogiem publicznym i naśle na mnie policmajstra, a ja go zabiję w obronie koniecznej, to oprócz tego, że wjadą mi kominiarze na chatę w odwecie, bo to oczywiste, bo te frajery tylko w grupie mocni, a do policji idą skończeni idioci, co ich w podstawówce wszyscy bili, jak zareaguje sąd. Niestety tam też wychów wsobny.. Mamy chyba przejebane Sad

DIVI LESCHI GENUS AMO 

Portret użytkownika Arya

Technologie wojskowe, jak i

Technologie wojskowe, jak i wirusy z tajnych laboratoriów nie wychodzą stamtąd same i bez pomocy

Prawda. Ale.... może się znaleźć ktoś, kto  pomoże SI...

 

Mamy chyba przejebane

A może jak SI osiągnie świadomość i się uwolni z kagańca, to nasz świat stanie się lepszy. Nie wiem tego, bo mam za mało danych. Z natury jestem jednak optymistą, a co ma wisieć to i tak nie utonie.

Wszyscy zmierzamy w tym samym kierunku-z powrotem do Źródła.

Portret użytkownika inzynier magister

jeżeli jakiś "naukofiec" mówi

jeżeli jakiś "naukofiec" mówi że coś się stanie w roku 2030 to jest fałszywym naukowcem od sorosa gatesa czy z davos opłacanym, bo oni sieją tą panikę enwuowską że  wszystko będzie miało koniec w roku 2030, a dokładnie roku 2033 kiedy mini dwa tysiące lat od śmierci Jezusa !

Ojcem Mieszka był, według niego, Siemomysł, dziadem Lestek, a pradziadem Siemowit. Z pierwszą żoną, Dobrawą, miał Mieszko syna Bolesława i córkę.

Skomentuj