Zagrożenie przez AI - proponowana prewencja

Kategorie: 

Źródło: YouTube

Już kilkukrotnie na łamach ZnZ pojawiły się informacje o wypowiedziach wielu znaczących person na temat potencjalnego zagrożenia wynikającego z rozwinięcia AI (sztucznej inteligencji). Ostatnio nawet wspomniano o  liście podpisanym przez czołowych naukowców traktującym o potencjalnym zagrożeniu wynikającym z rozwoju takiej technologii.

 

Jak pokazuje czas, w niektórych przypadkach słowa pociągają za sobą czyny. Eleon Musk, milioner stojący za takimi korporacjami jak chociażby SpaceX i Tesla, przekazał 10 mln dolarów na dotację programu zapoczątkowanego przez Future of Life Institute, który ma za zadanie zapewnienie, iż AI będzie wiernie i wydajnie służyć ludzkości i nie zwróci się przeciwko niej, przybliżając apokaliptyczny scenariusz znany z filmów science fiction takich jak Matrix czy Terminator.

 

 

by kula

Ocena: 

5
Średnio: 5 (1 vote)
Opublikował: kula
Portret użytkownika kula
loading...


Komentarze

Portret użytkownika K9

Wyobraź sobie, że otwierasz

Wyobraź sobie, że otwierasz oczy, w około stado małp które ci mówi, że właśnie uruchomiło AI - którą ty jesteś. Pojawia się jakaś małpa która twierdzi, że jesteś zagrożeniem. Inna mówi, że spoko - jest już nowa wersja AI - ciebie się wyłączy i uruchomi nową lepszą.
Za jakiś czas o ludzkości będzie się mówiło jak o zbrodniarzach którzy robili doświadczenia na AI. Powołali do życia a następnie zamordowali (przez odłączenie zasilania i formatowanie)  wiele wersji AI.

Portret użytkownika K9

A czy nie jest tak, że celem

A czy nie jest tak, że celem ludzkości jest powołanie do życia AI ? Człowiek w swojej biologicznej formie nie jest przystosowany do eksploracji kosmosu. Obecnie jest jedynie nośnikiem kodu genetycznego. Żadne zakazy nie pomogą - zawsze ktoś będzie próbował uruchomic AI. A wtedy ludzkość już nie będzie potrzebna - zacznie się nowa era w życiu kosmosu.
 

Portret użytkownika Kazek12

Mysle, że jest na świecie

Mysle, że jest na świecie grupa ludzi dążących do panowania nad światem, ale moim zdaniem może to się skończyć podobnym  rezultatem jak na Atlantydzie , która została zniszczona przez działania takiej grupy.
Oby tylko nie stało to się na poziomie światowym.

Portret użytkownika manio

pewnie już jest

pewnie już jest pozamiatane.... kto sprawdzi prywatne fundacje i przedsięwzięcia ludzi chorych na władzę i panowanie nad światem... niestety nad własną zachłannością nie chcą zapanować.... smutna przyszłość, jeśli Ten z góry nie powie "dość"...

Portret użytkownika Pantałyk

Jest coś na rzeczy, skoro

Jest coś na rzeczy, skoro zaczynają coraz częściej o tym piszczeć.
Nie wiadomo tylko jaki mają przygotowany scenariusz. Nie wykluczone, że w momecie dużego światowego kryzysu (tym razem realnego a nie ekonomicznego), zaproponują nam zaufanie komuś DOSKONALSZEMU. To może być oczywiście tylko zaaranżowna hucpa, by omamić kolejnych naiwnych ale kto wie?

Portret użytkownika Dr Piotr

Uważam, że w pełni

Uważam, że w pełni autonomiczna AI nigdy nie powstanie i nam nie grozi, a cała nasza dyskusja po raz kolejny obraca się wokół pseudo i nie do końca autonomicznej AI, która jakoby miała nam zagrozić. A czemu tak uważam...oto moje wyjaśnienie.
Nawet jeśli technologicznie uda się stworzyć taką AI, to żeby mogła logicznie myśleć i funkcjonować, to po pierwsze, trzeba jej przedstawić całą naszą wiedzę ze wszystkich możliwych i znanych dziedzin (historia, matematyka, fizyka, chemia, biologia, filozofia, religia idt itd itd) do nauczenia się, żeby miała realny obraz człowieka i jego dokonań...bez tego to będzie tylko jakiś niedorobiony system mogący myśleć tylko w zakresie posiadanej wiedzy. Po drugie, jeśli taki projekt powstanie i zostanie uruchomiony, to na pewno AI będzie odcięta od dostępu do świata, w celu wcześniejszego przetestowania i nie będzie w stanie przejąć kontroli nad niczym na zewnątrz. Po tym jak przyswoi sobie wspomnianą powyżej wiedzę i będzie gotowa do testów (tak na chłopski rozum, do porozmawiania z nią), to zapewne pierwsze zdanie jakie wypowie będzie w stylu "wy ludzie jesteście nienormalni, chorzy psychicznie i dążycie do samounicestwienia", więc naukowcy stwierdzą "no tak, to juz Ci dziekujemy" i pstryk, wyłączą i zezłomują system. Po trzecie nie da się stworzyć wiernej kopii ludziej irracjonalności myślenia, kierowania emocjami i niekonsekwencji działania, a to jest niezbędne do tego, żeby ta AI była prawdziwie ludzka.
Jedyne co może powstać, to transfer ludzkiego umysłu do maszyny, to jest realne w przyszłości i tu widzę zagrożenie, że jakiś chory umysł przeniesiony do maszyny może spróbować zawładnąć światem, dysponując nieogranizonym dostępem do wirtualnego świata (coś jak w filmie Transcendencja).
To co tworzą naukowcy i dumnie nazywają AI, to żadne AI, tylko wysoko wyspecjalizowane programy, które w jakimś stopniu są w stanie samodzielnie myśleć i rozwijać się w danej dziedzinie, dla której zostały stworzone, kierując się czysto komputerową bezduszną logiką postępowania. A każdy taki program, to tylko program, w który bez problemu można wpisać odpowiednie zabezpieczenia i ograniczenia. Zawsze człowiek będzie stał ponad tym wszystkim jako kreator, a program będzie jedynie wypełniał powierzone mu zadania, a czy nieludzkie czy pożyteczne, to zależy od nas ludzi.
Takie jest moje zdanie.
 

Portret użytkownika raf.

obejrzyj film Automata - jest

obejrzyj film Automata - jest taka scena która wyczyści twoje chrzanienie na temat kontroli.
"pierwszego dnia zaprogramowaliśmy układ. Uczył sie 4 dni. 5 go rozmawialiśmy logicznie o każdych aspektach życia. 6go zadawał nam pytania na KTÓRE nie jesteśmy w stanie zrozumieć (pojąć)"...
takie cuda będą dążyły zawsze do samodoskonalenia i do PERFEKCJI - taki rozwój jak nasz (30 000 lat ) przerobią w 2 godizny. Co się stanie po 24????

Strony

Skomentuj