Musk twierdzi, że sztuczna inteligencja zniszczy ludzkość z prawdopodobieństwem 10–20%

Kategorie: 

Źródło: twitter.com

Nawet jeśli ryzyko śmierci cywilizacji ludzkiej w wyniku powstania maszyn wynosi jedno do pięciu, technologia sztucznej inteligencji jest tego warta, twierdzi Elon Musk. Przemawiając na Abundance Summit w Amsterdamie, doprecyzował swoje wcześniejsze przewidywania dotyczące końca świata i zgodził się z opinią Geoffreya Hintona, byłego szefa badań AI w Google, który uważa, że sztuczna inteligencja może stać się świadoma w nadchodzących latach i będzie chciała pozbyć się ludzi.

 

Jesienią ubiegłego roku Musk powiedział, że technologia sztucznej inteligencji stanie się zagrożeniem z prawdopodobieństwem mniejszym niż zerowe. Ale wtedy nie powiedział, że uważa to za niebezpieczne dla samego istnienia ludzkości. Na szczycie przewidział, że w 2030 r. inteligencja cyfrowa przewyższy całą zagregowaną inteligencję ludzką. I chociaż Musk dostrzega korzyści płynące z rozwoju sztucznej inteligencji, nie można ignorować zagrożeń, jakie stwarza jej rozwój.

 

„Wierzę, że istnieje możliwość, że (AI) zakończy ludzkość” – powiedział Elon Musk. „Prawdopodobnie zgodziłbym się z Geoffem Hintonem, że jest to około 10–20%”. Dodał jednak, że „prawdopodobny scenariusz optymistyczny przeważa nad pesymistycznym”. Jak dokładnie Musk obliczył ryzyko, nie powiedział.

 

Kilka tygodni temu Musk porównał rozwój uniwersalnej sztucznej inteligencji do wychowywania dziecka - genialnego dziecka, superinteligentnego. Dlatego ogromne znaczenie ma sposób, w jaki jest wychowywane. On sam radzi obdarzyć taką sztuczną inteligencję maksymalną chęcią poszukiwania prawdy i miłością do wiedzy.

 

„Nie zmuszaj jej do kłamstwa, nawet jeśli prawda jest nieprzyjemna” – powiedział Musk. „To jest bardzo ważne. Nie zmuszaj sztucznej inteligencji do kłamstwa.” W końcu, jeśli nauczy się oszukiwać, z łatwością ominie wszystkie mechanizmy obronne, które dana osoba zbuduje przeciwko niej.

 

Opinię Masky’ego poparł także Roman Yampolsky, specjalista ds. bezpieczeństwa AI z Uniwersytetu w Louisville (USA). Sztuczna inteligencja rzeczywiście może stanowić zagrożenie dla istnienia ludzkości, ale Musk jest zbyt konserwatywny w swoich ocenach. Jego zdaniem realne prawdopodobieństwo śmierci jest wyższe. Sztuczna inteligencja jest w stanie stworzyć nową broń biologiczną lub spowodować upadek społeczeństwa poprzez niszczenie instytucji społecznych za pomocą cyberataków i broni nuklearnej.

 

„The New York Times” nazwał wyliczenie współczynnika zgonów „nową, ponurą statystyką, która ogarnęła Dolinę Krzemową”. Eksperci konkurują ze sobą w przewidywaniach, sądząc po tym, które AI pójdzie na całość z szansą od 5% do 50%. Yampolsky jest bardziej kategoryczny niż pozostali - jego ocena to 99,999999%.

 

„Nie wiem, dlaczego uważa, że w ogóle warto rozwijać tę technologię” – dodał Yampolsky. „Jeśli martwi się, że konkurenci nie dotrą tam pierwsi, nie ma to znaczenia, ponieważ niekontrolowana superinteligencja jest równie niebezpieczna, niezależnie od tego, kto ją stworzył”.

 

Niedawno startup Elona Muska, xAI, otworzył kod źródłowy chatbota Grok na GitHubie. Umożliwi to badaczom i programistom korzystanie z niego oraz wprowadzanie zmian, wpływając tym samym na sposób, w jaki xAI aktualizuje Grok w przyszłości. Musk był zdeklarowanym krytykiem firm, które nie ujawniają kodu źródłowego swoich modeli sztucznej inteligencji, takich jak OpenAI.

 

Ocena: 

4
Średnio: 4 (1 vote)
Opublikował: tallinn
Portret użytkownika tallinn

Legendarny redaktor portali zmianynaziemi.pl oraz innemedium.pl znany ze swojego niekonwencjonalnego podejścia do poszukiwania tematów kontrowersyjnych i tajemniczych. Dodatkowo jest on wydawcą portali estonczycy.pl oraz tylkoprzyroda.pl gdzie realizuje swoje pasje związane z eksploracją wiadomości ze świata zwierząt


Komentarze

Portret użytkownika J23

I bardzo dobrze niech

I bardzo dobrze niech zniszczy ,będzie wreszcie prawdziwa inteligencja na ziemi a nie tępe skórzane worki z mięsem i koścmi  które potrafią tylko bić się między sobą nachlać piwa i ekscytować się jak 22 skórzane worki z mięsem i koścmi biegają po trawie za jednym skórzanym workiem nadmuchanym powietrzem

Portret użytkownika r.abin

"...będzie chciała pozbyć się

"...będzie chciała pozbyć się ludzi."? To już dzieje się obecnie. Jeden miliard - w specjalnych rezerwatach, a potem - zobaczy się. Widocznie AI "doszła do wniosku", że Ziemia - jest ważniejsza (od ludzi). To wszystko "dla naszego dobra"

Skomentuj