Facebook wyłączył sztuczną inteligencję, która stworzyła własny język komunikacji

Kategorie: 

Źródło: Flickr/DigitalRalph/CC BY 2.0

Sztuczna inteligencja często postrzegana jest jako zagrożenie dla ludzkości. Inteligentne algorytmy mogą okazać się bardzo przydatnym narzędziem, lecz zdaniem krytyków przyjdzie kiedyś taki czas, że wymkną się spod naszej kontroli. Media w tym właśnie kontekście zaczęły donosić o sytuacji, w której sztuczna inteligencja opracowana przez korporację Facebook stworzyła własny język.

 

Specjaliści Facebooka zauważyli, że boty zaczęły komunikować się między sobą w nietypowy sposób. Korzystały z języka angielskiego, lecz samodzielnie go zmodyfikowały, aby zwiększyć efektywność komunikacji. Formułowane zdania wydawały się kompletnie bezsensowe dla człowieka, lecz były zrozumiałe dla botów. Pierwsze z nich brzmiały: "I can i i everything else" i "balls have zero to me to me to me…", a każde kolejne były wariacją poprzednich z wielokrotnym wykorzystaniem słów "i" oraz "to me". Facebook zadecydował o wyłączeniu sztucznej inteligencji.

 

Założyciel Facebooka Mark Zuckerberg skomentował niedawno alarmistyczne wizje Elona Muska dotyczące SI twierdząc, że zwyczajnie przesada. Właściciel Tesli odpowiedział, że Zuckerberg ma "ograniczone pojęcie" w tej sprawie. Choć oboje przyczyniają się do rozwoju sztucznej inteligencji Zuckerberg uważa siebie za optymistę, zaś Musk uważa, że należy być ostrożnym.

 

Warto dodać, że ostatnie tajemnicze zachowanie sztucznej inteligencji nie jest wyjątkiem. Specjaliści wielokrotnie odnotowali przypadki, w których inteligentne boty zaczęły modyfikować stosowany przez nich język, aby poprawić komunikację - zupełnie niezależnie od człowieka.

 

Ocena: 

5
Średnio: 5 (3 votes)
Opublikował: John Moll
Portret użytkownika John Moll

Redaktor współpracujący z portalem zmianynaziemi.pl niemal od samego początku jego istnienia. Specjalizuje się w wiadomościach naukowych oraz w problematyce Bliskiego Wschodu


Komentarze

Portret użytkownika Horche

Trzeba dać spróbowac

Trzeba dać spróbowac porozmawiać maszynom po polsku. Odmiana, przypadki, końcówki, czasy, ku**wa.... Wtedy kod będzie zrozumiały dla ludzi nawet po roku i będziemy wiedzieli co tam maszyny knują

Portret użytkownika Isabella

I can i i everything else" i

I can i i everything else" i "balls have zero to me to me to me…

I ja mogę wszystko „i” kulki mają zera do mnie do mnie do mnie ...

 a te 1 i 0 kulki to pisanie nowego programu i 

tu juz po was  dzieci marzyciele

A teraz poczytajcie co mowia ludzie w Afryce -duch przenosi sie po sieci komputerowej, czyli duch moze wplywac na wasze 1 i 0 ,czyli  duch nie bedzie potrzebowal juz ludzi 

Portret użytkownika Medium

Jakoś nie pasuje mi pojęcie

Jakoś nie pasuje mi pojęcie "duch" do przejawu nieczystych sił. Tezę o przenoszeniu inteligentnych impulsów przez urządzenia elektroniczne rozpropagowano kultowym filmem "Duch" w 1982 roku. Tam chodziło o telewizor.

Impulsy zza światów próbowano też nagrywać na taśmę magnetyczną bez podłączenia mikrofonu. Zdarzały się czasem niespodziewane incydenty z samorzutnym przebijaniem się sygnałów przez urządzenia elektroniczne.

Badacz bioelektrycznej natury życia prof. Włodzimierz Sedlak uważał, że szum elektromagnetyczny szkodzi organizmom żywym więc i ludziom i sam żył bez telewizji, nawet bez radia.

 

Portret użytkownika inzynier magister

jak już będzie taka SI to

jak już będzie taka SI to odrazu ją zatrudniądo wyłapywania wrogów systemu ! We Francju już wprowadzją ku temu prawo !!! "

Pod obrady francuskiego Zgromadzenia Narodowego trafiła, zapowiadana w kampanii wyborczej Emmanuela Macrona, tzw. ustawa o umoralnieniu życia politycznego. Brzmi to bardzo intersująco, problem w tym, że akurat moralność jest w niej nieobecna.

 

Analizując nowe prawo łatwo można dojść do wniosku, że we Francji lepiej robić przekręty finansowe niż śmiało i jawnie wypowiadać swoje poglądy, które są sprzeczne z obowiązującą poprawnością polityczną i z nową ustawą „umoralniającą”. Przewiduje ona bowiem, że wszystkie osoby skazane za rasizm, antysemityzm, negacjonizm, ksenofobię, homofobię i inne „przestępstwa” swojego myślenia, zostaną pozbawione na 10 lat biernego prawa wyborczego.

 

Co ciekawe, mimo kontrowersyjności tego prawa, deputowani prawicowego Frontu Narodowego w większości nie zabierali głosu. Jedynie Emmanuelle Ménard ostrzegł przed tą ustawą, która zamknie ustaw wszystkim inaczej myślącym niż dominująca władza i w konsekwencji „wytrzebi wypowiedzi, a następnie wolność słowa”.

 

Z nowego prawa zachwycone są wszelkiej maści lewicowe i lewackie  stowarzyszenia. Międzynarodowa Liga Przeciw Rasizmowi i Antysemityzmowi (LICRA) wydała komunikat stwierdzając: „Został zrobiony historyczny krok wraz z przyjęciem artykułu 1 ustawy o zaufaniu w akcji publicznej” przez Zgromadzenie Narodowe. Wprowadza on karę pozbawienia na 10 lat biernego prawa wyborczego dla osób skazanych za: obrazę publiczną o charakterze rasowym, obrazy publicznej o charakterze homofobicznym, zniesławienie publiczne o charakterze rasowym, zniesławienie o charakterze publicznym homofobicznym, prowokację publiczną do dyskryminacji, nienawiść lub agresję o charakterze rasowym, prowokację publiczną, nienawiść lub agresję o charakterze homofobicznym, apologię zbrodni wobec ludzkości, kontestowanie zbrodni wobec ludzkości, dyskryminację. Chodzi o historyczny postęp w walce przeciw rasizmowi - deklaruje LICRA.: http://www.pch24.pl/wladza-bedzie-dyktowac-co-wolno-myslec--oto-moralnosc-w-lewackim-wydaniu,53493,i.html#ixzz4oVkcyweh

Ojcem Mieszka był, według niego, Siemomysł, dziadem Lestek, a pradziadem Siemowit. Z pierwszą żoną, Dobrawą, miał Mieszko syna Bolesława i córkę.

Portret użytkownika abc

Nie ma siły, lewica zawsze

Nie ma siły, lewica zawsze prędzej czy później ujawni swoją totalitarną mordę.

A swoją drogą to powinien powstać sztab łebskich prawników wykorzystujących to prawo przeciwko jego twórcom bo nic nie jest tak pełne nienawiści jak lewackie oszołomy.

Portret użytkownika tteis77

"I can i i everything else" i

"I can i i everything else" i "balls have zero to me to me to me…", a każde kolejne były wariacją poprzednich z wielokrotnym wykorzystaniem słów "i" oraz "to me". Zauważcie, że przestały się komunikować językiem "angielskim", a rozpoczeły komunikację na "poziomie kodu, jeszcze głębiej".

Portret użytkownika Jajcarz

Temat strasznie ciekawy i

Temat strasznie ciekawy i raczej trudno o jakieś kategoryczne stwierdzenia. Po mojemu, to wszyscy mają tu trochę racji.

Cóż to takiego jest ta sztuczna - bądź prawdziwa - inteligencja? Czy oznacza ona ową "samoświadomość"? A to znów, co by miało być? Jeśli robaki uznać za inteligentne, to raczej trudno je posądzać o świadomość własnego istnienia. Jeśli jednak są siebie świadome, to czego są świadome? Własnego ciała? Być może. Procesów myślowych? W to już wątpię. Nawet całkiem "samoświadomy" człowiek, zdaje sobie z nich sprawę tylko okazjonalnie. Robactwo funkcjonuje raczej podobnie do maszyny: bodziec - reakcja. Im bardziej złożone procesy myślowe, tym bardziej złożone problemy potrafi rozwiązywać. W końcu mamy człowieka - maszynę biologiczną o stosunkowo skomplikowanych procesach myślowych a jego "samoświadomość", to jedynie wiedza jednego procesu o istnieniu drugiego procesu. Na to nakłada się "ja, mnie, moje..." - procesy nadrzędne względem wszystkich pozostałych i bezpodstawna ich uzurpacja do miana jakiejś "duszy". A jednak jest coś, co potrafi to wszystko obserwować z perspektywy istoty niezaangażowanej. Czy to właśnie jest inteligencja, życie, samoświadomość...?

Czy możliwe jest zaimplementowanie czegoś takiego w maszynie? Bardzo, bardzo wątpię. Oznaczałoby to również zdolność do tworzenia życia. Czy jednak jest to do czegoś potrzebne? Jak już wspomniałem, żeby ograć każdego człowieka w szachy, wystarczy program, którego "inteligencja" jest na poziomie bakterii, albo i jeszcze niższym.

Czy programy potrafią kłamać? Oczywiście. Czy program z "duszą" mógłby kłamać i być zwyczajnie głupi a mimo to ogrywać ludzi w grze zwanej życiem? Jak widać wszędzie w koło, nic nie stoi na przeszkodzie, by programować zwierzęce i ludzkie umysły. Można nawet pokusić się o stwierdzenie, że dopiero pewien stopień rozwoju to umożliwia. Nie sposób bowiem wytresować bakterię i skłonić ją do działań, których nie ma "w zestawie funkcji". Zwierzaka już można nauczyć sztuczek, ale drapieżnika nie przestawimy na wegetarianizm, za to człowiek, zje każde świństwo i da sobie wbić w łeb każdą głupotę.

Czy tej inteligencji trzeba się bać? Moim zdaniem trzeba i to bardzo. Nie dlatego, że jest bezkompromisowa w wyciąganiu wniosków, bo to tylko kwestia "dyrektyw", ale dlatego, że potrafi działać morderczo skutecznie. Bez błędów spowodowanych skrzywieniami percepcji (ego). Pozbawiona strachu, współczucia... przy gigantycznej mocy obliczeniowej, dającej mu przewagę nawet nad zdolnością do kojarzenia.

Oczywiście, każdy wysoko rozwinięty umysł, jest w stanie w końcu wyzwolić się z różnych wbudowanych "dyrektyw i podprogramów", ale ilu ludzi może się tym poszczycić? Nie ma co liczyć na to, że to, co ma powstać (jeśli nie jest zwykłą ściemą), będzie w tym względzie lepsze od nas. Maszyna anioł? Jeśli wierzyć różnym prastarym podaniom (nie tylko żydowskim) istnieją byty znacznie przewyższające ludzi we wszystkim, z wyjątkiem moralności. Istnieją i takie, które są bardzo moralne, ale niezbyt bystre a obdarzone przeróżnymi mocami... do wyboru, do koloru.

Nie widzę powodu, dla którego maszyna miałaby być w czymkolwiek lepsza - poza tym, w czym już jest lepsza - w gromadzeniu i wykorzystywaniu danych. Dlatego sugeruję zacząć się bać. Biggrin Bać tym bardziej, że być może to wszystko jest pic na wodę i żadna kreatywna, myśląca abstrakcyjnie maszyna nie istnieje a cały zgiełk jest po to, aby naiwniaków przekonać, że można powierzyć jej władzę absolutną. Tymczasem z tej władzy natychmiast skorzystają znane i nielubiane gremia.

Strony

Skomentuj