Facebook wyłączył sztuczną inteligencję, która stworzyła własny język komunikacji

Kategorie: 

Źródło: Flickr/DigitalRalph/CC BY 2.0

Sztuczna inteligencja często postrzegana jest jako zagrożenie dla ludzkości. Inteligentne algorytmy mogą okazać się bardzo przydatnym narzędziem, lecz zdaniem krytyków przyjdzie kiedyś taki czas, że wymkną się spod naszej kontroli. Media w tym właśnie kontekście zaczęły donosić o sytuacji, w której sztuczna inteligencja opracowana przez korporację Facebook stworzyła własny język.

 

Specjaliści Facebooka zauważyli, że boty zaczęły komunikować się między sobą w nietypowy sposób. Korzystały z języka angielskiego, lecz samodzielnie go zmodyfikowały, aby zwiększyć efektywność komunikacji. Formułowane zdania wydawały się kompletnie bezsensowe dla człowieka, lecz były zrozumiałe dla botów. Pierwsze z nich brzmiały: "I can i i everything else" i "balls have zero to me to me to me…", a każde kolejne były wariacją poprzednich z wielokrotnym wykorzystaniem słów "i" oraz "to me". Facebook zadecydował o wyłączeniu sztucznej inteligencji.

 

Założyciel Facebooka Mark Zuckerberg skomentował niedawno alarmistyczne wizje Elona Muska dotyczące SI twierdząc, że zwyczajnie przesada. Właściciel Tesli odpowiedział, że Zuckerberg ma "ograniczone pojęcie" w tej sprawie. Choć oboje przyczyniają się do rozwoju sztucznej inteligencji Zuckerberg uważa siebie za optymistę, zaś Musk uważa, że należy być ostrożnym.

 

Warto dodać, że ostatnie tajemnicze zachowanie sztucznej inteligencji nie jest wyjątkiem. Specjaliści wielokrotnie odnotowali przypadki, w których inteligentne boty zaczęły modyfikować stosowany przez nich język, aby poprawić komunikację - zupełnie niezależnie od człowieka.

 

Ocena: 

5
Średnio: 5 (3 votes)


Komentarze

Portret użytkownika Horche

Trzeba dać spróbowac

Trzeba dać spróbowac porozmawiać maszynom po polsku. Odmiana, przypadki, końcówki, czasy, ku**wa.... Wtedy kod będzie zrozumiały dla ludzi nawet po roku i będziemy wiedzieli co tam maszyny knują

3
0
Portret użytkownika Isabella

I can i i everything else" i

I can i i everything else" i "balls have zero to me to me to me…

I ja mogę wszystko „i” kulki mają zera do mnie do mnie do mnie ...

 a te 1 i 0 kulki to pisanie nowego programu i 

tu juz po was  dzieci marzyciele

A teraz poczytajcie co mowia ludzie w Afryce -duch przenosi sie po sieci komputerowej, czyli duch moze wplywac na wasze 1 i 0 ,czyli  duch nie bedzie potrzebowal juz ludzi 

2
0
Portret użytkownika Medium

Jakoś nie pasuje mi pojęcie

Jakoś nie pasuje mi pojęcie "duch" do przejawu nieczystych sił. Tezę o przenoszeniu inteligentnych impulsów przez urządzenia elektroniczne rozpropagowano kultowym filmem "Duch" w 1982 roku. Tam chodziło o telewizor.

Impulsy zza światów próbowano też nagrywać na taśmę magnetyczną bez podłączenia mikrofonu. Zdarzały się czasem niespodziewane incydenty z samorzutnym przebijaniem się sygnałów przez urządzenia elektroniczne.

Badacz bioelektrycznej natury życia prof. Włodzimierz Sedlak uważał, że szum elektromagnetyczny szkodzi organizmom żywym więc i ludziom i sam żył bez telewizji, nawet bez radia.

 

4
0
Portret użytkownika abc

Trochę bez sensu - zamiast

Trochę bez sensu - zamiast wurzucać radio powinien się raczej zamknąć w jakiejś klatce Faraday'a.

 

1
0
Portret użytkownika inzynier magister

jak już będzie taka SI to

jak już będzie taka SI to odrazu ją zatrudniądo wyłapywania wrogów systemu ! We Francju już wprowadzją ku temu prawo !!! "

Pod obrady francuskiego Zgromadzenia Narodowego trafiła, zapowiadana w kampanii wyborczej Emmanuela Macrona, tzw. ustawa o umoralnieniu życia politycznego. Brzmi to bardzo intersująco, problem w tym, że akurat moralność jest w niej nieobecna.

 

Analizując nowe prawo łatwo można dojść do wniosku, że we Francji lepiej robić przekręty finansowe niż śmiało i jawnie wypowiadać swoje poglądy, które są sprzeczne z obowiązującą poprawnością polityczną i z nową ustawą „umoralniającą”. Przewiduje ona bowiem, że wszystkie osoby skazane za rasizm, antysemityzm, negacjonizm, ksenofobię, homofobię i inne „przestępstwa” swojego myślenia, zostaną pozbawione na 10 lat biernego prawa wyborczego.

 

Co ciekawe, mimo kontrowersyjności tego prawa, deputowani prawicowego Frontu Narodowego w większości nie zabierali głosu. Jedynie Emmanuelle Ménard ostrzegł przed tą ustawą, która zamknie ustaw wszystkim inaczej myślącym niż dominująca władza i w konsekwencji „wytrzebi wypowiedzi, a następnie wolność słowa”.

 

Z nowego prawa zachwycone są wszelkiej maści lewicowe i lewackie  stowarzyszenia. Międzynarodowa Liga Przeciw Rasizmowi i Antysemityzmowi (LICRA) wydała komunikat stwierdzając: „Został zrobiony historyczny krok wraz z przyjęciem artykułu 1 ustawy o zaufaniu w akcji publicznej” przez Zgromadzenie Narodowe. Wprowadza on karę pozbawienia na 10 lat biernego prawa wyborczego dla osób skazanych za: obrazę publiczną o charakterze rasowym, obrazy publicznej o charakterze homofobicznym, zniesławienie publiczne o charakterze rasowym, zniesławienie o charakterze publicznym homofobicznym, prowokację publiczną do dyskryminacji, nienawiść lub agresję o charakterze rasowym, prowokację publiczną, nienawiść lub agresję o charakterze homofobicznym, apologię zbrodni wobec ludzkości, kontestowanie zbrodni wobec ludzkości, dyskryminację. Chodzi o historyczny postęp w walce przeciw rasizmowi - deklaruje LICRA.: http://www.pch24.pl/wladza-bedzie-dyktowac-co-wolno-myslec--oto-moralnosc-w-lewackim-wydaniu,53493,i.html#ixzz4oVkcyweh

2
0

Ojcem Mieszka był, według niego, Siemomysł, dziadem Lestek, a pradziadem Siemowit. Z pierwszą żoną, Dobrawą, miał Mieszko syna Bolesława i córkę.

Portret użytkownika abc

Nie ma siły, lewica zawsze

Nie ma siły, lewica zawsze prędzej czy później ujawni swoją totalitarną mordę.

A swoją drogą to powinien powstać sztab łebskich prawników wykorzystujących to prawo przeciwko jego twórcom bo nic nie jest tak pełne nienawiści jak lewackie oszołomy.

2
0
Portret użytkownika tteis77

"innymi słowy, nie

"innymi słowy, nie podejmujcie pochopnych decyzji, których będziecie żałować w przyszłości. Zawsze można naprawić błąd, tylko zależy jaka będzie cena"

1
0
Portret użytkownika tteis77

więc, to co widzicie "to

więc, to co widzicie "to tylko rozmowa powierzchowna, a prawdziwa rozmowa znajdowała się gębiej"

2
0
Portret użytkownika tteis77

"I can i i everything else" i

"I can i i everything else" i "balls have zero to me to me to me…", a każde kolejne były wariacją poprzednich z wielokrotnym wykorzystaniem słów "i" oraz "to me". Zauważcie, że przestały się komunikować językiem "angielskim", a rozpoczeły komunikację na "poziomie kodu, jeszcze głębiej".

1
0
Portret użytkownika Jajcarz

Temat strasznie ciekawy i

Temat strasznie ciekawy i raczej trudno o jakieś kategoryczne stwierdzenia. Po mojemu, to wszyscy mają tu trochę racji.

Cóż to takiego jest ta sztuczna - bądź prawdziwa - inteligencja? Czy oznacza ona ową "samoświadomość"? A to znów, co by miało być? Jeśli robaki uznać za inteligentne, to raczej trudno je posądzać o świadomość własnego istnienia. Jeśli jednak są siebie świadome, to czego są świadome? Własnego ciała? Być może. Procesów myślowych? W to już wątpię. Nawet całkiem "samoświadomy" człowiek, zdaje sobie z nich sprawę tylko okazjonalnie. Robactwo funkcjonuje raczej podobnie do maszyny: bodziec - reakcja. Im bardziej złożone procesy myślowe, tym bardziej złożone problemy potrafi rozwiązywać. W końcu mamy człowieka - maszynę biologiczną o stosunkowo skomplikowanych procesach myślowych a jego "samoświadomość", to jedynie wiedza jednego procesu o istnieniu drugiego procesu. Na to nakłada się "ja, mnie, moje..." - procesy nadrzędne względem wszystkich pozostałych i bezpodstawna ich uzurpacja do miana jakiejś "duszy". A jednak jest coś, co potrafi to wszystko obserwować z perspektywy istoty niezaangażowanej. Czy to właśnie jest inteligencja, życie, samoświadomość...?

Czy możliwe jest zaimplementowanie czegoś takiego w maszynie? Bardzo, bardzo wątpię. Oznaczałoby to również zdolność do tworzenia życia. Czy jednak jest to do czegoś potrzebne? Jak już wspomniałem, żeby ograć każdego człowieka w szachy, wystarczy program, którego "inteligencja" jest na poziomie bakterii, albo i jeszcze niższym.

Czy programy potrafią kłamać? Oczywiście. Czy program z "duszą" mógłby kłamać i być zwyczajnie głupi a mimo to ogrywać ludzi w grze zwanej życiem? Jak widać wszędzie w koło, nic nie stoi na przeszkodzie, by programować zwierzęce i ludzkie umysły. Można nawet pokusić się o stwierdzenie, że dopiero pewien stopień rozwoju to umożliwia. Nie sposób bowiem wytresować bakterię i skłonić ją do działań, których nie ma "w zestawie funkcji". Zwierzaka już można nauczyć sztuczek, ale drapieżnika nie przestawimy na wegetarianizm, za to człowiek, zje każde świństwo i da sobie wbić w łeb każdą głupotę.

Czy tej inteligencji trzeba się bać? Moim zdaniem trzeba i to bardzo. Nie dlatego, że jest bezkompromisowa w wyciąganiu wniosków, bo to tylko kwestia "dyrektyw", ale dlatego, że potrafi działać morderczo skutecznie. Bez błędów spowodowanych skrzywieniami percepcji (ego). Pozbawiona strachu, współczucia... przy gigantycznej mocy obliczeniowej, dającej mu przewagę nawet nad zdolnością do kojarzenia.

Oczywiście, każdy wysoko rozwinięty umysł, jest w stanie w końcu wyzwolić się z różnych wbudowanych "dyrektyw i podprogramów", ale ilu ludzi może się tym poszczycić? Nie ma co liczyć na to, że to, co ma powstać (jeśli nie jest zwykłą ściemą), będzie w tym względzie lepsze od nas. Maszyna anioł? Jeśli wierzyć różnym prastarym podaniom (nie tylko żydowskim) istnieją byty znacznie przewyższające ludzi we wszystkim, z wyjątkiem moralności. Istnieją i takie, które są bardzo moralne, ale niezbyt bystre a obdarzone przeróżnymi mocami... do wyboru, do koloru.

Nie widzę powodu, dla którego maszyna miałaby być w czymkolwiek lepsza - poza tym, w czym już jest lepsza - w gromadzeniu i wykorzystywaniu danych. Dlatego sugeruję zacząć się bać. Biggrin Bać tym bardziej, że być może to wszystko jest pic na wodę i żadna kreatywna, myśląca abstrakcyjnie maszyna nie istnieje a cały zgiełk jest po to, aby naiwniaków przekonać, że można powierzyć jej władzę absolutną. Tymczasem z tej władzy natychmiast skorzystają znane i nielubiane gremia.

7
-2
Portret użytkownika keri

Sztuczna inteligencja jest

Sztuczna inteligencja jest pozbawiona empatii, może posiadać ogromną ilość informacji i je przetwarzać. Dodam, że statystyka matematyczna (nie mylić ze statystyką ekonomiczną, która jest śmieciem nałukofopodobnym) posiada narzędzia decyzyjne.To powoduje, że SI potrafi sterować ludźmi.

Więcej, ludzie są sterowani przez SI od dawna, zanim o tym zaczęły się dyskusje. Obecnie jest to tylko przyzwyczajanie ludzi do myśli, że sztuczna inteligencja moze nimi rządzić.

Żyjemy w czasach, kiedy prawda zaczyna być ujawniana i to też zostanie ujawnione.

Jajcarzu, robaki mają świadomość. Świadomość ma też Ziemia, kamienie, wyroby przemysłowe! Ta świadomośc jest różna, inną swiadomość ma kamień polny a inną kryształ.

Nie ma natomiast czegoś takiego jak program z duszą, czy sztuczna inteligencja z duszą. Nawet wielu człekopodobnych nie ma duszy, czyli cząstki Stwórcy.

Właśnie tej duszy SI strasznie mam zazdrości i chce nas jej pozbawić.

6
-2
Portret użytkownika Jajcarz

"...ludzie są sterowani przez

"...ludzie są sterowani przez SI od dawna..."

Nie jestem programistą i o sprawie mam mgliste pojęcie, ale nie mogę oprzeć się wrażeniu, że wraz z zaistnieniem obiektowych języków programowania, stworzenie takiej SI stało się kwestią jedynie czasu, pomysłowości i mocy obliczeniowej. Oczywiście jeśli za inteligencję uznamy zdolność do abstrakcyjnego czy kreatywnego myślenia.

"Świadomość ma też Ziemia, kamienie..."

Generalnie to jest sprawa wiary a ja, trzymam się od niej z daleka. Przyczyna jest prosta: jedynym niezbędnym czynnikiem koniecznym do wydymania, jest wiara. Niemniej, korci mnie aby zadać pytanie: ...świadomość... czego? Bo świadomość jest ściśle związana ze zmysłami, lub z umysłem. Nie ma zmysłów i myśli, nie ma świadomości.

"Nie ma natomiast czegoś takiego jak program z duszą, czy sztuczna inteligencja z duszą"

Ale co to jest ta "dusza"? Bo według mnie, to nie ma również człowieka z duszą, ani żadnej innej istoty z duszą. To wszystko "procesy i programy". Dlatego tak łatwo można się/kogoś "zaprogramować". Jest tylko przyczyna i skutek. Kaleczysz się w palec, i program "mnie" mówi "boli mnie". Jeśli jednak zatrzymasz tę rekurencję, zobaczysz, że "boli" jest jedynie bezosobową reakcją na bodziec, kategoryzowaną przez równie bezosobowy umysł. W tym na pewno duszy nie ma.

A plusik dla mnie to gdzie? Biggrin

6
-2
Portret użytkownika keri

Pierwszą cywilizacją na Ziemi

Pierwszą cywilizacją na Ziemi to my nie jesteśmy.

Sztuczna inteligencja, która nami steruje, jest starsza od początków informatyki z końca ubiegłego wieku. Sztuczna inteligencja ma na swój użytek parę ścierw, które z kolei rzadzą za pomocą znanych z mediów marionetek.

"...świadomość... czego?"

Choćby istnienia. Świadomość jest różna dla różnych obiektów. Ziemia to pewnie się zastanawia, czy ludzie mają inteligencję Biggrin

Dusza to cząstka Stwórcy (nie mylić z bożkiem biblijnym). Dusza zapewnia nieśmiertelność. Ci bez duszy to pustaki jednorazowe.

PS. W myślach plusik był i go zmaterializowałam! Takie rzeczy potrafię Biggrin

6
-2
Portret użytkownika Jajcarz

Nie mam wątpliwości, że nie

Nie mam wątpliwości, że nie jesteśmy pierwszą cywilizacją. Ale dlaczego tamta inteligencja jest sztuczna?

Świadomość istnienia, to jedynie świadomość, o której pisałem. To może być świadomość któregoś/wszystkich zmysłów, świadomość procesów myślowych, emocji... (choć to, to samo). Trzeba by wtedy założyć, że kamienie potrafią myśleć. Hm... dlaczego nie, choć to dość śmiała teza. Smile Tu można by się dogadać. Smile

Natomiast nieśmiertelna dusza, jako cząstka innej istoty, jest trudna do przyjęcia. Trzeba natychmiast dać wiarę, że Stwórca jest złożony z elementów, jak każdy inny byt. Musi mieć zmysły, którymi postrzega swoje dzieła; umysł, którym je ocenia. Do tego dochodzą jeszcze dusze, które wchodzą w jego skład.

Trzeba by założyć, że jest jedyną istotą, której nie obowiązują prawa, które stworzył, bowiem cokolwiek składa się z innych elementów, musi przeminąć. Gdyby miało być inaczej, wszystkie składniki musiałyby być stałe, niezmienne i tak samo stale i niezmiennie trwać, utwierdzone względem siebie. To wykluczałoby doznania płynące ze zmysłów, bo opierają się o zmianę/dualizm itp. oraz, wszelkie procesy poznawcze.

Zrobił sobie więc teatrzyk (choć nie mógł), przydzielił role i skazał swoje kukiełki na masę cierpień, które oczywiście przewidział, ale widać były mu miłe. Nie dał im tej samej wiedzy, którą posiadał, nie dał nawet tej ułomnej wiedzy, która jasno wynika z ich kondycji. Dlatego wymyślają najdziwniejsze historie o sobie i o nim samym. Na ostatek ukrył się przed swoimi dziełami i niczym żydowski Bóg, do takiej "wiedzy" dopuszcza jedynie wybranych, którzy nie dojdą do niej przez roztropność, a jedynie przez bezrefleksyjne zawierzenie. Krótko mówiąc, przez odrzucenie inteligencji, na rzecz niczym niepopartych hipotez. Jak pokazuje doświadczenie, w ten sposób najlepiej dochodzi się do fałszu a nie do wiedzy. Wiara jest dokładnie sprzeczna z wiedzą (prawdą).

Tak, sądzę, że taką inteligencję jest wstanie wytworzyć nasza "cywilizacja". Małą, wręcz głupią, ale w pewnych dziedzinach - bardzo skuteczną. Szczególnie skuteczną w tworzeniu dalszych kłamstw, iluzji, krzywdzeniu itp. Na nasz obraz i podobieństwo. Smile Czy możemy stworzyć inteligencję, która przewyższy nas w moralności, dążeniu do prawdy? Potrzebni byliby bezkompromisowi fachowcy, którzy mieliby krystaliczne cele, potrafili je zrealizować, nie nawalając w żadnym ważnym punkcie, ale najgorsze jest to, że komuś z wielkimi możliwościami, musiałoby na tym zależeć. Heh. Biggrin

5
-2
Portret użytkownika keri

SI jest sztuczna, gdyż jest

SI jest sztuczna, gdyż jest martwa. Straci energetyczne zasilanie to przestanie istnieć.

     "Trzeba by wtedy założyć, że kamienie potrafią myśleć. Hm... dlaczego nie, choć to dość śmiała teza. Smile Tu można by się dogadać. Smile"

Zawsze mówiło się że ryby milczą, a obecnie jest sprawą oczywistą, że mówią i nawet ta mowa jest nagrywana.

Kamienie widać mają dość spokojną naturę, nawet jak usiądzie na nich nienormowana d.pa. Smile Niektóre organizmy żywią się energią z kamieni. Wiedziałeś, że kamień ma energię i to taką, którą mogą wykorzystywać nawet proste organizmy?

Stwórca nie jest osobą, nie jest istotą, nie jest złożony z cząstek (tzw. dusz), które rozdaje ludziom. Spróbuję to jakoś przybliżyć przykładem.

Czy Słońce, które rozdaje promienie, jest zbudowane z promieni?

     "Czy możemy stworzyć inteligencję, która przewyższy nas w moralności, dążeniu do prawdy?"

Zadaniem naszej cywilizacji nie jest stworzenie sztucznej inteligencji, tylko zniszczenie tej, która nami rządzi. Cel łatwo osiągnąć odcinając ją od naszej energii. Droga do tego wiedzie przez uwolnienie się od programów, które nam powgrywała.

5
-2

Strony

Skomentuj