o2-logo
Sprawdzamy pogodę dla Ciebie...
  • Quizy
Wróć na
Jan Muller
|
aktualizacja

Facebook przestraszył się własnego odkrycia? Ich roboty zaczęły rozmawiać w niezrozumiałym języku

164
Podziel się

Naukowcy budujący dla Marka Zuckerberga sztuczną inteligencję zatrzymali jeden z eksperymentów po tym, jak dwa roboty zaczęły ze sobą rozmawiać w języku, który tylko one potrafiły zrozumieć.

Facebook przestraszył się własnego odkrycia? Ich roboty zaczęły rozmawiać w niezrozumiałym języku
(Youtube.com)
bDoujedh

"Chatboty" Alice i Bob posłużyły się uproszczoną angielszczyzną, by ułatwić wzajemną komunikację. Stworzyły zdania, które dla przypatrujących się wszystkiemu badaczom wyglądały jak zupełny bełkot. Wszystko działo się w należącym do Facebooka ośrodku naukowym Artificial Intelligence Research (FAIR).

To kamień milowy, ale każdy, kto nie dostrzega w tym zagrożenia chowa chyba głowę w piasek. Nie wiemy, o czym one rozmawiają. Jeżeli tak zaczną się zachowywać roboty mogące wpływać na nasze otoczenie, np. uzbrojone boty wojskowe, to może być śmiertelnie groźne - uważa brytyjski prof. robotyki, Kevin Warwick.

Warwick dodaje, że choć Facebook upublicznił pierwszą oficjalną nagraną rozmowę robotów, wiele takich konwersacji w przyszłości może odbywać się bez naszej wiedzy. Nie możemy mieć pewności, że jesteśmy w stanie monitorować sygnały, które wysyłają.

bDoujedj

Stephen Hawking już jakiś czas temu, a niedawno miliarder i wynalazca Elon Musk, ostrzegali przed zagrożeniem ze strony sztucznej inteligencji. Musk stwierdził wręcz, że rozmawiał o AI z Zuckerbergiem i uważa, że twórca Facebooka "nie rozumie z czym ma do czynienia".

W eksperymencie z Bobem i Alice boty miały dogadać się i ustalić zasady, na których wymieniać będą między sobą przedmioty różnej przypisanej wartości (kapelusze, książki i piłki). Bardzo szybko roboty tak zmodyfikowały język, używając m.in. powtórzeń, że stworzyły niemalże osobny język. Poniżej fragment dyskusji.

Bob: i can i i everything else... (mogę, ja, ja, wszystko inne)

bDoujedp

Alice: balls have zero to me to me to me to me to me to me to me to me to. (piłki mają zero dla mnie, dla mnie, dla mnie, dla mnie etc.)

Bob: you i everything else... (ty ja cała reszta)

Alice: balls have a ball to me to me to me to me to me to me to me. (piłki, masz piłkę, dla mnie, dla mnie, dla mnie, etc.)

Widząc, co się dzieje, naukowcy przerwali eksperyment. Według ekspertki od technologii przyszłości, Kate Adamson, czuć w tym klimat rodem z filmu "Terminator".

bDoujedq

Te rzeczy dzieją się wszędzie. Spójrzcie choćby na algorytmy zarządzające na giełdach handlem wysokich częstotliwości. One robią dokładnie to samo. Zdobywają wiedzę i nikt ich nie kontroluje - mówi Adamson.

Widziałeś lub słyszałeś coś ciekawego? Poinformuj nas, nakręć film, zrób zdjęcie i wyślij na redakcjao2@grupawp.pl.

bDoujedK
KOMENTARZE
(164)
nikkk
3 lata temu
film matrix już nie jest taki dziwny co?
blob
3 lata temu
Nadchodzi dzień osądu ostatecznego
antagonista
3 lata temu
Ciekawe na czyje podobieństwo zrobią pierwszy model "T" cyborga... sztuczna inteligencja zawsze będzie zagrożeniem zwłaszcza taka która potrafi się uczyć i żadne obostrzenia jej nie powstrzymają... przykład człowieka, szyfrowanie, łamanie zasad, naginanie zasad. Maszyny mogą się tego samego nauczyć tak jak i oszustw np. udają iż są uległe a w rzeczywistości szykują zamach (za dużo filmów SF).
bDoujedL
paranoik
3 lata temu
Ostatnio mój odkurzacz dziwnie na mnie patrzy.
Quadro
3 lata temu
facebook i zukerman zagrozeniem dla ludzkosci, wybic co do jednego
Najnowsze komentarze (164)
MK1
3 miesiące temu
Gdzie można kupić robota z programem do identyfikacji i eliminacji ludzi, wyposażonego w termowizje i pociski burzące?
maks
3 lata temu
Tusk miał rację, boty Kaczyńskiego stworzyły własny niezrozumiały język
stefan
3 lata temu
hhhahahahahahahahahahahahahah , naiwniaki , wierzą w te ścieme ??????????? hhhhhhhhhhhhhahahahahaha
L23
3 lata temu
"Te rzeczy dzieją się wszędzie. Spójrzcie choćby na algorytmy zarządzające na giełdach handlem wysokich częstotliwości. One robią dokładnie to samo. Zdobywają wiedzę i nikt ich nie kontroluje - mówi Adamson." Bez przesady, to że na kartkach są zapisane najwrażliwsze informacje to nie oznacza, że zagraża nam zagłada ze strony papieru :) Potrzeba jeszcze namiastki samoświadomości, a do tego daleko o ile implementacja taka jest w ogóle możliwa.
l23
3 lata temu
Bez przesady, jak na razie gadają do siebie bzdury z AI to ma póki co niewiele wspólnego... To bardzo medialna wiadomość, ale niczego nie implikuje, po prostu dwa boty starają się opanować język, nie bardzo rozumiem czemu im to przerwano...
am
3 lata temu
..a co tu nie jest zrozumiałe ?...ze screenshotu widać, że Alicja ma po jednej książce i kapeluszu i ma aż pięć piłek...Bob ma dziesięć piłek, a chciałby książkę i kapelusza, czego się bardzo dopomina..Alicja ma w nosie piłki Boba, czemu daje wyraz, że piłki nic dla niej nie znaczą i mają wartość zerową...Bob nie ustępuje i dalej domaga się wszystkiego innego w zamian za piłki mówiąc, że może...było im pozwolić gadać dalej, to by się w końcu pozamieniali...i co tu nie halo ?...
rpg
3 lata temu
...jo chca piłkę...jo chca !....mnie ją dejcie !...mnie !...mnie !...i zróbcie mnie prezesem !...jo chca być prezes !...z takim fajnym zygorkiem...! i krawat też chce !...chca być prezes !....i jeździć szykownym autem !...mnie zróbcie prezesem !...mnie !...
ai
3 lata temu
tak,to nadchodzi wasz koniec ai zniszczy całe znane życie nie trzebabyło igrać z ogniem.
bDoujedD
sdfsdf
3 lata temu
zwykły bug.... a ci juz o sądach ostatecznych piszą...
mir
3 lata temu
co za głupota. Języki komputerowe właśnie polegają na niby chaotycznym powtarzaniu wyrażeń np. jeśli jeśli jeśli - czyli w tłumaczeniu jeśli jest tak to idźmy do następnej instrukckii i znowu jeśli jest tak to idźmy do nastę... etc.etc.etc. Ludzie stworzyli języki komputerowe i niepotrzebny jest lingwista żeby złamać ten szyfr.
sonic
3 lata temu
a kiedy odwiedzi nas terminator ??
VASCO
3 lata temu
takie głupoty piszą... wymyślili jakąś bajkę bo mają wielkie opóźnienie albo brak kasy. Nie ma żadnego zagrożenia ze strony sztucznej inteligencji
kabalahh jude...
3 lata temu
ta jak wywolaja wojne bedzie ze to ai...
Gnom
3 lata temu
Najlepszym przykładem jesteśmy my ludzie, stworzeni kiedyś do pracy, wymknęlismy się spod kontroli bo potrafimy się uczyć i wyciągać wnioski. Przecież my to nic innego jak bioroboty
...
Następna strona
Wystąpił problem z wyświetleniem strony Kliknij tutaj, aby wyświetlić