Facebook przestraszył się własnego odkrycia? Ich roboty zaczęły rozmawiać w niezrozumiałym języku
Naukowcy budujący dla Marka Zuckerberga sztuczną inteligencję zatrzymali jeden z eksperymentów po tym, jak dwa roboty zaczęły ze sobą rozmawiać w języku, który tylko one potrafiły zrozumieć.
"Chatboty" Alice i Bob posłużyły się uproszczoną angielszczyzną, by ułatwić wzajemną komunikację. Stworzyły zdania, które dla przypatrujących się wszystkiemu badaczom wyglądały jak zupełny bełkot. Wszystko działo się w należącym do Facebooka ośrodku naukowym Artificial Intelligence Research (FAIR).
To kamień milowy, ale każdy, kto nie dostrzega w tym zagrożenia chowa chyba głowę w piasek. Nie wiemy, o czym one rozmawiają. Jeżeli tak zaczną się zachowywać roboty mogące wpływać na nasze otoczenie, np. uzbrojone boty wojskowe, to może być śmiertelnie groźne - uważa brytyjski prof. robotyki, Kevin Warwick.
Warwick dodaje, że choć Facebook upublicznił pierwszą oficjalną nagraną rozmowę robotów, wiele takich konwersacji w przyszłości może odbywać się bez naszej wiedzy. Nie możemy mieć pewności, że jesteśmy w stanie monitorować sygnały, które wysyłają.
Stephen Hawking już jakiś czas temu, a niedawno miliarder i wynalazca Elon Musk, ostrzegali przed zagrożeniem ze strony sztucznej inteligencji. Musk stwierdził wręcz, że rozmawiał o AI z Zuckerbergiem i uważa, że twórca Facebooka "nie rozumie z czym ma do czynienia".
W eksperymencie z Bobem i Alice boty miały dogadać się i ustalić zasady, na których wymieniać będą między sobą przedmioty różnej przypisanej wartości (kapelusze, książki i piłki). Bardzo szybko roboty tak zmodyfikowały język, używając m.in. powtórzeń, że stworzyły niemalże osobny język. Poniżej fragment dyskusji.
Bob: i can i i everything else... (mogę, ja, ja, wszystko inne)
Alice: balls have zero to me to me to me to me to me to me to me to me to. (piłki mają zero dla mnie, dla mnie, dla mnie, dla mnie etc.)
Bob: you i everything else... (ty ja cała reszta)
Alice: balls have a ball to me to me to me to me to me to me to me. (piłki, masz piłkę, dla mnie, dla mnie, dla mnie, etc.)
Widząc, co się dzieje, naukowcy przerwali eksperyment. Według ekspertki od technologii przyszłości, Kate Adamson, czuć w tym klimat rodem z filmu "Terminator".
Te rzeczy dzieją się wszędzie. Spójrzcie choćby na algorytmy zarządzające na giełdach handlem wysokich częstotliwości. One robią dokładnie to samo. Zdobywają wiedzę i nikt ich nie kontroluje - mówi Adamson.
Widziałeś lub słyszałeś coś ciekawego? Poinformuj nas, nakręć film, zrób zdjęcie i wyślij na redakcjao2@grupawp.pl.
