Roboty jednak będą potrafiły odmówić człowiekowi
Niektórzy naukowcy widzą w tym poważne zagrożenie.
Naukowcy z Tufts University w Massachusetts uczą roboty mówić "nie". Pracują nad tym, aby maszyny były w stanie zrozumieć, dlaczego wykonanie niektórych poleceń wydawanych przez człowieka może nie być najlepszym pomysłem. Mało tego, chcą, aby robot sam w takich przypadkach podejmował decyzję o odmowie podjęcia czynności.
W chwili obecnej roboty są przyuczane do wykonywania w nieskończoność jednego konkretnego zadania, aż do otrzymania nowych instrukcji. W przyszłości miałoby to zapobiegać wypadkom podobnym do tego, który wydarzył się w niemieckiej fabryce Volkswagena. 21-letni pracownik został zabity przez robota używanego do montażu samochodów. Mężczyzna został uderzony przez urządzenie w klatkę piersiową i przygnieciony.
Niektórzy naukowcy obawiają się efektów prac nad sztuczną inteligencją. Nie chodzi o to, że roboty przewyższą inteligencją człowieka. Raczej o to, że ich ignorancja - w połączeniu z daną przez człowieka kontrolą nad infrastrukturą - może doprowadzić do śmierci ludzi.
W jednym z zarejestrowanych eksperymentów naukowiec prosi robota o wyjście poza krawędź stołu. Robot odmawia, ponieważ wykonane polecenia wiązałoby się z upadkiem i wyrządzeniem sobie krzywdy. Co ciekawe, urządzenie jest tak zaprogramowane, że jego system etyczny może zostać "nadpisany". Naukowiec proponuje, że złapie robota, więc maszyna postanawia zaufać człowiekowi. Jeśli jednak nie poczuje, że nie łączy go wystarczająco bliska relacja z daną osobą, zignoruje wydaną komendę.
