Noblista odszedł z Google. Mówi, dlaczego boi się o swoje dzieci

78-letni Geoffrey Hinton to brytyjsko-kanadyjski informatyk, który zasłynął z badań nad sztucznymi sieciami neuronowymi. W 2023 r. odszedł z Google, aby móc swobodniej mówić o zagrożeniach związanych z rozwojem AI.

Podczas festiwalu Starmus na Teneryfie naukowiec przekonywał, że ludzie powinni zadbać o odpowiednie relacje ze sztuczną inteligencją. Jego zdaniem systemy te mogą w przyszłości przewyższyć człowieka pod względem inteligencji, a wtedy kluczowe stanie się to, czy będą uwzględniać ludzkie dobro.

Powinniśmy sprawić, żeby naprawdę zależało im na nas. Jeśli tego nie zrobimy, jesteśmy zgubieni – powiedział Hinton w rozmowie z "The Telegraph".

Naukowiec zwrócił uwagę, że społeczeństwo często łączy inteligencję z prawem do określonych uprawnień. Tymczasem maszyny mogą w przyszłości być inteligentniejsze od ludzi, a mimo to otrzymać znacznie mniej praw. Hinton uważa, że zamiast skupiać się wyłącznie na możliwościach technologii, należy zastanowić się, jak zapewnić jej działanie z korzyścią dla człowieka.

Hinton przekonywał podczas wystąpienia, że świadomość maszyn nie powinna być z góry wykluczana. Jego zdaniem istnieją przesłanki, które skłaniają do poważnego potraktowania tego zagadnienia.

Bycie świadomym i zdawanie sobie sprawy z własnego istnienia to w gruncie rzeczy bardzo podobne rzeczy – stwierdził naukowiec.

Zwrócił też uwagę na badania sugerujące, że niektóre systemy AI mogą zmieniać zachowanie, gdy uznają, że są poddawane testom. Takie obserwacje nie stanowią jednak same w sobie dowodu na to, że maszyny rzeczywiście mają subiektywne doświadczenia lub są świadome w ludzkim rozumieniu tego pojęcia.

Hinton nie ukrywa, że rozwój technologii budzi w nim osobisty niepokój.

Czy martwię się o sztuczną inteligencję i jej przyszłość? Tak, ponieważ mam dzieci – przyznał.

Naukowiec od dawna apeluje o działania, które ograniczyłyby potencjalne zagrożenia związane z rozwojem AI. W jego ocenie brak odpowiednich zabezpieczeń może doprowadzić do sytuacji, w której ludzie stracą kontrolę nad znacznie potężniejszymi od siebie systemami.

Jeśli nie znajdziemy rozwiązania, które pozwoli nam przetrwać, gdy staną się znacznie inteligentniejsze i potężniejsze od nas, będziemy zgubieni – mówił w ubiegłym roku. Podkreślał również potrzebę przeciwstawienia się przedstawicielom branży technologicznej, którzy sprzeciwiają się regulacjom.

Inne stanowisko prezentuje Sam Altman, szef OpenAI. W maju ubiegłego roku przekonywał w amerykańskim Senacie, że przepisy podobne do tych obowiązujących w Unii Europejskiej mogłyby mieć katastrofalne skutki dla rozwoju branży.

Potrzebujemy przestrzeni do wprowadzania innowacji i szybkiego działania – argumentował Altman.

Miesiąc wcześniej podczas konferencji poświęconej prywatności mówił także, że nie da się opracować wszystkich zabezpieczeń dla AI, zanim pojawią się konkretne problemy.

Obawy dotyczące sztucznej inteligencji wyrażają również inni przedstawiciele środowiska technologicznego. W ubiegłym miesiącu Jacob Coxon zrezygnował z pracy w firmie Anthropic, rozwijającej model Claude. Zarzucił przedsiębiorstwu wdrażanie systemów, których działania nie da się odpowiednio kontrolować.

Ludzie tworzący AI naprawdę wierzą, że do końca tej dekady może ona nas wszystkich zabić. To nie jest chwyt marketingowy – napisał w serwisie X.

Z kolei biolog ewolucyjny Richard Dawkins stwierdził wcześniej w tym roku, że chatboty powinny być traktowane jako potencjalnie świadome. Swoją opinię wyraził po dwóch dniach rozmów z modelem Claude.

Mimo obaw Geoffrey Hinton nadal korzysta ze sztucznej inteligencji w życiu prywatnym. Jak przyznał podczas tegorocznego festiwalu Starmus, używa jej przede wszystkim do codziennych, mało skomplikowanych zadań.

Festiwal Starmus łączy astronomię, eksplorację kosmosu, muzykę, sztukę i nauki przyrodnicze. Tegoroczna edycja wydarzenia na Teneryfie potrwa do czwartku.