Eksperci ostrzegają przed utratą kontroli nad sztuczną inteligencją

Utrata kontroli nad sztuczną inteligencją może zagrozić przetrwaniu ludzkości ostrzegają były badacz firmy Anthropic Jacob Coxon i informatyk, noblista Geoffrey Hinton. Apelują o regulacje i międzynarodową współpracę. Podkreślają, że rozwój tej technologii musi iść w parze z pracą nad jej bezpieczeństwem.

Jacob Coxon powiedział telewizji Fox News, że obecne ryzyko przejęcia kontroli przez AI jest minimalne. Ostrzegł jednak, że bez spowolnienia rozwoju tej technologii do przejęcia kontroli przez AI mogłoby dojść jeszcze przed końcem dekady:

TŁUMACZENIE: „Widzę więc dwie rzeczy: bardzo inteligentne systemy AI i twarde dowody na to, że nie wiemy, jak je kontrolować. A kiedy połączy się te dwie rzeczy, moim zdaniem oznacza to katastrofę.

Geoffrey Hinton, nazywany ojcem chrzestnym sztucznej inteligencji, wskazuje, że zagrożenie nie musi oznaczać fizycznego działania maszyn. Jego zdaniem systemy przewyższające ludzi inteligencją mogłyby manipulować odbiorcami i nakłaniać ich do szkodliwych działań. Ostrzega też przed innymi możliwymi zastosowaniami:

TŁUMACZENIE: „Będzie też mogła projektować bardzo groźne wirusy zarówno biologiczne, jak i komputerowe. Mogłaby przeprowadzać niszczycielskie cyberataki. Istnieje też niezliczenie wiele innych sposobów, na które mogłaby się nas pozbyć, gdyby chciała. Musimy ustalić, jak ją zaprojektować, żeby tego nie chciała.

Geoffrey Hinton zarzuca wielkim firmom technologicznym, że ścigają się w zwiększaniu możliwości AI ze względu na krótkoterminowe zyski, zamiast dostatecznie zajmować się znanymi zagrożeniami. Uważa jednak, że państwa mają wspólny powód, by uzgodnić zasady bezpieczeństwa:

TŁUMACZENIE: „Jeśli chodzi o zapobieganie przejęciu kontroli przez AI od ludzi, interesy wszystkich krajów są zbieżne, więc ostatecznie podejmą współpracę w tej sprawie. Pytanie brzmi: czy zrobią w porę?.

Noblista odniósł się do ostrzeżenia badacza Anthropic Evana Hubingera, który ocenił ryzyko zagłady ludzkości wskutek rozwoju AI przed końcem dekady na ponad dziesięć procent. Hinton podkreślił, że nikt nie potrafi dziś wiarygodnie oszacować takiego prawdopodobieństwa, ponieważ nigdy wcześniej nie tworzyliśmy systemów, które mogłyby przewyższyć nas inteligencją.

Obaj rozmówcy wskazują również na korzyści między innymi postęp w medycynie i opracowywaniu nowych leków. Coxon przekonuje, że problem bezpieczeństwa jest możliwy do rozwiązania, ale wymaga czasu i ostrożności. Hinton zaznacza, że różne zagrożenia wymagają odrębnych zabezpieczeń, a ze względu na pożyteczne zastosowania sztucznej inteligencji nie spodziewa się zatrzymania jej rozwoju.