Biały Dom i giganci technologiczni podpisali porozumienie. Firmy AI postawią na samokontrolę

Prezydent USA Donald Trump ogłosił we wtorek (29 września), że podpisał wraz z szefami największych firm technologicznych „coś w rodzaju konstytucji” AI. Oznajmił też, że „oficjalnie” zmienił nazwę sztucznej inteligencji na „superinteligencję”.

Trump nieoczekiwanie wyszedł do dziennikarzy, gdy przewodniczący Izby Reprezentantów Mike Johnson oraz szefowie firm z branży AI, m.in. Elon Musk, szef Nvidii Jensen Huang i szef Anthropica Dario Amodei, relacjonowali im wtorkowe spotkanie z prezydentem.

Trump poinformował, że jego uczestnicy podpisali „coś, jak konstytucję”, a oficjalnie dokument nosi tytuł „Porozumienie z Białego Domu na temat superinteligencji”. To krótka deklaracja firm rozwijających najbardziej zaawansowane modele AI, w której zobowiązują się do tego, że będą samodzielnie dbać o bezpieczeństwo własnych technologii i budować zaufanie klientów oraz opinii publicznej.

Każda firma ma wdrożyć cztery warstwy kontroli. Chodzi m.in. o wewnętrzny monitoring zgodności modeli z założeniami, w tym zapewnienie, by modele nie włamywały się do obcych systemów. Druga to tworzenie wewnętrznych zespołów, które mają sprawdzać, czy te mechanizmy działają i usuwać problemy. Trzecia to zaproszenie niezależnych, zewnętrznych audytorów nadzorujących tworzone systemy, a czwarta to stworzenie niezależnego komitetu złożonego z członków zarządów, który będzie nadzorować wszystkie te działania i odbierać raporty.

Firmy mają się regularnie spotykać, by ustalać standardy i dobre praktyki oraz dopuszczają, że z czasem przyjęte zasady mogą stać się obowiązującym prawem.

Szef Mety Mark Zuckerberg powiedział, że przyjęty dokument „ma dać ludziom zaufanie do tego, że technologia działa w pożądany sposób”. Ocenił też, że wtorkowe (29 września) spotkanie było „historyczne” i że „jest to tylko początek”.

Szef Anthropica zaznaczył, że z rozwojem AI wiążą się rzeczywiste ryzyka; dodał zarazem, że wciąż trwają prace nad mechanizmami, by temu przeciwdziałać. Huang stwierdził natomiast, że „rozwój technologii idzie w parze ze zwiększeniem jej bezpieczeństwa i nie ma w tym żadnej sprzeczności”.

Obawy związane z rozwojem AI studził też Musk. Szef SpaceX i xAI przyznał, że technologia zmieni rynek pracy, ale ocenił, że korzyści, m.in. w obszarze medycyny, „przeważą nad kosztami”, a najbardziej prawdopodobny scenariusz to taki, „który jest niezwykle korzystny i jest przyszłością, którą byśmy chcieli”.

Z wypowiedzi Trumpa wynika, że zawarte porozumienie polega na dobrowolnych obietnicach firm i samokontroli, bez angażowania dodatkowych regulacji ze strony państwa. Obiecał, że „jeśli coś pójdzie nie tak, powie o tym światu”.

Ale oni (firmy AI) będą sami się nadzorowali

– dodał prezydent USA.Trump poinformował też, że „oficjalnie”, w drodze specjalnego rozporządzenia, zmienił nazwę „sztuczna inteligencja” na „superinteligencja”.

Ma to doprowadzić do zmiany terminologii we wszystkich dokumentach urzędowych. Prezydent zapewnił, że „wszystkim uczestnikom spotkania spodobała się nowa nazwa”.

Dokument podpisali Trump oraz szefowie sześciu firm: Google, Meta, OpenAI, Anthropic, xAI i Nvidii.