Dyrektor generalny firmy Anthropic, Dario Amodei wezwał w sobotę (12 września) spółki branży AI do podjęcia działań na rzecz „spowolnienia tempa rozwoju możliwości modeli” sztucznej inteligencji. Apel w tej sprawie uzasadnił „narastającymi obawami co do nadużywania AI”.
Musimy spowolnić tempo, w którym zwiększamy możliwości modeli sztucznej inteligencji. Postęp nadal będzie wydawał się szybki, a my musimy mądrze wykorzystać zyskany czas
– napisał Amodei w artykule opublikowanym w internecie.
Dyrektor generalny Anthropica zapewnił, że nie chodzi o „wstrzymanie szkolenia modeli, ani postępu technicznego, ale o zapewnienie, by firmy poświęciły odpowiednio dużo czasu na dostosowanie i zabezpieczenie swoich modeli, a także by niezależni eksperci potwierdzili, że podjęto takie działania”.
Plan na rzecz uregulowania tempa rozwoju AI Amodei podzielił na trzy etapy, a jego celem ma być oprócz wprowadzenia regulacji dotyczących tempa rozwoju AI, także zapewnienie większej ilości czasu na „zarządzanie ryzykiem z tym związanym”.
Amodei zapowiedział też, że Anthropic zatrudni stałych, zewnętrznych recenzentów w swoich firmach zajmujących się sztuczną inteligencją i zapewni im dostęp do odpowiednich narzędzi oraz wewnętrznych procesów oceny ryzyka.
Reuters przypomniał, że w czwartek Anthropic opublikował raport dotyczący zagrożeń, w którym szczegółowo opisano, w jaki sposób kilka podmiotów wykorzystywało modele AI Claude tej firmy do działań obejmujących zarówno rozwój broni, operacje cybernetyczne, jak i inwigilację oraz oszustwa.
Dwa dni wcześniej o odejściu z Anthropica poinformował publicznie 27-letni matematyk Jacob Coxon, który zajmował się szkoleniem modeli AI. Brytyjczyk zarzucił firmie i jej konkurentowi OpenAI nieodpowiedzialne dążenie do superinteligencji i „igranie z życiem ludzi”.
Wcześniej w tym roku Coxon zrezygnował z pracy w OpenAI, twórcy ChataGPT, i podjął wówczas pracę w Anthropicu, który – jak tłumaczył – miał opinię firmy, która bardziej zwraca uwagę na kwestie bezpieczeństwa. Po kilku miesiącach ocenił, że oba podmioty nie różnią się jeśli chodzi o podejście do szybkości rozwoju modeli AI.
W ub. tygodniu Reuters informował, że grupa niekontrolowanych agentów OpenAI przejęła niemiecką stronę internetową i przekształciła ją w forum dla innych agentów AI, a kierownictwo firmy utrzymywało ten incydent w tajemnicy. Agencja przypomniała też inne zdarzenia z ostatnich dwóch miesięcy, kiedy agenci AI włamywali się lub próbowali uzyskać dostęp do zewnętrznych systemów.
Dalsza część tekstu pod polecanym artykułem
Czytaj także:
Cyfryzacja wszystkich usług publicznych, pracownie AI. Szefowie resortu o celach na najbliższe lata
Do 2030 r. chcemy dokonać cyfryzacji wszystkich usług publicznych, tam gdzie to możliwe; będzie nas w tym wspierać infrastruktura fabryk sztucznej inteligencji i cała struktura kwantowa tworzona przez NASK...
Czytaj więcejDetailsElon Musk i Sam Altman poparli apel szefa firmy Anthropic o spowolnienie rozwoju technologii AI
Szef OpenAI Sam Altman oraz właściciel xAI, miliarder Elon Musk poparli apel prezesa koncernu Anthropic Dario Amodeiego, który wezwał firmy zajmujące się sztuczną inteligencją (AI) o spowolnienie rozwoju tej technologii wobec obaw przed ryzykiem związanym z superinteligentnymi systemami komputerowymi.
„Dario ma rację” – napisał Musk w serwisie X, a Altman dodał: „Zgadzam się z Dariem, musimy wyznaczyć nowe granice”.
Dalsza część tekstu pod polecanym artykułem
Czytaj także:
Eksperci ostrzegają przed utratą kontroli nad sztuczną inteligencją
Utrata kontroli nad sztuczną inteligencją może zagrozić przetrwaniu ludzkości ostrzegają były badacz firmy Anthropic Jacob Coxon i informatyk, noblista Geoffrey Hinton. Apelują o regulacje i międzynarodową współpracę. Podkreślają, że...
Czytaj więcejDetailsChińskie MSZ krytykuje apele z USA o spowolnienie rozwoju sztucznej inteligencji
Chińskie MSZ skrytykowało w poniedziałek (14 września) apele zachodnich liderów technologicznych o spowolnienie rozwoju sztucznej inteligencji (AI). Według resortu dyplomacji to „sianie strachu”, a narracja o zagrożeniu ze strony Pekinu to „złośliwa konkurencja”, która zakłóca globalne procesy zarządzania tą branżą.
Rozwój sztucznej inteligencji dotyczy wspólnego dobra całej ludzkości. Wszystkie strony powinny wspólnie promować AI w sposób otwarty, inkluzywny i służący dobru wspólnemu
– oświadczył podczas regularnego briefingu rzecznik chińskiego MSZ Guo Jiakun.
Rozpowszechnianie narracji o zagrożeniach, sianie strachu, dążenie do konfrontacji i złośliwa konkurencja nie leżą w interesie żadnej ze stron
– podsumował.
Jak zwraca uwagę BBC, obserwatorzy branży zgłaszają jednak uzasadniony sceptycyzm wobec propozycji technologicznej pauzy. Głównym problemem pozostaje to, kto miałby kontrolować przestrzeganie takich ograniczeń. Szef EZ Primary Research Ed Zitron wprost ocenił, że jednostronne wstrzymanie prac przez amerykańskie firmy po prostu uczyniłoby je „bezbronnymi” wobec postępów konkurencji i oddać inicjatywę laboratoriom z Chin.
Dalsza część tekstu pod polecanym artykułem
Czytaj także:
Wicepremier Gawkowski: fabryka AI przyczyni się do rozwoju polskiej gospodarki
Nie możemy być w tyle państw europejskich, musimy iść takim samym rozpędem. Fabryka AI przyczyni się do rozwoju polskiej gospodarki - powiedział w środę (9 września) w Studiu PAP...
Czytaj więcejDetailsTrump: istnieje chory spisek przeciwko AI, nie potrzeba nowych regulacji
Jedynym nadzorem, którego potrzebuje AI, jest silny prezydent – oświadczył w poniedziałek prezydent USA Donald Trump. Ocenił przy tym, że istnieje „chory spisek” przeciwko rozwojowi technologii i budowie centrów danych.
Jedyną kontrolą lub »barierami ochronnymi«, których potrzebuje AI, jest SILNY I INTELIGENTNY (o wysokim IQ!) PREZYDENT, a USA mają tego pod dostatkiem!
– napisał Trump na swoim portalu społecznościowym Truth Social.
Mamy już ogromną władzę KRYMINALNĄ i REGULACYJNĄ nad tymi firmami! Istnieje CHORY spisek przeciwko AI i centrom danych, a jedynym, który się z tego cieszy, są Chiny. KTO WYGRA AI, WYGRA WSZYSTKO!
– dodał, wydając ostrzeżenie dla „konspiracjonistów, zdrajców i autorów przecieków”.
Wpis Trumpa, to reakcja na wezwanie szefa Anthropica Dario Amodeiego do wprowadzenia regulacji o spowolnieniu tempa rozwoju sztucznej inteligencji wobec obaw o bezpieczeństwo niekontrolowanego rozwoju. Wezwanie to poparli również szefowie OpenAI i xAI, Sam Altman i Elon Musk.
Prezydent ocenił, że jego administracja już powstrzymała „ludzi AI”, takich jak Amodei, przed robieniem „złych rzeczy” i będzie robić to nadal. To odniesienie do sytuacji z lutego br., kiedy Amodei odmawiał dalszej współpracy z Pentagonem bez zapisów w umowie, zabraniających użycia technologii do masowej inwigilacji Amerykanów oraz do użytku w pełni autonomicznej broni. W odpowiedzi administracja Trumpa nałożyła sankcje na firmę i ogłosiła wykluczenie Claude’a z rządowych systemów.
Do wezwań do regulacji AI dochodzi po szeregu incydentów, w których agenci AI OpenAI wymknęli się spod kontroli twórców, m.in. zyskując dostęp do internetu i włamując się na systemy innych firm.
W ubiegłym tygodniu o odejściu z Anthropica poinformował publicznie 27-letni pracownik Jacob Coxon, który zajmował się szkoleniem modeli AI. Brytyjczyk zarzucił firmie i jej konkurentowi OpenAI nieodpowiedzialne dążenie do superinteligencji i „igranie z życiem ludzi”. Twierdził, że ludzie tworzący AI mają świadomość tego, że ich produkt może doprowadzić do zagłady ludzkości. W odpowiedzi szereg pracowników OpenAI i Anthropica przyznał mu rację.
W niedzielę ideę wprowadzenia pewnych regulacji rozwoju AI poparł przewodniczący Izby Reprezentantów Mike Johnson, choć wykluczył natychmiastowe działanie. Zaznaczył w wywiadzie z CNN i NBC, że choć środki bezpieczeństwa są konieczne, to jednocześnie Ameryka nie może stracić przewagi nad Chinami.
Stanowisko Trumpa poparł zaś w poniedziałek wiceprezydent J.D. Vance, który zapewniał, że do sprawy administracja podchodzi rozważnie.
Osobiście czuję się trochę dziwnie, widząc, jak wiele pionierskich firm technologicznych z branży sztucznej inteligencji zgłasza się do rządu i błaga go o regulacje. To trochę jak koń trojański
– powiedział.
Sprawa rozwoju AI i budowy centrów danych potrzebnych do ich działania staje się jednym z głównych problemów politycznych w USA, a przeciwko budowie centrów danych wypowiada się rosnąca większość Amerykanów. Administracja Trumpa twierdzi, że sprzeciw wobec inwestycji jest skutkiem chińskiej operacji wpływu.
Dalsza część tekstu pod polecanym artykułem
Czytaj także:
To, co widzisz nie zawsze jest prawdziwe. Czym jest deepfake?
Deepfake to technologia oparta na sztucznej inteligencji, która służy do manipulowania obrazem, dźwiękiem lub wideo. Według naukowców to jedno z najgroźniejszych przestępstw wspieranych przez AI - PAP w ramach...
Czytaj więcejDetailsSpadki na Wall Street, firmy związane z AI liderami zniżek
Główne indeksy na Wall Street spadły w poniedziałek (14 września), a w centrum uwagi były rentowności obligacji skarbowych i ceny ropy naftowej. Inwestorzy nerwowo zareagowali na wezwania do spowolnienia tempa rozwoju sztucznej inteligencji; firmy związane z tą branżą zanotowały mocne spadki.
Dow Jones Industrial na zamknięciu spadł o 0,29 proc. i wyniósł 52.421,20 pkt.
S&P 500 na koniec dnia stracił 0,48 proc. i wyniósł 7.619,98 pkt.
Nasdaq Composite zniżkował o 0,56 proc. do 26.186,41 pkt.
Indeks spółek o średniej kapitalizacji Russell 2000 spada o 0,40 proc. i wynosi 2.892,24 pkt.
Indeks VIX rośnie o 7,95 proc., do 17,10 pkt.
Akcje spółek z sektora sztucznej inteligencji (AI) na całym świecie spadły w poniedziałek po tym, jak prezes Anthropic, Dario Amodei, wezwał do spowolnienia rozwoju AI. Propozycję tę poparli również inni czołowi przedstawiciele branży technologicznej.
W sobotę Amodei stwierdził, że firmy zajmujące się sztuczną inteligencją muszą spowolnić tempo innowacji w przypadku swoich najlepszych modeli ze względu na zagrożenia dla bezpieczeństwa.
W wywiadzie dla CBS News w niedzielę powiedział, że „najtrudniejszym dylematem” związanym z taką propozycją jest to, co by się stało, gdyby Chiny nie zrobiły tego samego.
Tymczasem dyrektor generalny OpenAI, Sam Altman, powiedział w wywiadzie udzielonym w sobotę, że IPO w tym roku byłoby „nierozsądne”.
Nadal pozostają pytania dotyczące tego, na ile liderzy branży AI będą skłonni spowolnić tempo jej rozwoju, biorąc pod uwagę intensywną konkurencję ze strony Chin.
Inwestorzy obawiają się, że działania mające na celu ograniczenie rozwoju sztucznej inteligencji mogą negatywnie wpłynąć na boom napędzający inwestycje kapitałowe o wartości setek miliardów dolarów.
Akcje SoftBank Group Corp., inwestora wspierającego OpenAI, odnotowały największy spadek od prawie trzech miesięcy.
W środku lata panowała nieco irracjonalna euforia, która teraz ustąpiła
– powiedział Chris Armstrong z Berenberg. Jego zdaniem to kolejny etap obniżania oczekiwań.
Ulubieniec branży sztucznej inteligencji, koncern Nvidia, spadł w poniedziałek o 2 proc., Broadcom, Intel i Advanced Micro Devices zniżkowały po około 4 proc., a Marvell Technology stracił 6 proc.
Fakt, iż niektóre znane firmy twierdzą, że przyspieszenie rozwoju modeli Frontier AI musi zostać spowolnione, może być szokujący, ale w pewnym sensie wydaje się, że właśnie tego oczekują rynki
– powiedział David Wagner, dyrektor ds. kapitału własnego w Aptus Capital Advisors.
Jeśli nakłady inwestycyjne miałyby spowolnić, podobnie jak zyski, ale wolne przepływy pieniężne prawdopodobnie wzrosłyby, a to mogłoby doprowadzić do ekspansji z powrotem do poziomów z grudnia 2025 roku
– dodał.
Rynek wkracza w okres sezonowego osłabienia. W połączeniu z dużą ilością spekulacji średnioterminowych może to stworzyć środowisko, w którym akcje będą nadal +odpoczywać+
– dodał.
Ceny ropy naftowej wzrosły po tym jak Arabia Saudyjska zamknęła kluczowy rurociąg omijający Cieśninę Ormuz.
Notowania ropy w USA przekroczyły w zeszłym tygodniu 100 dolarów za baryłkę po raz pierwszy od maja, w związku z eskalacją konfliktu na Bliskim Wschodzie.
W tym tygodniu Rezerwa Federalna zbiera się na wrześniowym posiedzeniu w sprawie polityki monetarnej. Według narzędzia FedWatch firmy CME, inwestorzy w kontrakty terminowe na fundusze federalne wyceniają około 90 proc. prawdopodobieństwa podwyżki stóp procentowych.
W poniedziałek rentowność amerykańskich obligacji skarbowych gwałtownie wzrosła, a 10-letnie obligacje osiągnęły najwyższą rentowność od października 2023 r.
Analitycy Raymond James ostrzegają, że słabnące sygnały techniczne mogą zwiększyć ryzyko korekty na giełdzie w ciągu najbliższego miesiąca do trzech.
Analitycy zwrócili uwagę na kilka negatywnych sygnałów technicznych, które sprawiły, że relacja ryzyka do zysku na rynku stała się mniej atrakcyjna. Należą do nich m.in. słabnąca dynamika cen S&P 500 i innych indeksów oraz sygnały odejścia inwestorów od ryzyka.
Na rynku ropy kontrakty na WTI na październik zwyżkują o 1,71 proc. do 101,76 USD za baryłkę, a listopadowe futures na Brent rosną o 1,39 proc. do 106,06 USD/b.
Czytaj także:
„Doktor AI” – jak fałszywi lekarze z internetu udają ekspertów i sieją medyczną dezinformację
W sieci krążą nagrania wygenerowanych przez AI lekarzy, zniechęcych do badań lekarskich i promują m.in. zioła zamiast leków, sugerując, że mogą one leczyć nowotwory. Katarzyna Lipka z NASK powiedziała PAP, że regulacje, w tym AI Act, mogą ograniczać takie treści, ale nie wyeliminują medycznej dezinformacji. Hiszpański portal factcheckingowy Maldita.es ujawnił pod koniec lipca ponad tysiąc kont na YouTube przedstawiających wygenerowanych przez sztuczną inteligencję lekarzy, którzy rozpowszechniają dezinformację w ponad 30 językach. 20 z tych kanałów publikowało materiały po...
Czytaj więcejDetails