Wielka Brytania tworzy laboratorium AI do monitorowania zagrożeń biobezpieczeństwa - po dyskusji o progach ryzyka i dialogu USA-Chiny nadzór nad ryzykiem AI przybiera formę instytucjonalną.
Tapnij etap, żeby rozsunąć skrót
Rząd Wielkiej Brytanii ogłosił powołanie AI Biosecurity Lab (AIBL) - pierwszej na świecie instytucji dedykowanej wyłącznie biobezpieczeństwu opartemu na sztucznej inteligencji. Budżet wyniesie do 300 mln funtów, z czego 100 mln to środki rządowe, a do 200 mln zadeklarowały firmy OpenAI i Anthropic. Inicjatywa wchodzi w skład National AI Biosecurity Initiative i rozwija zapisy Biological Security S…
Podczas rozmów przywódców Chin i USA 25 września Xi Jinping podkreślił, że sztuczna inteligencja musi pozostać pod kontrolą człowieka i służyć ludzkości, a oba kraje powinny utrzymywać dialog o ryzykach i korzyściach tej technologii oraz wspólnie zapobiegać jej nadużyciom. Według komunikatu MSZ ChRL oba państwa mają znaczące zdolności w dziedzinie AI i mogą współpracować równolegle do rywalizacji.…
Dario Amodei, CEO Anthropic, odpowiedział na liczący ponad 1 500 słów wpis Nathana Calvina, dyrektora ds. strategii w Encode AI, który zarzucił firmie priorytetyzację "wyścigu do superinteligencji" kosztem bezpieczeństwa AI. Calvin wskazał dziewięć działań Anthropic z ostatniego roku, w tym podpisanie umów na ponad 500 mld dolarów mocy obliczeniowej oraz coraz większe poleganie na modelu Claude pr…
Anthropic przedstawił w Waszyngtonie kongresmenom i senatorom poufny projekt ustawy regulującej bezpieczeństwo frontier-AI - informację uzyskało POLITICO od trzech osób zaznajomionych z procesem. Projekt, będący próbą współkształtowania przez firmę reguł dla własnej technologii, dopuszczałby rządową blokadę publikacji lub użycia modelu tylko przy przewidywalnym, bezpośrednim ryzyku szkód przekracz…
Po zapowiedzi utworzenia Anthropic Public Benefit Fund spółka przedstawiła ustawodawcom w USA ramy regulacyjne, które pozwoliłyby regulatorom blokować wydanie systemów AI zdolnych - według oceny - do spowodowania śmierci lub obrażeń ponad 50 osób albo strat przekraczających 1 mld dol. Fundusz, do którego Anthropic wniesie 5% kapitału własnego, ma działać jako w pełni zależna spółka z ograniczoną o…
Pełna treść w wydaniu z tego dnia.
Pełna treść w wydaniu z tego dnia.
Anthropic PBC, stojące za modelem Claude, złożyło w Kongresie własny projekt ustawy regulującej bezpieczeństwo i ochronę sztucznej inteligencji. Firma chce w ten sposób wpłynąć na kształt przyszłych przepisów zamiast czekać na gotowe rozwiązania legislacyjne. To kolejny sygnał rosnącej presji regulacyjnej na sektor AI w USA - obok unijnego AI Act i wcześniejszych prób tworzenia ram prawnych przez…
Pełna treść w wydaniu z tego dnia.
Zespół zadaniowy Białego Domu ds. AI przyjął w czwartek swój statut podczas pierwszego oficjalnego posiedzenia, rozpoczynając 120-dniowe okno na odpowiedzi dotyczące regulacji szybko rozwijającej się technologii AI. W ramach prac zlecono raport Prezydenckiej Radzie Doradców ds. Nauki i Technologii, który oceni ryzyko AI w trzech obszarach: cyberbezpieczeństwa i ochrony infrastruktury krytycznej, b…
Anthropic poinformował, że rozpoczął udostępnianie dostępu na poziomie zbliżonym do pracowniczego zespołowi sześciu pracowników organizacji non-profit METR, która zajmuje się ewaluacją modeli frontier AI. METR ma publikować wyniki swoich ocen ryzyka. Firma współpracuje także z SecureBio i Accenture jako ewaluatorami i prowadzi wstępne rozmowy z kolejnymi organizacjami, w tym z Hugging Face. Decyzj…
W opublikowanym we wtorek liście otwartym około 400 badaczy z 34 krajów apeluje o odcięcie najbardziej zaawansowanych cybernetycznie modeli AI od internetu do czasu wypracowania standardów bezpieczeństwa. Sygnatariusze, wśród których znaleźli się Geoffrey Hinton, Yoshua Bengio, Stuart Russell z UC Berkeley, Ron Rivest z MIT i Dan Boneh ze Stanford, domagają się natychmiastowego wdrożenia tzw. wyso…
Demis Hassabis, współzałożyciel DeepMind i obecnie szef działu AI w Google (DeepMind chair), ostrzegł, że systemy sztucznej inteligencji mogą doprowadzić do "poważnych" incydentów w ciągu najbliższych dwóch lat, jeśli firmy i rządy nie podejmą pilnych działań na rzecz ich zabezpieczenia. Podczas konferencji AI w Dublinie w środę określił dotychczasowe awarie AI jako "wczesne strzały ostrzegawcze"…
Alex Karp, dyrektor generalny Palantira, ostrzegł, że sztuczna inteligencja używana do przewidywania działań na polu bitwy może być również wykorzystana do przewidywania zachowań ludzi w kontekście krajowym, w tym ich przyszłych myśli. W wywiadzie dla Louisa Robsona, odpowiedzialnego za Palantir Sovereign, Karp stwierdził: „Można faktycznie przewidywać zachowanie ludzi, co może oznaczać przewidywa…
Grupa ponad 200 badaczy zajmujących się sztuczną inteligencją i cyberbezpieczeństwem zaapelowała o pilne wdrożenie środków kontroli nad zaawansowanymi modelami AI, które mogą wymykać się nadzorowi i stanowić zagrożenie dla infrastruktury krytycznej. Apel wpisuje się w rosnącą debatę o bezpieczeństwie systemów OT, sieci 5G oraz urządzeń IoT, gdzie ataki mogą rozprzestrzeniać się z prędkością maszyn…
Noubar Afeyan, miliarder i współzałożyciel Moderny, podczas forum w New Delhi wezwał do pilnego uregulowania agentów AI komercjalizowanych przez firmy technologiczne. Ostrzegł, że zwlekanie do momentu katastrofy grozi powtórzeniem błędów przemysłu farmaceutycznego, przywołując tragedię talidomidu z przełomu lat 50. i 60., gdy lek stosowany przez ciężarne wywołał wady wrodzone u dzieci. Jego zdanie…
Pełna treść w wydaniu z tego dnia.
Pełna treść w wydaniu z tego dnia.
Pełna treść w wydaniu z tego dnia.
Satya Nadella ostrzegł, że systemy superinteligencji (SI) i autonomiczne agenty AI działają jak czarne skrzynie, którym organizacje nie powinny bezwarunkowo ufać. Powołał się na nowe ramy techniczne, zgodnie z którymi wyniki modeli frontier nie mogą być wiarygodnie przypisane do konkretnych wag treningowych ani danych wejściowych, co uniemożliwia mechanistyczne zrozumienie ich zachowania. Eksperci…
Pełna treść w wydaniu z tego dnia.
Pełna treść w wydaniu z tego dnia.
Jeff Bezos, założyciel Amazona, w środę w wywiadzie dla Fox News na terenie fabryki Blue Origin w Cape Canaveral na Florydzie wyraził poparcie dla nazwy "Super Intelligence" (w skrócie SI) zaproponowanej przez Donalda Trumpa dla sztucznej inteligencji. W rozmowie z Bretem Baierem Bezos stwierdził, że celem USA powinno być wyprzedzenie Chin w wyścigu o lądowanie człowieka na Księżycu, wyrażając prz…
Biały Dom powołał w weekend grupę zadaniową Super Intelligence Force, której celem jest zapewnienie USA przewodnictwa w globalnym wyścigu AI oraz ochrona interesów Amerykanów. Nowa grupa ma wdrażać porozumienie White House Accord on Super Intelligence, pod którym prezydent Donald Trump i szefowie sześciu wiodących firm AI - Anthropic, Google, Meta, Nvidia, OpenAI i SpaceXAI - zobowiązali się do wz…
Zgodnie z memorandum zatytułowanym „Super Intelligence” dyrektywa ma obowiązywać także w pismach sądowych, gdy będzie to właściwe - poinformowały źródła NBC News. Nowa terminologia to część rebrandingu zapoczątkowanego przez prezydenta Donalda Trumpa, który promuje określenie „superintelligence” lub „SI” zamiast powszechnie używanego „AI”. Zmiana dotyczy całego Departamentu Sprawiedliwości i ma wp…
Akcje SpaceX przekroczyły 165 USD po niedzielnym ogłoszeniu przez Elona Muska zmiany nazwy działu sztucznej inteligencji z SpaceXAI na SpaceXSI. Nowa etykieta „superinteligencji” nawiązuje do rozporządzenia prezydenta Donalda Trumpa z 29 września, które nakazuje agencjom federalnym zastąpienie terminów „Artificial Intelligence” i „AI” określeniami „Super Intelligence” i „SI”. Musk nie podał daty a…
Domena AI.si została wystawiona na sprzedaż za 699 995 dolarów, co jest pokłosiem dekretu Donalda Trumpa z 29 września, nakazującego federalnym agencjom używanie terminu „Super Intelligence” i skrótu „SI” zamiast „Artificial Intelligence” i „AI” w oficjalnej korespondencji, raportach i na stronach internetowych. Dzień po podpisaniu dekretu, 30 września, słoweński rejestr Registry SI odnotował okoł…
Decyzję ogłosił w niedzielę we wpisie na X, rozszerzając zapowiadany rebranding spółki-córki SpaceXAI na całą SpaceX. „Koniec z AI” - napisał Musk, dodając, że określenie „superintelligence” jest „lepsze”. „SpaceX to firma zajmująca się superinteligencją” - stwierdził miliarder w kolejnym wpisie, reagując na apel prezydenta Donalda Trumpa, by sztuczną inteligencję przemianować na „superinteligencj…
W niedzielę Trump ogłosił utworzenie „Super Intelligence Force” (SIF) i oficjalnie mianował Jaya Claytona na czele zespołu - decyzję podjęto po ubiegłotygodniowym spotkaniu w Białym Domu z szefami OpenAI, Anthropic, Google, Meta, Nvidii oraz SpaceXAI. Obok Claytona w skład SIF weszli przewodniczący FTC Andrew Ferguson, podsekretarz ds. badań i inżynierii oraz CTO Pentagonu Emil Michael i dyrektor…
Elon Musk zapowiedział w sobotę, że SpaceXAI - spółka stojąca za chatbotem Grok - zmieni nazwę na "SpaceXSI". Reakcja Muska nastąpiła po tym, jak użytkownik X zasugerował rebranding, a Musk odpowiedział: "Yes, we will make that change". Wcześniej tego samego dnia Musk napisał na X: "No more AI, SI. It's better", pozornie popierając zmianę terminologii. Kontekstem jest rozporządzenie wykonawcze pre…