Anthropic tento týždeň posunul hranicu transparentnosti: externým hodnotiteľom bezpečnosti dal prístup k svojim systémom, aký doteraz mali len vlastní ľudia. Nemecko si medzitým s Nvidiou dohodlo spoluprácu na takzvanej fyzickej AI pre továrne a robotiku.
Anthropic dal nezávislým hodnotiteľom z METR prístup takmer ako vlastným zamestnancom
Anthropic 15. októbra oznámil, že šiestim pracovníkom neziskovej organizácie METR dal prístup k svojim systémom porovnateľný s vlastnými tímami na hodnotenie rizík: firemné notebooky, kancelárske priestory a interné nástroje na posudzovanie ešte nevydaných modelov a agentov. Podľa oficiálneho oznámenia ide o najvyšší, tretí stupeň nového trojúrovňového systému spolupráce s externými hodnotiteľmi, ktorý si firma vytvorila.
METR môže svoje hodnotenia rizík a incidentov publikovať bez toho, aby ich Anthropic mohol vetovať. Firma môže žiadať iba vyňatie vopred určených kategórií informácií, ako sú údaje klientov, materiály chránené advokátskym tajomstvom alebo detaily architektúry modelov. Krok nadväzuje na septembrový návrh šéfa Anthropicu Daria Amodeiho vkladať externých hodnotiteľov priamo do AI firiem, podobne ako bankový dohľad posadí svojich examinátorov priamo do veľkých bánk. Podľa ProPakistani ide o prvý prípad, keď veľká AI firma dala externému tímu prístup na úrovni vlastných zamestnancov.
Nie všetci sú presvedčení, že je METR naozaj nezávislý. Podľa OfficeChai kritici, vrátane bývalého poradcu Bieleho domu pre AI Davida Sacksa, upozornili na finančné väzby medzi METR a investormi aj zamestnancami Anthropicu. METR na to odpovedal, že neberie peniaze od AI firiem ani ich vedenia. Do podobného, no voľnejšieho programu sa zapája aj organizácia SecureBio, ktorá posudzuje kapitolu o biologických a chemických zbraniach v Anthropic Risk Reporte, platená spolupráca prebieha aj s Accenture a Anthropic je v rozhovoroch aj s Hugging Face.
Nemecko a Nvidia podpísali dohodu o fyzickej AI pre továrne a robotiku
Nemecký kancelár Friedrich Merz spolu s ministerstvom hospodárstva a ministerstvom výskumu podpísali 19. októbra na samite Invest in Germany v Berlíne spoločnú deklaráciu zámeru s Nvidiou. Podľa oficiálneho vyjadrenia Nvidie sa obe strany zaviazali spoločne vyvíjať pokročilé AI modely pre fyzickú AI, teda systémy, ktoré vnímajú okolie, plánujú pohyb a konajú v reálnom svete, hlavne v robotike a automatizovaných továrňach.
Dohoda nadväzuje na iniciatívu Industrial AI Cloud z júna 2025, ktorá mala nemeckému priemyslu zabezpečiť aspoň 10-tisíc GPU. Cieľom je využiť nemecké priemyselné dáta, výrobné know-how a inžiniersku expertízu, hlavne v automobilkách a u malých a stredných firmách. Podľa webu nemeckej vlády Merz zdôraznil, že Nemecko chce v oblasti AI prevziať vedúcu úlohu; strojové zariadenia sa už podľa neho podarilo vyňať z pôsobnosti európskeho AI Aktu, širší regulačný rámec je však podľa jeho slov ešte ďaleko.
Pre bežného európskeho čitateľa je dôležité hlavne to, že najväčšia ekonomika EÚ si priamo s Nvidiou dohodla vlastný prístup k AI pre priemysel, mimo rámca, ktorý si pre AI buduje Brusel. Je to ďalší signál, že jednotlivé európske štáty si so staviteľmi AI infrastruktúry vyjednávajú samostatne.
V skratke
- Anthropic podľa Politica (16. októbra) ticho predstavil zákonodarcom vlastný návrh federálneho zákona o bezpečnosti AI modelov. Vláda by podľa návrhu mohla zablokovať vydanie modelu len pri hrozbe škody nad 1 miliardu dolárov alebo smrti či zranenia vyše 50 ľudí, a to iba pri rizikách z biologických zbraní, úniku kontroly nad modelom alebo kybernetického útoku (TechSpot).
- Anthropic 14. októbra posilnil bezpečnostné opatrenia Claude pred novembrovými americkými voľbami: do odpovedí na otázky o hlasovaní zapája overené informácie od Democracy Works a jeho modely dosiahli 95 až 96 percent v testoch politickej neutrality (Pulse2).
- Výnos dlhopisov prenajímateľa výpočtového výkonu CoreWeave so splatnosťou v roku 2032 vyskočil v polovici októbra na 15 percent a akcie firmy 14. októbra prepadli o 15,5 percenta, čo znovu rozvírilo obavy investorov z dlhového financovania výstavby AI dátových centier (Admiral Markets).