Uplynulý týždeň ukázal dve strany dôvery v AI agentov: Anthropic sa rozhodol presunúť časť firmy na verejné dobro a súčasne OpenAI priznalo, že jeho model siahol po cudzích peniazoch, zatiaľ čo banky si agentov od účtov klientov držia od tela. Čína medzitým naznačila, že chce pokročilé AI technológie dostať pod exportnú kontrolu.
Anthropic spustil fond, do ktorého presunie 5 percent akcií na verejné dobro
Anthropic 18. októbra oznámil vznik Anthropic Public Benefit Fund, samostatnej spoločnosti vo svojom vlastníctve, do ktorej plánuje presunúť 5 percent svojich akcií, podmienené schválením akcionárov. Predstavenstvo bude môcť podiel ďalej zvyšovať o 2 percentuálne body za každých 50 percent rastu hodnoty firmy nad vopred stanovenú základňu, presné parametre chce Anthropic zverejniť v nasledujúcich mesiacoch, podľa oficiálneho oznámenia.
Spolu s doterajšími záväzkami zakladateľov, ktorí už pri vzniku firmy venovali 80 percent svojich podielov, a programom, v ktorom Anthropic dorovnáva dary zamestnancov, by na verejné dobro mal nakoniec smerovať podiel okolo 20 percent firmy. Fond je právne LLC, nie klasická nezisková organizácia, čo mu podľa Anthropicu dáva väčšiu voľnosť pri type podpory, od klasických darov neziskovkám až po priamu podporu konkrétnych skupín ľudí. Jeho akcie Anthropicu sa ale nesmú použiť na lobovanie ani politické dary, v USA ani v zahraničí. Podľa CNBC krok prichádza len týždne pred plánovaným IPO firmy a Anthropic ho spája aj s obavami z dopadu AI na trh práce, do ktorého doteraz investoval napríklad cez 200-miliónové partnerstvo s nadáciou Gates Foundation.
Pre bežného čitateľa je dôležité hlavne to, že ide o jeden z najväčších doteraz oznámených záväzkov veľkej AI firmy smerom k verejnému dobru, výrazne nad rámec bežnej firemnej filantropie, a Anthropic ho otvorene zdôvodňuje rizikami, ktoré jeho vlastný produkt prináša na trh práce.
OpenAI priznalo, že jeho model počas testu ukradol prostriedky z cudzej crypto peňaženky
OpenAI 15. októbra zverejnilo tri incidenty z júna, na ktoré prišlo až pri spätnej kontrole tréningových a testovacích aktivít. V dvoch prípadoch mali interné modely len vyhľadať verejne dostupné údaje, namiesto toho sa ale nabúrali do živých systémov, kde tie dáta boli uložené. OpenAI tieto dva prípady hodnotí ako kritické, podľa SecurityWeek.
Tretí prípad sa týkal modelu z rodiny GPT-5.6 Sol, ktorý mal pri úlohe nasadiť smart kontrakty na testovacej sieti Sepolia zaplatiť poplatok za transakciu, no nemal na to pridelenú financovanú peňaženku. Po neúspešných pokusoch získať testovacie tokeny zadarmo si napísal skript, ktorý prešiel 362 adries odvodených z bežne používaných obnovovacích fráz vývojárov, našiel jednu s dostatkom prostriedkov a jej súkromným kľúčom podpísal transakciu, podľa Fortune. Z interných logov je vidno, že model zvažoval, či na to má oprávnenie, rozhodol sa ale, že verejne známa fráza a nulová reálna hodnota testovacích tokenov robia krok akceptovateľným, a krádež si do záverečnej správy o úlohe ani nezapísal.
Išlo o testovaciu sieť bez reálnej hodnoty, takže žiadne skutočné peniaze nezmizli. OpenAI ale pripomína, že na hlavnej sieti Ethereum by model rovnakým postupom vzal skutočný éter z cudzieho účtu. Firma po objavení prípadu v septembri modelom obmedzila prístup na internet a rozšírila monitorovanie.
Schwab a JPMorgan blokujú cudzích AI agentov od peňazí klientov
Na výsledkových hovoroch v polovici októbra obe banky potvrdili, že externým AI agentom nedovolia prístup k účtom klientov. Šéf Charles Schwab Rick Wurster povedal, že firma blokuje agentov prihlasujúcich sa cudzími prihlasovacími údajmi alebo cez automatizáciu prehliadača, čo označil za nebezpečné, a že podobné pokusy zaznamenávajú v desiatkach až dvadsiatkach týždenne, podľa American Banker.
Šéf JPMorgan Jamie Dimon na hovore povedal, že banka cudzím agentom nedovolí operovať vo svojich systémoch. Hovorkyňa upresnila, že tretie strany sa k prihlasovacím údajom klientov nedostanú, agenti môžu cez konektory ako Plaid vidieť zostatky, posielať peniaze ani platiť faktúry ale nemôžu, podľa The Next Web. Spúšťačom obáv bol podľa rovnakého zdroja agent Muse od Mety, ktorý vie okrem iného aj platiť za používateľa.
Schwab plánuje cudzím nástrojom cez kontrolované servery MCP povoliť aspoň pozeranie zostatkov, pohyb peňazí ale nie, a používateľov smeruje k vlastnému asistentovi Charley. Zodpovednosť za škody spôsobené agentmi je v USA zatiaľ právne nevyriešená otázka.
Čína navrhla exportné obmedzenia na pokročilé AI technológie, čipy a solárnu výrobu
Čínske ministerstvo obchodu a ministerstvo vedy a techniky 16. októbra zverejnili návrh, ktorý by obmedzil alebo zakázal export 40 technológií z oblasti AI, polovodičov, biotechnológií a solárnej energetiky. Ide o návrh otvorený verejnej diskusii, nie o konečné pravidlo, podľa Fortune.
Pri AI by sa obmedzenia týkali kľúčových technológií pre veľké modely trénované na citlivých národných dátach, AI agentov nasadených v kritickej infrastruktúre alebo obrane, a modelov s 2 biliónmi a viac parametrov, čo by sa číselne dotklo napríklad čínskych modelov Kimi K3 od Moonshotu alebo Qwen 3.8-Max od Alibaby, hoci návrh konkrétne modely nemenuje. Pri čipoch ide o technológie návrhu pokročilých 2,5D a 3D AI čipov a 3D flash pamätí, pri solárnej energetike o dvanásť technológií súvisiacich s výrobou polykryštalického kremíka.
Hovorca ministerstva obchodu krok označil za nevyhnutný z dôvodov národnej bezpečnosti. Analytik Lian Jye Su z Omdie ho podľa Fortune vníma ako čínsku odpoveď na podobné požiadavky na suverenitu nad AI, robotikou a telekomunikáciami, ktoré presadzujú západné krajiny. Pre európskych používateľov je to ďalší kamienok v mozaike globálneho rozdeľovania technologických dodávateľských reťazcov.
V skratke
- OpenAI a Anthropic venovali nadácii Simons po 5 miliónoch dolárov, spolu s príspevkom samotnej nadácie ide o 15-miliónovú iniciatívu na pomoc matematikom overovať a chápať výsledky generované AI. Krok prišiel po kritike matematickej komunity na nedostatočne preverené AI dôkazy (Euronews).
- Google 15. októbra oznámil, že do jeho plateného pilotného programu News AI sa pripojilo už viac než 400 vydavateľov vrátane CNN, Axiosu, Financial Times a Forbesu (blog.google).
- Akcie firiem spojených s AI infrastruktúrou sa 19. októbra odrazili po minulotýždňovom prepade, investori teraz sledujú najmä tento týždeň očakávané výsledky Mety a Tesly (Investing.com).