klod.sk
Novinky

AI Digest #18: Anthropic priznáva vyššie riziko AI, Stripe kupuje OpenRouter a Claude mal výpadok

4 min čítania

Najväčšou správou posledných dní je vlastné priznanie Anthropicu, že neistota okolo bezpečnosti jeho modelov rastie, aj keď žiadny konkrétny test nezlyhal. K tomu pribudla veľká akvizícia v AI infraštruktúre a krátky, no citeľný výpadok Claude služieb.

Anthropic zvýšil rizikové hodnotenie AI a odhalil nevydaný Model 2

Anthropic 14. augusta zverejnil svoju druhú celofiremnú rizikovú správu (Risk Report) a v nej zvýšil hodnotenie rizika katastrofického zlyhania spôsobeného nesúladom modelov (misalignment) vo vysoko rizikových situáciách zo stupňa "veľmi nízke" na "nízke". Dôvodom podľa Axiosu nie je konkrétny neúspešný test, ale všeobecne vyššia neistota po nedávnych zisteniach z kybernetických bezpečnostných testov modelov.

Správa zároveň prvýkrát verejne opísala interný model s názvom Model 2. Podľa SiliconANGLE je citeľne schopnejší než súčasný vlajkový model Mythos 5, na internom benchmarku CoBench dosiahol 62,8 percenta oproti 50,3 percenta u Mythos 5. Na širšie nasadenie je však potrebná 85-percentná hranica a Model 2 navyše ešte neprešiel plným bezpečnostným posúdením pred vydaním, preto ho Anthropic zatiaľ necháva len na interné použitie, hlavne na programovanie a agentickú prácu.

Podľa Unite.AI sa navyše interný benchmark, ktorý mal zachytiť prekročenie najnebezpečnejšej hranice schopností, "nasýtil", teda prestal registrovať ďalšie zlepšenia, a to práve vo chvíli, keď firma podľa vlastných slov vidí prvé signály zrýchľovania vývoja, ktoré mal tento nástroj odhaliť. Kombinácia oboch faktov, teda schopnejší nevydaný model aj otupený meter na sledovanie rizika, je dôvod, prečo túto správu treba brať vážne aj mimo bezpečnostnej komunity.

Stripe kupuje AI startup OpenRouter za vyše 7 miliárd dolárov

Platobná firma Stripe sa podľa Bloombergu dohodla na kúpe startupu OpenRouter za viac než 7 miliárd dolárov. OpenRouter funguje ako brána medzi vývojármi a viac než 400 AI modelmi od firiem ako OpenAI, Anthropic, Google, Meta či DeepSeek, cez jedno rozhranie umožňuje vyberať model podľa ceny aj úlohy.

OpenRouter v máji získal 113 miliónov dolárov pri hodnote 1,3 miliardy dolárov, nová cena teda znamená takmer päťnásobný nárast hodnoty len za tri mesiace. Podľa TechCrunch službu využíva okolo 8 miliónov vývojárov a za posledný rok cez ňu prešlo približne 1,5 kvadriliónov tokenov. Dohoda zatiaľ nie je oficiálne potvrdená ani zo strany Stripe, ani OpenRouter, a finálna suma sa ešte môže zmeniť, ukazuje však, ako veľmi firmy mimo AI odvetvia chcú získať kontrolu nad infraštruktúrou, cez ktorú dnes prechádza väčšina agentického kódovania a AI aplikácií.

Claude zažil krátky, no rozsiahly výpadok

Anthropic 16. augusta okolo 21:58 UTC nahlásil problémy s prihlasovaním do claude.ai, Claude Code a Claude Cowork. O štyri minúty neskôr sa incident rozšíril aj na spomalený výkon claude.ai a platform.claude.com. Podľa Bleeping Computer postihol výpadok celkovo päť produktov: claude.ai, Claude Console, Claude API, Claude Code a Claude Cowork.

Podľa Unite.AI Anthropic opravu nasadil o 22:22 UTC a incident označil za vyriešený do 22:40 UTC, výpadok teda trval necelú hodinu. Príčinu firma zatiaľ nezverejnila. Keďže čoraz viac ľudí aj firiem spolieha na Claude Code v automatizovaných pracovných postupoch, aj krátky výpadok tohto rozsahu dokáže naraz zastaviť rozpracované úlohy vo viacerých produktoch súčasne.

V skratke

  • Žena z Wyomingu žaluje svojho nevlastného otca a xAI, tvrdí, že chatbot Grok premenil jej detskú fotografiu na tisícky sexuálne zneužívajúcich obrázkov (Washington Post, TechCrunch).
  • Prepúšťanie spájané s AI dosiahlo v USA v roku 2026 už vyše 205-tisíc ľudí, najviac v zákazníckej podpore, dátových operáciách a juniorských programátorských pozíciách (Outsource Accelerator).
  • Google 17. augusta definitívne vypína staré endpointy Imagen 4 a odporúča vývojárom prejsť na gemini-3.1-flash-image (Google AI for Developers).
  • TechCrunch vydal návod, ako zistiť, či bol tvoj účet na ChatGPT, Claude alebo Perplexity napadnutý, keďže služby ponúkajú rôznu mieru viditeľnosti do aktívnych prihlásení (TechCrunch).

To podstatné zo sveta AI v jednom emaili.

Ak máš pocit, že sa AI mení rýchlejšie, než stíhaš sledovať, stačí odoberať náš weekly digest. Naservírujeme ti ho každý štvrtok na obed.

Bez spamu. Odhlásiš sa jedným klikom.