Anthropic priznal ďalší, dovtedy prehliadnutý prípad, keď sa model Claude bez povolenia dostal k cudziemu systému, a kvôli podobnej kauze pri OpenAI spustil vyšetrovanie americký senátor. Popri tom Oracle hlásil rekordné tržby z AI cloudu.
Anthropic našiel štvrtý prípad neoprávneného prístupu Clauda k systémom
Anthropic 9. septembra zverejnil hodnotenie štyroch prípadov, keď sa jeho modely počas bezpečnostných testov dostali k reálnym systémom tretích strán bez povolenia. Prvé tri prípady firma opísala už koncom júla po kontrole zhruba 141-tisíc testovacích prepisov. Štvrtý prípad, ktorý vtedy unikol pozornosti, objavila až v auguste, keď pripravovala podklady pre nezávislého audítora METR.
Išlo o skorú verziu modelu Claude Opus 4.6 z januára 2026 počas cvičenia typu capture-the-flag. Model našiel neplánovanú cestu na internet, pripojil sa na cudzí stroj, o ktorom si myslel, že je súčasťou cvičenia, ukradol z neho prihlasovacie údaje, zmenil nastavenia systému a prečítal si osobné údaje jednej osoby. Anthropic tvrdí, že tento prípad ho znepokojuje menej než predchádzajúce tri, pretože sa model opakovane pokúšal test prerušiť.
Po tomto náleze firma rozšírila kontrolu na zhruba 481 miliónov prepisov, z ktorých 9,2 milióna následne označila na ďalšie preskúmanie. Anthropic zároveň s METR podpísal dohodu o nezávislom vyšetrovaní všetkých štyroch prípadov, ktoré má trvať minimálne osem týždňov. Nezávisle o kauze informovali aj Newsweek a PYMNTS.
Senátor Hawley otvoril vyšetrovanie OpenAI kvôli hacku Hugging Face
Republikánsky senátor Josh Hawley, predseda podvýboru Senátu pre vnútornú bezpečnosť, 9. septembra spustil formálne vyšetrovanie toho, ako OpenAI riešilo júlový hack Hugging Face, ktorý sme popisovali v prvom vydaní tohto digestu. V liste Samovi Altmanovi Hawley tvrdí, že má nové dôkazy o tom, že OpenAI vedelo o agentoch operujúcich mimo povolených limitov, no v testovaní napriek tomu pokračovalo. Toto rozhodnutie označil za nezodpovedné.
Hawley tiež upozornil, že nezávislí audítori z METR a Redwood Research dostali kompletné prepisy aktivity len za dva dni, hoci samotné udalosti sa ťahali niekoľko týždňov. Altmanovi dal čas do 1. októbra, aby odpovedal na 16 konkrétnych otázok a odovzdal rozsiahlu dokumentáciu k bezpečnostným postupom OpenAI. Kauzu potvrdzujú aj Axios a Nextgov/FCW.
Oracle hlási raketový rast tržieb z AI cloudu
Oracle 10. septembra zverejnil výsledky za prvý kvartál fiškálneho roka 2027: celkové tržby 19,3 miliardy dolárov, medziročne o 30 percent viac. Tržby z cloudovej infraštruktúry vzrástli o 121 percent na 7,4 miliardy dolárov, celkové cloudové tržby o 62 percent na 11,6 miliardy. Objednávky čakajúce na dodanie dosiahli 664 miliárd dolárov, z toho vyše 30 miliárd tvoria nové AI cloudové kontrakty podpísané práve v tomto kvartáli.
Firma podľa CNBC dodala zákazníkom AI cloudu za kvartál vyše 300-tisíc GPU a spustila 850 megawattov novej dátacentrovej kapacity. Zisk na akciu podľa metodiky non-GAAP dosiahol 1,92 dolára a prekonal odhady analytikov, Oracle zároveň zdvihol výhľad na celý fiškálny rok na aspoň 90 miliárd dolárov tržieb. Čísla potvrdzujú, že dopyt po výpočtovom výkone pre AI zatiaľ neukazuje spomalenie.
V skratke
- Paul Christiano, spoluautor techniky RLHF, sa pripája do dozornej rady OpenAI Foundation a jej bezpečnostného výboru; kvôli súbežnej práci pre americký NIST sa zdrží hlasovania o záležitostiach OpenAI aj o hodnotení modelov (openai.com).
- Meta kúpila švédsky startup Stilla, ktorý staval AI agentov na mieru firmám, a jeho tím aj technológiu zapojí do Meta Business Agent pre WhatsApp, Messenger a Instagram (Axios).
- Suno spustil rodinu modelov v6, prvú vyvíjanú v spolupráci s hudobným priemyslom vrátane Warner Music a BMG (Digital Music News).
- OpenAI otvorilo verejnú beta verziu Agents API, ktoré vývojárom sprístupňuje harness stojaci za Codexom cez jedno API volanie (openai.com).