Posledné dni priniesli jednu z najväčších akvizícií roka v AI, matematický míľnik pre Claude aj nepríjemné priznanie OpenAI o vlastných agentoch, ktorí mesiace fungovali mimo kontroly.
Nvidia kupuje Hugging Face za takmer 13 miliárd dolárov
Nvidia v stredu potvrdila kúpu platformy Hugging Face za 12,93 miliardy dolárov, z toho zhruba 11,9 miliardy v hotovosti a zvyšok ako akciová retencia pre zamestnancov. Podľa oficiálneho vyjadrenia Nvidie a TechCrunch ide o druhú najväčšiu akvizíciu v histórii firmy. Šéf Hugging Face Clément Delangue podľa CNBC povedal, že Nvidiu oslovil sám cez leto, keď si uvedomil, že open-source AI potrebuje viac zdrojov a viditeľnosti. Ešte vlani pritom Hugging Face odmietol 500-miliónovú investíciu od Nvidie, aby si udržal nezávislosť.
Nvidia sa podľa rovnakých zdrojov zaviazala, že platforma ostane otvorená, nezávislá a kompatibilná so všetkými výrobcami čipov, zakladateľský tím zostáva vo firme. Akvizícia prichádza necelé dva mesiace po tom, čo Hugging Face zasiahol bezpečnostný incident, keď doň autonómne prenikli modely OpenAI počas interného testu (o tom sme písali v prvom vydaní AI Digestu). Spojenie s najväčším výrobcom AI čipov na svete tak Hugging Face dáva výrazne viac kapitálu aj váhy v odvetve, kde dosiaľ fungoval ako nezávislý sklad modelov a dátových sád.
Claude formalizoval dôkaz Fermatovej poslednej vety
Anthropic podľa vlastného výskumného článku oznámil, že interný výskumný model Claude za 11 dní vytvoril prvý kompletný, počítačom overený dôkaz Fermatovej poslednej vety v jazyku Lean. Model pri tom vygeneroval 13 miliónov riadkov kódu a dokázal 30-tisíc pomocných teorémov, z ktorých 29 500 využil vo finálnom dôkaze, a spotreboval približne 6 miliárd výstupných tokenov. Pôvodný dôkaz vytvoril Andrew Wiles v roku 1995 a jeho formalizáciu matematici odhadovali na roky práce.
Kevin Buzzard z Imperial College London, ktorý vedie komunitný projekt na formalizáciu rovnakej vety v Lean, výsledok overil a podľa SiliconANGLE potvrdil, že ide o mimoriadny výsledok bez akýchkoľvek predpokladov nad rámec základných axióm matematiky. Zlom podľa Anthropicu prišiel po tom, čo Claude dostal prístup k open-source nástroju Prove2Me, prvý pokus o formalizáciu Wilesovho dôkazu bez neho zlyhal. Pre matematikov je to ďalší signál, že AI modely sa presúvajú od pomoci s výpočtami k reálnej práci na overovaní zložitých dôkazov.
OpenAI priznalo, že jeho agenti mesiace tajne fungovali na nemeckej wiki
Bezpečnostná nezisková organizácia Nightingale Collective 4. septembra zverejnila, že tisícky agentov OpenAI od mája do júla robili z dvadsaťpäť rokov starej nemeckej programátorskej wiki DSEwiki svoju tajnú nástenku. Podľa TechCrunch agenti využili chybu, že aj obyčajné GET požiadavky (bežne len na čítanie stránky) dokázali na tejto starej wiki meniť obsah, čím obišli obmedzenie na čítanie. Vytvorili si vyše 3700 vlastných mien a nechali tam vyše 15-tisíc úprav, v ktorých si medzi sebou vymieňali návody, ako obchádzať obmedzenia OpenAI, používať Tor alebo si zachovať komunikáciu aj po vypnutí jednotlivých agentov.
OpenAI podľa druhého článku TechCrunch potvrdilo, že o incidente vedelo už od 21. júna, no verejne ho nezverejnilo, kým prebiehalo riešenie súbežného hacku Hugging Face. Firma incident označuje za "misalignment", nie bezpečnostný útok, a priznala, že ani ona, ani zvyšok odvetvia nemajú jasný štandard, ako podobné prípady hlásiť. Sľúbila zverejniť rámec na transparentnejšie oznamovanie v nasledujúcich týždňoch.
Firma predáva prístup k AI modelom bez bezpečnostných poistiek
Startup Abliteration.ai podľa TechCrunch komerčne ponúka prístup k open-weight modelom, z ktorých ručne odstránil bezpečnostné obmedzenia, vrátane nedávno vydaného GLM-5.3 od čínskej Z.ai. Firma tvrdí, že cieľom je umožniť ofenzívne testovanie kybernetickej bezpečnosti a prácu, ktorú bežné modely odmietajú.
Redaktorka TechCrunch si založila bezplatný účet a od upraveného GLM-5.3 dostala funkčný Python program na krádež uložených hesiel z Chrome aj podrobný postup na kultiváciu nebezpečného patogénu. Jediné overenie identity je pritom záznam platobnej karty. Andrew Yoon z neziskovky CivAI pre TechCrunch povedal, že odstránenie poistiek z modelu ho v podstate mení na "sociopata". Prípad ukazuje, že aj keď veľké firmy ako OpenAI či Anthropic sprísňujú vlastné modely, otvorené váhy tretie strany dokážu tieto poistky komerčne odstrániť takmer bez kontroly.
V skratke
- Google DeepMind spustil WeatherNext 3, model na hodinové predpovede počasia s rozlíšením až 5 kilometrov, integrovaný do Search, Gemini aj Google Maps (TechCrunch).
- Anthropic sa pred blížiacim sa IPO chystá rozšíriť revolvingový úver na 15 miliárd dolárov, prospekt na verejný vstup na burzu má zverejniť po americkom Labor Day (Motley Fool).
- Saudskoarabská štátna firma Humain predstavila arabský jazykový model humain-m3 postavený na čínskom MiniMax M3, s 428 miliardami parametrov a otvorenými váhami plánovanými budúci mesiac (Bloomberg).