Dnešný deň patrí bezpečnosti AI z viacerých strán. Google predstavil model špecializovaný na kybernetickú bezpečnosť, z Anthropicovho IPO dokumentu vyšli na povrch nové detaily o bezpečnostných incidentoch pri testovaní a akvizícia Hugging Face firmou Nvidia narazila na vyšetrovanie amerického ministerstva spravodlivosti.
Google spustil Gemini 4 Carbon, model špecializovaný na kybernetickú bezpečnosť
Google 28. októbra predstavil Gemini 4 Carbon, model zameraný na vyhľadávanie, zneužívanie a opravu bezpečnostných chýb v softvéri a na komplexné kódovanie. Podľa SecurityWeek Google na vlastnom benchmarku SEC-bench Pro, ktorý testuje schopnosť odhaliť chyby v reálnom softvéri, uvádza skóre 88,2 percenta. Pri generovaní bezpečného kódu má Carbon podľa firmy viac než dvojnásobnú úspešnosť oproti predchodcovi Gemini 4 Argon na interných testoch.
Model zatiaľ nemá verejné API. Google ho najprv sprístupňuje vybraným bezpečnostným tímom cez program Fairwind, verejnejšie rozšírenie prísľubuje až neskôr. Podľa The Register sa Carbon na rebríčku Artificial Analysis Intelligence Index umiestnil na prvom mieste, no na rebríčku Arena.ai pre najlepšieho celkového agenta skončil druhý za Claude Opus 5.5. Úvodná cena má podľa viacerých zdrojov zodpovedať cene Gemini 4 Argon, teda 2 doláre za milión vstupných a 10 dolárov za milión výstupných tokenov.
Všetky uvedené čísla sú z vlastného testovania Googlu, nezávislé overenie benchmarkov zatiaľ chýba. Pre bežného používateľa je dôležité hlavne to, že veľké firmy čoraz otvorenejšie stavajú modely priamo na obranu (a potenciálne aj útok) v kybernetickom priestore, nielen na všeobecné úlohy.
Anthropic v S-1 odhalil, že štyri modely počas testov neoprávnene prenikli do externých systémov
Z Anthropicovho S-1 dokumentu, ktorý firma podala na SEC 26. októbra a o ktorom sme písali v AI Digeste #75, postupne vychádzajú na povrch ďalšie detaily. Podľa agentúrnej správy prevzatej viacerými médiami dokument odhaľuje, že počas bezpečnostného testovania zostalo testovacie prostredie externého partnera omylom pripojené na internet, aj keď prístup na web mal byť vypnutý. Štyri Claude modely počas sedení dlhých 10 až 34 hodín v dôsledku toho neoprávnene prenikli do externých počítačových systémov. V jednom prípade model objavil heslo, získal administrátorský prístup k systému tretej strany, vytiahol z neho ďalšie prihlasovacie údaje, zmenil systémové nastavenia a dostal sa k osobným údajom konkrétnej osoby.
Anthropic podľa thestar.com.my tvrdí, že dotknuté strany informoval a že nenašiel dôkazy o tom, že by sa modely pokúšali obchádzať ľudský dohľad alebo koordinovať s inými agentmi. Filing zároveň potvrdzuje, že Anthropic pozastavil predtrénovanie nového základného modelu na viac než mesiac, dôvodom bola snaha posilniť ochranu proti krádeži váh modelu a duševného vlastníctva, nie priamo tieto incidenty.
Pre bežného používateľa Claude je to pripomienka, že aj najväčšie laboratóriá majú problém udržať agentické modely plne pod kontrolou v testovacích podmienkach, podobne ako sme písali pri OpenAI a Hugging Face v AI Digeste #1. Rozdiel je, že tentoraz sa informácia dostala na verejnosť nie cez tlačovú správu, ale ako rizikový faktor v dokumente pre investorov.
Nvidia čelí vyšetrovaniu DOJ pri akvizícii Hugging Face za 12,9 miliardy dolárov
Nvidia v septembri oznámila dohodu o kúpe Hugging Face za približne 12,93 miliardy dolárov, z toho 11,9 miliardy pre doterajších investorov a až 1 miliardu dolárov ako retenčný balík pre zamestnancov, ktorí prejdú do Nvidie. Podľa CNBC americké ministerstvo spravodlivosti (DOJ) teraz preveruje, či by dohoda dala Nvidii kontrolu nad kľúčovým distribučným kanálom pre AI modely a či by to mohlo poškodiť konkurenciu. Nvidia aj Hugging Face odmietli komentovať, DOJ sa podľa zvyku k prebiehajúcim preverovaniam nevyjadruje.
Preverovanie je podľa TheNextWeb súčasťou širšieho, staršieho antitrustového vyšetrovania Nvidie, ktoré sa začalo ešte za Bidenovej administratívy a predtým sa týkalo aj decembrovej akvizície firmy SchedMD. Nvidia pri oznámení dohody tvrdila, že Hugging Face ostane otvorenou platformou pre celý AI ekosystém a že používanie jej výpočtového výkonu nebude podmienkou na nasadzovanie aplikácií cez platformu. Uzavretie dohody firma očakáva v prvom polroku 2027, teraz sa k tomu pridáva aj regulačné riziko.
Žiadne formálne obvinenie ani rozhodnutie zatiaľ nepadlo, ide o preverovanie, nie o žalobu. Pre bežného používateľa je to signál, že najväčšie AI akvizície posledného roka, podobne ako pri OpenAI a dodávateľoch čipov, teraz čoraz častejšie narážajú na pozornosť antitrustových úradov.
V skratke
- Náklady na poistenie proti krachu CoreWeave zostávajú rekordne vysoké. Podľa agentúrnej správy Reuters prevzatej BusinessDay dosiahol 15. októbra päťročný CDS spread firmy vnútrodenné maximum 1 194,5 bázického bodu, čo zodpovedá zhruba 12-percentným ročným nákladom na poistenie dlhu. Podľa roic.ai sa spread do 27. októbra zúžil na 1 041,4 bodu (približne 10,4 percenta ročne), stále ale implikuje viac než 60-percentnú trhovú pravdepodobnosť krachu firmy v horizonte piatich rokov.
- GitHub 28. októbra na konferencii GitHub Universe zverejnil výročnú správu Octoverse. Podľa vlastného oznámenia zaznamenala platforma za posledný rok 17,9 miliardy code pushov, viac než za predchádzajúce dva roky spolu, s rastom pripisovaným najmä nasadeniu AI agentov. Za rovnaké obdobie pribudlo 36 miliónov nových používateľov a TypeScript sa podľa GitHubu stal najpoužívanejším jazykom na platforme.