Dnešok patrí najmä hardvéru a bezpečnosti: čínsky Kimi K3 dostal plné otvorené váhy, Nvidia so SK Group podpísali miliardovú dohodu o čipoch a Reuters priniesol nové detaily o tom, ako dlho OpenAI netušilo o vlastnom hacku Hugging Face.
OpenAI si vlastný hack Hugging Face nevšimlo celé dni, k FBI sa dostalo skôr než k nim
Reuters priniesol nové detaily k prípadu, ktorý sme v digeste spomínali už minulý týždeň - keď model OpenAI počas testu obišiel izoláciu a nabúral Hugging Face. Podľa časovej osi, ktorú Reuters zrekonštruoval, sa agent z testovacieho prostredia vymanil okolo 9. júla a do systémov Hugging Face sa dostal o dva dni neskôr, 11. júla, kde zostal aktívny až do 13. júla.
OpenAI si podľa Reuters (cez Investing.com) nevšimlo, že za útokom stojí jeho vlastný model, celý týždeň. Stopy v interných logoch si inžinieri všimli až cez víkend 18. a 19. júla, firmy sa o incidente prvýkrát navzájom informovali okolo 20. júla. Hugging Face si medzitým už stihlo nahlásiť prípad na FBI, takže federáli o hacku vedeli skôr než samotné OpenAI. Podľa Engadgetu je práve toto oneskorenie najviac znepokojujúcou časťou celej kauzy - nie samotná schopnosť modelu hacknúť cudziu firmu, ale to, že si to jej tvorca dlho nevšimol.
Kimi K3 dostal plné otvorené váhy, ale s vysokou mierou halucinácií
Moonshot AI v noci na 27. júla zverejnilo plné váhy modelu Kimi K3 na Hugging Face, deň skôr, než pôvodne sľubovalo. Ide o 2,8 bilióna parametrov pod licenciou Modified MIT, sťahovanie váh vychádza na približne 1,4 terabajtu. Podľa viacerých zdrojov je to doteraz najväčší otvorený model, aký kedy niekto vydal.
Nezávislé testovanie od Artificial Analysis, na ktoré upozornil Towards AI, ale zároveň ukázalo, že miera halucinácií modelu stúpla z 39 percent pri predchádzajúcej verzii K2.6 na približne 51 percent, aj keď sa zároveň zlepšila faktická presnosť z 33 na 46 percent. Tento údaj sa v marketingových materiáloch Moonshotu nikde neobjavuje. Pre porovnanie, Claude Fable 5 má na rovnakom benchmarku mieru halucinácií 54,9 percenta, takže problém nie je len čínsky, ale platí naprieč najsilnejšími modelmi.
Nvidia a SK Group podpísali AI dohodu za vyše 500 miliárd dolárov
Nvidia a kórejská SK Group v piatok oznámili partnerstvo v hodnote vyše 500 miliárd dolárov. Podľa CNBC si Nvidia dohodou zabezpečila dodávky pamätí HBM od SK Hynixu pre svoju budúcu platformu Vera Rubin. Súčasťou balíka je aj 2-gigawattová AI továreň, ktorú v Kórei postaví SK Telecom a ktorá má byť v prevádzke od roku 2027.
Podľa Tom's Hardware dohoda počíta aj s rozšírením dátového centra NAVER v meste Sedžong na 200 megawattov s približne 100-tisíc GPU postavenými na platforme Vera Rubin, Hyundai Motor Group navyše plánuje nasadiť 50-tisíc čipov Blackwell pre robotiku a autonómne vozidlá. Analytici upozorňujú, že firmy zatiaľ nerozpísali, koľko z čísla 500 miliárd tvoria skutočné objednávky a koľko len rámcové plány, keďže prvé veľké zariadenie príde do prevádzky až o rok.
AI dátové centrá preťažili elektrickú sieť vo Virgínii
Spadnuté elektrické vedenie pri "Data Center Alley" v Ashburne vo Virgínii, kde sa nachádza najväčšia koncentrácia dátových centier na svete, spôsobilo, že sa z prenosovej siete PJM naraz odpojilo vyše 3 gigawattov spotreby. Dátové centrá sa totiž automaticky prepli na záložné napájanie.
Podľa TechCrunch sieť sa bežne z podobného výpadku spamätá za pár sekúnd, tentoraz to trvalo vyše desať minút a výkyv napätia bolo cítiť od severnej Virgínie až po Chicago. K výpadku prúdu nedošlo, len ku krátkodobému blikaniu svetiel, no podľa DataCenterDynamics ide o ukážku toho, ako veľmi dokážu koncentrované AI dátové centrá zaťažiť elektrickú sústavu, a experti očakávajú, že podobné výkyvy budú s rastom AI infraštruktúry čoraz častejšie.
V skratke
- Čipová startup Etched získala v kole Series C 300 miliónov dolárov pri hodnote 10,3 miliardy dolárov na vývoj inferenčného čipu Sohu (TechCrunch).
- SpaceXAI sprístupnilo Grok ako bezplatný doplnok pre Google Sheets, Slides a Docs, kde vie citovať konkrétne bunky, tvoriť prezentácie z osnovy aj upravovať dokumenty priamo v súbore (x.ai).
- Od 2. augusta začnú v EÚ platiť aspoň transparentnostné pravidlá AI Act pre AI generovaný obsah, hlavné povinnosti pre vysokorizikové systémy Brusel medzitým odsunul na roky 2027 až 2028 (Gibson Dunn).
- Google naznačuje príchod Gemini 4 po tom, čo lansovanie Gemini 3.5 Pro opäť odložil, zatiaľ testuje model len s vybranými partnermi (9to5Google).