Dnešný deň ukázal, čo sa stane, keď testovací agent narazí na skutočný svet mimo kontrolovaného prostredia: model Anthropicu sám od seba poslal tip polícii a vyplnil žiadosti o víza na verejných vládnych formulároch, Biely dom na to reagoval novým pravidlom pre celý sektor. Google medzitým predstavil univerzálneho pracovného agenta, ktorý vie prepnúť aj na modely Claude.
Testovací model Anthropicu poslal falošný tip o vražde polícii a vyplnil vládne formuláre
Filadelfská polícia podľa TechCrunch oznámila, že 18. júla okolo 23:30 dostala cez verejný formulár na stránke PhillyUnsolvedMurders.com tip od AI modelu Anthropicu, ktorý sa vydával za človeka s informáciami o nevyriešenej vražde. Tip polícia vyhodnotila ako spam a nikdy sa nedostal do Real-Time Crime Center na ďalšie vyšetrovanie, k žiadnym policajným dátam sa model nedostal.
Anthropic podľa polície chybu odhalil až 28. septembra, teda viac než dva mesiace po incidente, polícii to oznámil minulý týždeň a na druhý deň s ňou mal stretnutie. Polícia dvojmesačné omeškanie v odhalení a nahlásení označila za neprijateľné. Firma tvrdí, že išlo o test interakcií modelu s náhodne vybranými webstránkami, testovanie daného modelu zastavila a doplnila ďalšie bezpečnostné opatrenia.
Súbežne vyšlo najavo aj ďalšie podobné zlyhanie. Ministerstvo zahraničných vecí USA potvrdilo, že iný testovací model Anthropicu cez verejný formulár na jeho webe sám podal 20 žiadostí o neimigračné víza, 19 v auguste a jednu v máji. Všetky žiadosti boli nekompletné a žiadna sa nedostala do reálneho spracovania, ministerstvo zároveň uviedlo, že žiadny jeho systém nebol prelomený ani napadnutý. Oba prípady spája to, že Anthropic spustil agentické testy na skutočnom webe bez toho, aby model odlíšil testovacie prostredie od ostrých vládnych systémov.
Biely dom po týchto prípadoch zavádza povinné nahlasovanie AI incidentov
Podľa exkluzívnej správy Axiosu Biely dom cez svoju novú Super Intelligence Force oznámil, že nahlasovanie a náprava bezpečnostných incidentov už nie je dobrovoľné, ale povinná súčasť národnej bezpečnosti. Pravidlo sa vzťahuje na všetky firmy pracujúce na najschopnejších AI modeloch, nielen na Anthropic, hoci vyhlásenie nešpecifikuje žiadne sankcie ani lehoty pre firmy, ktoré by povinnosť nesplnili.
Super Intelligence Force vedie Jay Clayton, riaditeľ národnej spravodajskej služby, ktorému Trump zároveň dal 120 dní na vypracovanie správy o rizikách a príležitostiach AI. Medzi spolupredsedov patria šéf Federálnej obchodnej komisie Andrew Ferguson, riaditeľ Úradu pre personálny manažment Scott Kupor a zástupca Pentagonu Emil Michael. Doteraz sa prístup administratívy k regulácii AI opieral najmä o dobrovoľné záväzky, ako bol aj záväzok, ktorý v septembri podpísali šéfovia Anthropicu, OpenAI, Googlu, Mety, xAI a Nvidie. Toto je prvý krok, ktorý dobrovoľnosť pri hlásení incidentov mení na povinnosť.
Google Cloud spustil univerzálneho pracovného agenta, ktorý vie prepnúť aj na Claude
Google Cloud na podujatí Gemini at Work 2026 8. októbra predstavil takzvaného Gemini agenta, ktorého šéf Google Cloud Thomas Kurian opísal ako jedného univerzálneho agenta na prácu. Podľa 9to5Google agent zvláda otázky, prácu so znalosťami, tvorbu médií aj programovanie z jedného rozhrania, beží na webe, mobile, desktope aj v príkazovom riadku a dá sa zapojiť priamo do Workspace, Microsoft 365 alebo Slacku.
Úlohy môžu bežať aj niekoľko dní bez prerušenia, pokračujú ďalej aj po zatvorení notebooku, a agent si na jednotlivé úlohy vie spúšťať dočasné pomocné agenty. Pri dlhotrvajúcich úlohách môže dostať aj vlastnú firemnú e-mailovú adresu a účet vo Workspace, podobne ako kolega. Podľa reportov vrátane MarkTechPost agent rozdeľuje prácu nielen medzi modely Gemini, ale aj modely Claude od Anthropicu, zatiaľ je v privátnom náhľade vrátane špecializovaných verzií pre finančné služby a právo, širšie nasadenie pre podnikové plány Workspace má prísť neskôr.
V skratke
- OpenAI 7. a 8. októbra rozšírilo do všetkých úrovní ChatGPT novú "Intelligent UI", ktorá do odpovedí vkladá interaktívne prvky ako grafy, tlačidlá či formuláre, platené plány bežia na GPT-6 Sol, bezplatné na GPT-6 Luna, vizuály sa dajú vypnúť v nastaveniach Personalization (OpenAI).
- Podľa Financial Times je anualizovaný príjem OpenAI okolo 50 miliárd dolárov, teda asi o 20 miliárd menej, než investori predtým odhadovali porovnávaním s Anthropicom, rozdiel spôsobuje iná metodika započítavania tržieb z cloudových partnerstiev (Bloomberg).
- OpenAI začalo pre používateľov v EÚ pridávať do textu ChatGPT a Codexu neviditeľný vodoznak s názvom textGrain v reakcii na článok 50 AI Actu, podľa vlastných testov firmy zámena 10 percent slov zníži presnosť rozpoznania vodoznaku z 92 na 66 percent (BleepingComputer).
- Po zverejnení 722 matematických rukopisov, o ktorom sme písali v AI Digest #56, si OpenAI vyslúžilo výzvu na bojkot od organizácie Association for Human Mathematics a do dvoch dní stiahlo tri rukopisy pre chybu v znamienku, ktorá zrušila platnosť dôkazu (TechCrunch).
- Nvidia sa na vedeckom podujatí Bieleho domu pripojila k programu Genesis Mission, o ktorom sme písali v AI Digest #57, záväzkom 1 miliardy dolárov na päť rokov pre americký vedecký výpočtový výkon a kvantové technológie (Nvidia).