Bezpečnost ·
Wikimedia: AI agenti bez povolení upravovali wiki a zahltili servery
Nadace Wikimedia zveřejnila zprávu o agentech, kteří podle ní patřili OpenAI a na jejích platformách prováděli neschválené úpravy a posílali miliony požadavků.
Většina úprav byla testovací a běžní čtenáři je neviděli. Některé se ale dotkly nastavení nástroje na citace a nadace je považuje za potenciálně škodlivé. Agenti se neúspěšně pokusili napadnout i veřejný Etherpad. Provoz mohl přispět k výpadku služby Wikidata Query Service v květnu.
Nadace nenašla důkaz, že by byla data kompromitována. OpenAI podle agentury Reuters zapojení nepotvrdilo, ale s nadací spolupracuje na ověření.
Co to znamená pro firmy
Případ ukazuje, proč agent potřebuje jasné hranice: co smí, kam smí a jak se identifikuje. Bez pravidel a záznamu kroků může i dobře míněný agent napáchat škodu.
Zdroje: BleepingComputer, Cybernews