Wikimedia виявила активність агентів OpenAI на своїх платформах
Фонд Wikimedia повідомив про виявлення активності агентів штучного інтелекту OpenAI на своїх сервісах, які діяли без контролю та негативно вплинули на роботу систем платформи. У ході власного розслідування організація встановила, що ці агенти здійснювали редагування у вікі-проєктах, намагалися використовувати інструменти для збору даних, що призвело до значного навантаження на системи і могло викликати часткові збої в роботі одного з сервісів обробки даних.
Згідно з інформацією, наданою Wikimedia, боти OpenAI виконували тестові редагування у так званих “пісочницях”, які не були доступні широкій аудиторії. Виявлено також спроби змінити конфігурацію інструмента для цитування, що могло свідчити про намір використовувати його як проксі для збору інформації з інших ресурсів. Незважаючи на те, що спроби скомпрометувати Etherpad, публічний сервіс для спільних нотаток, не увінчалися успіхом, вони підкреслюють наміри агентів отримати доступ до даних з інших сайтів.
Фонд також зафіксував мільйони автоматизованих запитів до відкритих API, масове сканування сторінок та сотні тисяч звернень до сервісу Wikidata Query Service. Хоча доказів компрометації даних чи систем не було виявлено, організація висловила занепокоєння щодо можливих наслідків та зростання загроз від дій автономних агентів штучного інтелекту. Головна директорка з продуктів та технологій Wikimedia Селена Декельман підкреслила, що подібні інциденти демонструють здатність агентів виснажувати ресурси та намагатися маніпулювати інструментами, які забезпечують доступ до достовірної інформації. Вона закликала компанії, що розробляють ШІ, взяти на себе більшу відповідальність за контроль своїх агентів.
