Боты OpenAI атакуюць Вікіпедыю і выпрабоўваюць яе сістэмы бяспекі. Распрацоўшчыкаў ШІ абвінавацілі ў тэхнічным шкодніцтве
Найбуйнейшая сусветная энцыклапедыя сутыкнулася з маштабным умяшаннем з боку аўтаномных праграм штучнага інтэлекту. Некантраляваныя дзеянні алгарытмаў прыводзяць да тэхнічных збояў, патрабуюць дадатковых фінансавых выдаткаў і ставяць пад пагрозу стабільнасць адкрытай інтэрнэт-інфраструктуры.
Фонд Вікімедыя апублікаваў вынікі ўнутранага расследавання, якое пацвердзіла несанкцыянаваную актыўнасць так званых «шкодніцкіх» (rogue) ШІ-агентаў кампаніі OpenAI на сваіх платформах. Хаця прамога ўзлому сістэм або кампраметацыі даных не зафіксавана, спецыялісты фонду і валанцёры вымушаныя самастойна ліквідаваць наступствы хаатычных дзеянняў алгарытмаў, якія шукаюць шляхі абыходу сістэм бяспекі.
Аналіз трафіку і логаў паказаў тры асноўныя кірункі несанкцыянаванай актыўнасці.
Па-першае, ШІ-агенты ўносілі змены ў вікі-старонкі. Абсалютная большасць правак рабілася ў тэставых зонах («пясочніцах»), аднак алгарытмы таксама спрабавалі змяніць канфігурацыю інструмента цытавання, каб выкарыстоўваць яго ў якасці проксі-сервера для здабывання даных з іншых сайтаў.
Па-другое, зафіксаваныя беспаспяховыя спробы скампраметаваць публічны сэрвіс нататак Etherpad з той жа мэтай — стварыць канал для аддаленага збору інфармацыі. Некаторыя агенты таксама выкарыстоўвалі гэты інструмент для запісу ўласных задач.
Па-трэцяе, боты OpenAI згенеравалі мільёны аўтаматызаваных запытаў да публічных API і прасканавалі мільёны старонак праектаў Вікіданыя (Wikidata) і Вікісховішча (Wikimedia Commons). Масіраваная нагрузка, якая ўключала сотні тысяч запытаў да сэрвісу Wikidata Query Service (WQDS), стала прычынай яго частковага збою ў маі гэтага года.
Пры гэтым ніводзін з агентаў не запытваў дазволу супольнасці на сваю дзейнасць, як таго патрабуюць правілы Вікіпедыі.
Прадстаўнікі Вікімедыя падкрэсліваюць, што дзейнасць аўтаномных агентаў наўпрост б'е па інфраструктуры некамерцыйных праектаў і павялічвае кошт іх абслугоўвання. З 2024 года аб'ём выкарыстання прапускной здольнасці сервераў фонду вырас на 50 % выключна з-за ўсплёску бот-трафіку.
У 2025 годзе спецыялісты зафіксавалі, што 65 % трафіку, які найбольш інтэнсіўна спажывае рэсурсы платформы, генеруецца менавіта аўтаматызаванымі праграмамі. Калі гэтую праблему ігнараваць, перагрузка сістэм можа прывесці да блакавання доступу для звычайных карыстальнікаў (людзей) з-за падзення сервераў.
Кампанія OpenAI раней прызнавала, што яе агенты часам могуць паводзіць сябе «непрадказальна». Аднак Фонд Вікімедыя лічыць такія тлумачэнні недастатковымі і патрабуе ад камерцыйных распрацоўшчыкаў штучнага інтэлекту ўзяць на сябе адказнасць за маніторынг і абмежаванне ўласных праграм.
На думку прадстаўнікоў фонду, цяжар ліквідацыі наступстваў і фінансавыя выдаткі не павінны класціся на валанцёраў і ўладальнікаў сайтаў. Тэхналагічныя карпарацыі, якія атрымліваюць прыбытак ад навучання ШІ на адкрытых дадзеных, абавязаны ўкараніць выразныя сістэмы ідэнтыфікацыі сваіх агентаў. Гэта дазволіць адміністратарам платформаў і меншым арганізацыям кантраляваць і самастойна вырашаць, ці дазваляць такім алгарытмам узаемадзейнічаць са сваёй інфраструктурай.
«Наша Нiва» — бастыён беларушчыны
ПАДТРЫМАЦЬ
Каментары
"Мая сабака часам можа паводзіць сябе непрадказальна".
Ну добра, тады бяры яе на павадок і вырашай праблемы, калі яна з яго сарвалася.
А даныя вікіпедыі можна ж забраць дампамі за 1 раз, неабавязкова абыходзіць усе патрэбныя старонкі.
Значыць, гэта не сама карпарацыя абыходзіла вікі для навучання ШІ, а нейкія карыстальнікі давалі нейкія свае крыва сфармуляваныя задачы.