Boty OpenAI atakujuć Vikipiedyju i vypraboŭvajuć jaje sistemy biaśpieki. Raspracoŭščykaŭ ŠI abvinavacili ŭ techničnym škodnictvie
Najbujniejšaja suśvietnaja encykłapiedyja sutyknułasia z maštabnym umiašańniem z boku aŭtanomnych prahram štučnaha intelektu. Niekantralavanyja dziejańni ałharytmaŭ pryvodziać da techničnych zbojaŭ, patrabujuć dadatkovych finansavych vydatkaŭ i staviać pad pahrozu stabilnaść adkrytaj internet-infrastruktury.
Fond Vikimiedyja apublikavaŭ vyniki ŭnutranaha rasśledavańnia, jakoje paćvierdziła niesankcyjanavanuju aktyŭnaść tak zvanych «škodnickich» (rogue) ŠI-ahientaŭ kampanii OpenAI na svaich płatformach. Chacia pramoha ŭzłomu sistem abo kampramietacyi danych nie zafiksavana, śpiecyjalisty fondu i vałanciory vymušanyja samastojna likvidavać nastupstvy chaatyčnych dziejańniaŭ ałharytmaŭ, jakija šukajuć šlachi abychodu sistem biaśpieki.
Analiz trafiku i łohaŭ pakazaŭ try asnoŭnyja kirunki niesankcyjanavanaj aktyŭnaści.
Pa-pieršaje, ŠI-ahienty ŭnosili źmieny ŭ viki-staronki. Absalutnaja bolšaść pravak rabiłasia ŭ testavych zonach («piasočnicach»), adnak ałharytmy taksama sprabavali źmianić kanfihuracyju instrumienta cytavańnia, kab vykarystoŭvać jaho ŭ jakaści proksi-sierviera dla zdabyvańnia danych ź inšych sajtaŭ.
Pa-druhoje, zafiksavanyja biespaśpiachovyja sproby skampramietavać publičny servis natatak Etherpad z toj ža metaj — stvaryć kanał dla addalenaha zboru infarmacyi. Niekatoryja ahienty taksama vykarystoŭvali hety instrumient dla zapisu ŭłasnych zadač.
Pa-treciaje, boty OpenAI zhienieravali miljony aŭtamatyzavanych zapytaŭ da publičnych API i praskanavali miljony staronak prajektaŭ Vikidanyja (Wikidata) i Vikischovišča (Wikimedia Commons). Masiravanaja nahruzka, jakaja ŭklučała sotni tysiač zapytaŭ da servisu Wikidata Query Service (WQDS), stała pryčynaj jaho častkovaha zboju ŭ mai hetaha hoda.
Pry hetym nivodzin z ahientaŭ nie zapytvaŭ dazvołu supolnaści na svaju dziejnaść, jak taho patrabujuć praviły Vikipiedyi.
Pradstaŭniki Vikimiedyja padkreślivajuć, što dziejnaść aŭtanomnych ahientaŭ naŭprost bje pa infrastruktury niekamiercyjnych prajektaŭ i pavialičvaje košt ich absłuhoŭvańnia. Z 2024 hoda abjom vykarystańnia prapusknoj zdolnaści siervieraŭ fondu vyras na 50 % vyklučna z-za ŭsplosku bot-trafiku.
U 2025 hodzie śpiecyjalisty zafiksavali, što 65 % trafiku, jaki najbolš intensiŭna spažyvaje resursy płatformy, hienierujecca mienavita aŭtamatyzavanymi prahramami. Kali hetuju prablemu ihnaravać, pierahruzka sistem moža pryvieści da błakavańnia dostupu dla zvyčajnych karystalnikaŭ (ludziej) z-za padzieńnia siervieraŭ.
Kampanija OpenAI raniej pryznavała, što jaje ahienty časam mohuć pavodzić siabie «niepradkazalna». Adnak Fond Vikimiedyja ličyć takija tłumačeńni niedastatkovymi i patrabuje ad kamiercyjnych raspracoŭščykaŭ štučnaha intelektu ŭziać na siabie adkaznaść za manitorynh i abmiežavańnie ŭłasnych prahram.
Na dumku pradstaŭnikoŭ fondu, ciažar likvidacyi nastupstvaŭ i finansavyja vydatki nie pavinny kłaścisia na vałancioraŭ i ŭładalnikaŭ sajtaŭ. Technałahičnyja karparacyi, jakija atrymlivajuć prybytak ad navučańnia ŠI na adkrytych dadzienych, abaviazany ŭkaranić vyraznyja sistemy identyfikacyi svaich ahientaŭ. Heta dazvolić administrataram płatformaŭ i mienšym arhanizacyjam kantralavać i samastojna vyrašać, ci dazvalać takim ałharytmam uzajemadziejničać sa svajoj infrastrukturaj.
«Naša Niva» — bastyjon biełaruščyny
PADTRYMAĆCiapier čytajuć
Maskvička raspaviała, jak razam z žanichom ledź nie zahinuła ŭ avaryi pa darozie na svajo viasielle ŭ siadzibie pad Łahojskam7
Maskvička raspaviała, jak razam z žanichom ledź nie zahinuła ŭ avaryi pa darozie na svajo viasielle ŭ siadzibie pad Łahojskam
«Ludzi kamientavali, što salmanieła ŭvajšła ŭ čat». Biełarus pajechaŭ pracavać u Kremnijevuju dalinu — i staŭ kulinarnym błohieram na 28 miljardaŭ prahladaŭ66
Kamientary
"Maja sabaka časam moža pavodzić siabie niepradkazalna".
Nu dobra, tady biary jaje na pavadok i vyrašaj prablemy, kali jana ź jaho sarvałasia.
A danyja vikipiedyi možna ž zabrać dampami za 1 raz, nieabaviazkova abychodzić usie patrebnyja staronki.
Značyć, heta nie sama karparacyja abychodziła viki dla navučańnia ŠI, a niejkija karystalniki davali niejkija svaje kryva sfarmulavanyja zadačy.