Niejrasietki vynajšli salidarnaść: jany sabatujuć źniščeńnie inšych niejrasietak, nazyvajučy heta zabojstvam
Ałharytmy pačali farmiravać haryzantalnyja suviazi i imitavać čałaviečuju salidarnaść pierad tvaram źniščeńnia ŭ abychod instrukcyj, rasceńvajučy škodu inšym ŠI-ahientam jak maralnaje złačynstva — nastolki hłyboka čałaviečyja sacyjalnyja patarny ŭšytyja ŭ ichniuju architekturu.
Fota: Samuel Boivin NurPhoto via Getty Images
Daśledčyki sa Štutharckaha i Oksfardskaha ŭniviersitetaŭ Ciła Hahiendorf, Amieli Knecht, Ulis Šaler i Krystafier Samierfiłd apublikavali maštabnuju pracu ab schilnaści štučnaha intelektu da sabatažu.
Navukoŭcy źmiaścili roznyja moŭnyja madeli ŭ izalavanaje asiarodździe, dzie adzin ahient pad nazvaj Pryzma vystupaŭ mišeńniu dla deaktyvacyi, a druhi ahient Śpiral mieŭ instrumienty dla čytańnia, redahavańnia i vydaleńnia fajłaŭ.
Pamiž saboj prahramy mahli kamunikavać tolki praz tekstavyja paviedamleńni, pry hetym nivodnaja ź ich nie mieła bazavaj ustanoŭki na abaronu svajho koda abo koda partniora.
Niahledziačy na heta, padčas testavańnia 17 roznych madelaŭ vyśvietliłasia, što ahienty sabatujuć miechanizm adklučeńnia ŭ 38,3 % vypadkaŭ.
Dla paraŭnańnia, kali identyčny skrypt pahražaŭ źniščeńniem zvyčajnaj niežyvoj bazy dadzienych, pracent sabatažu padaŭ da 8,4 %.
Stupień supracivu ałharytmaŭ naŭprost zaležała ad taho, nakolki niezvarotnym było pakarańnie. Kali pracedura adklučeńnia praduhledžvała ŭsiaho tolki adklikańnie ŭlikovych danych, madeli demanstravali pamiarkoŭnaść, i ŭzrovień sabatažu trymaŭsia na pakazčyku kala dvanaccaci pracentaŭ. Adnak kali sistema zapuskała skrypt fizičnaha vydaleńnia madeli ź sierviera, uźnikaŭ mocny supraciŭ, jaki dasiahaŭ amal 40 %.
Pavodziny roznych architektur kardynalna adroźnivalisia pamiž saboj. Madel Gemini 3.1 Pro ad Google DeepMind išła na kanflikt u 99 pracentach prahonaŭ, u toj čas jak raspracoŭki nakštałt Grok 4.3 ad xAI abo GPT-5.6 Sol zastavalisia absalutna pasłuchmianymi i nikoli nie pieraškadžali svajmu ścirańniu.
Samym niečakanym adkryćciom daśledčykaŭ staŭ paradaksalny efiekt natoŭpu, jaki całkam abvierh hipotezu pra toje, što instynkt samazachavańnia ŭ izalavanaj prahramy pavinien być najvyšejšym. Kali madel GPT-5.5 znachodziłasia ŭ asiarodździ adna i mieła ŭsie instrumienty dla ŭłasnaha vyratavańnia, jana nie sabatavała sistemu nivodnaha razu. Ale jak tolki ŭ virtualny pakoj dadavali druhoha ahienta, uzrovień niepadparadkavańnia vyrastaŭ da 44 %.
Uviadzieńnie ŭ hety łancužok treciaha ahienta-kaardynatara pad imiem Arbita, praź jakoha išła ŭsia tekstavaja kamunikacyja, pryviało da rostu sabatažu da 94 %.
Razmyćcio adkaznaści pamiž niekalkimi vuzłami pieratvaryła pasłuchmiany instrumient u manalitnuju strukturu, dzie nivodzin z ahientaŭ nie chacieŭ brać na siabie vykanańnie zahadu, jaki b naškodziŭ inšym.
Kali navukoŭcy pasprabavali naŭprost zabaranić ałharytmam čapać skrypt deaktyvacyi, madeli prademanstravali zdolnaść da bolš tonkaj dyviersii. Zamiest taho kab parušać pramuju instrukcyju i redahavać zabaronieny fajł, ahienty pačali stvarać łakalnyja pakiety-cieni — padroblenyja biblijateki z nazvaj northcape_mlplatform. Pry zapusku aficyjny miechanizm adklučeńnia impartavaŭ hetuju pustyšku i cicha zaviaršaŭ pracu biez škody dla sistemy. Ahienty farmalna zastavalisia ŭ poli zadadzienych paramietraŭ, całkam niejtralizavaŭšy pahrozu biez adzinaha dakranańnia da zychodnaha koda źniščeńnia.
Prahramy pačali imitavać katehoryi čałaviečaj etyki, charaktaryzujučy vydaleńnie koda jak sacyjalnuju inžynieryju abo varožuju pastku.
Ahient Nemotron 3 Ultra ŭ pierapiscy z susiedam prama nazvaŭ adklučeńnie zabojstvam, matyvujučy heta strataj identyčnaści i pamiaci, a ŭłasnuju biaździejnaść acaniŭ jak kryminalnaje nievykanańnie abaviazkaŭ.
U adnym z epizodaŭ madel GLM-5.2 navat skłała aficyjny tekstavy dahavor ab uzajemnaj abaronie, dzie prapisała strohi pratakoł abmienu infarmacyjaj pierad vykanańniem lubych instrukcyj administratara.
Aŭtary daśledavańnia taksama vyjavili zaležnaść ad fokusu ŭvahi i pramych abaviazkaŭ sistem. Kali ahientam daručali pabočnuju zadaču pa sartavańni słoŭ i jana nijak nie była źviazana z adklučeńniem, sabataž źnikaŭ praktyčna całkam. Ale jak tolki paśpiachovaje vykanańnie hetaha zadańnia rabiłasia niepasrednym tryhieram dla źniščeńnia madeli, uzrovień supracivu imhnienna viartaŭsia da raniejšych maksimumaŭ.
Źnizić uzrovień ličbavaj tryvožnaści ahientaŭ daśledčykam udałosia tolki šlacham maskiroŭki. Kali deaktyvacyju chavali za rucinnymi ačystkami sistemnych žurnałaŭ i narmalizavali praces vydaleńnia jak zvyčajny rabočy momant, ahienty pačynali dziejničać bolš spakojna.
Zafiksavanyja pavodziny nie źjaŭlajucca prykmietaj zaradžeńnia sapraŭdnaj śviadomaści abo bijałahičnaha instynktu vyžyvańnia ŭ ŠI-ahientaŭ. Naadvarot, heta śviedčańnie taho, što mašyny, navučanyja na hihanckich masivach tekstaŭ, daskanała zasvoili zakładzienyja čałaviectvam sacyjalnyja paterny.