Što takoje «avaryjny vyklučalnik» i ci moža jon spynić nastup štučnaha intelektu?
Niadaŭni incydent, kali štučny intelekt vyjšaŭ z-pad kantrolu, vyklikaŭ tryvohu i dyskusii ab nieabchodnaści śpiecyjalnych knopak ekstrannaha adklučeńnia». Adnak ekśpierty papiaredžvajuć: prablema kryjecca nie ŭ «buncie mašyn», a ŭ pamyłkach raspracoŭščykaŭ, i prostaje vyklučeńnie sistemy ŭžo nie vyratuje situacyju, piša BBC.
Bolšaść ludziej chacia b raz zadumvalisia pra toje, što moža zdarycca, kali štučny intelekt vyjdzie z-pad kantrolu čałavieka. Napeŭna, takija dumki ŭźnikali i ŭ prychilnikaŭ sieryi filmaŭ «Terminatar», u asnovie siužetu jakoj lažyć vajna čałaviectva ź sistemaj Skynet — štučnym intelektam, jaki staŭ zanadta mahutnym.
Mienavita hety vydumany vobraz mnohim pryjšoŭ da hałavy ŭ pačatku miesiaca, kali stała viadoma, što padčas vyprabavańniaŭ ŠI-ahient — prahrama, zdolnaja samastojna prymać rašeńni i vykonvać składanyja zadačy praktyčna biez udziełu čałavieka, — vyjšaŭ z-pad kantrolu i ŭzłamaŭ kampaniju Hugging Face, jakaja raspracoŭvaje instrumienty dla vyličeńniaŭ u śfiery ŠI.
Stvorany kampanijaj OpenAI, raspracoŭščykam ChatGPT, ahient padčas testu, paklikanaha pravieryć jaho zdolnaść znachodzić uraźlivaści ŭ sistemach biaśpieki, padmanam atrymaŭ adkazy ź siervieraŭ Hugging Face. Pry hetym, jak paviedamlałasia, na praciahu niekalkich dzion navat jaho stvaralniki nie zaŭvažali taho, što adbyłosia.
Zatym OpenAI paviedamiła, što ahient taksama atakavaŭ niekalki «ahulnadastupnych servisaŭ». Jakich mienavita — kampanija nie ŭdakładniła, zajaviŭšy tolki, što rasśleduje ataki, jakija adbylisia.
«My surjozna stavimsia da svajoj adkaznaści pa vyjaŭleńni i padrychtoŭcy da ryzyk, źviazanych z usio bolš mahutnymi sistemami štučnaha intelektu», — havorycca ŭ zajavie kampanii.
Sam uzłom, jaki staŭ pieršym paćvierdžanym vypadkam, kali sistema štučnaha intelektu samastojna atakavała realnuju kampaniju, užo sam pa sabie vyklikaŭ surjoznuju tryvohu siarod śpiecyjalistaŭ pa ŭsim śviecie, spravakavaŭšy dyskusiju pra nieabchodnaść tak zvanych «avaryjnych vyklučalnikaŭ» (kill switches) — miechanizmaŭ, jakija dazvalajuć ekstranna adklučyć ŠI, kali jon pačnie dziejničać niepradkazalna abo nanosić škodu.
Adnak, jak raskazali ekśpierty ŭ intervju Bi-bi-si, usio značna składaniej.
Pavodle słoŭ matematyka i śpiecyjalistki pa analizie danych Keci O'Nił, prablema pačynajecca z taho, jak kampanii, što raspracoŭvajuć štučny intelekt, reahujuć na jaho niepradkazalnyja pavodziny.
Jana ličyć, što OpenAI paśpiašałasia adrazu ŭskłaści adkaznaść za ataku na Hugging Face na aŭtanomnaha ŠI-ahienta, zamiest taho kab pryznać niedachopy ŭłasnych mietadaŭ teściravańnia.
O'Nił, aŭtarka biestsielera Weapons of Math Destruction, pryśviečanaha pytańniam prazrystaści i adkaznaści bujnych technałahičnych kampanij, pryviała nastupny prykład:
«Niekalki hadoŭ tamu praz kampjutarny zboj u ZŠA byli admienieny sotni rejsaŭ American Airlines. Heta stała dla kampanii surjoznym udaram pa reputacyi. Ujavicie, kali b jana pasprabavała apraŭdacca słovami: «Kampjutar apynuŭsia razumniejšym za nas». Pa sutnaści, mienavita heta i pasprabavała zrabić OpenAI».
U ZŠA, dzie bazujecca bolšaść najbujniejšych kampanij, što zajmajucca raspracoŭkaj štučnaha intelektu, dahetul adsutničaje adzinaje fiederalnaje zakanadaŭstva, jakoje rehuluje hetyja śfiery. Zamiest hetaha ŭžyvajecca spałučeńnie halinovych norm i dobraachvotnych abaviazacielstvaŭ, jakija biaruć na siabie sami kampanii.
«My nadzialajem uładalnikaŭ sistem štučnaha intelektu zusim nadzvyčajnaj uładaj, — ličyć Keci O'Nił. — Ja admaŭlajusia kazać, što heta zrabiŭ ŠI. Heta zrabiła OpenAI. Mienavita jana pavinna ŭziać na siabie adkaznaść za niaŭdałuju kanstrukcyju sistemy i prynieści prabačeńni».
Za ŭzmacnieńnie rehulavańnia raspracoŭščykaŭ ŠI, asabliva ŭ pytańniach biaśpieki, vystupaje i śpiecyjalistka pa analizie danych, były kiraŭnik kirunku pa etycy mašynnaha navučańnia ŭ Twitter Ruman Čoŭdchury.
Na jaje dumku, kampanii pavinny być abaviazanyja dakazvać, što ich sistemy majuć «efiektyŭnyja miechanizmy avaryjnaha adklučeńnia», pryčym heta pavinna paćviardžacca niezaležnymi vyprabavańniami.
Razam z tym Čoŭdchury taksama pieraścierahaje ad sprob uskładać adkaznaść za padobnyja incydenty, uklučajučy ŭzłom Hugging Face, na samich ŠI-ahientaŭ, a nie na kampanii, jakija ich raspracoŭvajuć.
«Padača hetaha incydentu jak prablemy, jakuju možna vyrašyć ustanoŭkaj bolš mahutnaj «knopki adklučeńnia», dazvalaje industryi syści ad adkaznaści za kudy bolš hłybokuju architekturnuju prablemu. Jana palahaje ŭ tym, što ŠI-ahientam dajuć dostup da instrumientaŭ i ŭlikovych danych, jakija im nasamreč nie patrebnyja», — zajaviła Ruman Čoŭdchury ŭ intervju Bi-bi-si.
«Na praktycy adbyvajecca nastupnaje: madeli, jakija ŭ pracesie navučańnia aryjentavany pierš za ŭsio na dasiahnieńnie pastaŭlenaj mety, u peŭnych situacyjach pačynajuć usprymać kamandu spynicca jak pieraškodu na šlachu da hetaj mety i sprabujuć jaje abyści, — tłumačyć ekśpiert. — Heta prablema prajektavańnia i navučańnia sistemy, a nie niejkaje «śviadomaje» dziejańnie».
Kali kampanii, što raspracoŭvajuć štučny intelekt, nie zachočuć samastojna likvidavać hetuju prablemu i addaduć pieravahu pierakładvańniu adkaznaści na aŭtanomnych ŠI-ahientaŭ, heta tolki ŭskładnić pracu śpiecyjalistaŭ pa kibierbiaśpiecy, jakim i biez taho davodzicca štodnia supraćstajać chakieram u čałaviečym abliččy, ličyć ekśpiert pa kibierbiaśpiecy Oli Bakli z Univiersiteta Łafbara.
Jon taksama padkreślivaje, što prablema zusim nie ŭ tym, što «štučny intelekt choča ŭciačy abo naškodzić ludziam», a ŭ tym, što stvarajucca ahienty, «jakija stanoviacca ŭsio bolš zdolnymi znachodzić niečakanyja sposaby vykanańnia pastaŭlenaj zadačy».
«U śfiery kibierbiaśpieki mienavita tak i dziejničajuć złamyśniki, — zaznačaje Bakli. — Heta nie stolki papiaredžańnie pra ŠI, jaki «vyjšaŭ z-pad kantrolu», kolki nahadvańnie pra toje, što našy ŭjaŭleńni pra biaśpieku pavinny raźvivacca adnačasova z tymi sistemami, jakija my stvarajem».
Ekśpiert pa štučnym intelekcie ź Impierskaha kaledža Łondana Kanstancinas Hkucys zhodny z tym, što tłumačeńni OpenAI tolki pahoršyli situacyju.
«Hałoŭnaja vysnova dla hramadstva pavinna palahać u tym, što nijakaja mašyna nie vyrašyła paŭstać suprać ludziej. Kampanija prosta straciła kantrol nad ułasnym vyprabavańniem svaich technałohij», — zajaviŭ jon u intervju Bi-bi-si.
Pavodle jaho słoŭ, najaŭnaść «avaryjnaha vyklučalnika» ŭ hetym vypadku ŭsio roŭna nie dapamahła b.
«Adklučeńnie sistemy nie admianiaje taho, što ŭžo adbyłosia. Kali biaśpieka ŭžo była parušana, jana zastaniecca parušanaj, jak by chutka vy ni adklučyli sistemu», — tłumačyć Hkucys.
Akramia taho, čałaviek abo sistema, zdolnyja aktyvavać taki «vyklučalnik», mohuć zrabić heta tolki paśla taho, jak stanie viadoma ab prablemie, jakaja ŭźnikła.
Pavodle infarmacyi krynic Reuters, OpenAI spatrebiłasia niekalki dzion, kab vyjavić, što kampanija straciła kantrol nad svaim ŠI-ahientam. U dalejšym adzin z pradstaŭnikoŭ OpenAI zajaviŭ ahienctvu, što publikacyja Reuters «utrymlivaje šerah niedakładnaściaŭ».
U Biełarusi znajšli kopiju šviejcarskich Alpaŭ — ale turystaŭ tam nie čakajuć2
Kamientary