Расія і ЗША ў ААН прыбралі патрабаванне пра кантроль чалавекам над вайсковым штучным інтэлектам
З праекта міжнародных правілаў для ШІ-зброі прыбралі патрабаванне правяраць цэлі чалавекам. Гэтага дамагліся ЗША і Расія. Калі такі падыход замацуюць у міжнародных правілах, баявыя сістэмы са штучным інтэлектам змогуць самі выбіраць цэлі і наносіць удары без абавязковай праверкі чалавека.
Амерыканскія і расійскія дыпламаты сумесна аслабілі праект міжнароднага пагаднення аб выкарыстанні аўтаномнай зброі са штучным інтэлектам. З дакумента, сярод іншага, прыбралі патрабаванне, каб чалавек правяраў выбраныя алгарытмам цэлі перад нанясеннем удару, піша The Washington Post.
У пачатку верасня сотні дыпламатаў сабраліся ў Жэневе, каб выпрацаваць першыя глабальныя правілы выкарыстання смяротнай аўтаномнай зброі на аснове штучнага інтэлекту. Аднак у апошні дзень перамоў абмеркаванне набыло асабліва востры характар.
Паводле трох крыніц выдання, знаёмых з ходам перамоў, прадстаўнікі ЗША і Расіі на працягу прыкладна 15 гадзін уносілі ў дакумент шматлікія праўкі. Пасяджэнне праходзіла за зачыненымі дзвярыма: камеры ААН былі выключаныя, а прадстаўнікоў грамадзянскай супольнасці папрасілі пакінуць залу.
Абедзве краіны прывялі на перамовы каманды прыблізна з дзесяці юрыстаў — амаль удвая большыя, чым у большасці іншых дэлегацый. Праўкі ўносіліся так хутка, што прадстаўнікі іншых краін не паспявалі іх аналізаваць.
«Гэта была смерць ад тысячы дробных парэзаў паперай», — апісаў перамовы адзін з суразмоўцаў The Washington Post.
Па звестках выдання, амерыканскія і расійскія дыпламаты дамагліся выдалення фармулёвак, паводле якіх аўтаномныя сістэмы павінны працаваць «прадказальна» і «надзейна». З дакумента таксама выключылі патрабаванне ўлічваць этычныя меркаванні пры выкарыстанні зброі са штучным інтэлектам.
Але найбольш істотнай стала адмова ад палажэння, якое абавязвала чалавека правяраць пэўныя вайсковыя цэлі, выбраныя штучным інтэлектам, перш чым наносіць па іх удар.
Праваабаронцы папярэджваюць, што такое аслабленне правілаў можа фактычна дазволіць машынам самастойна прымаць рашэнні, ад якіх залежаць чалавечыя жыцці.
«Гэта можа азначаць, што машыны змогуць прымаць рашэнні пра жыццё і смерць без кантролю з боку чалавека. Практычныя наступствы відавочныя: большая шкода для мірнага насельніцтва, меншая адказнасць і імклівы рух да больш рызыкоўнай аўтаматызаванай вайны», — заявіла намесніца дырэктара Human Rights Watch па пытаннях узбраенняў Верыці Койл.
Перамовы адбываюцца на фоне імкнення Пентагона як мага хутчэй укараніць штучны інтэлект у вайсковыя аперацыі. Паводле The Washington Post, амерыканскія вайскоўцы ўжо выкарыстоўвалі чат-бот кампаніі Anthropic для вызначэння амаль тысячы цэляў у першыя 24 гадзіны вайны з Іранам. Ізраіль таксама актыўна выкарыстоўвае сістэмы штучнага інтэлекту падчас аперацый у сектары Газа.
Пры гэтым у 2023 годзе Міністэрства абароны ЗША абнавіла ўласную дырэктыву аб аўтаномных сістэмах узбраення. Яна, у прыватнасці, прадугледжвае ўдзел чалавека ў ацэнцы і праверцы такіх сістэм, а таксама патрабуе выконваць законы і звычаі вайны.
У жніўні 2024 года генеральны сакратар ААН Антоніу Гутэрыш назваў выбар цэляў алгарытмамі «маральнай мяжой, якую нельга пераходзіць», і заклікаў прыняць юрыдычна абавязковае міжнароднае пагадненне, якое забараняла б сістэмы ўзбраення без чалавечага кантролю.
Наступны раўнд перамоў пройдзе ў Жэневе ў лістападзе. Краіны павінны вырашыць, ці атрымае праца над правіламі для аўтаномнай зброі афіцыйны мандат.
Каментары