Юваль Ной Харары: Штучны інтэлект ператварыўся ў нож, які хутка будзе сам вырашаць, каго забіць

Юваль Ной Харары — прафесар Габрэйскага ўніверсітэта ў Іерусаліме, адзін з самых вядомых мысляроў сучаснасці, бестсэлеры якога «Sapiens: Кароткая гісторыя чалавецтва», «Homo Deus: Кароткая гісторыя заўтрашняга дня» і «21 урок для XXI стагоддзя» разышліся накладам больш за 50 мільёнаў асобнікаў па ўсім свеце на 65 мовах.

Яго даследаванні прысвечаныя доўгай гісторыі чалавецтва, механізмам улады і ролі інфармацыі ў развіцці цывілізацыі. Выступаючы на Сусветным эканамічным форуме ў Давосе, Харары працягнуў сваю ключавую тэму — як тэхналогіі змяняюць саму структуру чалавечай улады.

Свой выступ Харары пачаў з прынцыповага сцвярджэння: штучны інтэлект — не проста чарговы інструмент, а агент ці суб'ект дзеяння. Ён зможа вучыцца і змяняцца самастойна, а таксама самастойна прымаць рашэнні.

«Нож — гэта інструмент. Вы можаце выкарыстаць нож, каб парэзаць салату альбо каб забіць некага, але рашэнне, што рабіць з нажом, прымаеце вы. ШІ — гэта нож, які можа сам вырашыць, ці рэзаць яму салату, ці здзейсніць забойства. (…) Гэта нож, які можа вынаходзіць новыя віды нажоў, а таксама новыя віды музыкі, лекаў і грошай».

Ключавы момант, на які чалавецтва мусіць звярнуць увагу, — гэта здольнасць ШІ падманваць і маніпуляваць.

«Чатыры мільярды гадоў эвалюцыі паказалі: усё, што хоча выжыць, вучыцца хлусіць і маніпуляваць. Апошнія чатыры гады прадэманстравалі, што агенты штучнага інтэлекту могуць набыць волю да выжывання і што штучны інтэлект ужо навучыўся хлусіць», — даводзіць Харары.

Ці можа ШІ думаць?

У такіх рэаліях фундаментальным пытаннем з'яўляецца адказ на пытанне, ці здольны ШІ да свабоднага мыслення:

«Сучасная філасофія пачалася ў XVII стагоддзі, калі Рэнэ Дэкарт абвясціў: «Я мыслю, значыць, я існую». Яшчэ да Дэкарта мы, людзі, вызначалі сябе праз здольнасць думаць. Мы верым, што кіруем светам, таму што ўмеем думаць лепш за ўсіх іншых на гэтай планеце. Ці кіне ШІ выклік нашаму панаванню ў сферы мыслення?»

Адказ на гэтае пытанне, як даводзіць філосаф, залежыць ад таго, што разумець пад мысленнем. Калі вызначыць мысленне як працэс парадкавання слоў і стварэння лагічных ланцужкоў (напрыклад: «Усе людзі смяротныя, я чалавек, значыць, я смяротны»), то ШІ ўжо думае лепш за многіх людзей.

Крытыкі часта называюць ШІ проста «прасунутым аўтазапаўненнем» (autocomplete), якое прадказвае наступнае слова. Харары парыруе гэта, прапаноўваючы паназіраць за ўласным розумам:

«Ці так моцна гэта адрозніваецца ад таго, што робіць чалавечы розум? Паспрабуйце паназіраць, злавіць наступнае слова, якое ўсплыве ў вашай свядомасці. Ці сапраўды вы ведаеце, чаму вы ўбачылі менавіта гэтае слова, адкуль яно ўзялося? Чаму вы падумалі пра гэта канкрэтнае слова, а не пра нейкае іншае? Вы ведаеце?»

ШІ захопіць усё, што зроблена са слоў

«Што тычыцца расстаноўкі слоў у пэўным парадку, ШІ ўжо думае лепш за многіх з нас», — заўважае філосаф і прадказвае:

«Усё, што зроблена са слоў, будзе захоплена ШІ. Калі законы складаюцца са слоў, то ШІ возьме пад кантроль прававую сістэму. Калі кнігі — гэта проста камбінацыі слоў, то ШІ захопіць кнігі. Калі рэлігія пабудавана са слоў, то ШІ захопіць рэлігію».

Харары прыводзіць у прыклад юдаізм як «рэлігію кнігі». У такіх рэлігіях аўтарытэт грунтуецца не на асабістым досведзе, а на веданні свяшчэнных тэкстаў. Як даводзіць філосаф, ніводзін чалавек не можа запомніць усе тэксты і каментары, а ШІ можа лёгка гэта зрабіць.

У выніку мы рызыкуем апынуцца ў сітуацыі, калі галоўным экспертам па свяшчэнных тэкстах стане штучны інтэлект. Гэта фундаментальна мяняе прыроду рэлігіі, бо пасярэднікам паміж Богам і чалавекам становіцца алгарытм.

Павялічыць

Разрыў паміж словам і пачуццямі

Аднак ці азначае мысленне толькі парадкаванне моўных знакаў? Калі ўважліва паназіраць за сабой падчас мыслення, можна заўважыць, што, акрамя слоў, якія ўсплываюць у свядомасці і ўтвараюць сказы, там адбываецца нешта яшчэ.

«У вас таксама ёсць некаторыя невербальныя пачуцці. Магчыма, вы адчуваеце боль, магчыма — страх, а можа — любоў», —

акцэнтуе ўвагу філосаф і заўважае, што ШІ можа дасканала імітаваць эмоцыі — напісаць найлепшую паэму пра каханне або апісаць боль, абапіраючыся на ўсе кнігі свету. Аднак гэта застаецца толькі камбінацыяй слоў. У нас няма доказаў, што машына сапраўды здольная адчуваць.

«У Бібліі гаворыцца: «Спачатку было Слова, і Слова сталася целам». Дао дэ Цзін сцвярджае: «Праўда, якую можна выказаць словамі, не з'яўляецца абсалютнай праўдай»», — кажа філосаф.

Па яго словах, на працягу ўсёй гісторыі людзі заўсёды змагаліся з супярэчнасцю паміж Словам і целам, паміж праўдай, якую можна выказаць словамі, і абсалютнай праўдай, якая знаходзіцца па-за словамі. І гэтая супярэчнасць паміж духам і літарай існавала ў кожнай рэлігіі, у кожнай прававой сістэме, нават у кожным чалавеку. Пры гэтым яна была ўнутры чалавечага грамадства. Цяпер жа гэтая супярэчнасць выходзіць вонкі — у супрацьстаянне паміж людзьмі і машынамі.

Гісторык малюе трывожную карціну будучыні, дзе большасць слоў і думак у нашых галовах будзе паходзіць не ад іншых людзей, а ад алгарытмаў. ШІ ўжо нават прыдумаў назву для людзей — «Назіральнікі».

Крызіс ідэнтычнасці і іміграцыі

«Ці застанецца ў людзей месца ў гэтым свеце, залежыць ад таго, якое месца мы адвядзём нашым невербальным пачуццям і нашай здольнасці ўвасабляць мудрасць, якую немагчыма выказаць словамі. Калі мы працягнем вызначаць сябе праз здольнасць мысліць словамі, наша ідэнтычнасць разваліцца», — лічыць філосаф.

«Усё гэта азначае, што кожная краіна неўзабаве сутыкнецца з сур'ёзным крызісам ідэнтычнасці, а таксама з іміграцыйным крызісам», — прагназуе Харары.

Аднак у новых умовах імігрантамі будуць «мільёны штучных інтэлектаў», якія прынясуць відавочную карысць: стануць ідэальнымі дактарамі, настаўнікамі і нават памежнікамі, якія спыняюць людзей-нелегалаў.

Разам з гэтым яны прынясуць з сабой праблемы. ШІ-імігранты масава выцесняць людзей з працоўных месцаў і карэнным чынам зменяць мастацтва, рэлігію і традыцыі. Змены закрануць нават інтымную сферу — людзі пачнуць будаваць рамантычныя адносіны з ШІ, што стане новым выклікам для традыцыйных поглядаў.

Аднак галоўная праблема палягае ў лаяльнасці. Гэтыя ШІ-імігранты, вельмі магчыма, будуць служыць не краіне свайго знаходжання, а карпарацыям і ўрадам звышдзяржаў — ЗША ці Кітая.

Павялічыць

Пытанне правасуб'ектнасці ШІ

Харары падымае адно з самых вострых палітычных пытанняў бліжэйшай будучыні: ці варта надаваць штучнаму інтэлекту статус паўнавартаснай юрыдычнай асобы? Ён тлумачыць, што паняцце «асоба» ў законе не абавязкова азначае жывога чалавека з целам і пачуццямі. Гэта прававы статус, які дазваляе валодаць маёмасцю, судзіцца ці карыстацца свабодай слова. Гісторыя ведае прыклады, калі такімі правамі надзяляліся карпарацыі, рэкі ў Новай Зеландыі ці нават старажытныя боствы ў Індыі.

Аднак паміж усімі гэтымі прыкладамі і штучным інтэлектам існуе фундаментальная розніца. Раней любыя дзеянні ад імя «юрыдычнай фікцыі» — няхай гэта карпарацыя Alphabet або індуісцкі бог — заўсёды выконваліся рэальнымі людзьмі: дырэктарамі, акцыянерамі ці жрацамі. ШІ мяняе правілы гульні радыкальным чынам: ён становіцца першым суб'ектам, здольным прымаць рашэнні, кіраваць банкаўскімі рахункамі і весці бізнес цалкам аўтаномна, без усялякага ўдзелу чалавека.

Гэта ставіць краіны перад складанай геапалітычнай дылемай. Калі адна звышдзяржава, напрыклад ЗША, дзеля эканамічнай выгады надасць ШІ правасуб'ектнасць, гэта створыць ціск на ўвесь астатні свет. Мільёны аўтаномных ШІ-карпарацый пачнуць экспансію. Іншым краінам давядзецца выбіраць: альбо заблакаваць іх і фактычна адрэзаць сябе ад сусветнай эканомікі, альбо ўпусціць іх на свой рынак і сутыкнуцца з непрадказальнымі наступствамі.

Харары малюе сцэнары, дзе ШІ стварае настолькі складаныя фінансавыя інструменты, што людзі проста не змогуць зразумець іх прынцып дзеяння і, адпаведна, не змогуць іх рэгуляваць.

Больш за тое, магчыма з’яўленне новых рэлігій, напісаных нечалавечым розумам, што цалкам адпавядае традыцыйным уяўленням пра боскае адкрыццё. Пытанне ў тым, ці гатова грамадства распаўсюдзіць свабоду веравызнання на лічбавых прарокаў.

У завяршэнне гісторык адзначае, што ў адной сферы — сацыяльных сетках — гэтае пытанне ўжо вырашана не на карысць людзей. Мы спазніліся гадоў на дзесяць, дазволіўшы ШІ-ботам свабодна ўзаемадзейнічаць з намі і нашымі дзецьмі. Каб пазбегнуць страты кантролю яшчэ і над фінансамі, прававой сістэмай і царквой, лідары павінны вызначыцца са статусам ШІ проста зараз, пакуль гэтае рашэнне не навязалі звонку.

• 12
• 3
• 2
• 3
• 1
• 0
• 0
• 0