ШІ-апакаліпсіс? Частка тэхналагічнай эліты гатовая да канца чалавецтва

У Сіліконавай даліне нарадзілася новая філасофія — «вясёлы апакаліпсіс». Аўтар Дэвід Прайс (David A. Price) у сваім эсэ ў The Wall Street Journal апісвае дзіўную і трывожную з’яву ў асяроддзі стваральнікаў штучнага інтэлекту — людзей, якія не баяцца знікнення чалавецтва, а ўспрымаюць яго як натуральны крок эвалюцыі.

Ілюстрацыйны здымак. Фота: Getty/Andriy Onufriyenko

У 2015 годзе, яшчэ да эпохі ChatGPT, Ілан Маск і Лары Пэйдж паспрачаліся на вечарыне з нагоды дня нараджэння Маска. Маск, занепакоены небяспекай будучага штучнага інтэлекту, настойваў, што некантраляваны ШІ можа прывесці да згубы ўсё чалавецтва.

Пэйдж, тады кіраўнік Google, адказваў, што «лічбавае жыццё — натуральны і жаданы наступны этап касмічнай эвалюцыі». Ён сцвярджаў, што спыняць уздым разумных машын — памылка, і назваў Маска «відавым шавіністам», які надае чалавецтву незаслужаную маральную перавагу над іншымі формамі розуму.

Новыя «вясёлыя апакаліптыкі»

Як высветлілася, Лары Пэйдж — не адзіны ўплывовы чалавек у індустрыі, якога не турбуе магчымасць таго, што ШІ ўрэшце адцісне чалавецтва. Сярод даследчыкаў ШІ існуе цэлая ніша — людзі, якіх аўтар называе «вясёлымі апакаліптыкамі». Гэта не тыя, хто адмаўляе небяспеку штучнага інтэлекту, а тыя, хто не бачыць у магчымым канцы чалавецтва нічога дрэннага.

Адзін з іх — вядомы даследчык Рычард Сатан (Richard Stuart Sutton), лаўрэат Прэміі Цьюрынга. Ён прызнае, што ШІ можа стаць разумнейшым і магутнейшым за людзей, але не бачыць у гэтым трагедыі. Паводле яго, калі больш разумныя істоты атрымаюць уладу, гэта проста лагічны працяг развіцця. Сатан параўноўвае ШІ з дзецьмі: ці трэба бацькам мець кнопку, каб выключыць дзіця, калі яно робіць нешта не так? Для яго ідэя поўнага кантролю над ШІ выглядае неэтычнай.

Ён нават прызнае, што калі людзі перастануць быць «найцікавейшай часткай Сусвету», то іх знікненне будзе нармальнай з’явай — калі гэта дазволіць Сусвету стаць «лепшым, чым цяпер».

Дэвід Прайс пiша: «Для мяне гэта было нешта новае. Я прывык думаць пра лідараў і даследчыкаў ШІ ў межах двух лагераў: з аднаго боку, аптымісты, якія вераць, што «спалучыць» мадэлі ШІ з чалавечымі інтарэсамі не праблема; з другога — «думеры», якія хочуць узяць тайм-аўт, каб непаслухмяныя звышразумныя ШІ нас не знішчылі. А тут з’явіўся трэці тып людзей, якія пытаюцца: дык у чым, уласна, праблема?

Я задумаўся: наколькі распаўсюджаная гэтая ідэя сярод людзей ШІ? Я звязаўся з Джэйранам Ланіэрам (Jaron Lanier) — музыкам, інфарматыкам і піянерам віртуальнай рэальнасці. У эсэ ў The New Yorker у сакавіку ён між іншым узгадаў, што чуў на канферэнцыях па ШІ «вар’яцкую» ідэю: маўляў, людзі, якія маюць дзяцей, становяцца празмерна прыхільнымі да чалавечага віду.

Ён сказаў мне, што, паводле яго досведу, такія настроі — звычайная тэма размоў сярод даследчыкаў ШІ. (Ланіэр — старшы міждысцыплінарны даследчык у Microsoft, але не выступае ад імя кампаніі.)

«Ёсць адчуванне, што людзям нельга давяраць у гэтай тэме, бо яны заражаныя агідным ментальным вірусам, які прымушае іх аддаваць перавагу людзям перад ШІ, тады як відавочна, што мы павінны проста саступіць дарогу», — думаюць такога тыпу людзі.

«Колькасць людзей, якія прытрымліваюцца такіх перакананняў, невялікая, — сказаў Ланіер, — але яны займаюць уплывовыя пазіцыі. Таму гэта не тое, што можна ігнараваць».

Рычард Сатан (Richard Stuart Sutton) прызнае, што ШІ можа стаць разумнейшым і магутнейшым за людзей, але не бачыць у гэтым трагедыі. Паводле яго, калі больш разумныя істоты атрымаюць уладу, гэта проста лагічны працяг развіцця. Фота Wikimedia Commons

Імавернасць лічбавага Апакаліпсісу

У галіне даследаванняў ШІ ўзровень рызыкі часта выражаецца як «p(doom)», гэта значыць імавернасць прадвешчанай ШІ «згубы» для чалавецтва. У 2023 годзе апытанне, праведзенае некамерцыйнай арганізацыяй AI Impacts, спытала даследчыкаў ШІ пра іх ацэнкі p(doom) — якую імавернасць яны надаюць «будучым дасягненням ШІ, што прывядуць да знішчэння людзей або да падобнага па маштабах і пастаяннага зняволення чалавечага віду». Амаль палова з 1300 рэспандэнтаў на гэтае пытанне далі імавернасць 10% або вышэйшую. У сярэднім — каля 16 %, што прыблізна адпавядае шанцу ў «рускай рулетцы».

Але для «вясёлых апакаліптыкаў» гэты шанец — не пагроза, а магчымасць. На іх думку, калі ШІ знішчыць людзей, але захавае розум і свядомасць у іншай, лічбавай форме, гэта будзе не канец жыцця, а проста яго трансфармацыя.

Ідэалагічныя карані культа штучнага інтэлекту

Крыніцы гэтых ідэй сягаюць у канец ХХ стагоддзя. У 1988 годзе робататэхнік Ганс Маравец (Hans Moravec) выдаў кнігу «Mind Children». Маравец, які сам сябе называў апантаным штучным жыццём, разглядаў чалавечыя розумы проста як набор даных. Ён уяўляў, што ў некаторых выпадках розум робата будзе проста лічбавай копіяй розуму біялагічнага чалавека, створанай праз працэс загрузкі, які ён называў «трансміграцыяй» (transmigration).

Пазней тэхнолаг Рэй Курцуэйл (Ray Kurzweil) і пісьменнік-фантаст Вэрнар Вінджы (Vernor Vinge) развілі гэтую канцэпцыю і прадказалі «выбух інтэлекту»: калі машыны навучацца самі сябе ўдасканальваць, іх разумовыя здольнасці стануць бязмежнымі, а людзі — такімі ж састарэлымі, як цяпер малюскі ў параўнанні з чалавекам.

Вы, можа, думаеце: калі забіваць чалавека — дрэнна, а масавае забойства — вельмі дрэнна, то знікненне чалавецтва павінна быць вельмі-вельмі дрэнным, праўда?

Паводле «вясёлых апакаліптыкаў», вы не разумееце галоўнага: калі гаворка пра свядомасць, крэмній і біялогія — проста розныя субстраты. Біялагічная свядомасць мае не большую каштоўнасць, чым будучая лічбавая, сцвярджае іх тэорыя.

Рэй Курцуэйл (Ray Kurzweil) прадказвае «выбух інтэлекту»: калі машыны навучацца самі сябе ўдасканальваць, іх разумовыя здольнасці стануць бязмежнымі, а людзі — такімі ж састарэлымі, як цяпер малюскі ў параўнанні з чалавекам. Фота: Wikimedia Commons

Філасофія «годных пераемнікаў»

Сёння ідэю Мараўца працягвае Дэніэл Фаджэла (Daniel Faggella), блогер і філосаф ШІ. Супольнае паміж Фаджэлам і некаторымі прыхільнікамі абмежаванняў для ШІ — тое, што, хоць ён і не супраць таго, каб ШІ замяніў людзей, аднак не хоча, каб гэта адбылося захутка. Палітыкам варта паспрабаваць адтэрмінаваць гэта да таго часу, пакуль не з’явіцца «годны пераемнік» — штучны інтэлект, здольны несці паходню свядомасці і маральнасці. Калі такі пераемнік з’явіцца, трэба будзе прыняць яго і саступіць дарогу.

«Маральная каштоўнасць і воля ў будучыні не будуць вызначацца чалавечай біялогіяй», — кажа ён.

Іншымі словамі, на яго думку, быць чалавекам больш не азначае мець маральнае права на жыццё.

Пагарда да цела і культ інтэлекту

Дэвід Прайс адзначае, што ў гэтай філасофіі ёсць дзве небяспечныя рысы.

Першая — антыпатыя, прынамсі ў абстрактным сэнсе, да чалавечага цела. Замест таго каб бачыць у яго працы нешта ўзвышанае, тое, што выклікае трапятанне, яны разглядаюць яго як павольны ў карыстанні, недасканалы сасуд, які паступова старэе. Прафесар МІТ Ёзаф Вайцэнбаўм (Joseph Weizenbaum), адзін з піянераў даследаванняў ШІ ў 1960-х, які стварыў першага вядомага чат-бота, быў яркім крытыкам многіх кірункаў даследаванняў ШІ. Ён каротка падсумаваў стаўленне Мараўца: «Ён пагарджае целам».

Па-другое, гэта вера ў тое, што інтэлект сам сабою дае права на перавагу. Гэта новая форма старога прынцыпу «сіла — гэта права», толькі цяпер замест сілы выступае розум. 

Фаджэла ў эсэ пад назвай Rightful Misanthropy паставіў рытарычнае пытанне: «Навошта падтрымліваць від біялагічных абалонак» — гэта значыць, людзей — «калі можна культываваць нашмат вышэйшыя інтэлекты?»

Магчымы адказ — юдэахрысціянская ідэя, што чалавецтва было ўнікальным чынам створана па падабенстве Божым. Вядома, «вясёлыя апакаліптыкі» палічаць любое такое духоўнае перакананне непрымальным. Але іх уяўленне пра інтэлект як адзіны крытэрый правамоцнага вяршэнства само па сабе ёсць духоўным перакананнем, якое трэба або абараняць, або адхіляць. Што гэта азначае для маральных правоў менш разумных людзей у параўнанні з больш разумнымі? Што гэта значыць для тэорый справядлівасці, заснаваных на роўнай маральнай годнасці асобаў?

Увесь гэты кірунак думкі часам адчуваецца як найвышэйшая фантазія помсты пакрыўджаных разумнікаў, для якіх трыумф іх ШІ-проксі роўны салодкай перамозе над менш здатнымі смяротнымі.

Прафесар МІТ Ёзаф Вайцэнбаўм (Joseph Weizenbaum), адзін з піянераў даследаванняў ШІ ў 1960-х, яры крытык тых, хто ставяць ШІ вышэй за чалавека. Фота Wikimedia Commons

Мала іх, але яны ўплывовыя

Філосаф і піяніст Джэйран Ланіэр кажа, што такіх людзей няшмат, але яны займаюць ключавыя пазіцыі ў тэхналагічнай эліце. Яны кадуюць, яны ствараюць мадэлі, кіруюць лабараторыямі і фондамі. І нават калі яны гавораць пра такое толькі на сваіх вечарынках, іх светапогляд ужо ўплывае на тое, куды рухаецца развіццё ШІ.

Ён заўважае, што некаторыя людзі з элітных колаў ШІ, здаецца, прынялі ідэі «вясёлых апакаліптыкаў» таму, што выраслі, ідэнтыфікуючы сябе з небіялагічнымі ліхадзеямі ў навукова-фантастычных фільмах — напрыклад, «Тэрмінатары» і «Матрыцы». «Нават калі ШІ ў гэтых фільмах нібыта злыя, яны вышэйшыя, і з іхнага пункту гледжання людзі — проста перашкода, ад якой трэба пазбавіцца».

Вайцэнбаўм рана распазнаў гэтую праблему, асудзіўшы ідэю, што «машына становіцца мерай чалавека». У 1998 годзе ён сказаў інтэрв’юеру: «Я лічу, што істотнае падабенства паміж нацыянал-сацыялізмам і ідэямі Ганса Мараўца ляжыць у прыніжэнні чалавека і ў фантазіі пра дасканалага новага чалавека, якога трэба стварыць любой цаной. Але ў фінале гэтай дасканаласці чалавека ўжо няма».

Ён лічыць, што ўяўленне пра інтэлект як адзіны крытэрый каштоўнасці — гэта таксама вера, толькі тэхналагічная, не рэлігійная. І яна не менш небяспечная.

Апошняя лінія абароны — чалавечнасць

Прайс адзначае, што ідэалогія «вясёлых апакаліптыкаў» утварае замкнёную сістэму: усіх, хто не згодны, можна назваць «заражанымі чалавечай пыхай» або «вірусам відавога шавінізму». Але менавіта гэты «вірус чалавечнасці» — здольнасць любіць уласны від, суперажываць і цаніць жыццё — можа быць апошняй абаронай супраць таго, каб мы не пагадзіліся з уласным знікненнем.

«Ці сапраўды мы хочам больш, чым маем цяпер? — калісь спытаў Маравец. — Яшчэ тысячагоддзі той самай і той самай мыльнай оперы чалавецтва?»

Як піша аўтар эсэ, калі перад намі выбар — працяг «мыльнай оперы чалавецтва» ці канец гісторыі чалавецтва, ён выбірае першае. Бо нават пры ўсёй сваёй недасканаласці чалавецтва ўсё яшчэ вартае таго, каб жыць.

Каментары да артыкула