ŠI-apakalipsis? Častka technałahičnaj elity hatovaja da kanca čałaviectva

U 2015 hodzie, jašče da epochi ChatGPT, Iłan Mask i Łary Pejdž paspračalisia na viečarynie z nahody dnia naradžeńnia Maska. Mask, zaniepakojeny niebiaśpiekaj budučaha štučnaha intelektu, nastojvaŭ, što niekantralavany ŠI moža pryvieści da zhuby ŭsio čałaviectva.

Pejdž, tady kiraŭnik Google, adkazvaŭ, što «ličbavaje žyćcio — naturalny i žadany nastupny etap kaśmičnaj evalucyi». Jon śćviardžaŭ, što spyniać uzdym razumnych mašyn — pamyłka, i nazvaŭ Maska «vidavym šavinistam», jaki nadaje čałaviectvu niezasłužanuju maralnuju pieravahu nad inšymi formami rozumu.

Novyja «viasiołyja apakaliptyki»

Jak vyśvietliłasia, Łary Pejdž — nie adziny ŭpłyvovy čałaviek u industryi, jakoha nie turbuje mahčymaść taho, što ŠI ŭrešcie adciśnie čałaviectva. Siarod daśledčykaŭ ŠI isnuje cełaja niša — ludzi, jakich aŭtar nazyvaje «viasiołymi apakaliptykami». Heta nie tyja, chto admaŭlaje niebiaśpieku štučnaha intelektu, a tyja, chto nie bačyć u mahčymym kancy čałaviectva ničoha drennaha.

Adzin ź ich — viadomy daśledčyk Ryčard Satan (Richard Stuart Sutton), łaŭreat Premii Ćjurynha. Jon pryznaje, što ŠI moža stać razumniejšym i mahutniejšym za ludziej, ale nie bačyć u hetym trahiedyi. Pavodle jaho, kali bolš razumnyja istoty atrymajuć uładu, heta prosta łahičny praciah raźvićcia. Satan paraŭnoŭvaje ŠI ź dziećmi: ci treba baćkam mieć knopku, kab vyklučyć dzicia, kali jano robić niešta nie tak? Dla jaho ideja poŭnaha kantrolu nad ŠI vyhladaje nieetyčnaj.

Jon navat pryznaje, što kali ludzi pierastanuć być «najcikaviejšaj častkaj Suśvietu», to ich źniknieńnie budzie narmalnaj źjavaj — kali heta dazvolić Suśvietu stać «lepšym, čym ciapier».

Devid Prajs piša: «Dla mianie heta było niešta novaje. Ja pryvyk dumać pra lidaraŭ i daśledčykaŭ ŠI ŭ miežach dvuch łahieraŭ: z adnaho boku, aptymisty, jakija vierać, što «spałučyć» madeli ŠI z čałaviečymi intaresami nie prablema; z druhoha — «dumiery», jakija chočuć uziać tajm-aŭt, kab niepasłuchmianyja zvyšrazumnyja ŠI nas nie źniščyli. A tut źjaviŭsia treci typ ludziej, jakija pytajucca: dyk u čym, ułasna, prablema?

Ja zadumaŭsia: nakolki raspaŭsiudžanaja hetaja ideja siarod ludziej ŠI? Ja źviazaŭsia z Džejranam Łanieram (Jaron Lanier) — muzykam, infarmatykam i pijanieram virtualnaj realnaści. U ese ŭ The New Yorker u sakaviku jon miž inšym uzhadaŭ, što čuŭ na kanfierencyjach pa ŠI «varjackuju» ideju: maŭlaŭ, ludzi, jakija majuć dziaciej, stanoviacca praźmierna prychilnymi da čałaviečaha vidu.

Jon skazaŭ mnie, što, pavodle jaho dośviedu, takija nastroi — zvyčajnaja tema razmoŭ siarod daśledčykaŭ ŠI. (Łanier — staršy miždyscyplinarny daśledčyk u Microsoft, ale nie vystupaje ad imia kampanii.)

«Jość adčuvańnie, što ludziam nielha daviarać u hetaj temie, bo jany zaražanyja ahidnym mientalnym virusam, jaki prymušaje ich addavać pieravahu ludziam pierad ŠI, tady jak vidavočna, što my pavinny prosta sastupić darohu», — dumajuć takoha typu ludzi.

«Kolkaść ludziej, jakija prytrymlivajucca takich pierakanańniaŭ, nievialikaja, — skazaŭ Łanijer, — ale jany zajmajuć upłyvovyja pazicyi. Tamu heta nie toje, što možna ihnaravać».

Pavialičyć

Imaviernaść ličbavaha Apakalipsisu

U halinie daśledavańniaŭ ŠI ŭzrovień ryzyki časta vyražajecca jak «p(doom)», heta značyć imaviernaść pradvieščanaj ŠI «zhuby» dla čałaviectva. U 2023 hodzie apytańnie, praviedzienaje niekamiercyjnaj arhanizacyjaj AI Impacts, spytała daśledčykaŭ ŠI pra ich acenki p(doom) — jakuju imaviernaść jany nadajuć «budučym dasiahnieńniam ŠI, što pryviaduć da źniščeńnia ludziej abo da padobnaha pa maštabach i pastajannaha źniavoleńnia čałaviečaha vidu». Amal pałova z 1300 respandentaŭ na hetaje pytańnie dali imaviernaść 10% abo vyšejšuju. U siarednim — kala 16 %, što pryblizna adpaviadaje šancu ŭ «ruskaj ruletcy».

Ale dla «viasiołych apakaliptykaŭ» hety šaniec — nie pahroza, a mahčymaść. Na ich dumku, kali ŠI źniščyć ludziej, ale zachavaje rozum i śviadomaść u inšaj, ličbavaj formie, heta budzie nie kaniec žyćcia, a prosta jaho transfarmacyja.

Ideałahičnyja karani kulta štučnaha intelektu

Krynicy hetych idej siahajuć u kaniec XX stahodździa. U 1988 hodzie robatatechnik Hans Maraviec (Hans Moravec) vydaŭ knihu «Mind Children». Maraviec, jaki sam siabie nazyvaŭ apantanym štučnym žyćciom, razhladaŭ čałaviečyja rozumy prosta jak nabor danych. Jon ujaŭlaŭ, što ŭ niekatorych vypadkach rozum robata budzie prosta ličbavaj kopijaj rozumu bijałahičnaha čałavieka, stvoranaj praz praces zahruzki, jaki jon nazyvaŭ «tranśmihracyjaj» (transmigration).

Paźniej technołah Rej Kurcuejł (Ray Kurzweil) i piśmieńnik-fantast Vernar Vindžy (Vernor Vinge) raźvili hetuju kancepcyju i pradkazali «vybuch intelektu»: kali mašyny navučacca sami siabie ŭdaskanalvać, ich razumovyja zdolnaści stanuć biaźmiežnymi, a ludzi — takimi ž sastarełymi, jak ciapier maluski ŭ paraŭnańni z čałaviekam.

Vy, moža, dumajecie: kali zabivać čałavieka — drenna, a masavaje zabojstva — vielmi drenna, to źniknieńnie čałaviectva pavinna być vielmi-vielmi drennym, praŭda?

Pavodle «viasiołych apakaliptykaŭ», vy nie razumiejecie hałoŭnaha: kali havorka pra śviadomaść, kremnij i bijałohija — prosta roznyja substraty. Bijałahičnaja śviadomaść maje nie bolšuju kaštoŭnaść, čym budučaja ličbavaja, śćviardžaje ich teoryja.

Pavialičyć

Fiłasofija «hodnych pierajemnikaŭ»

Siońnia ideju Maraŭca praciahvaje Denieł Fadžeła (Daniel Faggella), błohier i fiłosaf ŠI. Supolnaje pamiž Fadžełam i niekatorymi prychilnikami abmiežavańniaŭ dla ŠI — toje, što, choć jon i nie suprać taho, kab ŠI zamianiŭ ludziej, adnak nie choča, kab heta adbyłosia zachutka. Palitykam varta pasprabavać adterminavać heta da taho času, pakul nie źjavicca «hodny pierajemnik» — štučny intelekt, zdolny nieści pachodniu śviadomaści i maralnaści. Kali taki pierajemnik źjavicca, treba budzie pryniać jaho i sastupić darohu.

«Maralnaja kaštoŭnaść i vola ŭ budučyni nie buduć vyznačacca čałaviečaj bijałohijaj», — kaža jon.

Inšymi słovami, na jaho dumku, być čałaviekam bolš nie aznačaje mieć maralnaje prava na žyćcio.

Paharda da cieła i kult intelektu

Devid Prajs adznačaje, što ŭ hetaj fiłasofii jość dźvie niebiaśpiečnyja rysy.

Pieršaja — antypatyja, prynamsi ŭ abstraktnym sensie, da čałaviečaha cieła. Zamiest taho kab bačyć u jaho pracy niešta ŭzvyšanaje, toje, što vyklikaje trapiatańnie, jany razhladajuć jaho jak pavolny ŭ karystańni, niedaskanały sasud, jaki pastupova stareje. Prafiesar MIT Jozaf Vajcenbaŭm (Joseph Weizenbaum), adzin ź pijanieraŭ daśledavańniaŭ ŠI ŭ 1960-ch, jaki stvaryŭ pieršaha viadomaha čat-bota, byŭ jarkim krytykam mnohich kirunkaŭ daśledavańniaŭ ŠI. Jon karotka padsumavaŭ staŭleńnie Maraŭca: «Jon pahardžaje ciełam».

Pa-druhoje, heta viera ŭ toje, što intelekt sam saboju daje prava na pieravahu. Heta novaja forma staroha pryncypu «siła — heta prava», tolki ciapier zamiest siły vystupaje rozum. 

Fadžeła ŭ ese pad nazvaj Rightful Misanthropy pastaviŭ rytaryčnaje pytańnie: «Navošta padtrymlivać vid bijałahičnych abałonak» — heta značyć, ludziej — «kali možna kultyvavać našmat vyšejšyja intelekty?»

Mahčymy adkaz — judeachryścijanskaja ideja, što čałaviectva było ŭnikalnym čynam stvorana pa padabienstvie Božym. Viadoma, «viasiołyja apakaliptyki» paličać luboje takoje duchoŭnaje pierakanańnie nieprymalnym. Ale ich ujaŭleńnie pra intelekt jak adziny kryteryj pravamocnaha viaršenstva samo pa sabie jość duchoŭnym pierakanańniem, jakoje treba abo abaraniać, abo adchilać. Što heta aznačaje dla maralnych pravoŭ mienš razumnych ludziej u paraŭnańni z bolš razumnymi? Što heta značyć dla teoryj spraviadlivaści, zasnavanych na roŭnaj maralnaj hodnaści asobaŭ?

Uvieś hety kirunak dumki časam adčuvajecca jak najvyšejšaja fantazija pomsty pakryŭdžanych razumnikaŭ, dla jakich tryumf ich ŠI-proksi roŭny sałodkaj pieramozie nad mienš zdatnymi śmiarotnymi.

Pavialičyć

Mała ich, ale jany ŭpłyvovyja

Fiłosaf i pijanist Džejran Łanier kaža, što takich ludziej niašmat, ale jany zajmajuć klučavyja pazicyi ŭ technałahičnaj elicie. Jany kadujuć, jany stvarajuć madeli, kirujuć łabaratoryjami i fondami. I navat kali jany havorać pra takoje tolki na svaich viečarynkach, ich śvietapohlad užo ŭpłyvaje na toje, kudy ruchajecca raźvićcio ŠI.

Jon zaŭvažaje, što niekatoryja ludzi z elitnych kołaŭ ŠI, zdajecca, pryniali idei «viasiołych apakaliptykaŭ» tamu, što vyraśli, identyfikujučy siabie ź niebijałahičnymi lichadziejami ŭ navukova-fantastyčnych filmach — naprykład, «Terminatary» i «Matrycy». «Navat kali ŠI ŭ hetych filmach nibyta złyja, jany vyšejšyja, i ź ichnaha punktu hledžańnia ludzi — prosta pieraškoda, ad jakoj treba pazbavicca».

Vajcenbaŭm rana raspaznaŭ hetuju prablemu, asudziŭšy ideju, što «mašyna stanovicca mieraj čałavieka». U 1998 hodzie jon skazaŭ intervjujeru: «Ja liču, što istotnaje padabienstva pamiž nacyjanał-sacyjalizmam i idejami Hansa Maraŭca lažyć u prynižeńni čałavieka i ŭ fantazii pra daskanałaha novaha čałavieka, jakoha treba stvaryć luboj canoj. Ale ŭ finale hetaj daskanałaści čałavieka ŭžo niama».

Jon ličyć, što ŭjaŭleńnie pra intelekt jak adziny kryteryj kaštoŭnaści — heta taksama viera, tolki technałahičnaja, nie relihijnaja. I jana nie mienš niebiaśpiečnaja.

Apošniaja linija abarony — čałaviečnaść

Prajs adznačaje, što ideałohija «viasiołych apakaliptykaŭ» utvaraje zamknionuju sistemu: usich, chto nie zhodny, možna nazvać «zaražanymi čałaviečaj pychaj» abo «virusam vidavoha šavinizmu». Ale mienavita hety «virus čałaviečnaści» — zdolnaść lubić ułasny vid, supieražyvać i canić žyćcio — moža być apošniaj abaronaj suprać taho, kab my nie pahadzilisia z ułasnym źniknieńniem.

«Ci sapraŭdy my chočam bolš, čym majem ciapier? — kaliś spytaŭ Maraviec. — Jašče tysiačahodździ toj samaj i toj samaj mylnaj opiery čałaviectva?»

Jak piša aŭtar ese, kali pierad nami vybar — praciah «mylnaj opiery čałaviectva» ci kaniec historyi čałaviectva, jon vybiraje pieršaje. Bo navat pry ŭsioj svajoj niedaskanałaści čałaviectva ŭsio jašče vartaje taho, kab žyć.

• 2
• 0
• 0
• 8
• 1
• 0
• 1
• 0