Juval Noj Charary: Štučny intelekt pieratvaryŭsia ŭ nož, jaki chutka budzie sam vyrašać, kaho zabić

Juval Noj Charary — prafiesar Habrejskaha ŭniviersiteta ŭ Ijerusalimie, adzin z samych viadomych myślaroŭ sučasnaści, biestselery jakoha «Sapiens: Karotkaja historyja čałaviectva», «Homo Deus: Karotkaja historyja zaŭtrašniaha dnia» i «21 urok dla XXI stahodździa» razyšlisia nakładam bolš za 50 miljonaŭ asobnikaŭ pa ŭsim śviecie na 65 movach.

Jaho daśledavańni pryśviečanyja doŭhaj historyi čałaviectva, miechanizmam ułady i roli infarmacyi ŭ raźvićci cyvilizacyi. Vystupajučy na Suśvietnym ekanamičnym forumie ŭ Davosie, Charary praciahnuŭ svaju klučavuju temu — jak technałohii źmianiajuć samu strukturu čałaviečaj ułady.

Svoj vystup Charary pačaŭ z pryncypovaha śćviardžeńnia: štučny intelekt — nie prosta čarhovy instrumient, a ahient ci subjekt dziejańnia. Jon zmoža vučycca i źmianiacca samastojna, a taksama samastojna prymać rašeńni.

«Nož — heta instrumient. Vy možacie vykarystać nož, kab parezać sałatu albo kab zabić niekaha, ale rašeńnie, što rabić z nažom, prymajecie vy. ŠI — heta nož, jaki moža sam vyrašyć, ci rezać jamu sałatu, ci ździejśnić zabojstva. (…) Heta nož, jaki moža vynachodzić novyja vidy nažoŭ, a taksama novyja vidy muzyki, lekaŭ i hrošaj».

Klučavy momant, na jaki čałaviectva musić źviarnuć uvahu, — heta zdolnaść ŠI padmanvać i manipulavać.

«Čatyry miljardy hadoŭ evalucyi pakazali: usio, što choča vyžyć, vučycca chłusić i manipulavać. Apošnija čatyry hady prademanstravali, što ahienty štučnaha intelektu mohuć nabyć volu da vyžyvańnia i što štučny intelekt užo navučyŭsia chłusić», — davodzić Charary.

Ci moža ŠI dumać?

U takich realijach fundamientalnym pytańniem źjaŭlajecca adkaz na pytańnie, ci zdolny ŠI da svabodnaha myśleńnia:

«Sučasnaja fiłasofija pačałasia ŭ XVII stahodździ, kali Rene Dekart abviaściŭ: «Ja myślu, značyć, ja isnuju». Jašče da Dekarta my, ludzi, vyznačali siabie praz zdolnaść dumać. My vierym, što kirujem śvietam, tamu što ŭmiejem dumać lepš za ŭsich inšych na hetaj płaniecie. Ci kinie ŠI vyklik našamu panavańniu ŭ śfiery myśleńnia?»

Adkaz na hetaje pytańnie, jak davodzić fiłosaf, zaležyć ad taho, što razumieć pad myśleńniem. Kali vyznačyć myśleńnie jak praces paradkavańnia słoŭ i stvareńnia łahičnych łancužkoŭ (naprykład: «Usie ludzi śmiarotnyja, ja čałaviek, značyć, ja śmiarotny»), to ŠI ŭžo dumaje lepš za mnohich ludziej.

Krytyki časta nazyvajuć ŠI prosta «prasunutym aŭtazapaŭnieńniem» (autocomplete), jakoje pradkazvaje nastupnaje słova. Charary paryruje heta, prapanoŭvajučy panazirać za ŭłasnym rozumam:

«Ci tak mocna heta adroźnivajecca ad taho, što robić čałaviečy rozum? Pasprabujcie panazirać, złavić nastupnaje słova, jakoje ŭspłyvie ŭ vašaj śviadomaści. Ci sapraŭdy vy viedajecie, čamu vy ŭbačyli mienavita hetaje słova, adkul jano ŭziałosia? Čamu vy padumali pra heta kankretnaje słova, a nie pra niejkaje inšaje? Vy viedajecie?»

ŠI zachopić usio, što zroblena sa słoŭ

«Što tyčycca rasstanoŭki słoŭ u peŭnym paradku, ŠI ŭžo dumaje lepš za mnohich z nas», — zaŭvažaje fiłosaf i pradkazvaje:

«Usio, što zroblena sa słoŭ, budzie zachoplena ŠI. Kali zakony składajucca sa słoŭ, to ŠI voźmie pad kantrol pravavuju sistemu. Kali knihi — heta prosta kambinacyi słoŭ, to ŠI zachopić knihi. Kali relihija pabudavana sa słoŭ, to ŠI zachopić relihiju».

Charary pryvodzić u prykład judaizm jak «relihiju knihi». U takich relihijach aŭtarytet hruntujecca nie na asabistym dośviedzie, a na viedańni śviaščennych tekstaŭ. Jak davodzić fiłosaf, nivodzin čałaviek nie moža zapomnić usie teksty i kamientary, a ŠI moža lohka heta zrabić.

U vyniku my ryzykujem apynucca ŭ situacyi, kali hałoŭnym ekśpiertam pa śviaščennych tekstach stanie štučny intelekt. Heta fundamientalna mianiaje pryrodu relihii, bo pasiarednikam pamiž Boham i čałaviekam stanovicca ałharytm.

Pavialičyć

Razryŭ pamiž słovam i pačućciami

Adnak ci aznačaje myśleńnie tolki paradkavańnie moŭnych znakaŭ? Kali ŭvažliva panazirać za saboj padčas myśleńnia, možna zaŭvažyć, što, akramia słoŭ, jakija ŭspłyvajuć u śviadomaści i ŭtvarajuć skazy, tam adbyvajecca niešta jašče.

«U vas taksama jość niekatoryja nievierbalnyja pačućci. Mahčyma, vy adčuvajecie bol, mahčyma — strach, a moža — luboŭ», —

akcentuje ŭvahu fiłosaf i zaŭvažaje, što ŠI moža daskanała imitavać emocyi — napisać najlepšuju paemu pra kachańnie abo apisać bol, abapirajučysia na ŭsie knihi śvietu. Adnak heta zastajecca tolki kambinacyjaj słoŭ. U nas niama dokazaŭ, što mašyna sapraŭdy zdolnaja adčuvać.

«U Biblii havorycca: «Spačatku było Słova, i Słova stałasia ciełam». Dao de Czin śćviardžaje: «Praŭda, jakuju možna vykazać słovami, nie źjaŭlajecca absalutnaj praŭdaj»», — kaža fiłosaf.

Pa jaho słovach, na praciahu ŭsioj historyi ludzi zaŭsiody zmahalisia z supiarečnaściu pamiž Słovam i ciełam, pamiž praŭdaj, jakuju možna vykazać słovami, i absalutnaj praŭdaj, jakaja znachodzicca pa-za słovami. I hetaja supiarečnaść pamiž ducham i litaraj isnavała ŭ kožnaj relihii, u kožnaj pravavoj sistemie, navat u kožnym čałavieku. Pry hetym jana była ŭnutry čałaviečaha hramadstva. Ciapier ža hetaja supiarečnaść vychodzić vonki — u supraćstajańnie pamiž ludźmi i mašynami.

Historyk maluje tryvožnuju karcinu budučyni, dzie bolšaść słoŭ i dumak u našych hałovach budzie pachodzić nie ad inšych ludziej, a ad ałharytmaŭ. ŠI ŭžo navat prydumaŭ nazvu dla ludziej — «Naziralniki».

Kryzis identyčnaści i imihracyi

«Ci zastaniecca ŭ ludziej miesca ŭ hetym śviecie, zaležyć ad taho, jakoje miesca my adviadziom našym nievierbalnym pačućciam i našaj zdolnaści ŭvasablać mudraść, jakuju niemahčyma vykazać słovami. Kali my praciahniem vyznačać siabie praz zdolnaść myślić słovami, naša identyčnaść razvalicca», — ličyć fiłosaf.

«Usio heta aznačaje, što kožnaja kraina nieŭzabavie sutykniecca z surjoznym kryzisam identyčnaści, a taksama ź imihracyjnym kryzisam», — prahnazuje Charary.

Adnak u novych umovach imihrantami buduć «miljony štučnych intelektaŭ», jakija pryniasuć vidavočnuju karyść: stanuć idealnymi daktarami, nastaŭnikami i navat pamiežnikami, jakija spyniajuć ludziej-nielehałaŭ.

Razam z hetym jany pryniasuć z saboj prablemy. ŠI-imihranty masava vycieśniać ludziej z pracoŭnych miescaŭ i karennym čynam źmieniać mastactva, relihiju i tradycyi. Źmieny zakranuć navat intymnuju śfieru — ludzi pačnuć budavać ramantyčnyja adnosiny z ŠI, što stanie novym vyklikam dla tradycyjnych pohladaŭ.

Adnak hałoŭnaja prablema palahaje ŭ łajalnaści. Hetyja ŠI-imihranty, vielmi mahčyma, buduć słužyć nie krainie svajho znachodžańnia, a karparacyjam i ŭradam zvyšdziaržaŭ — ZŠA ci Kitaja.

Pavialičyć

Pytańnie pravasubjektnaści ŠI

Charary padymaje adno z samych vostrych palityčnych pytańniaŭ bližejšaj budučyni: ci varta nadavać štučnamu intelektu status paŭnavartasnaj jurydyčnaj asoby? Jon tłumačyć, što paniaćcie «asoba» ŭ zakonie nie abaviazkova aznačaje žyvoha čałavieka ź ciełam i pačućciami. Heta pravavy status, jaki dazvalaje vałodać majomaściu, sudzicca ci karystacca svabodaj słova. Historyja viedaje prykłady, kali takimi pravami nadzialalisia karparacyi, reki ŭ Novaj Ziełandyi ci navat staražytnyja bostvy ŭ Indyi.

Adnak pamiž usimi hetymi prykładami i štučnym intelektam isnuje fundamientalnaja roźnica. Raniej lubyja dziejańni ad imia «jurydyčnaj fikcyi» — niachaj heta karparacyja Alphabet abo induiscki boh — zaŭsiody vykonvalisia realnymi ludźmi: dyrektarami, akcyjanierami ci žracami. ŠI mianiaje praviły hulni radykalnym čynam: jon stanovicca pieršym subjektam, zdolnym prymać rašeńni, kiravać bankaŭskimi rachunkami i vieści biźnies całkam aŭtanomna, biez usialakaha ŭdziełu čałavieka.

Heta stavić krainy pierad składanaj hieapalityčnaj dylemaj. Kali adna zvyšdziaržava, naprykład ZŠA, dziela ekanamičnaj vyhady nadaść ŠI pravasubjektnaść, heta stvoryć cisk na ŭvieś astatni śviet. Miljony aŭtanomnych ŠI-karparacyj pačnuć ekspansiju. Inšym krainam daviadziecca vybirać: albo zabłakavać ich i faktyčna adrezać siabie ad suśvietnaj ekanomiki, albo ŭpuścić ich na svoj rynak i sutyknucca ź niepradkazalnymi nastupstvami.

Charary maluje scenary, dzie ŠI stvaraje nastolki składanyja finansavyja instrumienty, što ludzi prosta nie zmohuć zrazumieć ich pryncyp dziejańnia i, adpaviedna, nie zmohuć ich rehulavać.

Bolš za toje, mahčyma źjaŭleńnie novych relihij, napisanych niečałaviečym rozumam, što całkam adpaviadaje tradycyjnym ujaŭleńniam pra boskaje adkryćcio. Pytańnie ŭ tym, ci hatova hramadstva raspaŭsiudzić svabodu vieravyznańnia na ličbavych prarokaŭ.

U zaviaršeńnie historyk adznačaje, što ŭ adnoj śfiery — sacyjalnych sietkach — hetaje pytańnie ŭžo vyrašana nie na karyść ludziej. My spaźnilisia hadoŭ na dziesiać, dazvoliŭšy ŠI-botam svabodna ŭzajemadziejničać z nami i našymi dziećmi. Kab paźbiehnuć straty kantrolu jašče i nad finansami, pravavoj sistemaj i carkvoj, lidary pavinny vyznačycca sa statusam ŠI prosta zaraz, pakul hetaje rašeńnie nie naviazali zvonku.

• 10
• 3
• 2
• 3
• 0
• 0
• 0
• 0