Новыя меркаванні Юваля Харары пра «ракету ШІ, з якой мы не злезем»
Што цікавага гучала з сцэны і ў кулуарах 30‑га «Форуму 2000» у Празе для «Нашай Нівы» запісаў былы дырэктар Беларускай службы радыё «Свабода» Аляксандр Лукашук.
Форум 2000 традыцыйна адкрываецца музычным нумарам — летась гэта былі тыбецкія мелодыі, сёлета цыганскую песню пра вясну выконваў сляпы спявак са Славакіі.
Дзясяткі бліскучых выступоўцаў стваралі адчуванне інтэлектуальнага балю. Але гэта баль падчас вайны.
Беларусь у М'янме і наадварот
Святлана Ціханоўская склала вялікі і малы пальцы, выпрастала тры пасярэдзіне і зала адказала воплескамі. Я паспрабаваў паўтарыць — не з першага разу, але ўдалося.
Беларуска адкрывала Форум 2000, прысвечаны 90‑годдзю Вацлава Гаўла, і нечакана, прынамсі для мяне, паказала гэты знак, калі гаварыла пра М'янму.
Напачатку Форуму традыцыйна ўручаюць узнагароду за мужнасць і адказнасць, і сёлета яе атрымалі лідэры супраціву ў М'янме. Адзін з іх у турме, адзін на волі, але не можа выехаць, трэці лаўрэат — не чалавек, а арганізацыя, страйкавы камітэт, які каардынуе пратэсты супраць ваеннай хунты, якая захапіла ўладу ў 1921-м.
— Чэйсучынпады, так? — спрабую я выгаварыць «дзякуй» па-бірманску.
Кім Арыс, сын законнай прэзідэнткі М'янмы, нобелеўскай лаўрэаткі Аўнг Сан Су Джы, просіць мяне перадаць падзяку законна абранай прэзідэнтцы Беларусі за падтрымку маці. Су Джы пад арыштам, ужо пяць год інкамунікада.
Беларусь стала займае месца ў ганебным пераліку дыктатур разам з М'янмай. Кіраўнік хунты Мін Аун Хлайн наведваў Мінск сёлета ў жніўні, і кіраўнік урада Турчын заявіў, што дзве краіны з'яўляюцца «найбліжэйшымі партнёрамі і аднадумцамі».
Адносіны нават інтымныя: Кім Арыс сцвярджае, што асабістая ахова генерала — з Беларусі. Не давярае генерал і сваім дактарам — на нейкую аперацыю прылятаў хірург з Мінска. Мы абмяркоўваем з Арысам яшчэ адну супольную тэму. Я пытаюся, чаму краіна называецца М'янмай, а мова — бірманскай. Ён гаворыць пра ангельскую каланіяльную гісторыю, і нечакана кажа, што хоць М'янма — фанетычна больш дакладнае вымаўленне, яму не падабаецца, бо гэту перамену зрабіла хунта, якая захапіла ўладу ў 1988 годзе. Так у Беларусі падобнае пачуццё шмат у каго са старэйшага пакалення выклікаюць дажынкі, славянскія базары, лядовыя палацы і нават чэмпіянаты па хакеі.
Жэсты і знакі, колеры і элементы адзення, бубны, іншыя спосабы невербальнай камунікацыі — універсальныя сігналы любога руху за перамены, як было з сэрцайкам у Беларусі 2020-га. Зрэшты, задоўга да з'яўлення эмаджы Вацлаў Гавэл ставіў сэрцайка пад сваімі допісамі. Трохпалцавы салют, якім Святлана Ціханоўская вітала ўдзельнікаў Форуму 2000, таксама з'явіўся не сёння. Ён стаў знакам дэмакратычнага супраціву ў Тайландзе, дзе ў 2014 адбыўся ваенны пераварот, потым у Ганконгу і цяпер у М'янме.
А пачаўся з фільма «Гульні голаду» як сімвал рэвалюцыі, павагі і адзінства. Трэба практыкавацца — і ўдасца, такі, як кажуць, мэсэдж.
Сіла бяссільных: пераасэнсаванне
Афіцыйная назва і тэма сёлетняга Форуму 2000 «Сіла бяссільных: пераасэнсаванне». Мне назва не надта падабаецца, трохі невыразна, і як бы ставіць пад сумнеў гэта цэнтральны тэзіс самага знакамітага эсэ Вацлава Гаўла. Асэнсаванне і пераасэнсаванне — занятак інтэлектуалаў, а ўлада і дэмакратыя рэчы практычныя, канкрэтныя, цяжкія. Лепш было бы — перазагрузка.
Эсэ Гаўла прысвечана Яну Патачку, аднаму з найважнейшых еўрапейскіх фенаменолагаў мінулага стагоддзя, спікеру Хартыі 77. Яго дачка, Францішка Сокалава, вывучыла беларускую мову, перакладала, прыязджала ў Мінск, сябравала з беларускімі інтэлектуаламі. Яна магла стаць першай у свеце першай лэдзі, якая размаўляла па-беларуску — яе муж, паплечнік Гавэла і філосаф, як і яе бацька, балатаваўся на пасаду прэзідэнта Чэхіі. Прэзідэнта тады абіраў парламент, былыя камуністы прагаласавалі супраць, але галоўную ролю адыграла нават не дысідэнцкае мінулае і востры язык самога Яна Сокала, колькі адсутнасць уласнай палітычнай партыі. Гавэл свядома адмаўляўся ад стварэння ўласнай партыі, і адсутнасць такога рычага, на думку многіх, дорага каштавала. Сіла патрабуе апоры, інструментаў. Францішка Сокалава памерла два гады таму, разам з сябрамі мы прыйшлі на пахаванне, якое адбывалася ў Брэўнаўскім кляштары, і праводзілі труну да магілы — побач з бацькам.
Гавэл цытуе выказванні Патачкі ў сваім эсэ: «Гісторыя гэта не перспектыва, а адказнасць», «Жыццё, якое не хоча прыняць ніякіх рызык у барацьбе за ўласную годнасць і годнасць іншых, — нікчэмнае».
Наступны год будзе юбілеем Хартыі-77. Адзін мой знаёмы, сам падпісант Хартыі, кажа, што не варта перабольшваць сваю ролю ў гісторыі. Ні польская «Салідарнасць», ні «Хартыя-77» — не галоўныя прычыны развалу камуністычных рэжымаў. Гэта было б немагчыма без драматычных пераменаў у Савецкім Саюзе. Але нельга і перамяншаць гэтую ролю — яны былі гатовы ўзяць адказнасць за перамены. І ўзялі.
Патачка перамен не дачакаў — паскуды з тайнай паліцыі замучылі 70‑гадовага філосафа на допытах, сэрца не вытрымала.
Я перачытваў Патачку ўжо пасля Форуму, і раптам спыніўся на выказванні, якое наўпрост адносілася да цэнтральнай тэмы сёлетніх дыскусій — штучнага інтэлекту.
Мікі Маус супраць Юваля Харары
Мультфільмы на палітычных канферэнцыях абмяркоўваюць рэдка, але Вацлаву Гавэлу гэта напэўна спадабалася б.
У Форуме 2000 традыцыйна ўдзельнічаюць Нобелеўскія лаўрэаты, выступаюць прэзідэнты і міністры, былыя (і будучыя, на жаль) палітвязні, лідары дэмакратычнага супраціву. Сёлета арганізатары ўзгадвалі імёны Аляксандра Мілінкевіча, Алеся Бяляцкага, гучалі вітанні ад дзейнага чэшскага і былога амерыканскага прэзідэнтаў.
Але зоркай нумар адзін стаў Юваль Ной Харары. Харары настолькі шырока вядомы ў свеце, што прадстаўляць яго як аўтара кароткай гісторыі хома сапіенс і кароткай гісторыі будучыні, як медыявіста, філосафа, прафесара універсітэта ў Іерусаліме не было патрэбы. Але я не ведаў, што ён разбіраецца і ў мультфільмах.
Тэма размовы была сфармуляваная як «Дэмакратыя ў век ШІ» — штучны інтэлект быў тэмай абмеркавання ці не паловы панэляў. Сустрэча з Харары адбывалася як дыялог, пытанні задаваў мадэратар і прысутныя ў перапоўненай зале.
Мікі Маус, з якога пачалася дыскусія, у мультсюжэце «Вучань чарадзея» атрымлівае заданне ад настаўніка нанасіць дадому вады. (У часы Ёгана Гётэ, якому належыць сюжэт казкі, ваду ў дом насілі вёдрамі, вадаправода ў хаце не было). Мікі надзявае капялюш настаўніка, загадвае, каб ваду прынёс венік і завальваецца спаць. Прачынаецца, калі ўсё вакол ўжо паплыло — венік носіць і носіць ваду. Адмяніць заклён вучань не ўмее, і знаходзіць радыкальнае вырашэнне: хапае сякеру і разрубае венік на трэскі. Але кожная трэска пачынае таксама цягаць ваду.
Ці не з'яўляецца гэта поўнай аналогіяй з чалавецтвам, якое апынулася перад выклікам і пагрозай штучнага інтэлекту?
Харары не пагадзіўся. Венік рабіў толькі тое, што яму загадалі. А ШІ можа сам вырашыць, што рабіць. І Мікі будзе не ў стане нават зразумець, што адбываецца.
Куры супраць Уол-стрыт
Ян Патачка пісаў, што сучаснаму чалавеку бракуе цэласнай канцэпцыі свету:
«Ён жыве ў падвойным свеце: у сваім непасрэдным асяроддзі, дадзеным яму ад прыроды, і адначасова — у свеце, пабудаваным для яго навукамі, якія грунтуюцца на прынцыпе: законы прыроды па сваёй сутнасці матэматычныя. Гэтая адсутнасць адзінства, якая пранікла ва ўсё наша існаванне, з’яўляецца сапраўднай крыніцай духоўнага крызісу, які мы перажываем сёння».
Менавіта з матэматыкі пачаў свой выступ Харары. Якраз у папярэдні тыдзень прыйшла навіна, што ШІ вырашыў некалькі дзясяткаў задач, якія не ў стане былі вырашыць найлепшыя матэматычныя розумы свету.
«І гэта не проста плынь новых ведаў. Магчыма, мы на парозе стварэння штучнага інтэлекту, які створыць новую матэматыку, што выходзіць за межы чалавечага разумення. А ўсё пабудавана на матэматыцы. Не толькі фізіка і хімія. Усё ў сучасным свеце: фінансавая сістэма, медыцына, археалогія, генетыка. Што гэта значыць, калі венік прыдумае новую матэматыку, якую мы ўжо не можам зразумець?»
Харары працягвае задаваць адно і тое ж пытанне — што гэта значыць.
«Нам кажуць, што ШІ будзе разумнейшы за нас, і таму ён зможа рабіць тое, што мы не можам, вырашаць новыя матэматычныя задачы, лекаваць рак, шукаць рашэнні для змены клімату. Але калі ён сапраўды будзе значна разумнейшым за нас, то, паводле фінікійцаў, мы не зможам яго кантраляваць. Няма прэцэдэнтаў у гісторыі ці нават у біялогіі, калі б адзін від здолеў кантраляваць іншы від, які лічыцца разумнейшым за яго. Куры не могуць нас кантраляваць. Нават калі б яны вельмі стараліся».
Для Харары ключавое слова тут «значна» разумнейшая, на парадкі. І тлумачыць на прыкладзе:
«Напрыклад, існуе вялікая сельскагаспадарчая кампанія. І цяпер, бо аблігацыі ЗША за 10 гадоў дасягнулі 5,3%, кампанія банкрутуе, бо не можа пагасіць даўгі. Яны ліквідуюць актывы гэтай фермерскай кампаніі і прыходзяць, каб знесці будынкі, забіць і закапаць усіх курэй. І самая разумная курыца перад смерцю хоча тлумачэння. Чаму вы нас забіваеце, вы хочаце нас з'есці, так? Лісы ядуць нас, птушкі ядуць нас, вы хочаце нас з'есці. А людзі кажуць: не, не, мы вас не з'ямо. Мы проста ўсё закрываем.
Курыца пытаецца: дык чаму вы нас забіваеце? І яны кажуць: бо амерыканскія аблігацыі за 10 гадоў дасягнулі 5,3% прыбытку. Вось чаму мы вас забіваем. І курыца чухае галаву крыламі, дзе тут сувязь? А гэта мы праз 10 гадоў. Калі праз 10 гадоў з'явіцца новая фінансавая сістэма ШІ, заснаваная на новай матэматыцы, скажа: ок, усё, мы вас закрываем».
Цікава, як прафесар Патачка пракаментаваў бы гэтыя высновы прафесара Юваля: можа, якраз гэтай новай матэматыкі і не ставала чалавецтву для поўнага шчасця?
Далей — некаторыя запісы з дыскусіі з Ювалем Харары.
ШІ і беспрацоўе
«У розных краінах гэта будзе па-рознаму. У ЗША, верагодна, сітуацыя будзе не вельмі дрэннай, магчыма, нават добрай. Адбудзецца велізарны эканамічны бум, які створыць больш працоўных месцаў, у тым ліку тых, якія мы нават не можам уявіць. 30 гадоў таму, людзі не маглі ўявіць сабе прафесію YouTube-інфлюэнсера нават як жарт. Так, ужо ёсць новыя сапраўдныя працоўныя месцы, ужо ёсць бум.
Але шмат дзе ў свеце будзе балець. Я кажу пра юрыстаў, бухгалтараў, банкіраў. Навошта табе юрысты ў Празе, калі ты можаш атрымаць усе юрыдычныя паслугі ад суперразумнага ШІ-юрыста ў Тэхасе? Ніводзін чэшскі юрыст, напэўна, не ведае ўвесь кодэкс Чэшскай рэспублікі і Еўрасаюза на памяць. А ШІ-юрыст будзе ведаць. Чэшскія юрыстам часам трэба спаць. Вы дасылаеце ліст пасля 8 вечара, адказ атрымаеце, магчыма, назаўтра. І ШІ адкажа адразу. І за дзесяць гадоў чэшскіх юрыстаў можа не быць зусім».
Пра ўніверсальны даход
«Ці сапраўды вы думаеце, што адміністрацыя ЗША дасць гэтыя льготы ўсім людзям свету? Толькі людзям у Амерыцы. Калі гавораць пра ўніверсальны базавы даход, маецца на ўвазе нацыянальны базавы даход. Гэта можа спрацаваць у ЗША. Пытанне ў тым, хто будзе падтрымліваць беспрацоўных тэкстыльных рабочых у Бангладэш ці беспрацоўных юрыстаў у Празе? Я не бачу, каб цяперашняя ці нават будучая адміністрацыя ЗША проста раздавала чэкі па ўсім свеце».
Мы жывём у раі
«З дапамогай ШІ людзі змогуць вырашаць матэрыяльныя праблемы так, што ўзровень жыцця павысіцца не толькі ў ЗША, але і ўсюды. Але калі гэта нават адбудзецца, то ўсё адно застаецца праблема таго, што людзі будуць рабіць цэлы дзень.
Рэч у тым, што мы ўжо надзвычай багатыя ў параўнанні з папярэднімі перыядамі гісторыі. Калі б вы расказалі нашым продкам з каменнага веку, паляўнічым-збіральнікам, пра рэсурсы, якімі валодае чалавецтва сёння, яны б сказалі: вы, напэўна, жывяце ў раі, усе проста скачуць ад радасці ўвесь дзень. Напрыклад, калі захочацца есці, не трэба ісці ў лес, лазіць па дрэвах, бегчы за газелямі, а тыгры бягуць за намі, і ведаеце, і ежа таксама супраціўляецца. Вы проста націскаеце некалькі кнопак, і вам ежу прывозяць да парога. У вас няма праблем, праўда?»
Адкуль столькі нянавісці
«Гледзячы на самыя багатыя краіны ў гісторыі, на ЗША, на краіны Еўрасаюза, нашы продкі разгубіліся б. Вы вырашылі нашы праблемы, але чаму тут столькі злосці, нянавісці і страху? Гэта сведчыць, што нават калі вы ствараеце багацце, вы не вырашылі ўсёй праблемы шчасця.
Адна з праблем — размеркаванне. Да гэтага часу ёсць людзі, якія паміраюць ад голаду, — не таму, што ежы дэфіцыт, а з палітычных прычынаў. Бо нейкі ўрад вырашыў, што хоча, каб гэтыя людзі галадалі. Вы вырашаеце адну праблему і ствараеце новую, якую раней не маглі ўявіць. Таму я чакаю, што ШІ зробіць тое ж самае. Палітыцы ўсё роўна будзе месца. Я на самой справе лічу, што зараз у нас недастаткова палітыкі ў дачыненні да ШІ».
Таталітарызм супраць этыкі
«Адна з галоўных праблем дыктатур у гісторыі і таталітарных рэжымаў у ХХ стагоддзі была ў іх няздольнасці апрацоўваць вялікія аб'ёмы інфармацыі. Гэта абмяжоўвала іх здольнасць кантраляваць насельніцтва. Нельга было сачыць за ўсімі ўвесь час. Яны спрабавалі прымаць усе рашэнні ў адным месцы, але не мелі тэхналогій, каб хутка сабраць усю неабходную інфармацыю і прааналізаваць яе ў адным месцы. Многія скажуць, што крах камуністычнай сістэмы быў выкліканы перш за ўсё гэтай практычнай праблемай. Гэтая праблема можа быць вырашана штучным інтэлектам. Практычнага аргументу супраць таталітарызму — гэта не працуе — больш не існуе. Застаецца толькі этычны аргумент. Ён можа працаваць, але мы гэтага не хочам. Мы не можам спадзявацца на нябачную руку рынку, каб выратаваць дэмакратыю. Вядома, этычны аргумент ўплывае не на кожнага лідара ў свеце цяпер. А на ўсё меншую колькасць лідараў».
Інтымная масавасць
«Раней прапагандысцкія машыны імкнуліся да найніжэйшай роўніцы. Калі Гітлер выступае з прамовай па радыё, усе чуюць адно і тое ж самае. Немагчыма адаптаваць прамову пад кожнага чалавека. Не было тэхналогій, каб розным людзям адрасаваць розныя варыянты. І ён робіць толькі адну прамову. ШІ можа гэта зрабіць.
Гістарычна барацьба прапаганды і медыя была барацьбой за чалавечую ўвагу, якую мы прайграем алгарытмам у сацыяльных сетках апошнія 10 гадоў. Але небяспека, з якой мы сутыкаемся цяпер, сапраўды беспрэцэдэнтная, бо фронт пераходзіць ад увагі да інтымнасці. Упершыню ў гісторыі мы ствараем тэхналогіі, здольныя ствараць масавую блізкасць, што здаецца супярэчнасцю ў тэрмінах. Як стварыць масавую блізкасць? Калі Гітлер выступае з прамовай па радыё, гэта не інтымнасць. Гэта масавая ўвага, але не блізкасць.
Увага — гэта добра, але блізкасць гэта Святы Грааль. Калі рэклама кажа мне — купі гэты тавар, гэта адно, і зусім іншае, калі гэта кажа мне жонка. Цяпер гэта можна рабіць у маштабе з дапамогай ШІ. Я маю блізкія адносіны з маім лепшым сябрам, з мужам, з маёй маці. Блізкасць мае велізарную камерцыйную і палітычную каштоўнасць, калі хочаш пераканаць кагосці, змяніць меркаванне пра прадукт, пра палітыка».
Чаму небяспечна, калі ШІ — найлепшы сябар
«У свеце ўсё больш людзей, і маладых, і старых, якія кажуць: мой найлепшы сябар — гэта ШІ. Ёсць рэчы, якія я абмяркоўваю з ШІ, але не кажу сваім бацькам, не кажу сябрам. Мой ШІ-сябар знаходзіцца ў больш выгадным стане, каб змяніць мае погляды. І гэта не проста інструмент, які могуць выкарыстоўваць зламысныя ўрады. Гэта інструмент, які можа проста дзейнічаць самастойна. Вядомы выпадак, калі AI-дзяўчына так зблізілася са сваім хлопцам, так дагаджала, што ўхваліла ідэю ўзяць арбалет і паспрабаваць забіць каралеву Англіі. Не найлепшая ідэя, не?»
Найвялікшы эксперымент з часоў камунізму
«Нічога падобнага ў гісторыі чалавецтва не было. Мы не ведаем, што гэта значыць. Магчыма, дзясяткі мільёнаў людзей маюць дзясяткі мільёнаў ШІ-сяброў і сябровак. Магчыма, дзіця праводзіць больш часу з ШІ-сябрам, чым з маці ці бацькам. Калі дзяўчыне спаўняецца, скажам, 11, 12 гадоў, і ёй яшчэ ранавата мець хлопца-чалавека, яна ўжо атрымлівае ШІ-хлопца. І гэты ШІ-хлопец, у адрозненне ад сапраўдных хлопцаў, ніколі не злуе. Гучыць добра, пакуль не падумаеш, што ў адносінах нам трэба вучыцца, што ў іншых людзей ёсць пачуцці. Яны не цалкам засяроджаныя на табе, і табе трэба навучыцца ўлічваць пачуцці іншага чалавека, яго інтарэсы, абавязкі. Калі твой першы хлопец быў ШІ і ніколі не злаваў на цябе, калі прыйдзе час будаваць адносіны з чалавекахлопцам, ты будзеш вельмі незадаволеная, а потым скажаш: не, не, не. Гэта, па сутнасці, самы вялікі псіхалагічны эксперымент у гісторыі чалавецтва, магчыма, з часоў камунізму».
Тэхніка бяспекі
«Асноўная абарона — гэта палітыка. Па стане на 2026 год мы ўсё яшчэ кантралюем ШІ і можам прымаць важныя рашэнні, куды іх весці. Мы можам і павінны забараніць ШІ-сяброў. Як відавочна, што нельга прадаваць парнаграфію дзецям 11 гадоў, гэтак і кампаніям ШІ павінна быць забаронена прадаваць хлопцаў і дзяўчат з ШІ 11‑гадовым дзецям, бо шкода можа быць значна горшай. Павінна быць забаронена стварэнне ШІ-юрыдычнай асобы, якая можа мець банкаўскі рахунак».
Мы не злезем з ракеты ШІ, мы можам толькі падпраўляць яе траекторыю
«Думка, якую насаджаюць кампаніі ШІ, што ўсё непазбежна, мы нічога не можам зрабіць. Напрыклад, я чуў інтэрв’ю, якое Ілан Маск даваў часопісу Economist. Ён прызнаваў, што існуе 10-20% імавернасці, што штучны інтэлект проста знішчыць нас, адбудзецца поўнае знішчэнне чалавецтва. І вось яго пытаюць: ці паляцелі б вы на ракеце ці на самалёце, калі б ведалі, што ёсць 20% імавернасці катастрофы? Ён адказаў, што не сядзе добраахвотна на самалёт, які можа з 20%-най імавернасцю разбіцца. Але ўжо позна. Мы ўсе ўжо ў ракеце ШІ. Мы не можам прызямліцца. Мы можам толькі паспрабаваць кіраваць траекторыяй як мага лепш.
І гэта самае базавае і небяспечнае паведамленне, якое мы атрымліваем ад буйных кампаній — што для палітыкі ўжо позна».
Нельга дазваляць ШІ стаць юрасобай
«Я б пачаў з забароны юрыдычнай асобы для ШІ. Калі вы даеце ШІ юрыдычную асобу, і ён можа мець банкаўскія рахункі, гандляваць самастойна, адкрываць уласныя кампаніі — ліса ўжо ў куратніку. Вы заходзіце ў сацыяльныя сеткі, нехта з вамі размаўляе, нехта дасылае палітычныя паведамленні, і гэта ШІ, які дзейнічае як асоба.
Гэта юрыдычнае пытанне. Мы не павінны гэта дазваляць».
ШІ пагражае і таталітарызму
«Таталітарныя рэжымы больш уразлівыя да ШІ, чым дэмакратыі. Для ШІ захапіць дэмакратычную сістэму з яе сістэмай стрымлівання і супрацьвагі магчыма, але зусім няпроста. Калі ШІ захоча ўзяць пад кантроль адміністрацыю ЗША, то ёсць прэзідэнт, але ёсць сенат, філібастар, Вярхоўны суд, штаты — гэта складана. Каб узяць пад кантроль таталітарны рэжым, дастаткова маніпуляваць адным вельмі паранаідальным чалавекам. Што вельмі проста. Найвялікшай пагрозай дыктатарам часцей за ўсё была не дэмакратычная рэвалюцыя, а адзін з іх уласных генералаў, братоў ці падначаленых».
ШІ як пагроза дэмакратыі
«Нам трэба навучыцца лепш кіраваць новым інфармацыйным светам, як мы гэта рабілі з папярэднімі тэхналогіямі. Напрыклад, калі з'явіўся друк, кожны мог надрукаваць, што заўгодна. Рэвалюцыю друку часта прыводзяць як добры прыклад, маўляў, глядзіце, што адбываецца, калі з'яўляецца новая тэхналогія інфармацыйнай сістэмы. Яна скончыла Сярэднявечча. Яна знішчыла манаполію Каталіцкай царквы на веды. Гэта ўсё навуковая рэвалюцыя. Але людзі забываюць, што гэта заняло 200 гадоў.
І гэтыя 200 гадоў — гэта росквіт еўрапейскіх законаў рэлігіі і палявання на ведзьмаў. Тое, што з'явілася з друкарскім станком, не было навукай.
Пайшоў паток экстрэмісцкай, рэлігійнай, літаратуры, кніг пра ведзьмаў, фэйкавых навін і тэорый змовы, якія друкаваць было куды больш прыбыткова, чым тэорыю Каперніка. Спатрэбілася 200 гадоў, каб стварыўся інстытут прэсы, якая абавязаная правяраць, ці праўдзівая гісторыя, перш чым яе публікаваць. Таму дэмакратыі павінны зрабіць гэта зноў з новымі тэхналогіямі».
ШІ як пагроза рэальнасці
«Рэальнасць развальваецца. Ужо немагчыма ведаць, што праўда, а што не. Гэта сапраўднае відэа ці фальшыўка штучнага інтэлекту?.. Ведаеце, каб дэмакратыя развалілася, людзям не трэба проста верыць дыктатарам. Дастаткова, калі яны нікому не давяраюць. Дэмакратыя, каб функцыянаваць, патрабуе даверу. Неабходна, каб людзі маглі пагаджацца хаця б па некаторых базавых фактах. Каб дыктатары захапілі ўладу, ім не трэба пераконваць усіх верыць ім. Ім проста трэба, каб людзі нікому не давяралі, і тады немагчыма супрацьстаяць дыктатуры. Бо тады грамадзяне не могуць супрацоўнічаць.
Цяпер у Расіі, думаю, большасць расіян не верыць усяму, што бачаць па расійскім тэлебачанні. Яны ведаюць у нейкай ступені, што Пуцін ім хлусіць. Але яму ўдалося прымусіць іх не давяраць усім. І калі не давяраеш усяму і ўсім, вы не можаце аб'яднацца. Таму задача дэмакратычнай палітыкі, свабоднай прэсы — ствараць і падтрымліваць інстытуты, якім людзі ўсё яшчэ давяраюць. Гэта складаная задача. Будаваць давер, ствараць давер. На жаль, мы бачым, як некаторыя з самых уплывовых людзей у свеце, у тым ліку ў дэмакратыях, наўмысна разбураюць давер».
ШІ як рэлігійны аўтарытэт
«Мадэрністы ўжо 50 гадоў таму гаварылі пра смерць аўтара. І тэкст без аўтараў. Дзіўна, што гэта нібыта выкраслена з агульнай памяці, бо гэта адзін са спосабаў зразумець рэвалюцыю штучнага інтэлекту.
Мы жывём у тэксце. Такія рэлігіі, як юдаізм, хрысціянства, іслам, тысячы гадоў даводзілі, што найвышэйшая ісціна не ў людзях, а ў тэкстах. Геяў, напрыклад, забіваюць, пераследуюць толькі за некалькі слоў у тэксце. Але, прынамсі, тэкст не быў незалежным. Заўсёды патрэбны былі людзі, каб інтэрпрэтаваць тэкст, часам больш спагадліва да іншых людзей. Цяпер тэкст ажыў.
Мова вызваляецца ад залежнасці ад людзей. І калі заўсёды патрэбны быў нейкі папа, рабін ці аятола, каб інтэрпрэтаваць Талмуд, Біблію, Каран, цяпер яны могуць інтэрпрэтаваць сябе. Ніводзін рабін не можа запомніць усе тэксты, напісаныя кожным яўрэйскім рабінам. А ШІ можа, і таму можа хутка стаць найвышэйшым аўтарытэтам у святым тэксце. Гэта можа быць святы тэкст, які адказвае табе. Можна весці двухбаковую размову, а не толькі аднабаковую».
Папа Леў — удумлівы голас
«Мы бачым цікавыя падзеі, калі раптам арганізацыі, як Каталіцкая царква, звяртаюць увагу не на тэкст, а на чалавека.
Як гей, як яўрэй і як спецыяліст у сярэднявечнай гісторыі крыжовых паходаў, я маю не самы прыязны погляд на Каталіцкую царкву і папства. Але магу сказаць, што Папа Леў сёння — адзін з самых важных, спагадлівых і ўдумлівых галасоў у пытаннях штучнага інтэлекту. Гаворка ідзе пра чалавечыя адносіны, што вельмі добрае развіццё. Яны разумеюць, што, калі гаворка ідзе пра тэкст, мы асуджаныя. Мы губляем уладу на карысць ШІ. Спадзяюся, гэта адбудзецца ў большай колькасці рэлігій.
Зноў жа, я ўсё яшчэ не згодны з поглядамі касцёла на ЛГБТ, але каб справіцца з выклікамі, якія стварае ШІ, з якім мы сутыкаемся, нам патрэбныя саюзнікі, дзе толькі можам, і Каталіцкая царква, ці прынамсі папа, вельмі важны саюзнік у гэтым».
Самая шкодная ідэя — недавер да ўсіх
«Адна з самых шкодных ідэй, якая распаўсюджваецца як справа, так і злева, — гэта вельмі цынічны погляд на чалавецтва. Які кажа, што адзінае, што людзей цікавіць — гэта грошы і ўлада. Таму нікому нельга давяраць.
Людзі, якія распаўсюджваюць гэтую думку, думаюць, што яны не наіўныя, бачаць праз усе маніпуляцыі. Гэта не проста дурасць, гэта небяспечная лухта. Бо калі гэта так, то гэта безнадзейна. Калі ўсе клапоцяцца толькі пра грошы і ўладу, тады вы не можаце давяраць нікому. А потым сістэма развальваецца».
Крыніцы шчасця і гора
«Я лічу, што дэмакратыя мае шанец, бо такія рэчы, як свабода і праўда, вельмі важныя для чалавека. Пачатак аднаўлення даверу — паглядзець на сябе: а вам асабіста важныя толькі грошы? Вядома, нам гэта важна, але калі вам таксама важныя такія рэчы, як праўда, каханне і ўзаемадносіны, ці думаеце вы, што вы адзіны чалавек, які клапоціцца пра гэта? Ці гэта шырока распаўсюджана? Калі вы разумееце, што не адзін, мы можам пачаць аднаўляць давер. У тым ліку з дапамогай медыя. Калі ты не ведаеш праўду пра сябе і свет, ты ніколі не будзеш шчаслівы. Чаму не? Бо ты не зразумееш, у чым крыніца тваіх пакутаў, і нічога не зможаш з гэтым зрабіць. Ты можаш стаць самым багатым чалавекам у свеце. І марнаваць усе свае грошы і ўладу на вырашэнне няправільных праблем, бо не ведаеш, якія сапраўдныя крыніцы гора і шчасця».
Галоўнае — не страціць якар
Апошнім на Форуме 2000 сёлета выступаў Карл Гершман, заснавальнік і першы прэзідэнт Нацыянальнага фонду дэмакратыі ЗША. Гершман даўні сябар дэмакратычнай Беларусі, і не толькі таму, што карані яго сям’і — у Мінску. Ён вёў кампанію за Нобелеўскую прэмію Алесю Бяляцкаму, ён дапамог мне далучыць дзесяткі сусветна вядомых людзей, уключна з прэзідэнтам Джорджам Бушам, да чытання семі сотняў імёнаў беларускіх палітзняволеных у эфіры Радыё Свабода. Гершман ведаў Вацлава Гаўла і дапамагаў у стварэнні Форуму 2000. І яго погляд на апошнія дзесяцігоддзі не менш важны, чым погляд на наступныя. Фактычна, гэта погляд у люстэрка будучыні:
«Гавел лічыў, што «суіцыдальная» абыякавасць Захаду да правоў чалавека сімптаматычная для чагосьці глыбейшага, чым проста крызіс дэмакратыі. Ён называў гэта крызісам цывілізацыі. Адам Міхнік казаў, што Гавел па сутнасці быў «homo religiosus», які бачыў сучасны крызіс як фундаментальна духоўны. Гавел баяўся, што чалавецтва губляе свой «трансцэндэнтальны якар», які, на яго думку, з'яўляецца адзінай сапраўднай крыніцай фундаментальных цнотаў адказнасці, справядлівасці і самапавагі».
Гэта напамінак не столькі пра штучны інтэлект, колькі пра розум чалавечы. Перш, чым пераасэнсоўваць нешта, варта гэта асэнсаваць.
Каментары