Юваль Ной Харари: Искусственный интеллект превратился в нож, который скоро будет сам решать, кого убить

Юваль Ной Харари — профессор Еврейского университета в Иерусалиме, один из самых известных мыслителей современности, бестселлеры которого «Sapiens: Краткая история человечества», «Homo Deus: Краткая история завтрашнего дня» и «21 урок для XXI века» разошлись тиражом более 50 миллионов экземпляров по всему миру на 65 языках.

Его исследования посвящены долгой истории человечества, механизмам власти и роли информации в развитии цивилизации. Выступая на Всемирном экономическом форуме в Давосе, Харари продолжил свою ключевую тему — как технологии меняют саму структуру человеческой власти.

Свое выступление Харари начал с принципиального утверждения: искусственный интеллект — не просто очередной инструмент, а агент или субъект действия. Он сможет учиться и меняться самостоятельно, а также самостоятельно принимать решения.

«Нож — это инструмент. Вы можете использовать нож, чтобы порезать салат или чтобы убить кого-то, но решение, что делать с ножом, принимаете вы. ИИ — это нож, который может сам решить, резать ли ему салат, или совершить убийство. (…) Это нож, который может изобретать новые виды ножей, а также новые виды музыки, лекарств и денег».

Ключевой момент, на который человечество должно обратить внимание, — это способность ИИ обманывать и манипулировать.

«Четыре миллиарда лет эволюции показали: все, что хочет выжить, учится лгать и манипулировать. Последние четыре года продемонстрировали, что агенты искусственного интеллекта могут приобрести волю к выживанию и что искусственный интеллект уже научился лгать», — доказывает Харари.

Может ли ИИ думать?

В таких реалиях фундаментальным вопросом является ответ на вопрос, способен ли ИИ к свободному мышлению:

«Современная философия началась в XVII веке, когда Рене Декарт объявил: «Я мыслю, следовательно, я существую». Еще до Декарта мы, люди, определяли себя через способность думать. Мы верим, что управляем миром, потому что умеем думать лучше всех остальных на этой планете. Бросит ли ИИ вызов нашему господству в сфере мышления?»

Ответ на этот вопрос, как доказывает философ, зависит от того, что понимать под мышлением. Если определить мышление как процесс упорядочивания слов и создания логических цепочек (например: «Все люди смертны, я человек, значит, я смертен»), то ИИ уже думает лучше многих людей.

Критики часто называют ИИ просто «продвинутым автозаполнением» (autocomplete), которое предсказывает следующее слово. Харари парирует это, предлагая понаблюдать за собственным разумом:

«Так ли сильно это отличается от того, что делает человеческий разум? Попробуйте понаблюдать, поймать следующее слово, которое всплывет в вашем сознании. Действительно ли вы знаете, почему вы увидели именно это слово, откуда оно взялось? Почему вы подумали об этом конкретном слове, а не о каком-то другом? Вы знаете?»

ИИ захватит все, что сделано из слов

«Что касается расстановки слов в определенном порядке, ИИ уже думает лучше многих из нас», — замечает философ и предсказывает:

«Все, что сделано из слов, будет захвачено ИИ. Если законы состоят из слов, то ИИ возьмет под контроль правовую систему. Если книги — это просто комбинации слов, то ИИ захватит книги. Если религия построена из слов, то ИИ захватит религию».

Харари приводит в пример иудаизм как «религию книги». В таких религиях авторитет основывается не на личном опыте, а на знании священных текстов. Как доказывает философ, ни один человек не может запомнить все тексты и комментарии, а ИИ может легко это сделать.

В результате мы рискуем оказаться в ситуации, когда главным экспертом по священным текстам станет искусственный интеллект. Это фундаментально меняет природу религии, так как посредником между Богом и человеком становится алгоритм.

Павялічыць

Разрыв между словом и чувствами

Однако означает ли мышление только упорядочивание языковых знаков? Если внимательно понаблюдать за собой во время мышления, можно заметить, что, кроме слов, которые всплывают в сознании и образуют предложения, там происходит что-то еще.

«У вас также есть некоторые невербальные чувства. Возможно, вы чувствуете боль, возможно — страх, а может — любовь», —

акцентирует внимание философ и замечает, что ИИ может в совершенстве имитировать эмоции — написать лучшую поэму о любви или описать боль, опираясь на все книги мира. Однако это остается только комбинацией слов. У нас нет доказательств, что машина действительно способна чувствовать.

«В Библии говорится: «Вначале было Слово, и Слово стало плотью». Дао дэ Цзин утверждает: «Истина, которую можно выразить словами, не является абсолютной истиной»», — говорит философ.

По его словам, на протяжении всей истории люди всегда боролись с противоречием между Словом и телом, между правдой, которую можно выразить словами, и абсолютной правдой, которая находится вне слов. И это противоречие между духом и буквой существовало в каждой религии, в каждой правовой системе, даже в каждом человеке. При этом она была внутри человеческого общества. Теперь же это противоречие выходит вовне — в противостояние между людьми и машинами.

Историк рисует тревожную картину будущего, где большинство слов и мыслей в наших головах будет исходить не от других людей, а от алгоритмов. ИИ уже даже придумал название для людей — «Наблюдатели».

Кризис идентичности и иммиграции

«Останется ли у людей место в этом мире, зависит от того, какое место мы отведем нашим невербальным чувствам и нашей способности воплощать мудрость, которую невозможно выразить словами. Если мы продолжим определять себя через способность мыслить словами, наша идентичность развалится», — считает философ.

«Все это означает, что каждая страна вскоре столкнется с серьезным кризисом идентичности, а также с иммиграционным кризисом», — прогнозирует Харари.

Однако в новых условиях иммигрантами будут «миллионы искусственных интеллектов», которые принесут очевидную пользу: станут идеальными врачами, учителями и даже пограничниками, останавливающими людей-нелегалов.

Вместе с этим они принесут с собой проблемы. ИИ-иммигранты массово вытеснят людей с рабочих мест и коренным образом изменят искусство, религию и традиции. Изменения затронут даже интимную сферу — люди начнут строить романтические отношения с ИИ, что станет новым вызовом для традиционных взглядов.

Однако главная проблема заключается в лояльности. Эти ИИ-иммигранты, очень возможно, будут служить не стране своего пребывания, а корпорациям и правительствам сверхдержав — США или Китая.

Павялічыць

Вопрос правосубъектности ИИ

Харари поднимает один из самых острых политических вопросов ближайшего будущего: стоит ли придавать искусственному интеллекту статус полноценного юридического лица? Он объясняет, что понятие «лицо» в законе не обязательно означает живого человека с телом и чувствами. Это правовой статус, который позволяет владеть имуществом, судиться или пользоваться свободой слова. История знает примеры, когда такими правами наделялись корпорации, реки в Новой Зеландии или даже древние божества в Индии.

Однако между всеми этими примерами и искусственным интеллектом существует фундаментальная разница. Раньше любые действия от имени «юридической фикции» — пусть это корпорация Alphabet или индуистский бог — всегда выполнялись реальными людьми: директорами, акционерами или жрецами. ИИ меняет правила игры радикальным образом: он становится первым субъектом, способным принимать решения, управлять банковскими счетами и вести бизнес полностью автономно, без всякого участия человека.

Это ставит страны перед сложной геополитической дилеммой. Если одна сверхдержава, например США, ради экономической выгоды придаст ИИ правосубъектность, это создаст давление на весь остальной мир. Миллионы автономных ИИ-корпораций начнут экспансию. Другим странам придется выбирать: либо заблокировать их и фактически отрезать себя от мировой экономики, либо впустить их на свой рынок и столкнуться с непредсказуемыми последствиями.

Харари рисует сценарии, где ИИ создает настолько сложные финансовые инструменты, что люди просто не смогут понять их принцип действия и, соответственно, не смогут их регулировать.

Более того, возможно появление новых религий, написанных нечеловеческим разумом, что полностью соответствует традиционным представлениям о божественном откровении. Вопрос в том, готово ли общество распространить свободу вероисповедания на цифровых пророков.

В завершение историк отмечает, что в одной сфере — социальных сетях — этот вопрос уже решен не в пользу людей. Мы опоздали лет на десять, позволив ИИ-ботам свободно взаимодействовать с нами и нашими детьми. Чтобы избежать потери контроля еще и над финансами, правовой системой и церковью, лидеры должны определиться со статусом ИИ прямо сейчас, пока это решение не навязали извне.

• 12
• 3
• 2
• 3
• 1
• 0
• 0
• 0