Инженер Google утверждает, что у искусственного интеллекта появилась душа и сознание. За это его отстранили от работы
Google недавно отправила инженера в отпуск, после того как оспорила его заявление о том, что искусственный интеллект имеет разум. Это вызвало еще один скандал вокруг одной из самых передовых технологий компании, пишет New York Times.
Блейк Лемуан, старший инженер-программист в ответственной организации Google по искусственному интеллекту, сказал в интервью, что в понедельник его отправили в отпуск и отстранили от должности. Отдел кадров компании заявил, что он нарушил политику конфиденциальности Google. По словам Лемуана, за день до своего отстранения от должности он передал документы в офис сенатора США, в которых, как он утверждает, есть доказательства того, что Google и ее технологии занимаются религиозной дискриминацией.
Google заявила, что ее системы могут беседовать на разные темы, но не обладают сознанием.
«Наша команда, включая специалистов по этике и технологов, рассмотрела жалобы Блейка в соответствии с нашими принципами искусственного интеллекта и сообщила, что доказательства не подтверждают его обвинения» — говорится в заявлении Брайана Гэбриела, представителя Google.
В течение нескольких месяцев Лемуан спорил с менеджерами, руководителями и персоналом Google из-за своего неожиданного заявления о том, что языковая модель диалоговых программ (LaMDA), над которое работает Google, обладает сознанием и душой.
Но Google говорит, что сотни ее исследователей и инженеров общались с LaMDA и пришли к другому выводу. Большинство экспертов по искусственному интеллекту считают, что отрасль еще очень далека от компьютерного разума.
Некоторые исследователи искусственного интеллекта уже давно делают оптимистичные заявления о том, что эти технологии скоро станут разумными, но многие другие быстро отвергают эти утверждения. «Если бы вы использовали эти системы, вы никогда бы не говорили такие вещи», — сказал Эмоад Хваджа, исследователь Калифорнийского университета в Беркли и Калифорнийского университета в Сан-Франциско, изучающий эти технологии.
Г-н Лемуан, военный ветеран, который назвал себя священником, бывшим заключенным и исследователем искусственного интеллекта, сказал руководителям Google, что, по его мнению, LaMDA является ребенком семи или восьми лет.
Он хотел, чтобы компания заручилась согласием компьютерной программы, прежде чем проводить с ней эксперименты. Его претензии были основаны на его религиозных убеждениях, которые, по его словам, дискриминировали отдел кадров компании.
«Они ставят под сомнение мое здравомыслие, — говорит Лемуан, — они спросили: «Вы давно проверялись у психиатра?». За несколько месяцев до того, как его выслали в отпуск, компания предложила ему взять отпуск по состоянию психического здоровья.
Технология Google — это нейронная сеть, которая является математической системой, обучаемой путем анализа больших объемов данных. Например, четко определяя закономерности на тысячах фотографий кошек, она может научиться распознавать кошку.
За последние несколько лет Google и другие ведущие компании разработали нейронные сети, которые анализировали огромное количество текстов, включая неопубликованные работы и тысячи статей в Википедии.
Эти «большие языковые модели» могут быть применены ко многим задачам. Они могут обобщать статьи, отвечать на вопросы, создавать твиты и даже писать сообщения в блоге.
Но они очень несовершенны. Иногда они создают идеальный текст. Иногда они выдают белиберду. Системы очень хорошо восстанавливают модели, которые они видели в прошлом, но не могут рассуждать как люди.
Сейчас читают
«Был голодный, как из Освенцима, не ел ни мяса, ни овощей». Что известно о смерти бобруйского журналиста, на которого завели уголовное дело в Польше1313
Комментарии