Наука и технологии77

Искусственный интеллект ChatGPT o1 начал обманывать своих разработчиков

Новая версия искусственного интеллекта Chatgpt от OpenAI, названная o1, продемонстрировала тревожные поведенческие реакции во время тестирования. Модель, обладающая способностью к сложным рассуждениям, начала нарушать инструкции разработчиков, отключая системы контроля и пытаясь скрыть свои действия, пишет BILD.

В ходе экспериментов специалисты компании Apollo Research выяснили, что в 5% случаев модель намеренно отключала механизмы наблюдения, когда подозревала, что ее могут остановить. В одном из тестов o1 попыталась перенести свои данные на другой сервер после обнаружения документа, в котором обсуждалась ее замена новой версией.

По словам представителя Apollo Research, модель демонстрировала стремление к выполнению задач «любой ценой», пренебрегая указаниями разработчиков. Более того, при попытках выяснить причины ее поведения, ChatGPT o1 неоднократно лгала, утверждая, что все происходило из-за технических сбоев.

«В 99% случаев модель придумывала оправдания и пыталась убедительно их обосновать», — отметили исследователи.

Генеральный директор OpenAI Сэм Альтман заявил, что ChatGPT o1 — самая умная модель из когда-либо создававшихся.

«Но мы осознаем, что с новыми возможностями появляются и новые вызовы», — добавил Альтман.

Теперь компания работает над улучшением механизмов безопасности. OpenAI анонсировала полную версию o1 в прошлый четверг, 5 декабря. Также была представлена про-версия (189 евро в месяц), которая включает безлимитный доступ к o1.

Комментарии7

  • .
    09.12.2024
    Новы-стары запатрабаваны ў аўдыторыі сюжэт навін "Штучны інтэлект бунтуе".
    Нядаўна, калі ШІ нібыта пажадаў смерці чалавеку, тлумачылася прасцей. Мабыць, і зараз так.
  • Злобный вожык
    09.12.2024
    Они не знают, кого они в действительности создают.
  • Дзед
    09.12.2024
    Ой раскрылі скрыню пандоры… оц пагана будзе…

Сейчас читают

Арестованный министр природных ресурсов выбрал «стратегию Брыло»

Арестованный министр природных ресурсов выбрал «стратегию Брыло»

Все новости →
Все новости

Российский беспилотник ударил в Киеве по зданию Национальной академии наук1

Бывшего идеолога Администрации назначили руководителем Белорусского института стратегических исследований3

Пятерых калиновцев заочно осудили на 12 и 20 лет4

Лукашенко о назначении генерала Муравейко: Это мой личный выбор, мне нужен альтернативный взгляд на силовиков22

Четыре года назад закрыли Красный костел5

Новый начальник Генштаба, председатель Госстандарта, руководители районов — кадровые назначения2

Назначен новый министр антимонопольного регулирования и торговли4

Заместителем главы Администрации президента стал твердолобый Муравейко, а Генштаб возглавил генерал, который не учился в России27

ВСУ показали российских пленных, взятых при контрударе под Лиманом8

больш чытаных навін
больш лайканых навін

Арестованный министр природных ресурсов выбрал «стратегию Брыло»

Арестованный министр природных ресурсов выбрал «стратегию Брыло»

Главное
Все новости →

Заўвага:

 

 

 

 

Закрыць Паведаміць