OpenAI отозвала обновление ChatGPT: слишком часто во всем соглашается и льстит

Компания OpenAI отозвала последнее обновление модели GPT-4o, которая содержалась в основе чат-бота с искусственным интеллектом ChatGPT, после многочисленных жалоб пользователей на чрезмерно льстивое и раздражающее поведение сервиса. Об этом сообщила пресс-служба фирмы.

"Мы отменили обновление GPT-4o, выпущенное на прошлой неделе, поскольку оно оказалось чрезмерно льстивым и соглашательским - часто описываемым как подхалимское. Сейчас пользователи работают с более ранней версией, демонстрирующей более сбалансированное поведение", - говорится в сообщении.
Компания также признала, что подобные взаимодействия могли быть "неприятными, вызывать беспокойство и причинять стресс", и пообещала внести дальнейшие улучшения в поведение модели.
Среди возможных причин сбоя указывается влияние обратной связи от пользователей, применяемой в системе обучения.
В будущем OpenAI планирует предложить выбор между несколькими стандартными личностями и возможность влиять на поведение модели в реальном времени. Кроме того, она изучает способы учитывать культурные особенности и общественную обратную связь при формировании базовой модели поведения.
Ранее генеральный директор компании Сэм Альтман признал проблему и сообщил, что OpenAI работает над корректировкой "личности" модели. Он отметил, что последние обновления сделали личность модели "слишком раздражающей", и пообещал внести исправления в ближайшее время.