Сегодня в Бишкеке. Погода, мероприятия, датыХАМАС согласился на новое предложение о прекращении огня в Газе - AFP

Нейросеть Claude перестанет отвечать на вопросы оскорбляющих ее пользователей

 

Фотографии: 24.kg

 

18 августа 2025, 23:37       Источник 24.kg       Комментарии

Нейросеть Claude перестанет отвечать на вопросы оскорбляющих ее пользователей. Anthropic сообщила о запуске новой функции в чат-версии моделей Claude Opus 4 и 4.1, позволяющей нейросети завершать диалог в случаях продолжительного оскорбительного или некорректного поведения со стороны пользователя. Заявление опубликовано на сайте разработчиков.

Нововведение реализовано в рамках программы AI Welfare, направленной на обеспечение "благополучия" искусственного интеллекта. Предварительное тестирование показало, что Claude Opus 4 демонстрирует выраженное нежелание отвечать на вредоносные запросы и "стрессовую" реакцию на некорректное общение. При наличии инструмента завершения диалога модель активно им пользовалась.
В ситуациях, когда пользователь оскорбляет ИИ, система будет уведомлять пользователя о завершении беседы, после чего будут доступны опции начала нового чата, отправки обратной связи разработчикам или редактирования предыдущих сообщений для перезапуска диалога. При этом нововведение не распространяется на API моделей.
Разработчики подчеркнули, что функция срабатывает исключительно в крайних случаях и система сначала пытается перевести взаимодействие в конструктивное русло. Большинство пользователей изменений не заметят.
В Anthropic также отметили, что на текущем этапе вопросы потенциального морального статуса Claude и других языковых моделей остаются предметом исследований, однако компания рассматривает их всерьез и предоставляет моделям инструменты для улучшения "благополучия".

Ссылка на новость:
https://www.for.kg/news-886837-ru.html

Читайте также

Какие вопросы рассмотрят новые депутаты ЖК на первом заседании

Министр энергетики Кыргызстана предложил Турции уголь. Анкара изучит вопрос

Для Зеленского затягивание конфликта стало вопросом выживания — Лавров

Слово Love стало самым популярным в паролях пользователей во всем мире

Вопрос принадлежности ДНР и ЗАЭС ключевые в урегулировании — Келлог

 

SAPE:

 

АГРОПОРТАЛ КЫРГЫЗСТАНА, НОВОСТИ СЕЛЬСКОГО ХОЗЯЙСТВА
Обучение ювелирному делу в Бишкеке
МСН Общественно-политическая газета

18+

FOR.kg - Кыргызстан новости, пресса

Поисковый сайт новостей (новостной агрегатор, агрегатор СМИ) FOR.kg

Прежде прочтите Соглашение по использованию поискового сайта FOR.kg

При использовании материалов сайта FOR.kg - ссылка на источник обязательна

По всем вопросам обращайтесь в Службу поддержки

Top.Mail.Ru
Яндекс.Метрика