Высокие риски. Разработчик AI-модели Claude призывает замедлить развитие ИИ

Компания Anthropic, разработчик бота Claude и один из лидеров рынка, призвала замедлить развитие искусственного интеллекта из-за высоких рисков, которые несет технология. Об этом говорится на сайте фирмы.

Сооснователь компании Джек Кларк и его коллега Марина Фаваро (глава исследовательского центра The Anthropic Institute) рассуждают о быстрых темпах развития новых моделей AI. Сейчас объем задач, которые самостоятельно может выполнять ИИ, удваивается примерно раз в четыре месяца, тогда как раньше это происходило не чаще, чем каждые семь месяцев. Если эта тенденция сохранится, в этом году Claude будет справляться с обязанностями, на которые у человека уходит несколько дней, а в следующем - ИИ за несколько часов сможет выполнить работу человека на несколько недель вперед, считают эксперты Anthropic.
"Факты свидетельствуют о том, что роль человека в процессе разработки ИИ с каждым шагом становится все менее значимой. Как только качество кода, написанного человеком и искусственным интеллектом, сравняется, люди перестанут писать код и будут заниматься только его проверкой", - говорится в публикации.
Поэтому фирма предложила поставить разработку ИИ на "паузу", чтобы человечество могло к нему адаптироваться. Иначе AI-модели "будут сами создавать свои аналоги, пока мы не потеряем над ними контроль".
В Anthropic считают, что идею должны поддержать все корпорации, занимающиеся AI, особенно в Китае и США: если с ней согласится лишь одна компания, то конкуренты только ускорят обучение новых моделей.
"В мире уже создавали режимы верификации для других сложных технологий - например, Договор о ликвидации ракет средней и меньшей дальности. Но на создание таких режимов, как инфраструктуры, так и доверия, уходили десятилетия. У нас нет столько времени", - заявили эксперты.