Компания Anthropic, создавшая модель Claude, призвала другие лаборатории приостановить разработку систем искусственного интеллекта из-за угрозы потерять контроль над ними. Об этом говорится в блоге компании.
В Anthropic заявили, что системы AI развиваются настолько быстро, что вскоре станут способны улучшать себя без участия человека. Этот процесс называется рекурсивным самосовершенствованием. Если технические тенденции в разработке будут сохраняться, то системы AI достигнут этого уровня быстрее, чем к этому готовы большинство институций, предупредили соучредитель Anthropic Джек Кларк и руководитель Anthropic Institute Марина Фаваро.
Призывы приостановить разработки искусственного интеллекта звучали и ранее. В частности, в марте 2023 года американский бизнесмен Илон Маск предупредил о «серьезных рисках для человечества» и призвал приостановить обучение новых систем AI . Однако спустя месяц он объявил о намерении создать собственный чат-бот на основе искусственного интеллекта.
В мае 2026 года Папа римский Лев XIV выпустил энциклику с предупреждением об опасностях искусственного интеллекта. Он призвал замедлить и строго регулировать развитие систем искусственного интеллекта, так как они помимо прочего способствуют развитию зависимости от них и усиливают неравенство.
Anthropic основана в 2021 году бывшими сотрудниками OpenAI во главе с Дарио Амодеи. В последние годы компания стала одним из лидеров рынка генеративного AI, а особую популярность получили её инструменты для программирования Claude Code.
