Разработчики Anthropic опасаются сценария, при котором нейросети начнут самостоятельно совершенствовать свои алгоритмы, опережая возможности государственного контроля. Компания предложила коллегам по индустрии добровольно ограничить темпы прогресса, чтобы предотвратить потерю человеческого влияния на развитие технологий, которые уже сегодня пишут большую часть кода для своих создателей.
В разделе Новости корпораций
Anthropic призывает разработчиков ИИ замедлить гонку технологий
Разработчики Anthropic опасаются сценария, при котором нейросети начнут самостоятельно совершенствовать свои алгоритмы, опережая возможности государственного контроля. Компания предложила коллегам по индустрии добровольно ограничить темпы прогресса, чтобы предотвратить потерю человеческого влияния на развитие технологий, которые уже сегодня пишут большую часть кода для своих создателей.
Риск рекурсивного самосовершенствования ИИ становится критической точкой дискуссии внутри компании. Исследователи Anthropic Institute намерены инициировать серию консультаций с представителями науки и власти, чтобы выработать протоколы безопасности. Главная цель — создание механизмов, позволяющих при необходимости замедлить или вовсе приостановить развитие автономных систем.
В компании подчеркивают, что одиночные инициативы бесполезны, если другие игроки продолжат скрытую гонку. Для честной конкуренции Anthropic предлагает внедрить систему независимых проверок, исключающих возможность тайных разработок. Актуальность проблемы подтверждается внутренней практикой: к маю 2026 года нейросеть Claude генерирует уже 80% кода для самой Anthropic, демонстрируя скорость, с которой ИИ становится полноценным участником процесса собственного проектирования.
Комментарии (0)
Пока нет комментариев. Будьте первым!