Бунт машин? Компания-разработчик ИИ Anthropic призывает техгигантов «нажать на тормоз»

Руководство компании-разработчика технологий ИИ Anthropic предупреждает, что новейшие ИИ-модели начинают демонстрировать признаки потенциального выхода из-под человеческого контроля. Сооснователь Anthropic Джек Кларк заявил, что технология приближается к этапу, когда сможет развиваться без участия человека, и призвал создать механизмы, которые позволят при необходимости замедлять развитие искусственного интеллекта, пишет Би-би-си. 

«Необходимо иметь возможность убрать ногу с педали газа и нажать на тормоз», — заявил Кларк в интервью программе BBC Newsnight.

«Сейчас ситуация выглядит так, будто у индустрии искусственного интеллекта есть педаль газа, но нет педали тормоза», — считает он.

По его словам, люди должны сохранить контроль над системами ИИ через государственное регулирование и политические механизмы, поскольку эти технологии будут становиться все более мощными и все сильнее влиять на общество.

«Миру необходимо серьезно задуматься над этим вопросом. В конечном итоге нам придется разработать новые правила регулирования, которые позволят быть уверенными в безопасности и надежности этих систем», — подчеркнул Кларк.

Недавно Anthropic — разработчик семейства моделей Claude — выпустила доклад, в котором назвала замедление разработки передовых систем ИИ во всем мире «полезным шагом».

Однако, подчеркивается в докладе, если исследования остановит только одна компания, ее конкуренты просто уйдут вперед.

По словам руководства Anthropic, реальная пауза возможна лишь в том случае, если сразу несколько ведущих разработчиков ИИ в разных странах — прежде всего в США и Китае — одновременно согласятся остановить дальнейшее наращивание возможностей своих моделей в рамках системы, соблюдение которой можно будет независимо проверять.

Материал полностью - по ссылке.