Сотрудники OpenAI и Google написали открытое письмо о рисках ИИ – «вплоть до уничтожения человечества»

13 бывших и действующих сотрудников OpenAI, Anthropic и DeepMind — подразделения Google по искусственному интеллекту — написали открытое письмо об опасностях технологии, проблемах разработки и о том, что компании ставят финансовые интересы выше безопасности, передает интернет-издание devby.io. 

У подписантов 4 требования. Их суть сводится к тому, чтобы компании не навязывали договоры, которые запрещают критику по поводу рисков, связанных с ИИ, и не мстили за неё — например, шантажом. Компании наоборот должны поддерживать культуру свободной критики и позволять открыто говорить о таких опасениях при условии сохранения коммерческой тайны.

Также авторы письма хотят добиться внедрения анонимной процедуры, с помощью которой сотрудники ИИ-компаний смогут привлекать внимание советов директоров, регуляторов и независимых организаций к вопросам, касающимся рисков ИИ.

Риски, о которых говорят подписанты, — это распространение дезинформации, углубление социального неравенства, потеря контроля над ИИ-системами вплоть до уничтожения ими человечества при отсутствии должного регулирования.

Также они видят проблему в том, что разработчиков не обязывают делиться информацией о возможностях и ограничениях их систем с властями, а по собственной воле они делать этого не станут.