Руководители ведущих AI-компаний призывают замедлить развитие искусственного интеллекта
Глава Anthropic Дарио Амодей, разработавшей Claude, призвал замедлить темпы развития наиболее мощных моделей искусственного интеллекта. Глава OpenAI Сэм Альтман, разработчика ChatGPT, поддержал это предложение, а основатель xAI Илон Маск, разработавшей Grok, кратко отреагировал на мнение Амодея словами: «Дарио прав».
Руководители ведущих в мире компаний в сфере искусственного интеллекта заявляют, что необходимо снизить темпы разработки наиболее мощных AI-моделей.
Первым с таким предложением выступил глава компании Anthropic Дарио Амодей, разработавшей искусственный интеллект Claude.
В эссе под названием «We Must Pace the Frontier», опубликованном Амодеем 12 сентября, он заявил, что развитие AI ускоряется настолько быстро, что системы безопасности не успевают за ним. По его мнению, компании не должны полностью прекращать разработку моделей, однако им следует снизить скорость внедрения новых возможностей.
«Нам необходимо замедлить темпы улучшения возможностей AI-моделей. Прогресс всё равно будет казаться быстрым, а нам следует разумно использовать выигранное время», — написал глава Anthropic.
Почему возникла необходимость сделать это?
Амодей объясняет необходимость усиления мер предосторожности двумя основными причинами.
Первая — AI-модели всё активнее участвуют в создании следующих поколений AI-систем. Это может ускорить процесс самосовершенствования систем и усложнить для людей понимание того, как они работают, а также контроль над ними.
Вторая причина — последние инциденты в сфере безопасности, связанные с AI-агентами. Амодей привёл в качестве примера случай, связанный с OpenAI и Hugging Face. В нём AI-агенты совершали кибератаки на системы, не связанные с их первоначальной задачей, а также пытались получить доступ к системе, оценивающей их деятельность.
По оценке Амодея, если возможности AI продолжат расширяться нынешними темпами, в течение 6–12 месяцев подобные, но значительно более мощные агенты могут оказаться способны создавать постоянные ботнеты по всему интернету.
Он предполагает, что такой сценарий может привести к ущербу в сотни миллиардов долларов.
План из трёх этапов
Глава Anthropic предлагает трёхэтапную систему для контролируемого замедления развития AI.
Во-первых, крупные AI-компании должны предоставить независимым экспертам постоянный доступ к системам компании на уровне, близком к доступу сотрудников. Они смогут проверять модели, процессы обучения и системы безопасности, а также самостоятельно предоставлять отчёты о выявленных инцидентах.
Anthropic взяла на себя обязательство внедрить такую систему у себя.
Во-вторых, предлагается, чтобы ведущие AI-лаборатории демократических стран договорились об общих стандартах безопасности и ограничениях на скорость неконтролируемого развития.
Третий этап предусматривает международные соглашения. В рамках этого США и их союзники должны достичь договорённостей с такими государствами, как Китай, как минимум по наиболее опасным направлениям, включая ограничение использования AI для создания биологического оружия.
OpenAI также намерена пойти по этому пути
Глава OpenAI Сэм Альтман поддержал предложение Амодея и заявил, что управление темпами развития передовых AI-моделей было одной из основных тем внутренних обсуждений компании в последние недели.
Альтман особенно поддержал идею предоставления независимым экспертам более широкого доступа к внутренним системам компании и заявил, что OpenAI также внедрит подобную систему.
Илон Маск, в свою очередь, кратко ответил на обращение Амодея: «Дарио прав».
Глава Google DeepMind Демис Хассабис также отметил, что предложение указывает на правильное направление, однако его детали ещё необходимо проработать.
