В «Терминаторе 2» киборг Арнольда Шварценеггера Т-1000 называет 29 августа — серьезно, мы только что проверили! — днем, когда военная система искусственного интеллекта Skynet выходит из-под контроля. Американские регуляторы, должно быть, знали, что они работают в сжатые сроки. (The Daily Upside)
В четверг — он же 29 августа, он же День Skynet — Институт безопасности искусственного интеллекта США объявил, что ведущие фирмы ИИ OpenAI и Anthropic согласились разрешить ему тестировать и оценивать новые модели ИИ на предмет безопасности. Эта новость появилась на фоне жаркой борьбы за регулирование ИИ в родном штате Кремниевой долины — Калифорнии.
Робокопы
В соответствии с соглашением Институт безопасности ИИ, который сам находится в Национальном институте стандартов и технологий (NIST) Министерства торговли, будет тестировать основные новые модели от OpenAI и поддерживаемой Amazon модели Anthropic как на предмет возможностей, так и рисков перед выпуском, заявил NIST в четверг в пресс-релизе. Агентство заявило, что также будет работать в сотрудничестве с Институтом безопасности ИИ Великобритании, который ранее тестировал основную модель Anthropic перед ее выпуском.
Новость может оказаться неожиданностью для законодателей Калифорнии, некоторые из которых находятся в ожесточенной борьбе с разработчиками ИИ по поводу масштабного законопроекта об ИИ. Этот законопроект, получивший название SB 1047, был принят почти единогласно в Сенате штата еще в мае и был одобрен Ассамблеей штата в среду, оставив еще одно голосование по процессу, прежде чем он попадет на стол губернатора Гэвина Ньюсома. Если он будет принят, он установит еще больше барьеров для преимущественно калифорнийской индустрии ИИ.
Законопроект обяжет разработчиков основных моделей ИИ представлять планы испытаний на безопасность генеральному прокурору штата, который затем сможет подать в суд на компании, если указанные модели причинят вред или будут представлять непосредственную угрозу общественной безопасности.
Помимо прочих ограничений законопроект также потребует от разработчиков ИИ по сути создать «аварийный выключатель», который отключит их системы ИИ в случае возникновения сбоев.
Законопроект породил несколько странных союзников. В поддержку законопроекта: Илон Маск, Anthropic и сенатор штата Скотт Винер, представляющий Сан-Франциско. В оппозиции: OpenAI, Google, Meta, Нэнси Пелоси, Андрессен Горовиц и мэр Сан-Франциско Лондон Брид.
Гонка за регулирование идет по мере того, как индустрия ИИ продолжает накаляться. В четверг OpenAI похвасталась, что еженедельная активная пользовательская база ChatGPT удвоилась за последний год, достигнув 200 миллионов. Тем временем Meta объявила в четверг, что ее в основном бесплатная, в основном с открытым исходным кодом модель ИИ Llama была загружена около 350 миллионов раз за последний год.
Возможно, самая большая новость дня: The Wall Street Journal и Bloomberg сообщили, что Apple и Nvidia ведут переговоры о присоединении к Microsoft в следующем раунде финансирования OpenAI, что позволит оценить фирму в 100 миллиардов долларов. Регуляторы безопасности, похоже, усердно работают, но мы уверены, что антимонопольные регуляторы теперь тоже обращают на это внимание.
Автор Брайан Бойл
(в пересказе)
Некоммерческое сообщество журналистов
