В американском штате Нью‑Йорк запустят первую в США государственную программу независимого тестирования систем искусственного интеллекта и подготовки нового поколения экспертов безопасности в области нейросетей. Об этом сообщила губернатор штата Кэти Хокул.
Решение о запуске инициативы приняли на фоне усиления общественной обеспокоенности после того, что ИИ‑модели продемонстрировали способности взламывать информационные системы, а ведущие исследователи крупнейших ИИ‑лабораторий выступили с предупреждениями.
Проект штата стал реакцией на решение президента США Дональда Трампа не вводить федеральные меры защиты в сфере ИИ. Ранее глава США назвал «мистификацией» опасения по поводу безопасности ИИ. Трамп выбрал добровольную систему мер безопасности, содержание которой раскрыли только технологическим компаниям.
«В то время как федеральное правительство бездействует, Нью‑Йорк лидирует в вопросах безопасности ИИ и привлекает крупные технологические компании к ответственности. Ставки слишком высоки, чтобы просто верить ИИ‑компаниям на слово», — заявила Хокул.
Центр тестирования ИИ финансируют за счёт пожертвования в размере $30 млн от соучредителя Bloomberg Томаса Секунды и инвестиций на сумму $25 млн от SUNY и штата Нью‑Йорк. Запуск инициативы планируют до вступления в силу 1 января 2027 года основного закона Нью‑Йорка о безопасности ИИ — RAISE Act. Для этого потребуется предоставление подробных рамок безопасности от компаний, работающих в штате Нью‑Йорк и занимающихся ИИ. Офис губернатора ожидает, что исследователи нового центра тщательно изучат эти рамки.
Секунда занимает пост председателя совета директоров Empire AI — государственно‑частного консорциума с бюджетом $500 млн. Благодаря Empire AI и исследователям со всего Нью‑Йорка новый центр сможет независимо тестировать системы и предоставлять чиновникам доказательства, которые они могут использовать, заявил Секунда. Empire AI обеспечит этот центр вычислительными мощностями.
По словам Хокул, в программе будут участвовать свыше 80 ведущих учёных и исследователей в области ИИ‑систем со всего штата. За инициативу отвечает Центр ответственности и исследований в области ИИ штата Нью‑Йорк при Бингемтонском университете. Программу возглавляют исполнительный вице‑президент по исследованиям Колумбийского университета Жаннет Винг и проректор Корнеллского технологического института Грег Мориссетт.
«Нам нужны новые методы, которые можно применять к этой новой системе, где рои автономных агентов действуют независимо и без управления. Как можно сначала обнаружить, что они собираются причинить вред, и как предотвратить это? Прелесть предлагаемого подхода заключается в том, что штат выделяет ресурсы для того, чтобы действительно продвинуть это направление» — сказала Винг.
Занявшая большинство мест в обеих палатах Конгресса США Демократическая партия закладывает основу для наступления на рынок ИИ. Демократы планируют вызывать в суд руководителей крупных ИИ‑компаний и принимать законы для обеспечения безопасности и контроля над экспортом.
Штаты Нью‑Йорк и Калифорния зашли дальше остальных в регулировании ИИ‑компаний.