Сразу оговорюсь: хотел опубликовать недоверия пост, но не хватило символов, поэтому статья, но небольшая.
Речь об одной маленькой лакуне в действующем законодательстве России. Смотрим пп. «ц» п. 5 Национальной стратегии развития искусственного интеллекта на период до 2 030 года, утв. Указом Президента РФ от 10.10.2019 № 490:
доверенные технологии искусственного интеллекта — технологии, отвечающие стандартам безопасности, разработанные с учетом принципов объективности, недискриминации, этичности, исключающие при их использовании возможность причинения вреда человеку и нарушения его основополагающих прав и свобод, нанесения ущерба интересам общества и государства
По идее, здесь следует ожидать нормативный акт уровня федерального закона или хотя бы постановления Правительства РФ, в котором бы прописывались указанные стандарты безопасности, то, как принципы объективности, недискриминации и этичности «ложатся» на искусственный интеллект, как добиваться исключения причинения вреда человеку и так далее. Вероятно, появится какой‑нибудь реестр, который тоже надо как‑то вести.
В общем, без конкретики это всего лишь декларация.
При этом термин уже используется во вполне приземленных актах (да, их немного, но он есть): Приказ ФСТЭК России от 11.04.2025 № 117 «Об утверждении Требований о защите информации, содержащейся в государственных информационных системах, иных информационных системах государственных органов, государственных унитарных предприятий, государственных учреждений», п. 49:
… В ходе проведения мониторинга информационной безопасности для анализа зафиксированных событий безопасности и выявленных в них признаков реализации актуальных угроз допускается использование доверенных технологий искусственного интеллекта <17>.
‑--‑--‑--‑--‑--‑--‑--‑--
<17> Подпункт «ц» пункта 5 Национальной стратегии развития искусственного интеллекта.
П. 61:
… Непосредственно в состав информационных систем должны включаться доверенные технологии искусственного интеллекта <25> или их компоненты.
‑--‑--‑--‑--‑--‑--‑--‑--
<25> Подпункт «ц» пункта 5 Национальной стратегии развития искусственного интеллекта.
Но вот есть же ГОСТ Р 59276–2020 «Системы искусственного интеллекта. Способы обеспечения доверия. Общие положения», введенный в действие 01.03.2021 г.! Однако сразу бросается в глаза семантическое несоответствие: здесь «доверенные технологии», а там «доверие» и «системы». Не все технологии являются системами и не все системы — технологиями. См. п. 3.4:
доверенная система искусственного интеллекта: Система искусственного интеллекта, в отношении которой потребитель и, при необходимости, организации, ответственные за регулирование вопросов создания и применения систем искусственного интеллекта, проявляют доверие
А следом п. 3.3:
доверие к системе искусственного интеллекта: Уверенность потребителя, и при необходимости, организаций, ответственных за регулирование вопросов создания и применения систем искусственного интеллекта, и иных заинтересованных сторон в том, что система способна выполнять возложенные на нее задачи с требуемым качеством
Снова «не бьется». «Доверенные технологии ИИ» из Национальной стратегии — это о свойствах, соответствии требованиям; «доверенная система ИИ» из ГОСТа — о функциональности.
Ну и до кучи: термин «Доверенные технологии искусственного интеллекта» появился в Национальной стратегии только в 2 024 году (Указ Президента РФ от 15.02.2024 № 124), тогда как ГОСТ — от 2 021 года. Т.е. они вообще никак не связаны!
Соответственно, вознамерься кто‑нибудь выполнить положения 117-го приказа ФСТЭК — руководствоваться ГОСТом нецелесообразно.
Вероятно, какое‑то нормативное «бурление» в кулуарах имеет место быть. Об этом свидетельствует проект Приказа ФСТЭК России «О внесении изменений в Требования о защите информации, содержащейся в государственных информационных системах, иных информационных системах государственных органов, государственных унитарных предприятий, государственных учреждений, утвержденные приказом Федеральной службы по техническому и экспортному контролю от 11 апреля 2 025 г. N 117» (подготовлен ФСТЭК России, ID проекта 01/02/08-26/00170500), которым оба пункта, содержащие слова «доверенные технологии», подлежат изменению, п. 2:
В абзаце третьем пункта 49 слово «доверенных» исключить
П. 8:
Пункт 61 изложить в следующей редакции:
«61. При применении агентов искусственного интеллекта, в том числе автономных агентов искусственного интеллекта, оператором (обладателем информации) информационной системы должны быть приняты меры защиты информации, направленные на предотвращение несанкционированного воздействия на ресурсы информационной системы, а также контроль и управление правами доступа агентов в соответствии с внутренними стандартами и регламентами по защите информации.
При использовании в информационных системах сервисов на основе моделей искусственного интеллекта осуществляемые подрядной организацией мероприятия и меры защиты информации устанавливаются во внутренних стандартах и регламентах по защите информации.»
И хотя это всего лишь проект, тем не менее становится очевидно, что у ФСТЭК какое‑то свое видение этой ситуации.
На текущий момент в отношении доверенных технологий ИИ обсуждать нечего, увы…