Привет, Хабр! 29 сентября в Москве прошла 19-я ежегодная ИБ-конференция BIS Summit 2026. Организатором выступила Ассоциация по защите деловой информации (BISA) при поддержке ГК InfoWatch.
Раз в год в рамках BIS Summit мы собираем большие открытые дискуссии: на одной площадке вопросы, связанные с ИБ (а в этом году и с ИИ), обсуждают представители крупных компаний и предприятий, министерств и регуляторов, а также независимые эксперты.
Главная тема этого года — «Искусственный интеллект: где граница между прогрессом и угрозой». Обсуждали, как вы поняли из названия, различные аспекты обеспечения безопасности применения ИИ и вопросы его регулирования, риски от внедрения и ответственность за последствия, которые возникают в связи с этим внедрением.
В этом году традиционно были две большие пленарные сессии и восемь тематических секций:
«Собственный искусственный интеллект: что, если не успеем. Риски безопасности»
«Построение защищённой цифровой платформы бизнеса в условиях актуальных угроз»
«Киберинциденты в практике судов»
«Практическая секция по защите от утечек с использованием ИИ»
«Битва трендов ИБ для бизнеса»
«Использование ИИ для сетевой защиты»
«Образование будущего: от учебников к промптам»
«Внедрение технологий искусственного интеллекта в России: вызовы и решения»
Мы собрали 1000 участников офлайн и 2000 онлайн.
Под катом — много фоток, подробности про каждую пленарку, а также набор общих выводов, для понимания того, как сейчас на высшем уровне относятся к ИИ, что собираются с этим делать и как всё это влияет на бизнес.
Открыла конференцию пленарная сессия «Диалог с регулятором», посвящённая вопросам регулирования искусственного интеллекта и ответственности за последствия его применения
Участники
Модераторы: Илья Массух (директор АНО «Центр компетенций по импортозамещению в сфере ИКТ») и Наталья Касперская (президент ГК InfoWatch и председатель правления АРПП «Отечественный софт»).
Участники:
Виталий Лютиков — первый заместитель директора ФСТЭК России
Эдуард Шереметцев — заместитель министра энергетики РФ
Игорь Качалин — генеральный директор АНО «НТЦ ЦК», лидер Консорциума исследований безопасности технологий ИИ
Светлана Орлова — аудитор Счётной палаты РФ
Вадим Уваров — директор департамента информационной безопасности Банка России
Николай Лишин — заместитель руководителя ФМБА России
Александр Шойтов — заместитель министра, Минцифры России
Отдельное место в дискуссии занял вопрос о том, какое место занимает ИИ в текущей парадигме: что это теперь — абсолютно новый уклад нашей жизни или же вполне ожидаемая эволюция, подобная использованию всё более совершенных компьютеров и средств обработки данных.
Эдуард Шереметцев сравнил появление ИИ с «новым огнём» в истории человечества, который поменяет не только технологии в целом, но и сам менталитет людей. В идеале ничего не сжечь по пути.
Николай Лишин отметил, что главное — чтобы при развитии ИИ не произошла деградация естественного.
Что касается вопроса про госрегулирование, то Виталий Лютиков (ФСТЭК) добавил, что ИИ сегодня в этом плане рассматривается как «программное обеспечение с особенностями» и регулируется соответственно. К ним относятся датацентричность — зависимость от данных для обучения — и непредсказуемость. Он отметил, что все механизмы и ограничения модели реализуются её окружением — фильтрами, базами данных. И именно с ними надо работать для обеспечения безопасности. Основные угрозы для государства: утечки конфиденциальной информации из моделей и влияние на работоспособность объектов КИИ.
Не обошлось и без вопросов про степень доверия к ИИ — часто владелец системы даже не знает, где у него стоит ИИ, кто его обучал и насколько он безопасен.
Закончили первую пленарку обсуждением рисков и ответственности при использовании ИИ. В целом спикеры сошлись во мнении, что одна из главных проблем пока состоит в том, что люди начинают чрезмерно доверять ИИ и теряют критическое мышление.
Общий вывод дискуссии: безопасность всегда шла за технологией, так всё было устроено раньше. А вот с ИИ времени на это почти не осталось — нужно выстраивать защиту одновременно с развитием технологии.
В ходе второй пленарной дискуссии «Диалог с бизнесом» на тему «Риски применения ИИ: безопасность и прогресс» эксперты — представители крупных компаний и предприятий — говорили не только об угрозах, но и о мерах по снижению рисков теневого использования ИИ.
Участники
Модератор: Наталья Касперская
Участники:
Степан Клятецкий — директор департамента технической независимости объектов КИИ, госкорпорация «Росатом»
Анна Кулашова — вице-президент по развитию бизнеса в России и странах СНГ, «Лаборатория Касперского»
Александр Крайнов — директор по развитию технологий искусственного интеллекта, «Яндекс»
Вячеслав Береснёв — директор «Нейролаб», руководитель АЛРИИ
Святослав Соловьёв — директор по генеративному искусственному интеллекту, «Альфа-Банк»
Алексей Малинский — директор департамента управления инвестиционными проектами безопасности и планирования, «Норникель»
В самом начале второй пленарки участников попросили пройти небольшой блиц-опрос о том, какие вообще риски от ИИ видит каждый из них.
Отметим, что у каждого спикера было своё видение ситуации.
Степан Клятецкий («Росатом»):
Три уровня рисков:
Технический (галлюцинации, дрифт моделей) — решается настройкой и обвязкой (harness).
Информационный (утечки) — закрытый контур + стандартные средства ИБ.
Операционный — кто отвечает, если мультиагентная система допустит серьёзную ошибку.
Алексей Малинский («Норникель»):
Нарушение законодательства (коммерческая тайна, персональные данные).
Неправильные решения ИИ, которые могут повлиять на производство.
Внешние угрозы: ИИ как окно для атак. В критических процессах ИИ может использоваться только как механизм проверки человеческих решений (двойной контроль).
Александр Крайнов («Яндекс»):
Риск атак с применением ИИ — возможности выросли так резко, что можно не успеть защититься.
Риск невнедрения: если атакующие жгут больше токенов, чем защитники.
Когнитивная перегрузка: ИИ убирает рутину, но создаёт режим постоянного хакатона.
Геополитический риск: жёсткое разделение доступа к лучшим моделям и вычислительным ресурсам.
Риск деградации когнитивных способностей человека (отметим, что этот тезис звучал во время всего саммита довольно часто)
Вячеслав Береснёв:
Риск утраты компетенций (личных и бизнесовых) — делегирование когнитивных функций и данных нескольким экосистемам.
Непросчитываемые социальные последствия (влияние на детей, разрушение социальных связей, разрыв поколений, снижение качества образования).
Святослав Соловьёв («Альфа-Банк»):
Подчеркнул, что риск недооценки необходимости использования ИИ порождает теневые структуры. Считает, что нужно возглавлять процесс, а не запрещать.
Итоги второй пленарки подвела модератор Наталья Касперская:
Стало очевидно главное: мы имеем дело с технологией, которая развивается быстрее, чем мы успеваем договариваться. Целостные подходы к обеспечению безопасности генеративного ИИ до сих пор не выработаны ни у кого в мире. Единственное, что работает — это культура безопасности и готовность перестраиваться практически на ходу, выстраивать защиту периметра в совершенно новых условиях. От того, насколько быстро бизнес и государство научатся слышать друг друга, зависит, окажется ли ИИ инструментом развития или источником новых критических угроз.
И ещё немного фото.
В конце саммита мы провели награждение победителей премии BISA «За вклад в безопасность цифрового будущего», чтобы отметить лучшие проекты, платформы и лидеров, формирующих безопасное цифровое пространство.
Всего было четыре номинации:
«Лучший проект — сервисы цифрового будущего»
«Лучший проект по защите цифровой платформы с применением систем ИИ»
«Лидеры безопасной цифровизации»
«Вклад в развитие сообщества BISA»
Полный список участников и победителей можно посмотреть у нас на сайте.
Что в итоге
Дискуссия на BIS Summit 2026 показывает, что риски внедрения ИИ начали осознавать на самом высоком уровне. Раньше ИБ-отрасль не слушали вообще, а говорили только про внедрение. Однако поскольку наша страна находится в чрезвычайно уязвимой в плане технологий позиции, нам надо быстрее, чем западному миру, адаптировать систему безопасности к искусственному интеллекту — резюмировала дискуссию Наталья Касперская.
У нас снова получилось сделать мероприятие в формате живой и острой дискуссии. Было здорово, спасибо всем, кто пришёл, и тем, кто смотрел нас в трансляции.
Следующий BIS Summit станет юбилейным, уже 20-м по счёту. ИИ развивается очень быстро, так что за год наверняка появятся новые темы (может быть, и конкретные громкие кейсы), которые привлекут всеобщее внимание или вообще станут главной темой нового саммита.
В общем, если к сентябрю 2027 ИИ не захватит человечество, значит, точно увидимся!
Хотя, 2027 — это 30-летний юбилей со дня обретения Skynet сознания...