В Минске прошло одно из основных комьюнити AI сообщества «Вечерняя ИИшница» которое собрало 450+ участников
«Вечерняя ИИшница» вызвала живой интерес у участников: в зале буквально не было мест, и с первых минут выступления нашего спикера директора Департамента перспективных технологий и информационной безопасности Жукова Евгения было понятно, что тема оказалась особенно актуальной. Аудитория активно включилась в диалог, задавала много правильных и содержательных вопросов, а сама дискуссия получилась не формальной, а по-настоящему практической и полезной.
В своём выступлении Евгений подчеркнул, что ни одна машина и ни один робот не смогут заменить человека с его возможностями, опытом и потенциалом. Именно поэтому, по его словам, вопросы кибербезопасности должны подниматься при роботизации и автоматизации процессов в каждой компании.
Безопасность ИИ
Ключевой темой выступления стала безопасность искусственного интеллекта и его влияние на персональные данные. Евгений отметил, что ИИ сегодня – это не просто инструмент для работы, а фундаментальная часть глобальной ИТ-инфраструктуры. Однако вместе с огромным потенциалом он несёт и серьёзные риски: утечки данных, ошибки в ответах, так называемые «галлюцинации», потерю контроля над автоматизированными системами и угрозу нарушения конфиденциальности.
Галлюцинации ИИ
Особое внимание наш спикер уделил проблеме «галлюцинаций» ИИ. Он пояснил, что нейросети могут уверенно выдавать неверную информацию, а значит, воспринимать их ответы как абсолютную истину нельзя. По словам Евгения, ИИ может быть полезным помощником, но не должен становиться единственным источником принятия решений, особенно если речь идёт о юридически значимых, финансовых или персональных данных.
Защита информации
Отдельный блок выступления был посвящён защите информации. Евгений прямо задал аудитории вопросы о том, кто чем пользуется, что именно люди спрашивают у нейросетей и какие данные загружают в сервисы искусственного интеллекта. Он спросил, задумывались ли участники о персональных данных и знают ли, что в стране существует соответствующее законодательство и получил уверенные и интересные ответы. После этого он обсудил с залом, загружают ли пользователи в нейросети ФИО, персональные данные, фотографии, паспорта, адреса и телефоны.
RAG, Grounding, DPIA
Спикер также разъяснил понятия, важные для практики безопасного использования ИИ. В частности, он объяснил, что такое RAG и grounding по внутренним источникам – то есть механизм, при котором ИИ опирается не на абстрактные ответы, а на внутренние документы компании. Также он рассказал, что такое DPIA – оценка воздействия на защиту персональных данных, и зачем она нужна при запуске новых AI-сценариев. Кроме того, Евгений отдельно остановился на логировании промптов и ответов, версионировании моделей, регулярных тестах на галлюцинации и предвзятость, а также на плане реагирования на ИИ-инциденты.
Контрактная защита
Важной частью выступления стал вопрос контрактной защиты. Евгений подчеркнул, что при использовании внешних AI-сервисов в договорах необходимо прямо закреплять, что провайдеры не обучают свои модели на данных компании без согласия заказчика, а также несут ответственность за нарушения, связанные с безопасностью и утечками.
Регулирование ИИ
В завершение Евгений сформулировал системный подход к регулированию ИИ на уровне страны и бизнеса. Он отметил, что для безопасного развития этой сферы необходимо создать инициативную рабочую группу совместно с регулятором и государственными органами, сформировать обязательное обучение сотрудников по безопасной работе с ИИ, внедрить внутренние политики и документы в каждой компании, а также обеспечить надежную защиту от утечек данных.
Выступление Евгения вызвало большой отклик у аудитории. Участники задавали много профессиональных вопросов, и на каждый из них спикер отвечал уверенно, предметно и с глубоким пониманием темы. Компания Mersis Group выступили главным партнёром данного мероприятия. По итогам встречи можно сказать, что мероприятие стало не просто лекцией, а полноценной площадкой для обсуждения будущего ИИ, кибербезопасности и персональных данных.
