"Как обеспечить безопасность и конфиденциальность будущих персональных AI агентов каждого из нас"
Вопрос персональных данных в контексте развития персональных искусственных интеллект-агентов (AI-агентов) и их безопасности.
Основные вопросы, поднятые экспертами:
Перспективы появления персональных AI-агентов к 2030 году.
Определение взаимодействия AI-агентов с пользователями как персональных данных.
Рекомендации по обеспечению безопасности и конфиденциальности AI-агентов в условиях их взаимодействия друг с другом.
Точки зрения и мнения
Появление персональных агентов — это дело, естественно, каждого, однако это потребует доработки нормативной базы. Необходимо предусмотреть инструменты, которые не позволят выводить персональные данные за пределы системы и обеспечат анализ данных для их хранения и уничтожения в соответствии с законодательством.
Цифровые копии людей, включая рабочие и личные, могут появиться раньше 2030 года. Важность регулирования рынка поставщиков этих систем и предоставления пользователям инструментов для управления своими данными и ролями в цифровом мире.
Есть уверенность в более раннем появлении AI-агентов, учитывая разработку подобных агентов компанией МТС. Подчеркивается сложность защиты данных в условиях, когда существует множество ресурсов, где данные обрабатываются без контроля пользователей. Прогнозируемое в 2026 году появление AI-сотрудников, полностью заменяющих определенные роли в компаниях, и связанные с этим вопросы контроля доступа и мониторинга действий таких сотрудников.
Вопрос о том, являются ли данные AI-агента персональными, зависит от того, можно ли однозначно идентифицировать личность на основе этих данных. Если это возможно, то данные являются персональными, в противном случае они могут быть отнесены к серой области или неперсональным данным, в зависимости от подхода и реализации. Это потребует изменений в законодательстве.
Сессия "ИИ в информационной безопасности и Инфобез в ИИ".
ХVIII конференция BIS SUMMIT 2025 – ключевое событие в сфере информационной безопасности в России. Организатор - ассоциация BISA при стратегическом партнерстве InfoWatch.
На протяжении многих лет BIS SUMMIT остается важнейшей площадкой, где объединяются регуляторы, лидеры и эксперты ИТ- и ИБ-отрасли, а в результате дискуссий формируются конкретные предложения для повышения уровня информационной безопасности страны.
Тема «Технологический суверенитет: новая эра ответственности» затронет ряд важных тем и острых вопросов: насколько государство и бизнес готовы к новым вызовам, какие следующие шаги планируются для повышения уровня технологической независимости и безопасности страны, как новые регуляторные требования влияют на ИТ- и ИБ-ландшафт в России.
