Альфа-Банк: кто отвечает за ошибки ИИ: контекст, контроли, AI governance - Александр Бояркин
Александр Бояркин, лидер Data Governance-трансформации Альфа-Банк. Форум Data Day 2026 «ИИ + Данные». Организатор — Издательский дом «Регламент».
Управление ИИ нельзя строить отдельно от управления данными. В основе и data governance, и AI governance лежит доверие к данным, но для ИИ этого уже недостаточно: нужно не только понимать, какие данные используются, но и зачем они созданы, в каком процессе их можно применять и кто несёт ответственность за результат. Именно поэтому управление ИИ должно быть продолжением существующей системы управления данными, а не параллельным и оторванным контуром.
Один из ключевых тезисов — ошибка ИИ почти всегда начинается раньше, чем сама ошибка в модели. Проблема возникает там, где данные описаны формально, без бизнес-контекста, либо вообще не описаны, а затем попадают в агент или модель как будто это уже готовая инструкция. Машина не умеет «читать между строк», поэтому она может принять неверное решение не из-за плохого алгоритма как такового, а из-за того, что исходные данные не несут полной семантики использования. Отсюда вывод: данные должны быть понятны не только человеку, но и системе, которая на их основе принимает решение.
В выступлении подчёркивается, что для доверия к данным и управляемости ИИ нужны три опоры: контекст, контроли и контракты. Контекст делает данные объяснимыми и пригодными для повторного и безопасного использования. Контроли нужны не на этапе, когда инцидент уже произошёл в промышленной среде, а значительно раньше — при проектировании и внедрении. Контракты фиксируют ожидания между потребителем и источником данных, включая требования к качеству и уровню сервиса, чтобы дальнейшая работа не превращалась в набор сюрпризов и ручных исправлений.
Отдельный важный акцент сделан на том, что бумажные SLA и формальные договорённости не работают достаточно надёжно. Их легко обойти, если система контроля не встроена в сам процесс разработки. Поэтому предлагается подход policies as code, когда требования к данным, правила контроля качества и ограничения по использованию встроены в систему и не могут быть проигнорированы без нарушения самого процесса поставки. Это переводит управление из режима деклараций в режим обязательной практики.
Ещё один сильный вывод связан с распределением ответственности. За данные отвечает владелец данных, за модель — владелец модели, а за принятое на основе этих данных решение — бизнес. Но в реальности успех возможен только тогда, когда эти роли не существуют изолированно, а тесно взаимодействуют. Бизнес должен понимать, кто владеет данными, а владельцы данных и моделей должны быть включены в общий контур принятия решений и управления рисками. Идеальная модель — когда ответственность собрана в одном контуре и все участники видят всю вертикаль, но если это невозможно, критически важна плотная коммуникация между подразделениями.
Раннее проектирование экономит больше, чем потом стоит исправление ошибок. Если не перенести «бутылочное горлышко» в начало процесса, оно неизбежно возникнет позже на проме, где проблемы придётся лечить вручную, тратить время операционных команд и возвращаться к пересборке архитектуры. Поэтому ценность подхода — не в дополнительной бюрократии, а в том, чтобы ещё на старте подумать о данных, их контексте и контролях. Тогда внедрение становится быстрее и надёжнее, а риски на промышленной эксплуатации заметно снижаются.
