Назначение и границы
Для системы определены цель, допустимые сценарии и ситуации, в которых решение передаётся человеку.
Надёжный ИИ
Надёжность прежде масштаба
В строительстве и инфраструктуре ошибка цифровой системы может влиять на сроки, качество, безопасность и доверие людей. Поэтому ответственный ИИ для нас — не декларация, а набор инженерных требований.
Доверие — часть архитектуры
Защита данных, человеческий контроль, проверяемость, качество и ответственность закладываются до расширения возможностей системы.
Защита данных
Используются только необходимые данные, в согласованном контуре и с управляемыми правами доступа.
Человеческий контроль
Значимые решения подтверждаются ответственным специалистом.
Проверяемость
Источники, действия и результаты доступны для контроля в объёме, необходимом конкретному сценарию.
Оценка качества
Система проверяется до применения и наблюдается после внедрения.
Ответственность
У решения определены владельцы продукта, данных, эксплуатации и риска.