Устойчивость и интерпретируемость моделей компьютерного зрения на примере системы автоматического отсмотра контента

Спикеры расскажут про систему автоматического отсмотра контента, которую разработали в Viasat Tech. Цель системы — искать моменты, которые необходимо скрывать от пользователей в связи с требованиями Роскомнадзора. Данная система способна распознавать сцены с курением, распитием алкогольных напитков, сцены эротического характера и другие.

В основе системы лежат модели искусственного интеллекта, которые решают задачи классификации, детекции объектов. Требования к контенту постоянно меняются, и необходимо регулярно пересматривать контент на отсутствие определенных сцен, чтобы соответствовать новым правилам. 

Однако традиционные методы обучения моделей искусственного интеллекта имеют определенные недостатки, в том числе связанные с неустойчивостью получаемых моделей даже при незначительном изменении распределения входных данных.

Так как система является критически важной, у человека должна быть возможность ее интерпретировать. В связи с этим полученные модели исследовали на устойчивость к отклонениям входных данных и на интерпретируемость. Также при разработке решения использовали методы робастного обучения для повышения устойчивости и измерили метрики интерпретируемости для моделей.