Видеоаналитика на тысячах камер. Как сохранять маржинальность и не скупить весь дата-центр?

Услугами облачного видеонаблюдения пользуются более 250 000 клиентов Ivideon по всему миру. Часто клиенты покупают видеоаналитику сразу на сотни каналов. Как с точки зрения утилизации ресурсов «железа» эффективно организовать пайплайн машинного зрения по обработке видеопотоков? А если клиент хочет аналитику в реальном времени? Как действовать, когда от клиента к клиенту нужно менять целевой девайс (CPU / GPU) для инференса моделей?

Постоянно сталкиваясь с такими вызовами, Данил с командой разработали свою легковесную Python-библиотеку по эффективной организации инференса видеоаналитики для обработки множества видеопотоков. Ее основное предназначение — отойти от технических деталей и заострить внимание на flow трансформации кадров в бизнес-события.

Будет интересно практикующим инженерам, учитывая, что библиотека имеет открытый исходный код.