Ну почему все через Ж? Программный видеомикшер должен иметь богатые возможности по видеовыводу. Еще есть варианты - альтернатива резолюму? Такая простая задача и никакого путевого решения (.
Еще раз конкретизируем.
1. Имеем две вэб камеры.
2. Получаем с них видео и формируем PIP - картинку в картинке.
3 Выводим как видеопоток от виртуального устройства (для последующего использования, например для передачи по сети или публикации на вэб сайте).
Резолюм не может выводить видеопоток как виртуальное устройство, только на экран.
Родилась бредовая идея. Такого софта тоже, наверника, нет. Что то вроде драйвера виртуального монитора на который можно выводить картинку, а этот драйвер преобразует картинку в видеопоток, который можно было бы использовать.