То есть тебе нужны раздельные не зависимые каналы одного source на два? мониторы и наушники?

Не думаю что проблема софтовая, это может быть лимит звуковой карты, что наушники просто передают сигнал с мастера.

В звуковой карте есть 2 стерео (или 4 моно) выхода на задней панели? Попробуй заюзать такой переходник для подключения наушников:

(clickable)
4d0081a3af3d9fcc2057aecc7bbee207-12eadb2c00532cbc4b345777f1ef6414.jpg