Одна из причин почему я не фанат VLC это как раз неинтуитивный интерфейс. В нём сделать ручной даунмикс нормально было нельзя, хотя сейчас может уже и можно я не проверял. Есть такая штука AC3Filter, она позволяет самому коэффициенты микса в матрице проставлять (за давностию лет могу врать конечно, но вроде всё так).