В брандмауэре нужно внимательно посмотреть все процессы и запреты. Особенно важен исходящий трафик.
В том, что касается ВПН — изучите инструкцию к нему на предмет настроек прокси (туннелей) для определённых приложений. "Правильные" приложения имеют настройку, в которой можно указать, что именно определённые приложения работают через VPN.
Использую эту опцию и на телефоне, и на компе (постоянно дёргать туда-сюда ВПН при необходимости зайти в банк / почитать ТГ бесит, по правда говоря.