та не, это самое простое и первое, что делают. Там проблема глубже и её возможно знаю те, кто работает с кастомными нейронками у себя на ПК. На винде включить cuda ускорение нейронок как оказалось не так просто
ну я запускаю через lm studio вообще на амдшной карте, и нейронки у меня в дипломе были (computer vision), но звучит как будто тебе надо проверить что-то еще и дать больше инфы для отладки