Сообщество Python Программистов — сообщения за 1 июля 2025

Сообщения за 1 июля 2025

2025-07-01×

1 июля 2025

SSP

BINСхуяли не шаришь. Каждый 5-ый прогер это кошкомальчик с аниме тян или просто с какой-то шалавой в аве

Напомните, когда наступает эта фаза? После 25?

05:34

Привет 🌚

Стикер
нажмите — покажем

👍

05:37

Dmitry

Я начал работать с библиотекой torch, но почему-то она не видит мою видеокарту. Кто-нибудь знает решение проблемы?

15:39

O
Oleg Karasev
торч "видит" видеокарту через CUDA. когда ты пишешь torch.cuda_is_available() - он обращается к более низкоуровневой библиотеке. скорее всего проблема именно с CUDA драйверами. видеокарта от нвидиа?
15:47
1. D
  Dmitry
  Да. 3060 ti
  15:49
2. D
  Dmitry
  А ты знаешь как решить эту проблему?
  15:49
  1. R
    Rud 356
    Да бож, зайди на страницу пайторча и там get started и выкачиваешь нужную тебе версию с кудой и прочим
    16:33

Вся ветка · 4 ответа →

Oleg Karasev

CUDA драйвера - та еще радость. но у торча довольно неплохая инструкция по установке. посмотри в их документацию и убедись, что ты установил верные версии торча и куда драйверов

15:50

D
Dmitry
Хорошо. Спасибо
15:53

Вся ветка · 1 ответ →

Oleg

народ, у кого получилось на винде запустить через питон нейронку с CUDA ускорением? второй день ковыряю, карту грузит до 15% и всё. (модель safetensors на 4090, с GGUF моделями проблем таких нет)

16:14

R
Rud 356
Нейронка какая конкретно, в чем запускаешь, как запускаешь?
16:35
1. O
  Oleg
  в пайчарм: import torch from transformers import AutoModelForCausalLM, AutoTokenizer model_name = "Qwen/Qwen3-8B"
  16:37

Вся ветка · 2 ответа →

Rud 356

Все элементарно же делается, просто надо прочитать

16:33

Rud 356

Ладно бы еще rocm был, но куда элементарно встает

16:34

Oleg

на 4090: 📊 ⚡️ Fast | Время: 8.75с | Токенов: 15 | Скорость: 1.8 tok/s 🎮 GPU до: 0.0% | после: 18.0%

16:38

Oleg

т.е. карточку при генерации ответа практически не грузит

16:38

R
Rud 356
Чето контекста как будто не хватает какого-то
16:52
1. O
  Oleg
  код довольно большой, могу в личку кинуть, если шаришь в этой теме и можешь помочь
  17:10
  1. R
    Rud 356
    В личку не надо, в целом не работаю с ллмками, но подозрение что можно вписать пайторчу девайс cuda дефолтный
    17:20
    1. O
      Oleg
      та не, это самое простое и первое, что делают. Там проблема глубже и её возможно знаю те, кто работает с кастомными нейронками у себя на ПК. На винде включить cuda ускорение нейронок как оказалось не так просто
      17:29
      1. R
        Rud 356
        ну я запускаю через lm studio вообще на амдшной карте, и нейронки у меня в дипломе были (computer vision), но звучит как будто тебе надо проверить что-то еще и дать больше инфы для отладки
        17:31
  2. R
    Rud 356
    https://docs.pytorch.org/docs/stable/generated/torch.set_default_device.html
    17:21

Вся ветка · 6 ответов →

Rud 356

попробуй так, возможно загрузчик моделей другой автоматом определял девайс, а в этой конфигурации оно так не делает

17:22

Rud 356

скинь хотя бы вывод того, что у тебя там пишет pytorch по девайсам

17:32