English
Open in Telegram

Threadт.е. карточку при генерации ответа практически не грузит

7 messages · –
O
т.е. карточку при генерации ответа практически не грузит
  1. R
    Чето контекста как будто не хватает какого-то
    1. O
      код довольно большой, могу в личку кинуть, если шаришь в этой теме и можешь помочь
      1. R
        В личку не надо, в целом не работаю с ллмками, но подозрение что можно вписать пайторчу девайс cuda дефолтный
        1. O
          та не, это самое простое и первое, что делают. Там проблема глубже и её возможно знаю те, кто работает с кастомными нейронками у себя на ПК. На винде включить cuda ускорение нейронок как оказалось не так просто
          1. R
            ну я запускаю через lm studio вообще на амдшной карте, и нейронки у меня в дипломе были (computer vision), но звучит как будто тебе надо проверить что-то еще и дать больше инфы для отладки
ССообщество Python ПрограммистовСообщество Python Программистов@python_scripts · group · Tech
4 169members43writing in 30 days
Venue feed Open in Telegram

An open public feed from the search index ChatCrawler — “Google for public Telegram”; refreshed as the venue is crawled. Times are UTC.

Public content only, official Telegram API. About · FAQ · Index limits · Remove a page · Catalog · Search · How we count