Deutsch
Telegram
Sprache
РусскийEnglishУкраїнськаFrançaisEspañolItalianoPortuguês简体中文العربيةفارسی
Design
Web-AppIn Telegram öffnen
ССообщество Python ПрограммистовСообщество Python Программистов@python_scripts · Gruppe · 4 169 Mitglieder✅ Hohes Vertrauen

Threadт.е. карточку при генерации ответа практически не грузит

7 Nachrichten · –
O
Oleg
т.е. карточку при генерации ответа практически не грузит
  1. R
    Rud 356
    Чето контекста как будто не хватает какого-то
    1. O
      Oleg
      код довольно большой, могу в личку кинуть, если шаришь в этой теме и можешь помочь
      1. R
        Rud 356
        В личку не надо, в целом не работаю с ллмками, но подозрение что можно вписать пайторчу девайс cuda дефолтный
        1. O
          Oleg
          та не, это самое простое и первое, что делают. Там проблема глубже и её возможно знаю те, кто работает с кастомными нейронками у себя на ПК. На винде включить cuda ускорение нейронок как оказалось не так просто
          1. R
            Rud 356
            ну я запускаю через lm studio вообще на амдшной карте, и нейронки у меня в дипломе были (computer vision), но звучит как будто тебе надо проверить что-то еще и дать больше инфы для отладки
ССообщество Python ПрограммистовСообщество Python Программистов@python_scripts · Gruppe · Technik
4 169Mitglieder43schreiben in 30 Tagen
Community-Feed In Telegram öffnen

Ein offener öffentlicher Feed aus dem Suchindex ChatCrawler — „Google für das öffentliche Telegram“; wird aktualisiert, während die Community gecrawlt wird. Zeiten in UTC.

Nur öffentliche Inhalte, offizielle Telegram-API. Über uns · FAQ · Grenzen des Index · Seite entfernen · Katalog · Suche · So zählen wir