简体中文
Telegram

讨论串т.е. карточку при генерации ответа практически не грузит

7 条消息 · –
O
т.е. карточку при генерации ответа практически не грузит
  1. R
    Чето контекста как будто не хватает какого-то
    1. O
      код довольно большой, могу в личку кинуть, если шаришь в этой теме и можешь помочь
      1. R
        В личку не надо, в целом не работаю с ллмками, но подозрение что можно вписать пайторчу девайс cuda дефолтный
        1. O
          та не, это самое простое и первое, что делают. Там проблема глубже и её возможно знаю те, кто работает с кастомными нейронками у себя на ПК. На винде включить cuda ускорение нейронок как оказалось не так просто
          1. R
            ну я запускаю через lm studio вообще на амдшной карте, и нейронки у меня в дипломе были (computer vision), но звучит как будто тебе надо проверить что-то еще и дать больше инфы для отладки

来自搜索索引的公开信息流 ChatCrawler ——“公开 Telegram 的 Google”;随着该社群被抓取而更新。 时间为 UTC。

仅限公开内容,使用 Telegram 官方 API。 关于 · 常见问题 · 索引限制 · 移除页面 · 目录 · 搜索 · 计算方法