Веб-версияОткрыть в Telegram

ВеткаВообще, посыл то статьи в том, что все больше кода пишется иишками, проверяется иишками и т.п., и со временем это может …

21 сообщение · –
S
Вообще, посыл то статьи в том, что все больше кода пишется иишками, проверяется иишками и т.п., и со временем это может эволюционировать в код, который человеку не дано будет понять. Это не про сейчас.
  1. S
    Да, об этом интересно подумать. Но мне кажется, описанное в статье может быть справедливо для других типов нейросетей. Не для llm. Потому что language в этой аббревиатуре, как мне кажется, накладывает некоторые рамки.
  2. O
    Пока оно не может нести ответственности, будет человек который эту ответственность берет, и соответственно верифицирует код. И совсем непонятный не должен пропустить :)
    1. S
      Но ведь не так далеко до того, что это разовьётся, и человек будет только приемочное тестирование проходить. А что там внутри будет черным ящиком.
      1. O
        За черный ящик надо нести ответственность :) а не зная что внутри, Это в серьезных вещах мало кто захочет
        1. S
          Есть у меня большие сомнения))) "Нет такой вещи, на которую не пойдет капитал ради 300% прибыли"
      2. S
        Такое вероятно. Но мне кажется, тут два пути: Либо внутрь (хотя бы в архитектуру) заглядывать всё же придётся, либо мы придём к технологической сингулярности, где будут совершенно другие проблемы и заботы
        1. S
          У нас уже некоторые команды пришли к тому что у них есть копия приложения на английском. Все что они делают - ревью спек. То есть не кода, а этой самой войны и мира. Это я считаю фигня обречена на провал Спеки хороши как дополнение чтобы понимать бизнес задачу,ю но не замена коду. В общем понаблюдаю что у них через год будет У нас уже некоторые инженеры по 700 баксов на токены сливают (я 150 Макс)
          1. S
            Вообще да, если задуматься, то в этих спеках будет или копия кодовой базы или они будут не сильно полезные. Гораздо лучше построить такие абстракции в самой кодовой базе, чтобы код читался как эта самая спека. DDD как раз призван отвечать на этот запрос
            1. V
              В такой код при сложных сценариях проникает инфраструктурщина и что-то кроме спеки(ну либо у меня криво все выходит) Тут надо на транзакции разбить, тут что-то дёрнуть именно техническое. Получается прекрасный сценарий "как оно все представляется в домене" размывается шагами "как это делается в железе". Инварианты домена хорошо, но есть такие инварианты, которые требуют "кривых реализаций" или гораздо более "низкоуровневых" дерганий. Точная спецификация домена и точная спецификация домена в железе=код, разные вещи. И то какие хаки ты делаешь будет зависеть от платформы, ОС, инфры и т.д., то есть того, на что домену (должно быть?) плевать. Получается код = спецификация домена + техническая обвязка позволяющая этому выполняться. Зачем домену знать что такое обсервабл, потоки и т.д.? Зачем домену знания о конкретных механизмах отката транзакций? А коду = разработчику приходится знать.
              1. S
                Очень хороший комментарий Надо чутка пообдумать
          2. K
            700 баксов в месяц это жуть, я тоже думал как оптимизировать. сейчас смотрю в сторону self-hosted - арендовать GPU и крутить свою модель выходит дешевле чем платить за токены?
            1. S
              Для любой нормальной ллм нужны сотни гигов видеопамяти :) это точно не будет дешевле. А опенсорсные модели крутить на 16B-32B особо смысла не вижу, ещё и платить за это. Ладно там поиграться на своем железе. Прост не нужно тратить токены на астры, фейблы и прочий хайп. Даже flash моделей хватает на нормальную работу, а они очень сильно дешевле, порой на порядок. Ну и китайские братья тоже не отстают
            2. A
              да, если нагрузка постоянная то однозначно дешевле. я для этих целей GPU-инстанс на regcloud держу - A100 почасово, когда надо поднимаю инфренс, батчи прогоняю и выключаю. выходит раз в 5-6 экономичнее чем готовые API платить
              1. S
                Так у OpenAI и других есть и так batch API, который в 5 раз дешевле :)
      3. V
        Занятная аналогия - медицина. Мы плохо понимаем как работает вообще все тело прям досконально. И уж тем более каждый врач - есть справочники и специализации. И возможно в будущем у нас будут - "джесонопевты", "монгопатологи" и т.д. - узкая специализация которая работает с ограниченным набором проблем не решая всю задачу целиком. И в основном на опыте , а не смотря на весь набор "100% рабочих и просчитываемых вещей"
  3. V
    Уже давно существуют кодовые базы которые не умещаются в голове целиком. ЛЛЛмки доводят любую кодовую базу до такого состояния просто за счет скорости изменения + объема кода. Текущий тренд - понимание всего кода не нужно, нужны процессы и практики, когда локальные маленькие проблемы и локальные маленькие изменения не ломают общую сеть из миллионов локальных кейсов. Это печально выглядит в текущих формах.
    1. O
      На последних докладах что смотрел, что даже если полностью всю кодовую базу пихать в безразмерный конспект есть предел достаточно небольшой после которого лучше не становится. И поэтому спики и ддд тут как никогда кстати
      1. V
        Существует достаточно точное и непротиворечивое описание предметной области сводимое к некоторому континууму реализаций в программном коде, все из которых работают?
ЧЧат .NET РазработчиковЧат .NET Разработчиков@netdeveloperschat · группа · Технологии
777участников33пишущих за 30 дней
Лента площадки Открыть в Telegram

Открытая публичная лента из поискового индекса ChatCrawler — «Google по публичному Telegram»; обновляется по мере обхода площадки. Время — UTC.

Только публичный контент, официальный API Telegram. О проекте · Вопросы · Чего мы не делаем · Убрать страницу из выдачи · Каталог · Поиск · Как мы считаем