pytorch_fun

Напоминалка, что мы ищем волонтёров

Hello, I would like to ask a question. I am a student and still learning. I am training a ResNet3d for action recognition on the GPU of my PC (RTX 4060) using Python. I am using very small videos (processed to make them 100x100 RGB). The dataset has 5300 videos. The problem is that the training crashes because the GPU memory "runs out"; I tried to reduce the batch size, and it still crashes, it just takes more time (this happens before finishing a single epoch). I don't really understand what is consuming the memory, since the individual batches run without issues, but after a while, it crashes. Does anyone have any suggestions? Here is the training code: https://pastebin.com/Tp3wnjdL

#job #DS #remote #senior #python #NLP #PyTorch #TensorFlow #SQL Senior Data Scientist / ML-engineer (remote work) We offer: - salary from $3500 to $4000; - remote work format; - fulltime work Requirements: - Experience with Python, TensorFlow/PyTorch/SciKitLearn, PostgreSQL, Apache Spark, Git; - Senior experience in NLP, ANN development is very important; - Knowledge in statistics, probability theory and linear algebra; - work experience of 5 years and more; - working language: Russian and English; - level: senior and above - Blockchain/crypto experience is prefferdable Responsibilities: - Develop NLP models and deploy them in production; - create and implement the design of experiments for training models; - improve pipelines, optimize models and implement them in the product. Employment info: - 2 types of employment as you prefer: - Official employment in company's branches, based in Cyprus, Bulgaria or Russia with gross payments in local currency - Contract with branches, based in Cyprus or Bulgaria with payment in USDT Send a link to your portfolio and your resume for consideration! Contact for communication: @leolomaev

Растянули на кипарисах гамак и работают. Прелести удалёнки

Yo! Nice to meet you We are gonna hire some AI engineers who can work for our company now

What the company?

Всем привет. Может кто сталкивался с таким вопросом. Работаю с Pytorch, написал свою дифференцируемую функцию для расчета СЛАУ в разреженном виде (с методами forward и backward соответственно). Так вот вопрос в уменьшении использования памяти. В прямом проходе все происходит в разреженном виде(на вход тензор грубо 60000х60000, но не нулевых очень мало, около ~30000), памяти кушает мало, а вот в обратном проходе при вычислении градиента получается плотный тензор 60000х60000, где все величины являются не нулевыми. Читал в интернете, про чекпоинты, разделение оптимизации и прочее, но в данном случае это не подходит) Нужно как-то сократить потребление памяти для matmul. Есть у кого какие советы по этому поводу или только увеличить объем оперативки?)

Можно делать offloading - выгружать в RAM/на диск излишки и подгружать, когда надо

Но это сильно замедляет

#вакансия #ML #удаленка #middle #senior #Python #TensorFlow #PyTorch #PostgreSQL #ApacheSpark #Git 📣 Вакансия: Senior Data Scientist / ML Engineer (Удаленная работа) для проекта анализатора-предсказателя крипторынка Местоположение: Удаленная работа Тип занятости: Полная занятость Зарплатный диапазон: от $3000 до $8000+ Языки программирования и инструменты: Python, TensorFlow, PyTorch, SciKitLearn, PostgreSQL, Apache Spark, Git Опыт работы: - Непрерывный опыт работы 5 и более лет в требуемых стэках технологий - Опыт на уровне старшего специалиста в области обработки естественного языка (NLP) и разработки искусственных нейронных сетей (ANN) Знания в областях: - Статистика - Теория вероятностей - Линейная алгебра Языки: - Русский (обязательно) - Английский (обязательно) Дополнительные требования: - Опыт работы с блокчейном/криптовалютами (обязательно) Обязанности: - Разработка и внедрение моделей NLP в производство - Создание и реализация экспериментов для обучения моделей - Улучшение и оптимизация конвейеров и моделей для интеграции в продукт Специфические задачи по блокчейну/криптовалютам: - взаимодействие с технологиями: блокчейны, DeFi, реестры, Solana, ETH, смарт токены, метаданные токенов, активы с низкой ликвидностью в DeFi, анализ криптовалютного рынка, крипто API Варианты трудоустройства: 1. Официальное трудоустройство: - Местоположение: Филиалы компании на Кипре, в Болгарии или в России - Оплата: Валовые выплаты в местной валюте 2. Договорное трудоустройство: - Местоположение: Филиалы компании на Кипре или в Болгарии - Оплата: USDT Условия работы: - Гибкий рабочий график, 8 часов в день, преимущественно в вечернее время - Возможность работы в других проектах команды Важное примечание: - В настоящее время мы можем рассматривать только рускоговорящих кандидатов. Все указанные как предпочтительные требования фактически являются обязательными. Присылайте ссылку на портфолио и Ваше резюме для рассмотрения! 👉🏽 Контакт для связи: @leolomaev 👈🏽

привет. скажите пожалуйсат. а как torchscript бандлит мой C++ extension когда ему нужно создать объект для исполнения в проде?

где про это можно почитать?

Привет, ребята. Рад присоединиться к этой группе. Кто-нибудь здесь нуждается в надежных выделенных или GPU серверах?

Hi all, I'm an AI engineer with a strong focus on applied machine learning, deep learning, and computer vision, particularly in building real-time, data-driven systems. My recent work involves the intersection of sports science and AI—specifically, using computer vision and ML to augment player development pipelines in football (soccer). The project centers on leveraging body pose estimation and temporal motion analysis to extract biomechanical and technical features from training sessions. These features are fed into a multi-stage classification model designed to predict the most appropriate player role—Striker, Midfielder, Defender, or Goalkeeper—based on learned performance patterns. The pipeline involves: Pose estimation using pre-trained models OpenPose fine-tuned for sports-specific motion Feature engineering across kinematic and dynamic motion variables Temporal modeling using LSTMs to capture sequence-level insights Multi-class classification with techniques like ensemble learning and uncertainty estimation to enhance robustness Deployment-ready architecture using ONNX + TensorRT for real-time inference on edge devices The system is built for post-session analysis, with potential extensions into personalized training feedback, injury prevention insights, and scouting support. I’m particularly interested in collaborating with founders or teams building in the sports analytics, computer vision, or wearable tech space. If you're working on or exploring something aligned, I’d love to have a technical discussion and see if there's a synergistic path forward. Feel free to reach out. Best, Tomson

HI

Всем привет! У кого есть опыт применения автоэнкодеров для обработки временных рядов?

У @DmitrySimakov:)

Hi

Nice to meet you, guis

who can develop the detection person by using deepstream?

hello

lol