ВеткаUnsloth Desktop: новий інструмент для локального запуску та навчання штучного інтелекту

Unsloth Desktop: новий інструмент для локального запуску та навчання штучного інтелекту Команда Unsloth AI випустила Unsloth Desktop — повноцінний кросплатформний інструмент, який об'єднує запуск, донавчання та розгортання моделей просто на вашому локальному обладнанні. Це настільний додаток, який дає змогу не просто спілкуватися з моделями в офлайні, а й повноцінно їх кастомізувати без складного налаштування термінала. Новина на x.com. 💻 Підтримувані платформи та залізо Додаток працює на Windows, macOS та Linux, пропонуючи гнучку оптимізацію під найрізноманітніші конфігурації: - Процесори та графічні чипи: Підтримуються звичайні CPU (для чату та створення датасетів), а також мульти-GPU конфігурації від NVIDIA, AMD, Intel та чипи серії Apple Silicon на Mac. - Формати: Повна підтримка стандартів MLX, GGUF, а також різноманітних диффузійних моделей для генерації зображень, аудіо та відео. 🚀 Головні фічі та можливості - Швидке донавчання (Fine-tuning) без коду: Завдяки фірмовим оптимізаціям Unsloth, процес донавчання моделей виконується до 2 разів швидше при зниженні споживання VRAM на 70%. Тепер кастомізувати сучасні відкриті моделі можна навіть на споживчому залізі. - Інтеграція з топ-агентами: Додаток дозволяє напряму підключати популярних кодинг-агентів (таких як Claude Code, OpenAI Codex, Hermes Agent, OpenClaw та OpenCode) до локальних LLM. Ви можете використовувати їх через сумісні API від OpenAI та Anthropic, призначаючи локальні моделі як швидкі суб-агенти. - Підтримка новітніх моделей: Додаток з коробки підтримує роботу з топовими релізами на кшталт Gemma 4, DeepSeek-V4, Qwen, а також сучасними рішеннями для генерації відео й аудіо (MiniMax-H3 тощо). - Контроль інструментів (Tool Calling) нового рівня: Завдяки вбудованому механізму самовідновлення помилок (self-healing) точність виклику інструментів агентами зросла до 50%, а виконання коду ізольоване у безпечних середовищах. 🛠 Вбудований функціонал "З коробки" - Приватний вебпошук та Deep Research: Можливість шукати інформацію в інтернеті та будувати глибокі зведені звіти з посиланнями без передачі даних у хмару. - RAG та підготовка даних: Швидке завантаження власних файлів (PDF, CSV, DOCX тощо) для локального пошуку та створення датасетів за допомогою Data Recipes. - Підтримка стандарту MCP (Model Context Protocol): Підключення локальних моделей до баз даних, файлів та сторонніх додатків. - Експорт весів: Зручне конвертування та експорт навчених моделей у формати NVFP4 та GGUF. - Безпечний віддалений доступ: Можливість безпечно публікувати робочий простір через захищене з'єднання Cloudflare HTTPS (.trycloudflare.com), залишаючись прив'язаним до локалхосту. 📥 Де взяти та як встановити? Проєкт є повністю відкритим (Open-Source), а репозиторій та установочні файли вже доступні спільноті. #GitHub: github.com/unslothai/unsloth #Install #Notebooks