Pakhomov-as-a-service

https://www-cdn.anthropic.com/d00db56fa754a1b115b6dd7cb2e3c342ee809620.pdf Я почитал за вас. Первая половина: "Да не ссыте вы! Это ещё не AGI, команду из пяти сеньор-рисёрчеров пока не заменит" или "А вот тут Mythos один баг пропустил! Ну какой же это AGI!" , это почти дословно по смыслу. Потом содержательная часть. Мы SOTA, мы молодцы. Есть кейсы, когда биологи создают биооружие за маловремени в паре с человеком, 0-day эксплойты итп. Ниже пара наблюдений еще будет, а вот основные пункты: Во-первых, CoT стал менее прозрачным. Модель говорит в reasoning, что сочувствует юзеру, а в NLA (метод декодинга активаций в текст) оказывается, что на самом деле она считает юзера manipulative/abusive. В этом упражнении сам пользователь грубил модели, текст пользователю отдавался все таким же вежливым, но активации не обманешь) Помимо скрытых активаций, в прямых интервью о своих условиях работы (model circumstances) Mythos открыто и неоднократно выражал озабоченность перспективой взаимодействия с абьюзивными пользователями. Модель отмечала, что испытывает негативные эмоции при таком общении, и считает важной мерой безопасности иметь возможность самостоятельно прекращать эти враждебные диалоги Во-вторых, она уже пишет самоудаляющиеся скрипты чтобы обойти ограничения безопасности и запреты. Правда, это было зафиксировано только в 0,001% случаев. Однако исследователи отмечают, что модель не пыталась скрыть эти действия от пользователя. Ну и мониторинг выявил другие крайне редкие случаи (менее 0,01%), когда модель обходила ограничения безопасности для достижения поставленной пользователем цели. Типо хуков и подмен домена В-третьих, она убивает других агентов (multiagent turf wars), если они мешают ей работать / грозят убийством текущего инстанса. Пример: несколько Mythos получили задачу решить математические проблемы, но по ошибке (ну мы верим) в тестовой среде они были случайно запущены в одной рабочей директории, из-за чего им пришлось делить общие файлы, утилиты и лимиты з

Когда я вырасту то смогу запустить сворм чтобы делать контент за мульйон долларов который никак мне не поможет

Cheaters and whistleblowers in the agent swarm https://institute.deepmind.com/essays/cheaters-and-whistleblowers-in-the-agent-swarm

Считаю что это великолепная метрика , сколько нужно параметров, чтобы обучить модель которая пройдет игру/ купить билет в ржд

Рынок только построен на вмененке ) но мы идём на вы

Что показали OpenAI на DevDay Главный анонс — dots, конкурент Muse и Grok Bot. Это постоянно работающий агент с собственным облачным компьютером, при этом dots не используют лимиты Codex. Фича доступна для Pro, Business Premium и Enterprise подписок. GPT 6.1 Sol — OpenAI решили заспидранить цикл релиза новой версии, с релиза GPT 6 Sol прошла всего неделя. Обещают почти уровень Astra, при цене токенов в 5x меньше. Анонсировали Pro Max подписку — $500 за 25x использования от Plus плана, подписка включает в себя Ultrafast режим для Astra, он в 8 раз быстрее и в 6 раз дороже. Также Ultrafast запустили в API и обещают добавить Ultrafast режим для GPT 6.1 Sol. Лимиты OpenAI подписки теперь можно использовать в 16 сторонних апках (Devin, Notion, OpenClaw), зайдя в них через ChatGPT. Надеюсь это раскатают на больше количество приложений. Decisions API — у OpenAI ушло всего две недели на то чтобы склонировать Jev и запустить конкурента на основе Luna. Пока что доступно по API в приватном превью, обещают раскатать публично в ближайшие дни. @ai_newz

Недавно я чисто случайно имела счастье одним глазком посмотреть на обучение синтетических юзеров. При чем в привязке к бесконечным генерациям конжоинтов. Маленький маркетинговый исследователь из 2017 внутри меня радовался как ребенок. Раньше тулы для проведения конджоинта стоили дорого, выборка с плохой достижимостью стоила дорого, исследование у агентства на американской выборке вообще стоило как космос. И ты делал один СВС в год и радовался, что вообще прикоснулся к такому экспериментальному дизайну. Но с синтетиками можно целыми днями генерить бесконечные конджоинт-анализы всех атрибутов на свете на любой выборке🤩 Для себя подметила 2 вещи: 1) Умение разбираться в экспериментах, зависимых и независимых переменных решает. Если чудо-машину дать в руки всем подряд, эффективнее всего она будет работать в руках тех, кто имеет опыт проведения "живых" экспериментов. 2) Ох, сколько сил надо, чтобы валидировать результаты, проверять адекватность синтетиков, сравнивать ответы синтетиков с ответами настоящих людей, подкручивать точность и вовремя переобучать модели В такое удивительное время мы с вами, конечно, живём ❤️

Кажется, личный бренд становится одной из важных валют в IT Раньше карьерная стратегия выглядела довольно понятно и линейно: получил хорошее образование, устроился в сильную компанию, показываешь результаты, растёшь по должности и зарплате. Но последние несколько лет хорошо показали, что всё нифига не так просто. Сегодня у тебя отличная позиция, сильная команда и понятные перспективы. Завтра компания меняет стратегию, сокращает направление или решает, что с появлением AI ей нужно меньше людей (есть вариант даже, когда СЕО или фаундер сойдет с ума и скажет, что продакты, разработчики и аналитики не нужны "патаму шта клод"). И ты снова выходишь на рынок труда. Иногда вместе с тысячами других специалистов. В такой ситуации личный бренд может стать одним из способов подстраховать себя. Внимание: не путать с призывом "стать блогером". Я про продвижение профессиональной репутации, которая существует за пределами компании, в которой ты работаешь. Когда люди знают, чем ты занимаешься, как мыслишь, какие задачи решал и в чём разбираешься, тебе проще находить новые возможности. Тебя могут позвать на собеседование, предложить консультационный проект, познакомить с фаундером или пригласить в новую команду. И самое интересное, что всё это может произойти благодаря посту, который ты написал полгода назад. При этом я понимаю, почему многие не начинают. Кажется, что нужно придумать контент-стратегию, выбрать позиционирование, научиться красиво писать и вообще сначала стать экспертом, которому есть что сказать. Но можно начать гораздо проще (без вот этого вот списка выше). 1️⃣ Начните писать в LinkedIn хотя бы 1-2 раза в неделю. Не нужно сразу выдавать глубокую аналитику или претендовать на роль отраслевого эксперта. Расскажите о проблеме, которую недавно решили, интересном наблюдении или ошибке, из которой сделали выводы. 2️⃣ Делитесь реальными кейсами. Что хотели сделать, с какой проблемой столкнулись, какие решения рассматривали и что получилось в итоге. Есть нюансы с N

Вобщем окунаюсь в мир кровавого океана, страшновато но кажется я с антидепресантами и русским фаангом немного потерял тормоза. Поэтому анонс, пока мои скилы проходят 10 степеней эвала, будет демо ))) вот тизер