Potion of Intelligence

Мы входим в интересный этап развития ИИ. Интересный сочетанием способностей и экономики. Думаю, все заметили, что последний год словосочетание «искусственный интеллект» звучит из каждого утюга. Про ИИ знают все. Как минимум любой, кто активно пользуется соцсетями, имеет хорошее представление на что способен современный ИИ, ведь как только появляется новая способность, она сразу вирусится. Например, в момент написания этого поста, буквально все соцсети завалены картинками в стиле студии Ghibli, преобразовывать в который абсолютно любое изображение со вчерашнего дня умеет ChatGPT. Тем не менее, я думаю многие не осознают насколько велик разрыв между количеством знающих, на что способен ИИ, и количеством самостоятельно хоть раз в жизни применявших эти способности. До сих пор большинство людей на любой встрече, куда я прихожу, ни разу не покупали платную подписку на ChatGPT, не говоря уж про другие нейросети. Людей, которые реально пользуются ИИ, сильно меньше чем кажется. А людей, которые платят за ИИ, откровенно мало. Любым ИИ нужно уметь пользоваться, даже ChatGPT. Многие сегодня высмеивают ИИ-курсы на которых учат пользоваться ChatGPT, но они не над тем смеются. Смех не в том, что в ChatGPT нечего уметь — есть! А в том, что этому практически невозможно научить. Единственный нормальный способ научиться пользоваться ИИ — это пользоваться им. По мере взаимодействия с ИИ, у вас вырабатываются понимание и интуиции что он делает хорошо, а что не очень, как лучше формулировать запросы, и т. п. А ещё почти все мои знакомые, кто активно пользуется ИИ, говорили, что они уже в процессе находили новые применения ИИ, о которых даже не задумывались в начале. Поэтому личный опыт и нельзя заменить. Проблема в том, что экономика ИИ порождает порочный круг. Люди не готовы платить деньги пока они не поймут за что. Пока ты не умеешь пользоваться инструментом, он имеет нулевую ценность, а за нулевую ценность ты и платить не готов. Это, к слову, касается не только ИИ, а практически лю

Некоторые курсы вызывают скепсис самой своей предметной областью. Например, все курсы из категории «как зарабатывать деньги». Если умеете зарабатывать, так зарабатывайте, что же вы вместо этого учить других подались? Особенно это касается курсов по криптовалюте и торговле на биржах. Другой пример явного шарлатанства это курсы по чему-то абстрактному, например, по саморазвитию и личностному росту. Если что-то нельзя объективно измерить, то любой результат можно выдать за желаемый. Если отбросить области состоящие из шарлатанов на 100%, в оставшихся есть интересная метрика: степень пересечения учителей и специалистов. Очевидно, что выдающийся учитель математики не обязан быть выдающимся математиком. Но он обязан отлично владеть той частью математики, которой он учит. Это касается любых теоретических знаний: нельзя объяснить то, что ты не знаешь или не понимаешь сам. С практическими навыками, однако, ситуация более сложная. Насколько хорошим пианистом обязан быть хороший учитель фортепиано? Очевидно, что какой-то уровень навыка как специалист учитель иметь обязан. И очевидно, что чем этот уровень выше, тем при прочих равных учитель лучше. Но все же учитель и специалист это разные компетенции. Ещё интереснее ситуация с творческими навыками. Должен ли хороший учитель изобразительного искусства быть хорошим художником? Тут надо начать с ответа на вопрос: а что вообще значит быть хорошим художником? Владеть техникой — или же быть известным и успешным? Развивая эту тему: есть профессии, которым вообще толком невозможно научить. Можно ли человека сделать хорошим писателем? Абсолютно любого — однозначно нет. Но значит ли это, что человеку, который хочет стать писателем, вообще никак нельзя помочь? Нет, есть много навыков, которые ему точно пригодятся и которым можно научить. Но сможет ли человек стать творцом в итоге зависит от его собственного творческого потенциала. Потенциал можно помочь раскрыть, но им нельзя поделиться. И чтобы учить будущего творца всему, чему в при

Хочу рассказать про необычную компьютерную игру, в которую залипал последние 3 недели (136 часов суммарно) и которую только сегодня закончил. Называется Blue Prince. В эту игру меня побудил играть Nozomu, советую ознакомиться с его рецензией наряду с моей. Мне очень понравились его слова «Blue Prince — это удар ножом в спину культуре быстрого потребления, моментального вознаграждения и вождения за руку» с которыми я согласен на 100%. Вы играете за внучатого племянника недавно скончавшегося барона, который оставил вам в наследство свой титул и магический особняк. Но с условием — вы обязаны отыскать в этом особняке загадочную 46 комнату, хотя в плане комнат всего 45. Магия особняка заключается в том, что внешне он неизменный и изнутри поделён на 9 рядов по 5 комнат в каждом, но сами эти комнаты и их взаимное расположение каждый день меняются. И вы, игрок, этим процессом ограниченно управляете — каждый раз, когда вы открываете дверь в следующую комнату, вам на выбор дают 3 варианта, один из которых вы обязаны выбрать и эта выбранная комната останется существовать на этом месте до конца дня. Легко увидеть, что эта механика похожа на настольную игру: особняк это игровое поле, возможные комнаты это колода карт, за ход вы тянете три карты и обязаны положить одну из них на игровое поле. Когда у вас заканчиваются ходы, вы начинаете новый день. Вчерашние комнаты исчезают и вы начинаете создавать план особняка заново. Это похоже на жанр rogue-like: каждая игровая сессия начинается с нуля, накапливаются только знания у игрока в голове — и очень редкие «вечные» изменения, каждое из которых нужно заработать. На то, чтобы отыскать 46 комнату, получить наследство и увидеть финальные титры игры у меня ушло 2 суток. Чтобы пройти игру мне потребовалась смесь стратегического планирования, хорошего усвоения правил и немного удачи. Это был приятный, азартный и интригующий опыт и закончился он аккурат тогда, когда однообразный игровой процесс уже начал чуть-чуть надоедать. Но, как шу

Вы наверняка слышали истории как ChatGPT спасает жизни. Истории в духе: врачи не воспринимали всерьёз, а ИИ смог вовремя распознать опасное заболевание. Проблема большинства таких историй, что это так называемая ошибка выжившего. Вы не видите статистику: сколько всего было ситуаций, когда человек шёл к ИИ и получал якобы пропущенный опасный диагноз, сколько раз этот диагноз подтверждался, а сколько раз не подтверждался. Земля большая, истории успеха ИИ при провале врачей обязательно где-нибудь да произойдут. Но вы узнаёте эти истории именно потому, что они удачные. Ничего не узнавая об их реальной частоте и о проценте успеха. Недавно ChatGPT (вернее Open AI o3), вероятно, спас жизнь Виктору Таелину, исследователю, за которым я давно слежу в X. Этот случай для меня важен именно тем, что он произошёл в моём поле зрения. Грубо говоря, есть всего сотня людей, за деятельностью которых я как-то слежу, и вот одному из них o3 успешно диагностировал менингит после того, как три больницы его отправили домой. Благодаря диагнозу от ИИ человек чрезвычайно настойчиво просил провести диагностику в четвертой больнице и когда менингит подтвердился, врачи и там сильно удивились. Эта история для меня поучительна ещё вот в каком разрезе. Я не знаю, как работает медицинская и страховая система в Бразилии, где живёт Виктор, но по крайней мере у него была возможность самостоятельно обращаться в одну больницу за другой и что-то требовать от врачей. Возможно для моих подписчиков из бывшего СССР в этом нет ничего удивительного, но далеко не во всём мире это возможно. В большинстве развитых стран медицина стоит настолько дорого, что лишь очень немногие могут себе позволить прийти в частную клинику и записаться на анализы и на приём за свой счёт. Простые смертные лечатся по страховке. А страховка лишает вас агентности: где и как вы будете лечиться полностью решает ваша страховая компания и клиника с которой она сотрудничает. Если врач в клинике решил что у вас ничего страшного нет и отправи

Недавно услышал о компании с интересным подходом к корпоративным тренингам. Само слово «тренинг» у меня, как и у многих, по умолчанию попадает в ментальную корзину «развод на деньги». Мне не нужны аргументы чтобы считать попавший в поле зрения тренинг бесполезным мусором. Мне наоборот нужны аргументы, чтобы считать его хорошим и полезным. Большинство тренингов, особенно корпоративных, я представляю примерно так. Со стороны компании-заказчика: есть бюджет на обучение сотрудников, который нужно осваивать. Или даже просто есть необходимость предлагать сотрудникам обучение из соображений что все так делают, и вроде как это повышает лояльность сотрудников, а если сильно повезёт, то может даже и производительность повысится. Со стороны сотрудников: есть повод за счет компании поделать что-то отличное от рутинной работы и даже получать за это какую-то бумажку, которую потом можно использовать на переговорах о повышении зарплаты или собеседовании к следующему работодателю. Наконец, со стороны проводящих тренинг: есть слабо мотивированные участники, за которых платит их работодатель. По умолчанию они оставят сдержанно-положительный отзыв, главное не создавать им проблем. Все за кого заплатили обязательно получат сертификаты об успешном прохождении тренинга. В компании, о которой мне рассказали, эта схема ломается. Самое главное отличие — в тренингах, которые она проводит, сертификат реально нужно заработать, просто так его не дадут. Тренинги предусматривают обязательные домашние задания, время на их выполнение заложено в оплаченную программу. Человека могут снять с тренинга за невыполнение учебного плана. Если причина была уважительной, то ему предлагают пойти в следующий набор. Если нет — до свидания без возмещения стоимости. И даже после того как обучение завершилось, нужно в течении месяца написать отчёт как полученные знания применяются на практике. И только если этот отчёт пройдёт проверку, участник получит свой сертификат. Меня этот подход заставил задуматься. Он

В этом году главная тема в ИИ звучащая из каждого утюга — «агенты». Под этим словом все подразумевают что-то своё, но поскольку тема очень «модная», все хотят чтобы свой «ИИ-агент» у них обязательно был. Формально агент — это сущность, которая умеет выполнять задачи «под ключ». Чтобы помочь читателям разобраться что вообще есть на рынке, проще всего разбить агентов на 3 больших блока. Первый блок это n8n (читается nodemation, то есть ноудмэйшн), make и подобные системы для автоматизации бизнес-процессов. Если грубо, то это система из нескольких сущностей, в центре которой сидит всё тот же ChatGPT (или аналоги), к которому прикручены вспомогательные инструменты, а также входы и выходы. Представьте, например, ChatGPT который интегрирован с Google Sheets и с Instagram. Каждый раз когда кто-то пишет вам в Instagram, сообщение перехватывается и передается ChatGPT, которому уже даны предварительные инструкции как отвечать и как обрабатывать входящие запросы. Например, он выясняет кто и зачем вам писал и потом сам идёт в Google Sheets и делает соответствующую запись: имя, фамилия, и что человеку было нужно. n8n позволяет из готовых строительных кирпичиков собирать довольно сложные и длинные цепочки процедур. Таких агентов довольно легко делать, но всё же это требует инвестиций времени и сил в освоение инструментов (того же n8n). Кроме того, их нужно хостить на сервере (расходы на аренду), а за каждый запрос в ChatGPT нужно платить. То есть нужен бюджет на то, чтобы такого агента поднять и бюджет непосредственно на его работу. На рынке сегодня очень много специалистов собирающих подобные решения. Насколько они полезны для бизнеса зависит от того, насколько сам бизнес готов работать с ними. Грубо говоря, если агент будет делать 50% предварительной работы, производительность компании будет зависеть от того, как сотрудники будут обрабатывать оставшиеся 50%. Но по мере того как ChatGPT «умнеет», подобные системы будут работать всё лучше. Второй блок это агенты-программисты (

Узнал про один очень известный юридический кейс, который изучают все студенты, кто учится на юриста в Англии и её бывших территориях. Называется «Дело Дадли и Стивенса» (англ. R v Dudley and Stephens). Суть дела: в 1884 году потерпела кораблекрушение яхта с 4мя моряками. После трёх недель, уже без особой надежды на спасение, три моряка убили и съели четвёртого, 17-летнего юнгу Ричарда Паркера. К тому времени он уже был в тяжелом состоянии, напившись морской воды. Потом трёх оставшихся моряков спасли и затем судили за убийство и каннибализм. Несмотря на то, что общественное мнение было на стороне моряков и они сами были уверены в неизбежном оправдании (до этого уже были похожие случаи, ссылаясь на которые их адвокат строил защиту), дело закончилось обвинительным приговором. Моряков приговорили к смертной казни, правда с рекомендацией к помилованию (в итоге они были помилованы). Важность этого судебного дела заключается в том, что оно установило что «необходимость» (англ. necessity) не может являться оправданием для убийства. Лично я скорее на стороне моряков, хотя мне не нравится, что трое договорились между собой убить четвёртого, к тому же самого молодого. Обычно в таких случаях (в том числе тех, на которые ссылалась защита) бросали жребий. Если бы не элемент сговора, я бы однозначно был за оправдание. Но главное, мне не нравится сама идея, что «необходимость» не может являться оправданием для убийства. С моей точки зрения как раз только она и может, и должна. Особенно сильное неприятие у меня вызвали слова судьи: To preserve one's life is generally speaking a duty, but it may be the plainest and the highest duty to sacrifice it. War is full of instances in which it is a man's duty not to live, but to die. (Иногда долг человека не жить, а умереть. Война даёт много таких примеров). Я никогда не приму систему, в которой смерть может быть долгом человека.

В последнее время стал реже писать в канал, буду исправлять это. Изначально я планировал держать баланс 50 на 50 между постами про Искусственный Интеллект и моими мыслями обо всём, не связанным с ИИ. И вот с ИИ сейчас такая странная ситуация, что вроде как значимые новости выходят каждую неделю, но не одна из них не кажется достаточно значимой. Nano Banana от Google редактирует картинки по текстовому запросу на уровне хорошего мастера Photoshop? Подобное уже было в ChatGPT. Да, было хуже, но впечатляет только первый опыт. Поэтому хочу поговорить не столько об отдельных событиях, сколько об общем ощущении, которое сложилось в последнее время на фоне происходящего в мире ИИ. Внешне всё выглядит так, как будто развитие ИИ резко замедлилось. Долгожданный GPT-5 оказался разочарованием, как и Claude 4 Sonnet, как и Grok 4. Anthropic и Cursor ужесточают лимиты на своих платных подписках. ИИ видео становится лучше, но все ещё слишком дорогое для большинства обывателей. Некоторые из этого сделали вывод, что ИИ как технология достигла зрелости и что теперь уже очевидно, что не будет никакого сверхинтеллекта (ASI), конца света, технологической сингулярности или хотя массовой замены людей ИИ. Что ИИ это просто инструмент который теперь будет постепенно улучшаться, а Альтман и Юдковский вешают всем лапшу на уши. Я, однако, вижу всё несколько иначе. Сразу скажу, что я точно не считаю, что ИИ упёрся в потолок. Но ИИ настигла экономика. Раньше ИИ компании вели себя так, как будто у них бесконечные деньги: выпускали всё более гигантские модели (и кратно более дорогие) и раздавали всем очень щедрые лимиты за 20$ в месяц, и даже давали пользоваться бесплатно. Вечно так продолжаться не могло, вот праздник и закончился. Впервые в истории новое поколение моделей (с полноценной новой цифровой в названии) не имеет больше параметров (по крайней мере активных) и не требует больше вычислительных ресурсов для работы чем предыдущее. Скорее всего даже наоборот. То есть эта итерация прогресса с

Сегодня хочу поговорить про наркотики. На всякий случай: я не употребляю, никогда в жизни даже не пробовал и не планирую. Мою жизнь можно условно разделить на три периода. Моё детство пришлось на 90е годы в Новосибирске, это было весьма неблагополучное время, когда по всей России бичом молодёжи был героин. Абсолютно все вокруг: от родителей и учителей, до русских рэперов, которых я тогда слушал (Дельфин, Многоточие, и т.п.) транслировали мысль, что наркотики (в первую очередь героин) это смерть. Я был лично знаком с человеком, умершим от передозировки героина. У двоюродного брата, жившего в менее благополучном районе, таких знакомых было намного больше. Совместными усилиями, через разъяснения, примеры и запугивание, окружающие благополучно укоренили во мне мысль, что наркотики к своей жизни нельзя подпускать на пушечный выстрел (за что я благодарен всем причастным). Тут надо сделать отступление и сказать, что у меня с детства прижился принцип не употреблять ничего, влияющее на сознание. Из-за него я, например, не пью алкоголь и все медицинские процедуры вроде гастроскопии делаю без седации. Поэтому за себя лично я на самом деле никогда не переживал: я никогда не чувствовал соблазна попробовать. Но вот что окружающие мне добавили — это брезгливость к самой теме и к наркоманам. Любой наркоман в моих глазах был безнадёжно пропащим человеком: он себя не контролирует, он может убить или ограбить ради дозы, и очень скоро он либо сядет в тюрьму, либо умрёт. 90е закончились и года эдак до 2017 тема наркотиков в моей жизни почти не фигурировала. Единственное — в студенческие годы я услышал новую для себя мысль: «трава — не наркотик» и встретил довольно много людей, которые курили траву, но при этом полностью разделяли мою брезгливость и неприязнь ко всем остальным веществам. Я начал читать статьи, узнал, что часть стран уже легализовали марихуану, и в итоге принял, что мои университетские друзья, курящие траву, не убьют меня из-за дозы и скорее всего не умрут от передозир

Месяц назад вышла игра Hollow Knight: Silksong, которую многие, включая меня, ждали 6 лет. Почти на весь сентябрь я пропал из реальности, уйдя с головой в прохождение Silksong. И даже после прохождения игры на 100%, она отпускает меня лишь постепенно: часто обсуждаем её с друзьями (некоторые из которых все ещё проходят), смотрю контент по ней, снимаю на слух и разучиваю на фортепиано композиции из неё. Silksong это сиквел легендарной игры Hollow Knight 2017 года, которую многие заслужено считают лучшей игрой в жанре метроидвания и одной из лучших инди-игр в целом. Я не являюсь поклонником жанра, но игры сделанные на таком уровне заслуживают внимания независимо от жанра. Как минимум художественный стиль, атмосфера, визуальная эстетика и музыка в HK совершенно потрясающие. HK наглядно показал мне, что толпы программистов с горящими глазами, желающих делать игры, это пшик, а вот кого в геймдеве катастрофически не хватает, это прежде всего талантливых художников, а во вторую очередь дизайнеров уровней и композиторов. Программировать на уровне достаточном, чтобы сделать HK, могут сотни тысяч. А вот рисовать — единицы. HK помимо прочего считается достаточно сложной игрой, но идеальная отзывчивость управления и большое количество геймплейных опций, на мой взгляд, делают её посильной практически для любого игрока при должной настойчивости. По крайней мере если говорить о прохождении базового контента. Оригинальный HK я прошёл и он мне очень понравился, но не могу сказать, что я стал прямо фанатом игры. Моей настойчивости как раз хватило на базовую игру, но от прохождения значительно более сложного опционального контента я сознательно отказался. И вот выходит долгожданный Silksong, он ещё красивее, ещё эстетичнее (на мой вкус) и... существенно сложнее (а вот это практически консенсус). Речь именно о сложности базовой игры, прохождения сюжета. Если HK считался сложной игрой и многих именно сложность остановила от его прохождения, то Silksong это игра явно ориентированная н

В этом году среди игр, номинированных на Игру Года на The Game Awards, целых 3 инди игры: Claire Obscure: Expedition 33, Hollow Knight: Silksong и Hades 2. Это стало отдельным инфоповодом. При этом, на The Game Awards есть отдельная номинация Инди Игра Года. А ещё есть номинация Дебютная Инди Игра. Возникает логичный вопрос: а почему вообще людей волнует «инди» игра или не «инди»? Для начала надо понять что такое «инди». Инди от английского слова independent, то есть независимый. Применительно к играм обычно подразумевается независимость от крупных издателей вроде Sony, Nintendo или Ubisoft. Строго говоря, общепринятого определения, где проходят границы «инди», нет. Какие ассоциации обычно вызывает словосочетание «инди игра»? Разработчик-одиночка или команда из нескольких человек. Разработка на энтузиазме в условиях крайне ограниченных ресурсов. Абсолютное доминирование соображений «что мы хотим» и «что мы можем», а не «что хотят издатели» и «что реально продать» при разработке. Так почему людей волнует инди или не инди? Почему для инди существуют отдельные номинации? На мой взгляд, деление существует, чтобы поддерживать отдельных креаторов и побуждать людей заниматься творчеством в целом. Инди —это то, на что может ориентироваться человек, желающий заняться творчеством сам. Если выставлять одинаковые планки одиночкам и гигантским компаниям с огромными ресурсами, то многих это демотивирует даже пробовать. Отдельные номинации для инди это как отдельные турниры для любителей или отдельные весовые категории в боевых искусствах. Исходя из приведённых выше критериев, по своему содержанию «инди» это не бинарная категория, а скорее шкала. Возвращаясь к примерам из The Game Awards этого года, Sandfall Interactive, создатели Expedition 33, вроде как состоят как раз из 33 человек. В Supergiant Games, компании, сделавшей Hades 2, по открытым источникам около 25 человек. Team Cherry, создали Silksong, это три человека. Понятно, что над играми помимо основной команды работают

Несколько дней назад покончила с собой 19-летняя чернокожая косплеерша Эшли Пакстон известная как Squidkid1111. Пишут, что вероятной причиной была постоянная травля в интернете на почве расизма. В ответ на это в косплей сообществах и соцсетях стали активно выкладывать и репостить работы других чернокожих косплееров, что, разумеется, вызвало волну как поддержки, так и нового расизма. В частности, много обсуждают чернокожую косплеершу в образе Фрирен — белой эльфийки из аниме Sousou no Frieren. В очередной раз убедился, насколько чужим себя ощущаешь в любом лагере, когда имеешь мировоззрение хоть чуточку сложнее стандартного набора догм. У меня чернокожая косплеерша Фрирен не вызывает никаких негативных эмоций (позитивных, впрочем, тоже). Как и чернокожая Гермиона в оригинальной постановке спектакля «Гарри Поттер и Проклятое Дитя». Так же как и чернокожая Джульетта в прошлогодней постановке «Ромео и Джульетты» которую тоже много обсуждали в интернете. Кто-то из вас, возможно, подумал: «значит ты нормальный». Спешу вас разочаровать: в фильмах, сериалах и играх подмену расы (в любую сторону) я, обычно, сильно не люблю. Для меня нет универсальной формулы «всё можно» или «всё нельзя». Косплей это в первую очередь хобби. Кто угодно может переодеваться в кого угодно. Даже в косплей-конкурсах на фестивалях нет единого мнения должны ли участники выбирать себе подходящих персонажей ради достоверности образов. Другой пример медиума где «всё можно» это театр. Постановки живут недолго и актёрский состав постоянно меняется, сама природа театра такова, что долгоживущие пьесы повидали самых разных людей на любых ролях. Вечны пьесы, постановки временны. Пластичность образов и простор для интерпретаций, как мне кажется, заложены в самой сути театра. Да, могут быть каноничные описания внешности, но, мне кажется, их значение не так велико. А вот кино, сериалы и игры это другой разговор. Они неизменны, если не считать ремейков, и поэтому они создают образы на целое поколение или боль

Несколько дней назад вышла модель Google Nano Banana Pro и она преодолела важный рубеж в генеративном ИИ для картинок. Теперь у каждого есть доступный 24 на 7 друг, хорошо владеющий Photoshop. Убрать бывшего с совместной фотографии, аккуратно перевести все надписи на картинке с английского на русский, подделать рукописный текст — Nano Banana Pro делает это с одной попытки по простому текстовому запросу. Картиночные ИИ за три с половиной года проделали огромный путь. Летом 2022 лучшие модели рисовали квадратные картинки 512 на 512 пикселей. И чтобы нарисовать что-нибудь простое, вроде панды на скейте, требовались десятки попыток. А о сложных сценах не могло быть и речи. В 2023 картиночные ИИ научились рисовать красиво и в большом разрешении, но все ещё оставались «тупыми». Потому это всё ещё были именно отдельные картиночные ИИ. Например, у Open AI была «умная» языковая модель ChatGPT и к ней была прикручена «тупая» рисующая модель DALL-E. Когда пользователь просил ChatGPT нарисовать картинку, под капотом «умный» ChatGPT передавал запрос в «тупой» DALL-E, который был узким местом. Сложные сцены, надписи, замены отдельных объектов, всё это было пока невозможно: ChatGPT понимал что от него хотят, но «объяснить» это DALL-E он не мог. В 2024 году картиночные модели стали заметно умнее, а также их начали специально натаскивать на задачи вроде добавления надписей. Но это всё ещё были отдельные картиночные модели. Между ними и текстовыми моделями по интеллекту все ещё была пропасть. Наконец, в начале 2025 года ChatGPT стал по-настоящему мультимодальным: он больше не передаёт запросы в DALL-E текстом, он объединён с DALL-E в единую сущность. В теории ChatGPT теперь может нарисовать всё, что он способен описать текстом. На практике, однако, остаются проблемы. Например, ChatGPT редко удается нарисовать циферблат аналоговых часов со временем, отличным от 10:10. Текстом он может правильно объяснить, как должны располагаться стрелки, когда часы показывают, скажем, 17:20. Но п

Последний месяц наблюдаю в интернете всеобщую ненависть к ИИ. Недовольные ИИ люди, группы и организации были всегда. Но раньше мне казалось, что недовольство в основном по делу, оно заслужено, конструктивно, и говорит о реальных проблемах. А общество в целом даже систематически недооценивает риски, связанные с ИИ. Сейчас, однако, я вижу другую картину. Общество по прежнему недооценивает и не понимает риски. Но зато появилась тотальная, звериная ненависть к ИИ, которая мне кажется иррациональной, не конструктивной, направленной не в ту сторону, и основанной на примитивном понимании реальности. При этом, эта ненависть никак не замедляет развитие и распространение ИИ, и не способствует решению никаких проблем, а только разделяет и ожесточает людей. Планирую написать серию постов с разбором популярных кричалок (называть их аргументами язык не поворачивается) противников ИИ. Сегодняшний пост будет посвящен наиболее свежему фактору, который, как мне кажется, послужил спусковым крючком для нынешней лавины ненависти: «из-за ИИ вы больше не сможете позволить себе компьютер». Кто не знает, в последние месяцы стремительно растут цены на компьютерное железо, в первую очередь на оперативную память. DRAM за вторую половину 2025 года подорожала в 3 раза и продолжает дорожать. Другие виды памяти тоже растут в цене. Дорожает VRAM, используемая в видеокартах, и NAND, используемая в SSD. Nvidia уже заявила, что будет поставлять партнёрам видеокарты без графической памяти — ищите её, мол, где хотите и сами распаивайте. Так что очередной дефицит и существенное подорожание видеокарт тоже неизбежно. Главное, что делает этот кризис необычным и болезненным — у него вообще не просматривается понятный временной горизонт. Рынок всех видов памяти это олигополия из трёх компаний: Samsung, SK Hynix и Micron. Все три переориентировали свои заводы на производство HBM памяти для ИИ компаний, из-за чего на потребительском рынке возник дефицит. Одна Open AI законтрактовала 40% выпускаемой DRAM в м

Весь интернет обсуждает захват американским спецназом диктатора Венесуэлы Николоса Мадуро по приказу Дональда Трампа. Но то, что в этой истории занимает практически всех — легитимность, международное право, потенциальные параллели с другими диктаторами, мне искренне безразлично. Меня интересовал вопрос, который наоборот почти не обсуждают: насколько обоснованы обвинения Венесуэлы в «наркотерроризме»? Почему именно Венесуэла? Она самая лёгкая цель? Или наркотики это лишь предлог, а единственная реальная цель — смена режима? Меня смущали два соображения. Я знал, что кокаин — главный, наряду с нефтью, источник дохода Венесуэлы. Но кокаин в моих глазах всегда был наркотиком для богачей. Он очень дорогой и не слишком опасный по меркам наркотиков. В чём смысл атаки на кокаиновый картель, когда люди в основном умирают от синтетических опиоидов (фентанил)? Венесуэла — не единственный и не главный поставщик наркотиков в США. По объему производства лидируют Мексика и Колумбия, а по поставкам в США, очевидно, доминирует Мексика, имеющая с США сухопутную границу. В чём смысл атаки на второстепенную цель? Так вот, я провёл небольшое исследование и получил ответы, которые мне удовлетворили. Во-первых, я сильно недооценивал опасность кокаина. От кокаина ежегодно умирают по 30 тысяч человек в США. Для сравнения, от фентанила в районе 80 тысяч. Дело в том, что кокаин перестал быть чистым: картели массово смешивают его с тем же самым фентанилом, чтобы повысить аддиктивность. Кроме того, кокаин и синтетические опиоды поставляются одними и теми же картелями по одним и тем же маршрутам. Кокаиновые деньги и логистика переиспользуются для распространения ещё более смертельных наркотиков. Стереотип, что кокаин это не массовый и умеренно вредный наркотик для богачей и знаменитостей, полностью потерял актуальность. Во-вторых, между Венесуэлой и другими странами Латинской Америки, есть ключевая разница. В Мексике и в Колумбии правительство ведёт войну с картелями. Не очень успешно. Кар

Сегодня был на концерте, где исполняли музыку композитора-минималиста Людовико Эйнауди. Это было моё первое вдумчивое знакомство с его творчеством. И оно заставило меня задуматься о минимализме и о киношной музыке в целом. Было время, когда я музыку, подобную творчеству Эйнауди, не переносил вообще (из известного, к ней же отношу, например, Yiruma — River Flows in You). Слишком слащаво, слишком примитивно. Чтобы понять о чём речь, достаточно сравнить эту музыку с любым произведением той же длительности и для того же состава инструментов любого из классиков 19 века. Проблема в том, что я прямо-таки обожаю акустические и оркестровые саундтреки к аниме и компьютерным играм. А они тоже, безусловно, по сравнению с классикой примитивные и, зачастую, слащавые. То есть как будто бы одно только это меня не должно отпугивать, иначе я не мог бы слушать и музыку из игр и аниме. Так не предъявляю ли я минималистам и киношным композиторам лицемерно завышенные требования? Сегодня я постарался подойти к прослушиванию непредвзято, очистить голову от ожиданий и послушать музыку как есть. Дать ей шанс. И вот что я понял. Эйнауди, безусловно, имеет очень много общего с современными композиторами аниме и игр, которых я люблю. Что и неудивительно, индустрия саундтреков по сути едина: кино, игры и аниме, конечно, имеют свою специфику, но в крупную клетку требования и подходы одинаковые. Я бы даже сказал что и стиль, в котором пишет Эйнауди, мне близок. Настроения композиций, мелодические ходы, то как он развивает музыкальную тему — всё плюс-минус в моём вкусе. Но есть и проблемы. Я их всегда интуитивно чувствовал, но раньше неправильно понимал в чём именно они состоят. Претензий к творчеству Эйнауди у меня по сути две и обе, вероятно, относятся не только к нему, но и к большей части минимализма. Во-первых, все до одной композиции, которые я сегодня услышал, на мой взгляд затянуты примерно в два раза. У меня есть интуитивное, трудно формализуемое словами требование к концентрации музык

Последние несколько дней активно тестирую открытые (open weights) языковые модели ИИ. И это оказался весьма отрезвляющий опыт, спускающий с небес на землю. Для меня разбился один из ключевых мифов, который я почему-то долго принимал на веру. Возможно, вы слышали (возможно, даже от меня!), что один из трендов в ИИ — повторение результатов меньшими ресурсами. Давайте разберём на примере. В сентябре 2024 вышла первая «думающая» модель o1 от Open AI. Это была самая «умная» модель на рынке, которая всех побила во всех тестах. Нет открытых данных сколько денег ушло на её обучение и на каком железе она работала. Но по грубым оценкам, обучение стоило в районе 100 млн. долларов, а запускается каждая копия флагманских моделей Open AI на стеках из 8-16 GPU «промышленного» уровня, общей стоимостью в районе 200-400 тысяч долларов. И вот, спустя примерно полгода китайцы делают первую открытую «думающую» модель DeepSeek R1, которая в тестах примерно на уровне o1. По реалистичным оценкам обучение R1 обошлось китайцам минимум в 5 млн. $, а скорее всего ещё больше. Но это всё равно в 5-10 раз дешевле чем у o1 от Open AI. DeepSeek R1 это открытая модель, в теории любой может её скачать и запускать у себя. Беда в том, что «полная» версия (671B параметров, FP16) требует 1.2 терабайта VRAM, поэтому вам потребуется всё тот же стек из 8+ GPU за сотни тысяч $. Но с открытыми моделями дальше начинаются варианты. Если вас устраивает что модель будет работать очень медленно, вы можете загрузить её в 1.2 ТБ значительно более медленной «объединённой» памяти Apple, купив стек из 3х Mac Studio за ~30к$. 30k$ это всё ещё безумно дорого для простых смертных, но это хотя бы уже не 300k$. Но это только начало. Дальше начинается так называемая квантизация. Это технология, позволяющая пожертвовать точностью вычислений в 2-4 раза и сбросить требования к памяти в те же 2-4 раза, лишь незначительно потеряв при этом в «интеллекте». В FP4 нужно уже «всего» 300 GB памяти. Но и это все ещё очень далеко от

Продолжаю рассказ про свои эксперименты с «народными» (открытыми) LLM. Я тестировал только писательство и отыгрыш, то есть просил превратить сценарий в полноценный текст, вести диалог от лица заданного персонажа, помогать с проработкой мира, придумывать сюжетные повороты. Почему именно эти задачи? Потому, что именно в них я лучше всего ощущаю уровень «интеллекта». Через глубину, креативность, правдоподобность. Добавлю, что в этих задачах даже флагманские закрытые модели мне не кажутся безупречными. И хорошо чувствуется иерархия, Grok, например, более поверхностный, чем ChatGPT. Но «народные» модели это ужас. Более-менее приемлемые, содержательные тексты и диалоги получаются только с моделями 70B+. Но даже они значительно хуже чем Grok, который хуже чем ChatGPT. Модели 24B на грани применимости. То есть с трудом тянут на очень скучного, однообразного, глуповатого и ленивого писателя, сценариста или игрока. Общаться или совместно творить с ними совершенно не увлекательно и не интересно, но может быть они всё же не совсем бесполезны для творческих задач. 11B и всё что ниже это совсем мрак. Это хуже чем GPT-4 2023 года, живой сущности на том конце провода не ощущается совсем. Это автоответчик, который возвращает тебе твои же слова, полностью лишённую содержания воду или тривиальные истины. Отдельная большая беда это размеры контекста. Моего железа хватает только на 8-16k токенов (4 токена = 3 слова), это само по себе очень мало и это серьёзный бич всей лавочки с локальным запуском моделей. Но даже на этих 8-16к модели начинают плыть и забывать детали. С этим, кстати, и у закрытых флагманских моделей есть проблемы, их эффективный контекст на порядок меньше максимального и это видно даже в синтетических тестах. Тут надо смотреть не на примитивные бенчмарки «поиск слова в контексте», а на более продвинутые в духе NoLiMa, RULERv2 или Oolong (поиск по латентным ассоциациям без явного лексического совпадения, агрегация множества локальных наблюдений в длинном контексте и т

Давно ничего не писал в канал, но встретил хороший повод оформить мысли, которые у меня давно на уме. Я как-то уже упоминал Виктора Таелина, одного из людей, чья деятельность вызывает у меня повышенный интерес. Сейчас очень любопытно наблюдать за трансформацией его отношения к кодинговым ИИ-агентам. Виктор занимается довольно специфичной областью программирования — пишет высокоуровневый язык, заточенный под запуск на GPU с автоматическим распараллеливанием. Это полезно, например, для радикального ускорения задач символьного поиска программ, формальных верификаций и проверки доказательств. Область Виктора это хардкорный «матан» от программирования. Узкая, с высоким входным барьером, в ней мало экспертов, мало ответов на Stack Overflow, толком не на чем обучать ИИ. А самое главное, в ней нет места для посредственных результатов. Весь смысл в максимальной оптимизации, в экономии микросекунд на операциях. Либо ты делаешь хорошо, либо никак. Интуитивно кажется, что в такой области места для вайб-кодинга практически нет. Тем не менее, ещё в середине апреля, Виктор писал, что последние несколько месяцев за него весь код пишут ChatGPT Pro и Claude Opus. У него уходило 1000$ в день на токены. Но где-то с мая он начал жаловаться на то, что агенты работают недостаточно быстро (при том, что он использует исключительно быстрый режим по цене x5) и не со всем хорошо справляются, что им требуется всё больше ввода от самого Виктора. И вот вчера он написал, что сравнивая несколько дней работы с агентами и без них, он пришел к выводу, что в одиночку он справляется лучше. Виктор был одним из самых продвинутых апологетов ИИ-агентов за которыми я слежу. И важно понимать, что он всё ещё скорее апологет. Тем не менее, история, которую я считываю, наблюдая за миром ИИ в последние месяцы, это разочарование из-за невероятно завышенных ожиданий. В начале года все жужжали про OpenClaw, был даже дефицит железа от Apple, потому что все его кинулись скупать под OpenClaw. Сейчас OpenClaw практич

Опубликовал у себя в блоге на Medium довольно длинный и глубоко личный пост о том, с чего началось моё увлечение аниме, и почему это увлечение играет такую важную роль в моей жизни. А ещё я завёл отдельный канал, куда буду выкладывать свои рецензии на аниме и на музыку из аниме. Сюда их дублировать не буду, так как это явно интересно далеко не всем подписчикам.

Задумался о своём отношении к ИИ-творчеству (картинки, музыка, видео). Пришёл к неожиданному для себя выводу. На текущий момент при прочих равных я отношусь к работам лучше, если знаю, что они сгенерированы ИИ. Ключевые слова — при прочих равных. Предположим, я вижу красиво нарисованную, эстетически привлекательную иллюстрацию. Она не похожа на узнаваемый стиль ChatGPT Image 2 и других известных мне нейросетей. При более внимательном рассмотрении я всё ещё не вижу типичных для ИИ артефактов, в духе проблем с пальцами. Иллюстрация вызывает у меня приятные эмоции. Затем я узнаю, что на самом деле она всё-таки была сгенерирована ИИ. Как меняются мои эмоции в этот момент? На самом деле происходят две вещи. Сперва я рассматриваю иллюстрацию ещё раз, пытаясь найти характерные артефакты. Когда ты знаешь, что они должны быть, обычно найти их становится проще. Но предположим, я всё равно их не нахожу. Может быть автор исправил что-то руками, а может быть сама генерация была необычайно удачной. Тогда я проникаюсь к создателю уважением и иллюстрация приобретает для меня дополнительную ценность. Я буду ценить её даже выше, чем если бы она была нарисована художником-человеком. Более экзотический пример с другого конца. Предположим, я вижу явно сгенерированную картинку. Вижу характерные для ИИ артефакты. Потом я узнаю надёжную информацию, что картинка была нарисована человеком вручную. Стану ли я относиться к ней лучше? Нет, я начну относиться к ней даже хуже. Буду думать, что либо человек бездумно срисовывал за ИИ, либо сознательно подражал ИИ. И то, и другое для меня глупая и пустая трата времени, недостойное для человека занятие. Получается в обоих случаях, при прочих равных, я предпочитаю ИИ. По крайней мере на сегодняшний день. Важно сделать, однако, важную оговорку. В реальности прочих равных практически не бывает. В интернете полно бесполезных тестов, где нужно угадать где ИИ, а где нет, и почти все получают результат, близкий к случайному угадыванию. Но за пределами

Форбс пишет, что Илон Маск стал первым долларовым триллионером в истории. Мой Телеграм подчеркивает слово "триллионер" поскольку его даже нет в его словаре. 😅 Я встречаю довольно разные мнения насчёт этичности самого существования сверхбогатства. Многие считают, что долларовых миллиардеров (и уж тем более триллионеров) вообще не должно существовать. В пользу этой точки зрения есть два основных аргумента: коммунистический и не коммунистический. Коммунистический аргумент состоит условно в том, что детям в Африке кушать нечего. Дескать, пока на планете есть голодные и бездомные дети, планета не может себе позволить миллиардеров. Другими словами, любой человек морально обязан избыточное богатство целиком направлять в пользу страждущих. Опциональное, но весьма популярное дополнение: а если он по тем или иным причинам не делает это сам, то избыточное богатство нужно отнимать и перераспределять насильно. Моё отношение к этой точки зрения крайне негативное. К сожалению, я не могу сказать, что все люди, которые её разделяют, это люди недалёкие, которых я бы всех с радостью вычеркнул из своей жизни. Её разделяет и часть умных, толковых и порядочных людей. Сама точка зрения вызывает у меня глубокую, нутряную брезгливость граничащую с презрением, но я стараюсь как могу не проецировать по умолчанию эти эмоции на её носителей. Второй, не коммунистический аргумент, сводится к тому, что слишком много власти в руках одного человека это большой риск. Даже если когда-то человек был хорошим, он может измениться или сойти с ума. Триллион долларов это довольно много. Примерно столько, например, Россия понесла суммарных экономических потерь за первые годы развязанной Путиным агрессивной войны против Украины. Если человек может свободно принимать решения себестоимостью в триллион долларов, он может при желании очень сильно испортить жизни десяткам миллионов людей. А может даже и сотням. Ко второму аргументу я отношусь серьёзно. Но я не воспринимаю его как аргумент против капиталистичес

Anthropic скоро начнут маркировать сгенерированный текст. Это довольно интересный поворот. Для картинок, музыки и видео невидимые водяные знаки существовали уже давно, например, SynthID от Google Deepmind, обнародованный ещё в 2023. С медиа-контентом всё относительно просто. На картинке или видео можно незаметно поменять цвет нескольких пикселей, человеческий глаз ничего не увидит, но алгоритмические детекторы сразу распознают. Аналогичным образом можно подмешивать неразличимый уху шум к аудио. С текстами ситуация принципиально другая. Незаметно подмешать к тексту лишние символы или скрытые буквы невозможно. Если быть точным, невидимые пробелы и спецсимволы существуют, но они могут теряться при копировании, к тому же очень легко написать скрипт, который удаляет весь подобный мусор, оставляя только чистые буквы и нормальные пробелы. Надежную маркировку на скрытых символах не сделаешь. Вместо этого Anthropic будут использовать статистику и особенности работы самих LLM. Например, у Claude при генерации текста на выбор есть 2 равновероятных варианта продолжения: «он произнёс» и «он сказал». В половине случаев модель выберет один вариант, а в другой половине второй. Причем снаружи вообще не видно, какой из двух вариантов был условно первым, а какой вторым. В разных участках текста они могут меняться местами. Увидеть это можно только заглянув во внутренности самого Claude. Если теперь изменить алгоритм так, чтобы он чаще отдавал предпочтение именно первому варианту, скажем, вместо 50 на 50 станет 51 на 49, снаружи ничего не изменится. И даже изнутри по одному такому выбору ничего сказать нельзя. Но на больших текстах, где подобных выборов было много, статистический сдвиг будет заметен. Чем больше было подобных близких выборов при генерации, тем меньше шансов, что их итоговая статистика случайно совпала с ожидаемой. Поскольку сам выбор слов в тексте несёт на себе отпечаток алгоритма, он не удаляется при копировании. Более того, переписывание части текста тоже не обманет