ПостНедавно глава Open AI Сэм Альмтан заявил, что компания теряет деньги на своих самых дорогих подписках (200$ в месяц). То…

Недавно глава Open AI Сэм Альмтан заявил, что компания теряет деньги на своих самых дорогих подписках (200$ в месяц). То есть люди, которые их покупают, тратят больше чем на 200$ вычислительных ресурсов в стоимостном выражении. Я неоднократно слышал информацию от людей из индустрии, что вообще все AI компании работают в убыток. Это не удивительно, с учётом стоимости GPU. На что AI компании рассчитывают понятно: на снижение себестоимости вычислений при сохранении или увеличении цены на подписки. О том, за счёт чего себестоимость может снизиться чуть позже. Важно, что до этого будущего надо сперва дожить. А поэтому сегодня, пока стоимость вычислений дорогая, AI компании вынуждены экономить на всём. ChatGPT уже больше года как умеет искать информацию в интернете. Но вы замечали как редко он это делает? И даже если делает, то использует в ответе всего пару-тройку найденных ссылок. В прошлом году в ChatGPT добавили «память». Если её включить, он будет запоминать важную по его мнению информацию из диалогов с вами. И потом использовать её при генерации ответов. Но на практике он использует память намного реже чем пополняет. Более «глупая» модель gpt-4o часто даёт более подробные и развёрнутые ответы чем «умная» o1. Причина всего этого — экономия. Разрыв между тем, что ИИ в принципе умеет делать и тем что он будет делать для вас будет только увеличиваться. Сейчас как раз идёт прогресс в повышении качества ответов ИИ за счёт более длительного обдумывания (больше вычислений) на стадии генерации ответа. Ещё не вышедшая модель Open AI o3 поставила рекорд в бенчмарке ARC-AGI потратив на ответ ресурсов более чем на 3000$. Понятно, что на ответы владельцам подписок за 20$ в месяц будут выделять на 4 порядка меньше вычислительных ресурсов. Этот зазор важно учитывать, оценивая где мы находимся в плане прогресса в ИИ в целом. Есть куча научных и инженерных задач, за решение которых без труда выложат десятки, а может и сотни миллионов долларов. Если вы думаете, что пока ИИ слишком «тупой» даже чтобы помогать в работе лично вам, ни о каком решении им сложных проблем человечества речи идти не может — помните о зазоре в ресурсах. На вас выделяют ресурсов на 20$ в месяц. Поэтому если «ваш» ИИ чего-то не умеет, это не значит что ИИ который это уже умеет не существует в природе. В развитии ИИ до сегодняшнего дня соблюдалась закономерность: результаты, достигнутые лучшими моделями в мире, спустя год повторяются на моделях, которые можно запустить на хорошем домашнем ПК. Проблему снижения себестоимости вычислений атакуют со всех сторон и простор для её снижения на порядки ещё есть. Например, биткоин уже давно не майнят на GPU, это нерентабельно. Его майнят на ASIC — чипах, специально созданных под одну задачу. Вероятно и вычисления для ИИ со временем перейдут на ASIC. Сомневаюсь, что тенденция ухода переднего края прогресса «в массы» за год сохранится. Оптимизации в духе сжатия моделей в 10-100 раз с сохранением 90% способностей рано или поздно закончатся. Кроме того, уход прогресса «в массы» могут остановить или замедлить сознательно из-за социальных и экономических последствий. Но я всё же считаю, что мы находимся у важного рубежа. Модели, которые я субъективно оцениваю как минимально достаточные для трансформационных изменений, только-только стали по зубам хорошим домашним ПК. Но настоящая трансформация произойдёт когда они станут по зубам мобильным телефонам, а это, я думаю, ещё где-то год. Вот тогда вещи о которых я мечтал в прошлом посте, вроде полноценных виртуальных ассистентов у каждого, станут абсолютно реальными.