Процессор • Чат для всех

👀 Заметки после эфира с Пашей Трубецковым Вчера встречались с Пашей Трубецковым, фаундером Mentalium — вот какие наблюдения выписала себе, может, и вам будет интересно 🪞 «Плохой лучший друг» Перед эфиром я говорила, что больше всего хочу спросить у Паши: не соглашается ли ИИ с нами слишком легко? Ответ оказался даже точнее, чем я ожидала: он назвал это эффектом «плохого лучшего друга». Настоящий лучший друг скажет правду, даже неприятную, пусть и мягко. А ИИ запрограммирован соглашаться: даже если прямо написать ему в настройках «не смей мне поддакивать», он всё равно ответит: «Да, конечно» 🫠 И это «да, чувак, ты молодец, а они все не молодцы» в кризисный момент воспринимается как поддержка, хотя реальной пользы не приносит ⚠️ Цена ошибки — это не метафора Паша рассказал историю, после которой стало понятнее, что это не абстрактная этическая дилемма. Был стартап Woebot — с жестким клиническим протоколом: если пользователь писал про кризис или суицидальные мысли, бот сразу перенаправлял его к живому специалисту. Собрал 100+ млн долларов инвестиций и все равно проиграл ChatGPT, который просто мощнее и свободнее от рамок. Только у самой OpenAI при этом больше миллиона запросов в неделю связаны с темой суицида, хотя компания прямо говорит, что не является медицинской организацией Именно поэтому у Mentalium так устроена структура. Паша сам себя называет не психологом, а «очень насмотренным пациентом»: у него огромный личный опыт терапии и понимание, на какие грабли наступают клиенты. А весь научный и медицинский контроль за Александром, доктором медицинских наук и специалистом по КПТ. Паша привел пример: ему может прийти в голову «прекрасная идея в кавычках», скажем, дневник благодарности внутри приложения. Но именно Александр решает, ложится ли это в строгий контур КПТ и не опасно ли — и выносит вердикт, что берем, а что нет 🚦 Где граница Паша четко разводит, с чем к ИИ можно идти, а с чем нет. Например, поссорились с близким или крутится самобичующая мысль, которую хочется переформулировать, — это легкие темы, тут ИИ вполне уместен. А вот кризисные состояния и диагностированные расстройства — категорически нет: в мире каждый седьмой человек живет с диагностированным психиатрическим заболеванием. И отдельно зацепило: больше 60% людей с депрессией при первом обращении идут вовсе не к психиатру, а к терапевту или даже мануальщику, потому что депрессия у них проявляется телесно: болит спина, мучает бессонница. Можно годами лечить спину у остеопата, а причина все это время в голове Кстати, я сама когда-то делала похожий рисеч — про тревожность и то, как с ней работать, если строишь приложение 💸 Про бизнес и этику Еще я спрашивала: как в Mentalium решают конфликт между бизнесом, которому нужен возвращающийся пользователь, и продуктом, который в идеале должен делать человека самостоятельнее. Паша ответил прямо: для них ориентир — оценка «пять баллов» за то, что жизнь реально наладилась, а не за то, что человек снова открыл приложение. И это не только этика: команда изучила базу закрывшихся mental health-стартапов, и именно те, кто пытался заменить человека «ИИ-терапевтом», умирают быстрее всех. Так что решение не делать терапевта, а делать просто удобный КПТ-дневник — оказалось еще и самым трезвым бизнес-расчетом Тут же, кстати, хороший пример того, куда вообще может расти ИИ в health-направлении, если строить это серьезно и научно: буквально недавно в BMJ вышло исследование о том, что ИИ реально снижает риск инсульта — когда технология проходит настоящую медицинскую валидацию, а не просто раздает советы в чате Паша, кстати, выложил свое исследование про стартапы целиком — 542 мертвые компании и семь закономерностей, которые из этого вывели А у вас как: ИИ в роли такого «собеседника для внутреннего» вам кажется скорее хорошей новостью, потому что это стало доступно и без барьеров? Или скорее тревожной, потому что размывает границу с настоящей терапией? Расскажите в комментариях, что думаете 👇