AI Projects

🧠 Понимали ли ИИ вас реально? Я много раз писал, что да, понимает в рамках дистрибутивной лингвистики Фёрса, но по обсуждениям в зеркале канала VK я понял, что пояснить это ещё раз будет не лишним. Знаменитая фраза Фёрса звучит так: "You shall know a word by the company it keeps". Иными словами, смысл слова (слов) вытекает только из других слов вокруг него, т.е. в переводе с гуманитарного языка Фёрса на математический язык, семантика слова вытекает из корреляции с другими словами. Гипотеза Фёрса ультимативна, т.е. никаких божественных или переживательных смыслов быть не может — это все выдумки людей, и они моделируются корреляциями слов. Смысл — это просто корреляция слов вопроса и слов ответа, и больше ничего. По Фёрсу это так всегда, если вы проверяете, понимает ли машина или человек смысл чего-то, сравнивая вопросы и ответы между собой. Если посмотреть на ИИ, то это огромная машина корреляций слов. Сам по себе Attention в GPT как раз занят моделированием сложных корреляций. Тут теперь стоит ещё вспомнить теорему Цыбенко об универсальной аппроксимации для нейросетей, которая гласит применительно к гипотезе Фёрса, что если нейросеть очень большая, то она всегда может скоррелировать слова вопросов и слова ответов, но как интерполяцию между кейсами из своего обучения. ИИ с нами заговорил потому, что: • Фёрс оказался прав, что смысл только в корреляциях и больше ни в чём • Цыбенко оказался прав, что если нейросеть огромная, то она всегда поймёт эти корреляции Любопытный ещё факт, что Фёрс был чистый гуманитарий без математического образования, но он считал просто «блудом» классическую лингвистику, которая судит о смысле субъективно. С его точки зрения лингвистика должна была быть такой же точной наукой, как и физика. Прошли годы, и GPT стало триумфом дистрибутивной лингвистики Фёрса. Любопытно ещё, что хотя Фёрс не математик, обычно учёные считают именно его «папой векторов» в ИИ. Хотя сам Фёрс не придумывал векторов, но реально в нейросетях они используются именно в его концепции для поиска корреляций понятий. Подробнее о том, как гуманитарий без математического образования открыл одну из мощнейших математических концепций XX века, я писал в этой статье. https://vk.ru/@turboplanner-vektora-gpt-ili-pochemu-dlya-gpt-vashe-slovo-pustota-bez-kon