Пост​​Что я узнал о генеративном ИИ

​​Что я узнал о генеративном ИИ _Автор: Джон Дрон_ Джон Дрон анализирует, как изменилось его понимание генеративного ИИ и его роли в образовании. Его основные тезисы: LLM не являются людьми, но и «глупыми статистическими попугаями» их считать неправильно. Их способности во многом отражают коллективный человеческий интеллект, заключённый в языке, текстах, изображениях, коде и других созданных людьми системах. Поэтому GenAI одновременно показывает нам некоторые особенности собственного человеческого познания. GenAI — скорее «метаинструмент», чем инструмент. Обычный инструмент расширяет способности человека, тогда как генеративный ИИ способен сам координировать использование других инструментов и выполнять сложные последовательности действий. При появлении агентных систем эта граница становится ещё менее очевидной. GenAI не являются полноценными партнёрами или субъектами. Автор не считает современные системы сознательными существами с устойчивой идентичностью, личными интересами или моральным статусом. Создаваемая ими «личность» остаётся изменяемой и во многом иллюзорной. Происходит не столько когнитивная разгрузка, сколько перераспределение когнитивных ресурсов. ИИ позволяет отказаться от части рутинной работы и сосредоточиться на более масштабных задачах, но одновременно создаёт риск того, что человек перестанет самостоятельно выполнять некоторые интеллектуальные операции. Сам автор использует ИИ как своеобразного интеллектуального оппонента и наставника, который заставляет его переосмысливать идеи. Образование должно измениться глубже, чем просто разрешить или запретить ИИ. Нужно пересмотреть не только способы обучения и оценки, но и сами образовательные цели: какие знания и способности действительно необходимо формировать в мире, где GenAI может выполнять всё больше интеллектуальных операций. GenAI расширяет пространство практической деятельности. Автор приводит пример создания с помощью Claude веб-приложения и подчёркивает, что ИИ позволяет быстрее преодолевать технические барьеры, одновременно обучая пользователя новым способам решения задач. Простая концепция «human in the loop» недостаточна. Важнее рассматривать ИИ как элемент широкой сети людей, инструментов, процессов, моделей и артефактов. При этом автор особенно предупреждает об опасности предоставления агентным ИИ инструментов, прав доступа и возможности самостоятельно принимать решения. Традиционная система оценки обучения быстро теряет надёжность. Если студент может передать выполнение задания GenAI, традиционные задания и экзамены перестают быть хорошими индикаторами реального обучения. Автор выступает за интегративные формы оценки, проверяющие совокупность разнообразных навыков, и за отделение собственно обучения от получения формальных аттестатов. Экологические последствия GenAI нельзя оценивать только по энергозатратам отдельных запросов. Автор признаёт огромные энергозатраты дата-центров, но предлагает учитывать и то, что ИИ позволяет делать, какую производительность создаёт и какие ресурсы может экономить. Поэтому экологический эффект следует рассматривать как сложный баланс затрат и результатов, а не как однозначно положительный или отрицательный. Для Джона GenAI — не просто новый цифровой инструмент, а новая часть когнитивной и деятельностной среды человека. Главный вопрос образования заключается не в том, _как не дать студентам пользоваться ИИ_, а в том, как перестроить обучение и оценивание так, чтобы человек вместе с ИИ становился способен на более сложное, самостоятельное и осмысленное мышление. Переход от «когнитивной разгрузки» к «когнитивному перераспределению»: ИИ не обязательно уменьшает объём мышления — он меняет _то, где именно человек тратит свои интеллектуальные ресурсы_. Читать 12мин https://dzen.ru/a/artbRm0Cgjc4iyY8