DigEd chat

​​Искусственный интеллект как «нечеткое устранение посредников»: некоторые закономерности и риски Автор: Майк Колфилд Майк Колфилд предлагает рассматривать влияние ИИ не просто как новое посредничество, а как «нечеткую дезинтермедиацию» — резкое сокращение дистанции между человеком и информационными источниками - Интернет уже устранил часть посредников: человек получил возможность самостоятельно обращаться к первоисточникам, но на практике большинство пользователей редко проделывает весь путь до них из-за сложности и затрат усилий. - LLM меняют ситуацию радикальнее: они не столько заменяют Google-поиск, сколько превращают в поиск множество запросов, которые человек раньше вообще не стал бы искать. Поэтому ИИ резко расширяет сферу обращения человека к внешней информации. - При этом ИИ действительно «нечеткий»: он обобщает и иногда искажает информацию, скрывая конкретные источники. Но по сравнению с прежней ситуацией информация может оказаться значительно ближе к пользователю. - Главный риск — не только ошибки самой LLM, но и возможность манипулировать первоисточниками. Если изменение авторитетного источника автоматически и быстро распространяется через ИИ, то покупка или компрометация одного источника потенциально получает гораздо больший эффект. - Поэтому возникает новый баланс: как совместить почти мгновенный доступ к обобщённому первичному знанию с защитой от чрезмерной централизации и манипуляции информацией? При этом прежняя медленность распространения информации иногда сама выполняла роль защитного буфера. Автор утверждает, что главный эффект ИИ может состоять не в том, что он становится ещё одним посредником между человеком и знанием, а в том, что он делает доступ к информации настолько дешёвым, что люди начинают обращаться к ней в ситуациях, где раньше вообще не стали бы искать — и именно это создаёт новый, пока недооценённый системный риск. Если эта логика верна, LLM постепенно становятся не просто «поисковиками нового поколения», а инфраструктурой повседневного доступа человека к знанию. Тогда вопрос качества ИИ смещается от «правильно ли он отвечает?» к более широкому: «какие источники через него получают влияние на мышление миллионов людей?» Читать 8мин https://dzen.ru/a/aqmaC2JSZDo2gzx-