از نورون تا هوش ◇---<

🧠 شبکه‌های عصبی کمتر از انتظار برای یادگیری زحمت می‌کشند‌! پیش از یادگیری، وزن‌های اتصالات در شبکه‌های عصبی کاملا تصادفی هستند (معمولا توزیع نرمال دارند). پژوهش چاپ شده در نوریپس سال ۲۰۲۰ (لینک) نشان می‌دهد که یادگیری در تمام اتصالات شبکه‌های عصبی (RNN) رخ نمی‌دهد. تغییرات اتصالات در اثر یادگیری معمولا پیچیده و سراسری نیست. برعکس، تغییرات مهم در چند مسیر محدود اتفاق می‌افتند--- ماتریس تغییر کم‌مرتبه (یا شاید بهش می‌گیم کم‌رتبه) است‌. نکته جالب‌تر: اگر اتصالاتی که حین یادگیری تغییر نکرده‌اند و تصادفی مانده‌اند را بُر بزنید و مخلوط کنید، شبکه آنچه یاد گرفته را فراموش می‌کند‌. بنابرین یادگیری روی همان وزن‌های تصادفی دست نخورده اولیه سوار می‌شود. یادگیری فقط چند نقطه حساس این ساختار تصادفی بزرگ را خم می‌کند. @physics_daily | از نورون تا هوش

🤬 کدوم یکی هوش مصنوعیه؟ این روزها واقعا تشخیصش سخت شده. @physics_daily

🧠 ممکن است پرسروصداترین سیگنال‌های نورونی ربطی به رفتار (خروجی) نداشته باشند امروزه, چه در داده‌های مغزی، چه در تحلیل طرز کار هوش مصنوعی، به دنبال بازنمایی‌های عصبی (رپرزنتیشن‌ها) هستیم. بازنمایی عصبی نوعی فعالیت نورون‌هاست که با رفتار (یا به طور کلی کارکرد سیستم) ارتباط مستقیم دارد. مطالعه اخیر چاپ شده در ایلایف (لینک) نشان می‌دهد بیشتر فعالیت عصبی می‌تواند ارتباطی با خروجی (مثلا رفتار) نداشته باشد. خیلی وقت‌ها، بازنمایی‌ها زیر سایه فعالیت غالب شبکه پنهان می‌شوند. خب خیلی مهمه. باید هم داده‌های مغزی و هم فعالیت شبکه‌های عصبی مصنوعی رو جور دیگه‌ای، با لحاظ کردن اینکه فعالیت غالب می‌تونه گمراه‌کننده باشه، تحلیل کنیم. @physics_daily | از نورون تا هوش

🧠 مغز چطور پیش‌زمینه را در تصمیم‌گیری لحاظ می‌کند؟ صدای انفجار می‌شنوید! اگر چهارشنبه‌سوری باشد، ممکن است لبخند بزنید. اگر نباشد، شاید حدس بزنید جنگ شروع شده و استرس بگیرید یا به شعف بیایید. مغز شما به پیش‌زمینه (کانتکست) اهمیت می‌دهد. اما دقیقا چطور این کار را می‌کند؟ قبلا تصور می‌شد که مغز اطلاعاتِ نامربوط به پیش‌زمینه را (مثل حضور دسته کلاغ‌ها در آسمان حین رانندگی) در نواحی حسی اولیه فیلتر و حذف می‌کند. درعوض اطلاعات مربوط به پیش‌زمینه را (مثل لغزندگی جاده حین رانندگی) نگه می‌دارد. بنابرین، فقط اطلاعات مربوط به پیش‌زمینه را به مراکز تصمیم‌گیری (PFC) می‌فرستد. مطالعه چاپ شده در نیچر با بیش از دوهزار ارجاع نشان می‌دهد اینطور نیست. اطلاعات مرتبط و نامرتبط به پیش‌زمینه، با هم، وارد مرکز تصمیم‌گیری مغز شما می‌شود. در عوض، نورون‌های مرکز تصمیم‌گیری در مسیرهای هندسی جذابی فعالیت جمعی می‌کنند که توسط پیش‌زمینه تعیین می‌شود. همانطور که جوی مسیر حرکت آب را مشخص می‌کند، پیش‌زمینه رسیدن به تصمیم را هدایت می‌کند. پژوهشگران با مطالعه شبکه‌های عصبی مصنوعی RNN نشان دادند که همان الگوریتمِ هندسی پیدا شده در مغز در هوش مصنوعی هم به طور خودجوش بروز می‌کند. توضیح کامل‌تر مقاله به شکل ۱. فایل صوتی ۲. فایل نوشتاری در پست بعدی تقدیم می‌شه. این کانال رو به علاقمندان مغز، هوش مصنوعی، فیزیک و ریاضیات معرفی کنید. @physics_daily | از نورون تا هوش

🔥 مقاله بعدی که به زودی بررسی می‌کنیم. @physics_daily | از نورون تا هوش

🧠 فردیت و یگانگی در شبکه‌های عصبی— ذهنِ هوش مصنوعی می‌تواند شبیه ذهنِ ما باشد؟ مثل قبل، اینجا خلاصه رو می‌گم و در پست بعدی بررسی مقاله رو به صورت فایل صوتی و نوشتاری تقدیم می‌کنم. آیا فعالیت نورونی مغز من و شما، پس از یادگیری کاری یکسان، مثلا شنای قورباغه، به هم شبیه می‌شود؟ آیا شبکه‌های عصبی زیستی و مصنوعی راه‌های مشابهی برای حل مساله یکسان پیدا می‌کنند؟ پژوهشگران حدود سه هزار شبکه عصبی مصنوعی را زیر ذره‌بین مطالعه گذاشتند (لینک مقاله نوریپس ۲۰۱۹). این شبکه‌های متفاوت را برای انجام وظیفه‌ای یکسان آموزش دادند. الگوهای فعالیت نورونی هر شبکه شکل هندسی جذابی می‌ساخت که می‌شد آنرا با شبکه‌های دیگر مقایسه کرد. جالب اینجاست که هندسه شبکه‌های متفاوت، حتی بعد از یادگیری وظیفه یکسان، مشابه نشد! این پاسخ ناامید کننده بود! با اینکه شبکه‌ها مساله یکسانی را حل می‌کردند، هندسه فعالیت نورونی آن‌ها حسابی متفاوت از آب در آمده بود. می‌شد چنین برداشت کرد که هر کدام از راه کاملا متفاوتی مساله را حل کرده و هیچ یگانگی وجود ندارد. هندسه فعالیت نورونی اطلاعات خاصی درباره اصول «کلی و عمومی محاسبات عصبی» آشکار نکرد. پژوهشگران این بار به دنبال جواب سوال عمیق تری رفتند. چه قوانین پنهانی فعالیت نورونی را هدایت می‌کند؟ آن‌ها این قوانین را با گراف‌ها نمایش دادند. این گراف‌ها مسیر دینامیک نورونی را هدایت می‌کنند. این گراف‌ها در تمام شبکه‌های عصبی، پس یادگیری یکسان، یکسان می‌شد. بنابرین، شبکه‌های عصبی در هندسه فعالیت نورونی خود «فردیت» دارند و در ریخت‌شناسی ساختار دینامیکی خود «یگانگی.» این مطالعه چارچوب جدید و قدرتمندی برای فهم بهتر شباهت‌ها و تفاوت‌ها در درونیات هوش زیستی و مصنوعی ارائه می‌دهد و نشان می‌دهد اصول کلی یادگیری و محاسبات عصبی می‌تواند در هردو یگانه باشد. این کانال رو به علاقمندان مغز، هوش مصنوعی، فیزیک و ریاضیات معرفی کنید. بررسی کامل در فایل صوتی و نوشتاری به زودی 👇🏻👇🏻👇🏻 @physics_daily | از نورون تا هوش