بازه باز

کانت فیلسوف، در کتاب‌هاش میگه که ذهن انسان هرگز واقعیت خام رو درک نمی‌کنه، بلکه دیتای حسی از فیلتر چارچوب‌های پیشینی مثل زمان و علیت، رد می‌کنه تا تجربه شکل بگیره. کانت میگه هیچ موجود هوشمند مطلقی بدون سوگیری استقرایی وجود نداره حذف کامل این سوگیری به معنای دستیابی به هوش برتر نیست، بلکه به معنای نابودی در میان نویز تصادفی جهان هست.

چی رو به چی ربط دادم اصلا😂

در مقابل کانت، فیلسوف هیوم هم سوال جالبی مطرح میکنه. هیوم میگه فرض کنیم تو راست میگی ولی با چه منطقی مطمئنی که فردا خورشید طلوع می‌کنه؟ فقط چون در گذشته همیشه طلوع کرده؟ این استدلال اساسا دور باطله؛ چون برای اثبات اینکه آینده شبیه گذشته خواهد بود، از این فرض استفاده میشه که در گذشته، آینده شبیه گذشته بوده است.

این غیرمنطقی به نظر میاد ولی به طرز جالبی هوش مصنوعی رو این استدلال‌ها ریشه کرده و جدا از اینا نیست

مثلا اینکه توی ml فرض میکنیم توزیع دیتاهای آموزش با توزیع دیتاهای تستی از یک منبع اومده، اگر توزیع بهم بخوره، مدل فرو می‌پاشه.

توی دهه 70 و اینا که یه سری الگوریتم خیلی خیلی ساده یادگیری میساختن که بهش میگیم دوران هوش مصنوعی کلاسیک این الگوریتم ها عمدتا با شکست فجیعی مواجه میشدن بعد مک کارتی و یکی دو فیلسوف دیگه قضیه رو بررسی کردن

گفتن که ماشین نمیدونه چه چیزهایی تغییر نمیکنن اگر یه رباتی لیوان قهوه رو جا به‌ جا کنه آیا رنگ دیوار هم تغییر کرده؟ آیا جاذبه هنوز کار می‌کنه؟

در این حالت ماشین باید بی نهایت گزاره رو چکاب میکرد تا بتونه عمل کنه. که خب شکست میخورد مشخصا

معماری ترنسفورمرها، این چالشو حل کرد به الگوریتم میگه به 99.99 درصد جهان توجه نکن فقط به چیزی که جلوته توجه کن.

خب برگردیم به هیوم هیوم میگه ما هیچ‌وقت رابطه علت و معلولی رو در جهان مشاهده نمی‌کنیم، ما فقط توالی زمان و همبستگی وقایع رو میبینیم، مثلا اول سنگ به شیشه می‌خوره بعد شیشه می‌شکنه. ما شکستن رو میبینیم اما اون نخ نامرئی یعنی "علیت" رو حس نمیکنیم.

جودیا پرل برنده جایزه تورینگ میگه هوش بدون توانایی درک روابط علت و معلولی اساسا شکل نمی‌گیره. و ماشین‌های امروزی در پایین‌ ترین سطح از ادراک گیر کردن.

یعنی میفتن توی همون لوپی که هیوم مطرح کرد از کجا مطمئنی خورشید فردا طلوع میکنه فقط چون دیروز طلوع کرده؟

در واقع جولیا میگه که هوش مصنوعی امروزی اساسا هوش واقعی نیستن چون این ai ها میان معناهای مختلفو کنار هم قرار میدن و چیز جدیدی از دلشون میکشن بیرون ولی نمیتونن رابطه علیت رو حس کنن، درکش نمیکنن.

حالا جولیا یه نردبان علیت میاد معرفی کنه و.. بحثش طولانیه الان حضور ذهن ندارم بگم(پیچیدس نمیفهمم😂)

ولی یه راهکار به مهندسا میده میگه ما باید دست از انبوه انبوه دیتا دادن به ai برداریم. مدل باید بتونه قبل از استدلال و تصمیم گیری یه مدل ساختاری از نحوه کارکرد جهان بسازه، مدل بتونه بفهمه کدوم الگوریتم و ساختار روی کدوم الگوریتم اثر میذاره و کدوم‌ها صرفا یه همبستگی تصادفی دارن. و اگر یک بخشی از زنجیره حذف بشه کدوم بخش ها فرو میپاشن در واقع مدل بفهمه علت چیه معلول چیه.

حرف حساب جولیا اینه که هرچقدرم به مدل دیتا بدیم و پیچیده کنیم فقط داریم. سطح اول ادراک رو پیچیده میکنیم و این راه رسیدن به یک هوش واقعی نیست.

به اعتقاد جولیا هوش دقیقا از جایی فعال میشه که پای مداخله، سوال پرسیدن و کشف علیت و فرضیه‌سازی بیاد وسط. جایی که با متغیرها بازی بشه و بعد بپرسی این متغیر چرا باید تغییر کند؟

هوش مصنوعی امروزی با چیز جدید غریبه‌ست چون فقط گذشته رو بهش دادیم و فهم رسیدن به آینده رو ندادیم.

اول مستند از ربات چت بات Tay شروع میکنه، چت باتی که مایکروسافت سال 2016 بیرون داد و گند زد. این چت بات از دیتای توییتر و فیسبوک قرار بود یادبگیره فقط نژادپرستی و زن‌ستیزی یادگرفت و بعدشم جریانات فمنیست و اینا ریختن روش، داستان شد کلا😂