帖子 یه داستان عجیب درباره آینده هوش مصنوعی دیدم که به نظرم ارزش کمی دقیق‌تر نگاه کردن داره.

یه داستان عجیب درباره آینده هوش مصنوعی دیدم که به نظرم ارزش کمی دقیق‌تر نگاه کردن داره. شخص Jacob Coxon، پژوهشگری که روی pretraining مدل‌ها در OpenAI و بعد Anthropic کار کرده، اخیراً از کارش خارج شده و هشدار داده که شرکت‌های بزرگ AI با سرعت زیادی دارن به سمت سیستم‌های خودبهبوددهنده و در نهایت superintelligence حرکت می‌کنن. نگرانی اصلیش هم خود پیشرفت AI نیست؛ مسئله اینه که رقابت بین شرکت‌ها ممکنه باعث بشه امنیت و کنترل سیستم‌ها عقب بمونه. از نگاه اون، شرکت‌ها باید سرعت توسعه مدل‌های پیشرفته رو کاهش بدن، روی کنترل مستقل و نظارت جدی‌تر توافق کنن و حتی در شرایط خاص توسعه بعضی سیستم‌ها رو متوقف کنن. اما بخش عجیب داستان اینجاست. پست این پژوهشگر که قبل از این خیلی شناخته‌شده نبود، ناگهان صدها میلیون بازدید گرفت و همین باعث شد بعضی‌ها درباره احتمال یک کمپین از قبل طراحی‌شده برای وایرال کردنش سؤال مطرح کنن. خود Coxon این موضوع رو رد کرده و فعلاً هم مدرک محکمی برای ساختگی بودن این ماجرا وجود نداره. بنابراین به نظرم بهتره بین «چیزی که می‌دونیم» و «حدس‌هایی که درباره پشت پرده زده می‌شه» تفاوت قائل بشیم. اما قسمت دیگری که برای من جالب‌تره، چین هست. در حالی که بعضی از چهره‌های اصلی AI در آمریکا دارن درباره کند کردن رقابت هشدار می‌دن، چین همچنان روی توسعه سریع مدل‌های قدرتمند و در دسترس‌تر، مخصوصاً مدل‌های open-weight، تأکید داره. البته طبیعتاً چین هم منافع استراتژیک خودش رو داره و نمی‌شه این سیاست رو صرفاً از زاویه خیر عمومی دید. ولی نتیجه واقعاً جالبه: آمریکایی‌ها نگرانن که AI بیش از حد سریع پیش بره و از کنترل خارج بشه؛ چین نمی‌خواد از این رقابت عقب بمونه. و اینجا یک سؤال سخت شکل می‌گیره: اگر یک کشور سرعتش رو کم کنه تا ایمنی بیشتری داشته باشه، ولی رقیبش این کار رو نکنه، آیا واقعاً می‌تونه سرعت رو کم کنه؟ به نظرم آینده AI فقط رقابت بین مدل‌ها نیست؛ رقابت بین سیاست‌های توسعه، امنیت و حتی فلسفه‌های متفاوت درباره مالکیت و دسترسی به هوش مصنوعیه. #هوش_مصنوعی #آینده_تکنولوژی #ایمنی_هوش_مصنوعی #AI #AGI #AISafety