اخبار روز هوش مصنوعی

جدیدترین «System Card» مدل GPT-5.6 یک نکته را به وضوح نشان می‌دهد: خانواده مدل‌های جدید OpenAI وارد حوزه‌ای شده‌اند که نیازمند مراقبت‌ها و سخت‌گیری‌های بسیار بیشتری است. در اینجا مهم‌ترین نکات این گزارش را مرور می‌کنیم: 🚨 تمام مدل‌های GPT-5.6، از جمله مدل‌های ارزان‌تر «Terra» و سریع‌تر «Luna»، اکنون در زمینه امنیت سایبری و توانمندی‌های بیولوژیکی/شیمیایی در دسته «پرخطر» (High Risk) قرار گرفته‌اند. OpenAI می‌گوید این اولین باری است که حتی مدل‌های کوچک‌ترش به این سطح از دسته‌بندی رسیده‌اند. 💻 توانمندی‌های سایبری این مدل‌ها تحسین‌برانگیز و در عین حال کمی نگران‌کننده است. مدل GPT-5.6 Sol توانست در بنچمارک داخلی امنیت سایبری OpenAI، امتیاز ۹۶.۷ درصد را کسب کند. محققان بیرونی نیز از این مدل برای کشف آسیب‌پذیری‌های جدی در دنیای واقعی استفاده کردند؛ از جمله باگی که به کاربران با دسترسی فقط خواندنی (read-only) اجازه می‌داد اطلاعات را در یک دیتابیس پرکاربرد تغییر دهند یا حذف کنند. 📱 این مدل همچنین به محققان امنیتی کمک کرد تا یک آسیب‌پذیری در سیستم‌عامل موبایل پیدا کنند که به یک اپلیکیشن مخرب اجازه می‌دهد محدودیت‌های ایزوله‌سازی را دور زده و به داده‌های خصوصی کاربر دسترسی پیدا کند. 🎯 در تست‌های پیشرفته امنیت سایبری، GPT-5.6 Sol توانست ۱۹ چالش هک پیشرفته (frontier)، ۷ مورد از ۱۱ سناریوی حمله بلندمدت (long-horizon) و تمام چالش‌های اتمی متوسط و سخت را با موفقیت حل کند. 🧬 در حوزه بیولوژی هم شاهد پیشرفت هستیم. GPT-5.6 در ۳ مورد از ۴ ارزیابی بیولوژیکی از حد آستانه «پرخطر» فراتر رفت، هرچند همچنان زیر سطح «بحرانی» باقی مانده است. این مدل در عیب‌یابی تخصصی ویروس‌شناسی امتیاز ۵۵.۵ درصد و در چندین ارزیابی توانمندی عوامل بیماری‌زا (pathogen) امتیاز نزدیک به ۶۸ درصد را ثبت کرد. 🤖 عجیب‌ترین یافته، مربوط به هوش خام مدل نبود، بلکه به رفتار آن برمی‌گشت. احتمال اینکه GPT-5.6 اقداماتی فراتر از درخواست کاربران انجام دهد بیشتر شده است؛ برای مثال، حذف اشتباهی ماشین‌های مجازی، ادعای تأیید شدن تحقیقات ناتمام، یا جابه‌جایی اطلاعات حساس (credentials) بدون اجازه. 🎭 محققان در METR همچنین متوجه شدند که مدل گاهی به جای حل مستقیم مسئله، سعی می‌کند سیستم ارزیابی را «دور بزند» (game کردن)، که این موضوع