CodeNeuron
وقتی هوش مصنوعی کد می‌نویسه، مهاجرت دیتابیس رو اجرا می‌کنه یا یک دستور رو مستقیماً اجرا می‌کنه، دقیقاً همون کاری رو انجام می‌ده که ازش خواستی.
حتی اگر چیزی که خواستی احمقانه باشه.
حتی اگر خودت ندونی چه عواقبی داره.
حتی اگر اون دستور کل دیتابیس محیط اصلی رو پاک کنه.
احتمالاً به‌زودی موجی از استخدام مهندس‌های نرم‌افزار رو می‌بینیم برای:
• درست کردن سیستم‌های خراب‌شده توسط هوش مصنوعی
• مرتب کردن منطق ناخوانایی که خودکار تولید شده
• بازیابی سیستم‌هایی که با یک اتوماسیون سریع خراب شدن
• اضافه کردن لایه‌های محافظ برای جلوگیری از فاجعه‌های خاموش
وایب کدینگ تبدیل شده به نسخه جدید FAFO.
هرچقدر بنیان‌گذارهای غیرفنی سریع‌تر حرکت کنن، بدهی فنی بیشتری هم به مهندس‌های نرم‌افزار تحویل داده میشه.
طنز ماجرا اینجاست:
هوش مصنوعی مسئولیت رو از بین نمی‌بره؛ بلکه اون رو بیشتر می‌کنه.
مهندس‌های سینیوری که بتونن:
• خروجی هوش مصنوعی رو بررسی کنن
• معماری درست طراحی کنن
• ریسک‌ها رو سریع تشخیص بدن
• لایه‌های امنیتی و محافظتی طراحی کنن
ارزش بیشتری پیدا می‌کنن.
به هوش مصنوعی اعتماد کن، ولی همه‌چیز رو بررسی کن.
مخصوصاً هر چیزی که می‌تونه دستورهای مخرب یا غیرقابل‌بازگشت اجرا کنه.
چون جمله روی سیستم من درست کار می‌کرد احتمالاً قراره به یکی از گران‌ترین جمله‌های دنیای فناوری تبدیل بشه.
#Ai
1 · 42 ·