Replymessage unavailable
یک محقق برجسته از OpenAI و Anthropic استعفا داد و گفت این شرکتها با جان ما قمار میکنن و مسئولانه عمل نمیکنن. 😱 جاکوب کاکسون، که سه سال اخیر رو صرف توسعه کلاود (Claude) و چتجیپیتی (ChatGPT) کرده، اواخر شب گذشته با سیل پستهاش توی ایکس (X) نگرانیهاش رو عمومی کرد.
اون میگه سازندگان هوش مصنوعی واقعاً اعتقاد دارن که تا آخر این دهه ممکنه نسل بشر رو از بین ببره! حتی ادعا کرده مدیران ارشد این شرکتها توی خلوت خودشون ترسشون رو ابراز میکنن. به گفته جاکوب، تنها دلیلی که به توسعه ادامه میدن، اینه که دنیا تو یه رقابت هوش مصنوعی گیر کرده که هیچکس نمیخواد ببازه. 🏃♂️
حالا قضیه از اینجا جالبتر میشه: مسئول ارشد تیم همراستایی (Alignment Science Lead) Anthropic که هنوز اونجا مشغوله، حرفهای جاکوب رو تأیید کرده و گفته اونا واقعاً معتقدن هوش مصنوعی میتونه همه انسانها رو بکشه! 🤯 اون شخصاً فکر میکنه بالای ۱۰٪ شانس داره تو دهه آینده این اتفاق بیفته. درست روز قبلش، رئیس دانشمندان (Chief Scientist) OpenAI هم هشدار داد که هیچکس برای عواقب هوش مصنوعی آماده نیست و خواستار احتیاط شدید در برابر پیشرفت سرکش اون شد.
✉️
✍️ @dev_talks_group