帖子 پ.ن: ابتدا مدل‌ها دارای ۱۰۰ تا ۲۰۰ میلیارد پارامتر بودن، و بعد پیشرفت کردن و به ۱ تا ۳ تریلیون پارامتر رسیدن (مدل‌های رو…

پ.ن: ابتدا مدل‌ها دارای ۱۰۰ تا ۲۰۰ میلیارد پارامتر بودن، و بعد پیشرفت کردن و به ۱ تا ۳ تریلیون پارامتر رسیدن (مدل‌های روزمره). همچنین، اون ها سعی میکنن ما رو بترسونن و بگن که این مدل‌ها "وحشی" هستن و همه را نابود میکنن، در حالی که مدل‌های بزرگتر، احتمالاً بیش از ۱۰ تریلیون پارامتر دارن. سپس، برای استفاده (inference)، این مدل‌ها را به مدل‌های کوچکتر با ۱ تا ۳ تریلیون پارامتر تبدیل و بهینه‌سازی میکنن. این مدل‌های بزرگ، با قیمت‌های بسیار بالا، به شرکت‌ها عرضه میشن (احتمالاً از طریق اشتراک‌های خصوصی). راه‌اندازی این سیستم‌ها بسیار پرهزینه هست و خروجی اونا (توکن‌ها) بسیار ارزشمند هستند. به نظر می‌رسد که توسعه مدل‌ها به بیش از ۲۰ تا ۳۰ تریلیون پارامتر، بی‌معنی هست. احتمالاً فکر می‌کنند: به چه درد می‌خورد؟ زیرا دیگر هیچ مصرف‌کننده‌ای برای این مدل‌های بسیار بزرگ وجود ندارد.