الأوزان المفتوحة ليست تدريبا مفتوحا. كتبت @AddieF38654 في فريقنا تجربتها في محاولة تدريب نموذج MoE على معلمة 1T باستخدام البنية التحتية مفتوحة المصدر الحالية. دعونا نكتشف كم عدد رقع القردة المطلوبة لتدريب نموذج الأوزان المفتوح بعد تدريبه. خيط🧵