یک‌شنبه 01 مهر 1403 - 23:55

کد خبر 601531

چهارشنبه 31 مرداد 1403 - 11:25:58


مایکروسافت از مدل‌های هوش مصنوعی Phi-3.5 رونمایی کرد؛ پیشرفت چشمگیر در برابر رقبا


دیجیاتو/ باتوجه به نتایج بنچمارک‌ها می‌توان مدل‌های Phi-3.5 را در برخی جنبه‌ها رقیبی برای مدل‌های گوگل و OpenAI دانست.

مایکروسافت اگرچه همکاری نزدیکی با OpenAI دارد، اما تنها به کار با این شرکت اکتفا نمی‌کند. غول دنیای فناوری به‌تازگی از سه مدل جدید Phi-3.5 رونمایی کرده که باتوجه به نتایج بنچمارک‌ها می‌توان آن‌ها را رقیبی برای مدل‌های گوگل و OpenAI دانست.

براساس گزارش VentureBeat، مایکروسافت به‌تازگی سه مدل جدید سری Phi-3.5 را معرفی کرده است. هر سه مدل برای دانلود از پلتفرم Hugging Face تحت مجوز MIT در دسترس هستند که امکان استفاده تجاری و تغییر بدون محدودیت را فراهم می‌کند. این سه مدل به شرح زیر هستند:

مدل با 3.82 میلیارد پارامتر.
مدل با 41.9 میلیارد پارامتر.
مدل با 41.15 میلیارد پارامتر.

مدل‌های هوش مصنوعی Phi-3.5 مایکروسافت
به شکل شگفت‌انگیزی، هر سه مدل در تعدادی از تست‌های بنچمارک شخص ثالث عملکردی تقریباً عالی دارند، حتی در برخی موارد از سایر مدل‌های هوش مصنوعی مانند جمینای 1.5 فلش گوگل، Llama 3.1 متا و حتی GPT-4o از OpenAI پیشی می‌گیرند. عرضه چنین مدل‌های قدرتمند و متن‌بازی را نیز در پی داشته است.

Phi-3.5 Mini Instruct یک مدل هوش مصنوعی سبک با 3.8 میلیارد پارامتر است که دارای پنجره زمینه با 128 هزار توکن است. این مدل برای کارهایی که نیاز به قابلیت‌های استدلال قوی دارند مانند کدنویسی، حل مسائل ریاضی و استدلال مبتنی بر منطق ایده‌آل است. مدل Phi-3.5 Mini Instruct با وجود اندازه کوچک خود، عملکردی تقریباً عالی در تعدادی از بنچمارک‌ها دارد و از دیگر مدل‌های هم‌اندازه خود مانند Llama-3.1-8B-instruct و Mistral-7B-instruct در بنچمارک RepoQA جلو می‌زند.

مدل Phi-3.5 MoE ظاهراً اولین مدل MoE (ترکیب متخصصان) مایکروسافت است، این مدل‌ چندین نوع مدل مختلف را در خود ترکیب می‌کند که هر کدام در وظایف متفاوتی تخصص دارند. مدل جدید مایکروسافت از 42 میلیارد پارامتر فعال بهره می‌برد و پنجره زمینه آن 128 هزار توکن است. این مدل به‌طرز چشمگیری GPT-4o mini را در بنچمارک MMLU 5 در حوزه‌هایی مانند STEM، علوم انسانی، علوم اجتماعی در سطوح مختلف شکست می‌دهد.

مدل Phi-3.5 Vision Instruct قابلیت‌های پردازش متن و تصویر را ادغام می‌کند. این مدل چندوجهی به‌ویژه برای کارهایی مانند درک کلی تصویر، تشخیص کاراکترها، درک نمودار، جدول و خلاصه‌سازی ویدئو مناسب است. مانند دو مدل قبلی، پنجره زمینه این مدل 128 هزار توکن است.

مدل Phi-3.5 Mini Instruct روی 3.4 تریلیون توکن با استفاده از 512 پردازشگر گرافیکی H100-80G طی 10 روز آموزش داده شده است، در حالی که مدل Vision Instruct روی 500 میلیارد توکن با استفاده از 256 پردازشگر گرافیکی A100-80G در مدت 6 روز آموزش دید. مدل Phi-3.5 MoE نیز که دارای معماری ترکیبی از متخصصان است، در طول 23 روز روی 4.9 تریلیون توکن با 512 پردازشگر گرافیکی H100-80G آموزش داده شد.


پربیننده ترین


سایر اخبار مرتبط