انویدیا با همکاری استارتاپ فرانسوی Mistral AI از انتشار مدل زبانی جدیدی خبر داده است که قابلیت‌های هوش مصنوعی را مستقیم در دسترس رایانه‌های دسکتاپ تجاری قرار می‌دهد. این مدل با نام Mistral-NeMo، 12 میلیارد پارامتر و پنجره زمینه گسترده‌ای با 128000 توکن دارد تا برای کسب‌و‌کارهایی که می‌خواهند بدون نیاز به منابع ابری از قابلیت‌های هوش مصنوعی استفاده کنند، گزینه مناسبی باشد.
«برایان کاتانزارو»، معاون تحقیقات یادگیری عمیق کاربردی انویدیا، در مصاحبه‌ای با VentureBeat درباره دسترسی‌پذیری و کارایی مدل Mistral-NeMo می‌گوید:
«ما درحال راه‌اندازی مدلی هستیم که مشترک با Mistral آموزش داده شده است. این مدلی 12 میلیارد پارامتری است و ما آن را تحت لیسانس نرم‌افزاری Apache 2.0 راه‌اندازی می‌کنیم. واقعاً درمورد دقت این مدل در انجام بسیاری از وظایف هیجان‌زده هستیم.»
پنجره زمینه Mistral-NeMo که دارای 128 هزار توکن است ویژگی قابل‌توجه آن محسوب می‌شود و به مدل اجازه می‌دهد تا نسبت به رقبای خود، بخش‌های بسیار بزرگ‌تری از متن را پردازش و درک کند. مفهوم پنجره زمینه به گستره‌ای از داده‌ها اشاره دارد که مدل می‌تواند در یک زمان به آن‌ها دسترسی داشته باشد.
این ویژگی می‌تواند به‌طورخاص برای کسب‌و‌کارهایی که با اسناد طولانی، تجزیه‌و‌تحلیل‌های پیچیده یا وظایف کدگذاری‌شده سروکار دارند، مفید باشد.
کاتانزارو درمورد مزایای مدل‌های کوچک‌تر می‌گوید آن‌ها در دسترس‌ترند و به‌سادگی اجرا می‌شوند. همچنین این مدل‌ها طبق گفته کاتانزارو می‌توانند روی پردازنده‌های گرافیکی RTX نیز اجرا شوند. انویدیا درحالی مدل هوش مصنوعی کوچک خود را معرفی کرده که OpenAI نیز اخیراً نسخه کوچک‌تر و ارزان‌تر مدل خود را با نام GPT-4o mini منتشر کرده است.
این مدل هم‌اکنون از طریق وب‌سایت انویدیا در دسترس است و عرضه نسخه دانلودی آن نیز در آینده نزدیک وعده داده شده است. انتشار مدل تحت مجوز Apache 2.0 باعث می‌شود بتوان از آن در سیستم‌های تجاری نیز استفاده کرد.
