آخرین اخبار:
14:15 29 / 07 /1405

دیپ‌سیک با انتشار ابزار رایگان DeepInfer رقابت با اوپن‌ای‌آی و آنتروپیک را شدیدتر کرد

دیپ‌سیک
شرکت چینی دیپ‌سیک ابزار جدیدی به نام DeepInfer را به‌صورت متن‌باز و رایگان منتشر کرده که با بهینه‌سازی فرایند اجرای مدل‌های هوش مصنوعی، می‌تواند هزینه پردازش و مصرف انرژی را کاهش دهد. این اقدام در شرایطی انجام شده که افزایش هزینه استفاده از مدل‌های پیشرفته، شرکت‌های بیشتری را به استفاده از جایگزین‌های ارزان‌قیمت سوق داده و فشار رقابتی بر اوپن‌ای‌آی و آنتروپیک را افزایش داده است.

به گزارش خبرگزاری آنا؛ شرکت دیپ‌سیک که در سال ۲۰۲۵ با معرفی مدل هوش مصنوعی R۱ توجه گسترده صنعت فناوری را جلب کرد، اکنون بخشی از زیرساخت اختصاصی اجرای مدل‌های خود را به‌صورت رایگان در گیت‌هاب منتشر کرده است. ابزار DeepInfer یک چارچوب پردازشی برای اجرای مدل‌های زبانی در مقیاس بزرگ است که در زیرساخت عملیاتی خود دیپ‌سیک نیز مورد استفاده قرار می‌گیرد و با هدف افزایش سرعت تولید پاسخ‌ها، کاهش تأخیر و استفاده بهینه‌تر از منابع سخت‌افزاری توسعه یافته است. این ابزار در حال حاضر از مدل DeepSeek-V۴.۱-Flash-۱۰۱۷ پشتیبانی می‌کند و شرکت اعلام کرده مدل‌های بعدی نیز پس از انتشار عمومی به آن اضافه خواهند شد. دیپ‌سیک امیدوار است با در دسترس قرار دادن این فناوری، توسعه‌دهندگان و کسب‌وکار‌ها بتوانند مدل‌های هوش مصنوعی را با هزینه کمتر روی زیرساخت‌های پردازشی خود اجرا کنند.

DeepInfer چگونه هزینه اجرای مدل‌های هوش مصنوعی را کاهش می‌دهد؟

یکی از پرهزینه‌ترین مراحل استفاده از هوش مصنوعی، فرایندی به نام استنتاج است که طی آن مدل آموزش‌دیده درخواست کاربر را پردازش می‌کند و پاسخ جدید تولید می‌شود. برخلاف مرحله آموزش که معمولاً پیش از عرضه مدل انجام می‌شود، استنتاج با هر درخواست کاربر تکرار می‌شود و به منابع پردازشی نیاز دارد. این هزینه زمانی افزایش پیدا می‌کند که ایجنت‌های هوش مصنوعی برای انجام یک فعالیت پیچیده، ده‌ها یا صد‌ها درخواست جداگانه ارسال می‌کنند و از چندین ایجنت کمکی برای تکمیل وظایف استفاده می‌کنند. به همین دلیل شرکت‌های ارائه‌دهنده خدمات هوش مصنوعی علاوه بر بهبود توانایی مدل‌ها، به‌دنبال روش‌هایی برای کاهش هزینه پردازش هر درخواست هستند.

ابزار DeepInfer برای مدیریت بهتر همین فرایند طراحی شده و از روش‌های مختلفی برای افزایش بهره‌وری پردازنده‌های گرافیکی استفاده می‌کند. یکی از قابلیت‌های آن «رمزگشایی حدسی» است که در آن سامانه ابتدا بخش‌هایی از پاسخ احتمالی را پیش‌بینی می‌کند و سپس با بررسی گروهی این پیش‌بینی‌ها، زمان موردنیاز برای تولید متن را کاهش می‌دهد. این چارچوب همچنین امکان توزیع عملیات پردازشی میان چند پردازنده، زمان‌بندی هم‌زمان درخواست‌ها و مدیریت بهتر منابع هنگام اجرای مدل‌های بزرگ را فراهم می‌کند. نتیجه مورد انتظار، افزایش تعداد درخواست‌های قابل پردازش و کاهش مصرف منابع برای تولید حجم مشخصی از خروجی است.

دیپ‌سیک کد این ابزار را با مجوز متن‌باز Apache ۲.۰ منتشر کرده و توسعه‌دهندگان می‌توانند آن را بررسی و متناسب با نیاز‌های خود استفاده کنند. نسخه فعلی برای اجرای آفلاین مدل طراحی شده و از پردازنده‌های گرافیکی سازگار انویدیا و شتاب‌دهنده‌های Ascend ۹۵۰ هواوی پشتیبانی می‌کند. البته این نسخه هنوز تمام اجزای موردنیاز برای راه‌اندازی یک سرویس اینترنتی کامل را در بر نمی‌گیرد و امکاناتی مانند سامانه مستقل مدیریت حافظه موقت و توزیع بار میان سرور‌های مختلف باید جداگانه فراهم شوند؛ بنابراین انتشار رایگان DeepInfer به معنای امکان اجرای بدون هزینه یا بدون تجهیزات قدرتمند مدل‌های دیپ‌سیک نیست.

افزایش هزینه هوش مصنوعی شرکت‌ها را به سمت مدل‌های ارزان‌تر می‌برد

انتشار این ابزار هم‌زمان با افزایش حساسیت شرکت‌های بزرگ نسبت به هزینه استفاده از هوش مصنوعی انجام شده است. در ماه‌های گذشته بسیاری از کسب‌وکار‌ها کارکنان خود را به استفاده گسترده از ابزار‌های هوش مصنوعی تشویق می‌کردند، اما افزایش هزینه اشتراک‌ها و مصرف رابط‌های برنامه‌نویسی باعث شده بعضی سازمان‌ها محدودیت‌های مالی تازه‌ای تعیین کنند. برای نمونه، شرکت مشاوره اکسنتور که پیش‌تر استفاده از هوش مصنوعی را یکی از معیار‌های مهم پیشرفت شغلی کارکنان خود معرفی کرده بود، به‌تازگی برای بسیاری از کارمندان سقف هزینه ماهانه ۲۹ دلاری جهت استفاده از کلود تعیین کرده است.

این تغییر رویکرد فرصت تازه‌ای برای شرکت‌هایی مانند دیپ‌سیک ایجاد کرده که مدل‌های کم‌هزینه‌تری در اختیار توسعه‌دهندگان قرار می‌دهند. بر اساس قیمت‌های درج‌شده برای ارائه مستقیم نسخه V۴.۱-Flash-۱۰۱۷، هزینه پردازش هر یک میلیون توکن ورودی حدود ۰٫۱۵ دلار و هر یک میلیون توکن خروجی ۰٫۶۰ دلار است. در مقابل، هزینه استفاده از مدل پیشرفته GPT-۶ Astra اوپن‌ای‌آی برای همین میزان توکن ورودی و خروجی به‌ترتیب ۱۰ و ۵۰ دلار اعلام شده است. البته این مقایسه تنها تفاوت قیمت را بیان می‌کند و به معنای یکسان بودن عملکرد، توانایی استدلال یا کیفیت خروجی این مدل‌ها نیست. قیمت‌ها نیز بسته به ارائه‌دهنده خدمات و شرایط استفاده می‌توانند متفاوت باشند.

دیپ‌سیک با انتشار DeepInfer تلاش می‌کند مزیت اقتصادی مدل‌های خود را فراتر از قیمت خدمات ابری گسترش دهد و به شرکت‌هایی که زیرساخت پردازشی اختصاصی دارند، امکان بهینه‌سازی بیشتر هزینه‌ها را بدهد. این رویکرد می‌تواند برای کسب‌وکار‌هایی جذاب باشد که روزانه حجم بالایی از درخواست‌های هوش مصنوعی را پردازش می‌کنند و کاهش حتی بخش کوچکی از هزینه هر درخواست، در مجموع صرفه‌جویی مالی قابل توجهی برای آن‌ها ایجاد می‌کند.

ممنوعیت دیپ‌سیک در نهاد‌های دولتی آمریکا هم مانع رقابت نشده است

معرفی DeepInfer تنها یک روز پس از انتشار خبر ممنوعیت استفاده از محصولات دیپ‌سیک در نهاد‌های غیرنظامی دولت فدرال آمریکا انجام شده است. وزارت امنیت داخلی آمریکا با استناد به نگرانی‌های امنیتی و احتمال انتقال اطلاعات حساس به چین، دستور حذف محصولات این شرکت از سامانه‌های دولتی را صادر کرده است. این تصمیم استفاده از خدمات دیپ‌سیک در دستگاه‌های مشمول ممنوعیت و خرید محصولات مرتبط با آن را محدود می‌کند، اما شامل شرکت‌های خصوصی آمریکایی نمی‌شود.

در چنین شرایطی، انتشار کد متن‌باز DeepInfer می‌تواند جذابیت فناوری دیپ‌سیک را برای توسعه‌دهندگان مستقل و کسب‌وکار‌های خصوصی افزایش دهد. این شرکت پیش‌تر با ارائه مدل‌های ارزان‌قیمت، رقابت بر سر هزینه استفاده از هوش مصنوعی را تشدید کرده بود و اکنون تلاش می‌کند ابزار‌های لازم برای اجرای بهینه همان مدل‌ها را نیز در اختیار کاربران قرار دهد. با این حال موفقیت DeepInfer به سازگاری آن با تجهیزات مختلف، میزان کاهش واقعی هزینه‌ها و استقبال توسعه‌دهندگان وابسته خواهد بود.

افزایش استفاده از ایجنت‌های هوش مصنوعی و رشد تعداد درخواست‌های پردازشی نیز اهمیت چنین ابزار‌هایی را بیشتر کرده است. با گسترش کاربرد‌های خودکارسازی، شرکت‌های فناوری ناچار خواهند بود علاوه بر ارائه مدل‌های قدرتمندتر، هزینه اجرای آن‌ها را نیز کنترل کنند. انتشار DeepInfer می‌تواند فشار بیشتری بر اوپن‌ای‌آی، آنتروپیک و سایر توسعه‌دهندگان بزرگ وارد کند تا راهکار‌های اقتصادی‌تری ارائه دهند؛ رقابتی که دیگر تنها بر سر هوشمندتر بودن مدل‌ها نیست، بلکه هزینه استفاده از آن‌ها نیز به یکی از عوامل اصلی انتخاب کاربران سازمانی تبدیل شده است.

انتهای پیام/

ارسال نظر