مدلهای GPT-۵.۶ با کاهش مصرف توکن، هزینه پروژههای کدنویسی را پایین میآورند
به گزارش خبرگزاری آنا؛ در حالی که فعالان حوزه فناوری همواره به دنبال جهشهای ناگهانی در بنچمارکهای هوش مصنوعی هستند، سم آلتمن، مدیرعامل اوپنایآی، در گفتوگو با CNBC مسیر بحث را به سمت یک چالش تجاری واقعگرایانه هدایت کرد. آلتمن این مدل جدید را راهکاری برای کاهش هزینههای سنگین مراکز داده سازمانی توصیف کرد که میتواند ضمن حفظ یا ارتقای عملکرد، مصرف منابع پردازشی را به شکل چشمگیری کاهش دهد.
کاهش ۵۴ درصدی مصرف توکن در کدنویسی
مهمترین دستاورد فنی این مدل، کاهش ۵۴ درصدی مصرف توکن هنگام اجرای وظایف چندمرحلهای برنامهنویسی توسط عاملهای هوش مصنوعی است. برای توسعهدهندگانی که فرایندهای طولانیمدتی را اجرا میکنند و در آن یک عامل هوش مصنوعی بهطور مداوم کد مینویسد، باگها را آزمایش میکند و اصلاحات لازم را اعمال میکند، این بهینهسازی میتواند هزینههای عملیاتی را به میزان قابل توجهی کاهش دهد.
از آنجا که توکنها مبنای محاسبه هزینه استفاده از مدلهای زبانی هستند، اوپنایآی با بهینهسازی معماری داخلی مدل خود تلاش کرده است در کنار حفظ توان پردازشی، هزینه اجرای پروژههای بزرگ را نیز کاهش دهد. دادههای منتشرشده از سوی این شرکت نشان میدهد GPT-۵.۶ Sol میتواند برنامههای سبک مورد نیاز برای هماهنگی ابزارهای داخلی را تولید و اجرا کند، بر روند انجام وظایف نظارت داشته باشد و در عین حال تعداد درخواستهای ارسالی به سرور را کاهش دهد تا هزینه نهایی سازمانها کمتر شود.
لایههای دفاعی در برابر سوءاستفادههای سایبری
عرضه عمومی این مدل با ملاحظات امنیت سایبری دولت آمریکا همراه بود. اوپنایآی به درخواست دولت آمریکا، دسترسی اولیه را به گروه محدودی از سازمانها و شرکای مورد اعتماد محدود کرد و پس از تکمیل بررسیهای امنیتی، دامنه عرضه آن را گسترش داد. مهندسان اوپنایآی برای رفع این نگرانیها، لایههای حفاظتی جدیدی را در هسته مدل پیادهسازی کردهاند. این مدل اکنون از سازوکار خودارزیابی لحظهای بهره میبرد تا در صورت تشخیص تلاش برای تولید کدهای مخرب یا ابزارهای نفوذ، روند پردازش را متوقف کند. با این حال، ساختار فنی آن همچنان امکان اجرای خودکار فراخوانی ابزارها و مدیریت دادههای واسط را با حداقل نیاز به نظارت انسانی فراهم میکند.
تمرکز بر بهرهوری بهجای بزرگتر شدن مدلها
معرفی خانواده GPT-۵.۶ نشان میدهد اوپنایآی در راهبرد توسعه مدلهای خود تغییر رویکرد داده است. در سالهای اخیر رقابت شرکتهای فعال در حوزه هوش مصنوعی عمدتاً بر افزایش اندازه مدلها، توان پردازشی و ثبت رکوردهای جدید در بنچمارکها متمرکز بود، اما اوپنایآی اکنون بهرهوری را به همان اندازه قدرت پردازش مهم میداند. این شرکت تلاش کرده به جای توسعه مدلی که صرفاً منابع محاسباتی بیشتری مصرف کند، مدلی ارائه دهد که بتواند با تعداد توکن کمتر، هزینه پایینتر و مصرف بهینهتر منابع، همان سطح یا حتی عملکردی بهتر را در انجام وظایف پیچیده ارائه کند. این تغییر رویکرد بهویژه برای شرکتهایی که روزانه میلیونها درخواست را پردازش میکنند، میتواند تأثیر مستقیمی بر هزینههای عملیاتی داشته باشد.
اوپنایآی در کنار GPT-۵.۶ Sol، دو مدل دیگر با کاربری متفاوت نیز معرفی کرده است. GPT-۵.۶ Terra به عنوان مدل متعادل این خانواده، برای استفاده روزمره، تولید محتوا، تحلیل، برنامهنویسی و سایر وظایف عمومی سازمانی طراحی شده و عملکردی نزدیک به GPT-۵.۵ را با هزینهای کمتر ارائه میدهد. در مقابل، GPT-۵.۶ Luna سریعترین و مقرونبهصرفهترین عضو این خانواده است و برای پردازش حجم بالای درخواستها، گفتوگوهای روزمره، خلاصهسازی، طبقهبندی دادهها و سایر وظایفی که سرعت و هزینه اهمیت بیشتری از حداکثر توان استدلال دارند، توسعه یافته است. در رأس این مجموعه نیز GPT-۵.۶ Sol قرار دارد که برای پروژههای پیچیدهای مانند مهندسی نرمافزار، امنیت سایبری، پژوهشهای علمی و اجرای عاملهای هوش مصنوعی چندمرحلهای بهینه شده است. این ساختار سهسطحی به سازمانها اجازه میدهد متناسب با نیاز هر وظیفه، میان بیشترین توان پردازشی، تعادل میان هزینه و عملکرد یا بیشترین صرفه اقتصادی، گزینه مناسب را انتخاب کنند.
انتهای پیام/