مدل جدید متا بر عملکرد مدل‌های هوش مصنوعی نظارت می‌کند

به گزارش خبرگزاری آنا به نقل از رویترز، متا، مالک فیسبوک، به تازگی اعلام کرده است که مجموعه‌ای از مدل‌های جدید هوش مصنوعی را از بخش تحقیقاتی خود منتشر می‌کند. از جمله یک مدل ارزیابی کننده خودکار که ممکن است مسیری به سمت مشارکت کم‌تر انسان در فرآیند توسعه هوش مصنوعی ارائه دهد.

این خبر پس از معرفی این ابزار در مقاله‌ای در ماه آگوست منتشر شد که توضیح می‌داد چگونه این ابزار بر همان تکنیک زنجیره تفکر مورد استفاده توسط مدل‌های او وان (O ۱) که اخیرا توسط اپن ای‌آی منتشر شده، متکی است تا آن را به قضاوتی قابل اعتماد در مورد پاسخ‌های مدل‌ها برساند.

این تکنیک شامل تجزیه مسائل پیچیده به مراحل منطقی کوچک‌تر است که به نظر می‌رسد دقت پاسخ‌ها در مسائل چالش برانگیز در موضوعاتی مانند علم، کدنویسی و ریاضی را بهبود می‌بخشد.

محققان متا از داده‌هایی که کاملا توسط هوش مصنوعی  تولید شده  برای آموزش مدل ارزیاب استفاده کردند و ورودی انسان را نیز در آن مرحله حذف کردند.

دو تن از محققان متا در این پروژه به رویترز گفتند: توانایی استفاده از هوش مصنوعی برای ارزیابی قابل اعتماد هوش مصنوعی، نگاهی اجمالی به مسیر احتمالی به سمت ساخت عوامل هوش مصنوعی مستقل ارائه می‌دهد که می‌توانند از اشتباهات خود درس بگیرند.

بسیاری از افراد فعال در حوزه هوش مصنوعی، عواملی مانند دستیار‌های دیجیتال را به اندازه کافی هوشمند می‌دانند که بتوانند طیف گسترده‌ای از وظایف را بدون دخالت انسان انجام دهند.

مدل‌های خود بهبود دهنده می‌توانند نیاز به یک فرآیند اغلب گران قیمت و ناکارآمد که امروزه به نام یادگیری تقویتی از بازخورد انسانی استفاده می‌شود را کاهش دهند، که نیاز به ورود حاشیه‌نویس‌های انسانی دارد که باید تخصص ویژه‌ای برای برچسب گذاری دقیق داده‌ها داشته باشند و تایید کنند که پاسخ‌ها به پرسش‌های پیچیده ریاضی و نوشتاری درست هستند.

جیسون وستون، یکی از این محققان می‌گوید: ما امیدواریم که با تبدیل شدن هوش مصنوعی به ابر انسان، این هوش مصنوعی در بررسی کار‌های خود بهتر و بهتر شود تا بهتر از یک انسان معمولی باشد.

او گفت: ایده خودآموخته بودن و توانایی ارزیابی خود اساسا برای رسیدن به این سطح فوق انسانی از هوش مصنوعی حیاتی است.

شرکت‌های دیگری از جمله گوگل و انویدیا نیز تحقیقاتی را در مورد مفهوم RLAIF یا یادگیری تقویتی از بازخورد هوش مصنوعی منتشر کرده اند. با این حال، برخلاف متا، این شرکت‌ها تمایلی به انتشار مدل‌های خود برای استفاده عمومی ندارند.

دیگر ابزار‌های هوش مصنوعی منتشر شده توسط متا در روز جمعه شامل یک به روزرسانی برای مدل Segment Anything شناسایی تصویر این شرکت بود، ابزاری که زمان تولید پاسخ مدل زبانی بزرگ و مجموعه داده‌هایی که می‌تواند برای کمک به کشف مواد معدنی جدید مورد استفاده قرار گیرد را سرعت می‌بخشد.