تشکیل کمیته ایمنی برای آموزش مدل جدید اپن ای‌آی
سازنده چت‌جی‌پی‌تی اعلام کرده، با آغاز آموزش مدل جدید هوش مصنوعی این شرکت، کمیته ایمنی ایجاد کرده که امنیت افراد و حریم شخصی آنها حفظ شود.
به گزارش خبرگزاری علم و فناوری آنا به نقل از رویترز، شرکت فناوری اپن‌ای‌آی اعلام کرد، به منظور آموزش مدل بعدی هوش مصنوعی خود، کمیته ایمنی و امنیت تشکیل داده که توسط اعضای هیئت مدیره از جمله مدیر عامل شرکت رهبری می‌شود.
اپن ای آی، سازنده چت جی‌پی‌تی، چندی پیش اعلام کرد به زودی مدل جدید هوش مصنوعی خود به نام جی‌پی‌تی-4 (GPT-۴o) را عرضه می‌کند که قادر به مکالمه صوتی معنادار و همچنین تعامل با عکس و متن است.
چت ربات‌های این استارت‌آپ با قابلیت‌های هوش مصنوعی مولد، مانند درگیر شدن در مکالمات شبیه انسان و ایجاد تصاویر بر اساس پیام های متنی، نگرانی‌های مربوط به ایمنی را همزمان با قدرتمند شدن مدل‌های هوش مصنوعی برانگیخته است.
کمیته جدید، مسئول ارائه توصیه‌هایی به هیئت مدیره در مورد تصمیمات ایمنی و امنیتی برای پروژه‌ها و عملیات فناورانه اپن‌ای‌آی است.
نخستین وظیفه کمیته، ارزیابی و توسعه بیشتر شیوه‌های ایمنی موجود اپن‌ای‌آی طی ۹۰ روز آینده است و پس از آن توصیه‌هایی را با هیئت مدیره به اشتراک میگذارد. این شرکت نیز پس از بررسی هیئت مدیره، به‌روزرسانی توصیه‌های اتخاذ شده را به صورت عمومی منتشر می‌کند.
اپن‌ای‌آی جزئیات بیشتری درباره مدل جدید هوش مصنوعی خود که همچنان در حال آموزش است ارائه نکرده، صرفا اوایل ماه می (نیمه اردیبهشت) مدل جدیدی از هوش مصنوعی را معرفی کرد که قادر به مکالمه صوتی واقعی و تعامل بین متن و تصویر است.
به گفته محققان، این مدل بسیار پیشرفته است و احتمالا به دلیل قدرت و قابلیت‌های آن، نیاز به توجه ویژه به مسائل امنیتی دارد.
این تدابیر ایمنی و ایجاد کمیته، نشان از توجه ویژه این استارت‌آپ به امنیت و اخلاق در توسعه هوش مصنوعی است؛ مدل‌های جدیدی که توسط اپن‌ای‌آی توسعه داده می‌شوند، قدرت بالایی دارند و اگرچه می‌توانند در بسیاری از زمینه‌ها مفید باشند، اما اگر مورد سوء استفاده قرار گیرند، به انسان‌ها و جامعه آسیب جدی وارد می‌کنند.
بنابراین، ایجاد یک کمیته ایمنی توسط اپن‌ای آی نشان از تعهد آن به ایجاد محصولات ایمن و اخلاقی و این گام مهمی است که به عنوان یک پیشگام می‌تواند برای سایر شرکت‌ها و توسعه‌دهندگان هوش مصنوعی بردارد.
انتهای پیام/
