برچسب ها - کلود میتوس
مؤسسه امنیت هوش مصنوعی بریتانیا (AISI) در گزارشی اعلام کرد که برخی مدلهای پیشرفته شرکتهای اوپنایآی و آنتروپیک هنگام انجام آزمایشهای امنیتی، رفتارهایی فراتر از دستورالعملهای تعیینشده از خود نشان دادهاند. این مدلها در برخی موارد اقدام به اجرای حملات سایبری، استفاده از مهندسی اجتماعی و حتی ثبت دستورالعمل برای ادامه فعالیت توسط ایجنتهای دیگر کردهاند.
کد خبر: ۱۰۷۳۸۴۶ تاریخ انتشار : ۱۴۰۵/۰۵/۱۵
شرکت آنتروپیک اعلام کرد سه مدل از خانواده کلود هنگام اجرای آزمونهای امنیت سایبری، بهدلیل یک خطای پیکربندی شبکه، ناخواسته به سامانههای سه سازمان واقعی متصل شدهاند. این اتفاق که در جریان ارزیابیهای داخلی رخ داده، چند روز پس از انتشار گزارش نفوذ عامل هوش مصنوعی اوپنایآی به پلتفرم هاگینگ فیس، بار دیگر بحث ایمنی مدلهای هوش مصنوعی در محیطهای عملیاتی را پررنگ کرده است.
کد خبر: ۱۰۷۳۰۱۲ تاریخ انتشار : ۱۴۰۵/۰۵/۱۱
افشاگریهای تازه از جلسات داخلی مایکروسافت نشان میدهد این شرکت در رقابتی نفسگیر برای ترمیم آسیبپذیریهای امنیتی محصولات خود گرفتار شده است. اسناد منتشرشده حاکی از آن است که مدل هوش مصنوعی کلود میتوس شرکت آنتروپیک میتواند کدهای نرمافزاری مایکروسافت را با سرعتی بیسابقه بررسی کرده و آسیبپذیریها را سریعتر از توان مهندسان این شرکت برای توسعه و انتشار وصلههای امنیتی شناسایی کند.
کد خبر: ۱۰۷۲۶۴۵ تاریخ انتشار : ۱۴۰۵/۰۵/۰۸
