حساب دانشمندانی که از کلود برای پیشبرد سلاح بیولوژیک استفاده کرده بودند، مسدود شد

به گزارش خبرگزاری آنا؛ آنتروپیک در گزارشی تازه مجموعه‌ای از موارد سوءاستفاده از مدل‌های هوش مصنوعی خود را منتشر کرده که از پژوهش‌های زیستی پرخطر تا ساخت اکسپلویت نرم‌افزاری، ابزار‌های نظارتی، تبلیغات و کمک به سامانه‌های تسلیحاتی را در بر می‌گیرد. حساس‌ترین بخش گزارش به پنج پرونده زیستی مربوط است که در آن‌ها پژوهشگران از کلود برای انجام کار‌هایی استفاده کرده‌اند که از نظر فنی می‌توانند هم کاربرد علمی مشروع داشته باشند و هم در شرایطی به افزایش خطر یک عامل بیماری‌زا یا سمی کمک کنند. همین شباهت میان پژوهش قانونی و فعالیت پرخطر باعث شده آنتروپیک در برخی موارد حتی بدون اثبات قصد مخرب، دسترسی کاربران را متوقف کند.

تشخیص سوءاستفاده زیستی همیشه ساده نیست

آنتروپیک می‌گوید یک درخواست خطرناک در حوزه زیست‌شناسی معمولاً به شکل صریح مطرح نمی‌شود. ممکن است کاربر درباره طراحی واکسن، مطالعه یک ویروس یا بررسی ویژگی‌های یک سم سؤال کند، اما همان روش‌ها در صورت تغییر هدف می‌توانند برای افزایش قابلیت انتقال یک عامل بیماری‌زا، فرار آن از پاسخ ایمنی یا بهینه‌سازی ویژگی‌های یک سم نیز به کار روند. به همین دلیل، سامانه‌های ایمنی شرکت فقط به چند کلمه کلیدی حساس نیستند و زمینه پژوهش، نوع تغییر درخواستی و اطلاعاتی مانند وابستگی سازمانی پروژه را نیز بررسی می‌کنند.

جیکوب کلاین، رئیس واحد اطلاعات تهدید آنتروپیک، توضیح داده است که در این پرونده‌ها معمولاً خبری از درخواست مستقیمی مانند «می‌خواهم سلاح زیستی بسازم» نیست و مرز میان یک پروژه علمی و استفاده خطرناک می‌تواند بسیار باریک باشد. آنتروپیک در گزارش خود می‌گوید وقتی پیامد احتمالی یک اشتباه می‌تواند جدی باشد، ترجیح داده بیش از حد محتاط عمل کند و دسترسی را ببندد تا اینکه یک پروژه مشکوک بدون بررسی ادامه پیدا کند.

یک درخواست برای افزایش توان ویروس چیکونگونیا متوقف شد

یکی از نمونه‌های مشخص گزارش به پژوهشی درباره ویروس چیکونگونیا مربوط می‌شود. سامانه ایمنی زیستی آنتروپیک در اردیبهشت درخواستی را شناسایی کرد که از کلود خواسته شده بود برای یک پروژه «افزایش عملکرد» پیشنهاد تأمین مالی بنویسد. در متن پروژه، افزایش قابلیت انتقال ویروس و بهتر شدن توان آن برای فرار از پاسخ ایمنی بدن مطرح شده بود؛ دو ویژگی که می‌توانند پیامد مستقیم برای میزان خطر یک عامل بیماری‌زا داشته باشند.

چیکونگونیا می‌تواند هفته‌ها یا حتی ماه‌ها درد مفاصل و علائم ناتوان‌کننده ایجاد کند و درمان اختصاصی تأییدشده‌ای برای آن وجود ندارد. آنتروپیک علاوه بر محتوای پژوهش، به این نکته نیز حساس شده بود که پروژه پیشنهادی با یک مؤسسه تحقیقاتی نظامی ارتباط داشت. شرکت در نهایت حساب مرتبط را مسدود کرد، اما نام فرد یا مؤسسه را منتشر نکرده و تأکید دارد که از این اطلاعات نمی‌توان به‌طور قطعی نتیجه گرفت پژوهشگر قصد ساخت سلاح زیستی داشته است.

آنفلوآنزای پرندگان و پژوهش روی سموم هم زیر ذره‌بین رفتند

پرونده دیگری به پژوهش افزایش عملکرد روی آنفلوآنزای پرندگان مربوط می‌شد. در چنین پروژه‌هایی پژوهشگر ممکن است تغییراتی را بررسی کند که نحوه انتقال، سازگاری یا واکنش ویروس به سیستم ایمنی را عوض می‌کنند. این نوع مطالعه در برخی شرایط برای شناخت بهتر بیماری‌ها انجام می‌شود، اما اگر هدف یا روش کنترل نشود، همان دانش می‌تواند برای افزایش خطر یک عامل زیستی به کار رود.

در نمونه‌ای جداگانه، پژوهشگری از کلود برای تهیه اطلس پپتید‌های سم و ساخت یک خط لوله مولد استفاده کرده بود که ویژگی‌های سموم را بهینه می‌کرد. بررسی سموم می‌تواند برای تولید پادزهر، شناخت عملکرد مولکولی یا توسعه دارو مفید باشد، اما عبارت «بهینه‌سازی ویژگی‌های سم» برای سامانه‌های ایمنی حساسیت بالایی دارد؛ زیرا همان فرایند می‌تواند در جهت افزایش قدرت، پایداری یا کارایی یک ماده سمی نیز استفاده شود. آنتروپیک می‌گوید در چنین مواردی بررسی انسانی در کنار فیلتر‌های خودکار ضروری است، چون یک مدل نمی‌تواند فقط از روی ظاهر درخواست درباره نیت واقعی کاربر تصمیم بگیرد.

مدل‌های علمی قوی‌تر، نظارت سخت‌گیرانه‌تری می‌خواهند

نگرانی آنتروپیک زمانی جدی‌تر می‌شود که مدل‌های جدید فقط پاسخ‌گوی متنی نیستند و می‌توانند در بخش‌های واقعی فرایند پژوهش کمک کنند. مدل‌هایی مانند Fable ۵ می‌توانند مقاله‌های علمی را خلاصه کنند، داده‌ها را تحلیل کنند، کد آزمایشگاهی بنویسند، مسیر‌های آزمایشی پیشنهاد دهند و حتی برای یک پروژه پژوهشی متن فنی تولید کنند. همین توانایی‌ها برای دانشمندان مفید هستند، اما در عین حال فاصله میان «کمک علمی» و «کمک به توسعه یک عامل خطرناک» را کمتر کرده‌اند.

برای مثال، مدلی که بتواند به یک پژوهشگر در فهم نحوه جهش یک ویروس کمک کند، از نظر فنی ممکن است بتواند درباره تغییراتی که ویروس را مقاوم‌تر یا مسری‌تر می‌کنند نیز اطلاعات مفیدی ارائه دهد. تفاوت اصلی در هدف کاربر است، درحالی‌که مدل اغلب فقط متن درخواست را می‌بیند و به نیت واقعی دسترسی مستقیم ندارد. به همین دلیل، شرکت‌های سازنده مدل‌های مرزی به‌تدریج سامانه‌های جداگانه‌ای برای ارزیابی درخواست‌های زیستی و شیمیایی پرخطر ایجاد کرده‌اند.

حساب‌های مرتبط مسدود شدند

آنتروپیک می‌گوید حساب کاربرانی که استفاده آن‌ها از کلود با سیاست‌های ایمنی شرکت در تضاد تشخیص داده شد، مسدود شده‌اند. اطلاعات حاصل از همین پرونده‌ها نیز دوباره به سامانه‌های حفاظتی بازمی‌گردد تا طبقه‌بند‌های ایمنی در آینده بتوانند درخواست‌های مشابه را زودتر تشخیص دهند و پیش از آنکه مدل پاسخ مفیدی برای یک فعالیت پرخطر تولید کند، فرایند را متوقف کنند.

شرکت با این حال هویت دانشمندان و آزمایشگاه‌های درگیر را فاش نکرده است. آنتروپیک تأکید کرده افراد مطرح‌شده در این پرونده‌ها پژوهشگران واقعی هستند و گزارش فقط درباره نوع استفاده آن‌ها از مدل صحبت می‌کند، نه اثبات قصد مجرمانه. انتشار نام افراد بدون روشن شدن نیت واقعی می‌توانست به اعتبار حرفه‌ای یا امنیت شخصی آن‌ها آسیب بزند، به‌خصوص در حوزه‌ای که مرز میان پژوهش مشروع و کار پرخطر از بیرون همیشه قابل تشخیص نیست.