نخستین گام برای نوشتن استاندارد‌های کلیدی هوش مصنوعی

به گزارش خبرگزاری علم و فناوری آنا به نقل از رویترز، بایدن روز سه شنبه اعلام کرد اولین گام را به سمت نوشتن استاندارد‌ها و راهنمایی‌های کلیدی برای استقرار ایمن هوش مصنوعی مولد و نحوه آزمایش و حفاظت از سیستم‌ها برداشته است.

موسسه ملی استاندارد‌ها و فناوری وزارت بازرگانی (NIST) اعلام کرد که به دنبال ورود عمومی برای انجام آزمایش‌های کلیدی حیاتی برای اطمینان از ایمنی سیستم‌های هوش مصنوعی است.

جینا ریموندو، وزیر بازرگانی گفت: که این تلاش جو بایدن، در مورد هوش مصنوعی و با هدف توسعه استاندارد‌های صنعتی در مورد ایمنی، امنیت و اعتماد به هوش مصنوعی آمریکا است .و آن را را قادر به ادامه رهبری جهان و توسعه مسئولانه در استفاده از این فناوری می سازد.

این آژانس در حال توسعه دستورالعمل‌هایی برای ارزیابی هوش مصنوعی، تسهیل توسعه استاندارد‌ها و فراهم کردن محیط‌های آزمایش برای ارزیابی سیستم‌های هوش مصنوعی است. این درخواست به دنبال ورود شرکت‌های هوش مصنوعی و عموم مردم به مدیریت ریسک هوش مصنوعی مولد و کاهش خطرات اطلاعات غلط تولید شده  است.

هوش مصنوعی مولد که می‌تواند متن، عکس و ویدیو را در پاسخ به درخواست‌های منبع باز ایجاد کند در ماه‌های اخیر باعث برانگیختن هیجان و همچنین ترس از منسوخ شدن برخی مشاغل، به تعویق انداختن انتخابات و غلبه بالقوه بر انسان‌ها و اثرات فاجعه بار شده است.

 بایدن به آژانس‌ها دستور داد تا استاندارد‌هایی را برای این آزمایش تعیین کنند و به خطرات شیمیایی، بیولوژیکی، رادیولوژیکی، هسته‌ای و امنیت سایبری مرتبط بپردازند.

به گفته کاخ سفید، هزاران شرکت کننده تلاش کردند ببینند آیا می‌توانند کاری کنند که این سیستم‌ها خروجی‌های نامطلوب تولید کنند یا در غیر این صورت با هدف درک بهتر خطراتی که این سیستم‌ها دارند، شکست می‌خورند.

این رویداد نشان داد که چگونه تیم سازی قرمز خارجی می‌تواند ابزاری موثر برای شناسایی خطرات جدید هوش مصنوعی باشد.