شرکت OpenAI خبرداد که کمیته ایمنی و امنیت خود را به حالت جدا گانه درمی‌آورد تا این کمیته امکان جلوگیری از اراعه مدل‌ها به‌علت نگرانی‌های ایمنی را داشته باشد. این عمل با یک تحول قابل دقت همراه است: «سم آلتمن»، مدیرعامل شرکت، دیگر بخشی از کمیته ایمنی نیست.

به نقل از سایت رسمی OpenAI، «زیکو کولتر»، مدیر قسمت یادگیری ماشین در دانشگاه کارنگی ملون، ریاست کمیته ایمنی و امنیت تازه (SSC) شرکت OpenAI را بر مسئولیت خواهد داشت. دیگر اعضای کلیدی این کمیته عبارت هستند از «آدام دآنجلو»، مدیر اجرایی Quora، «پل ناکاسون» ژنرال بازنشسته ارتش ایالات متحده و «نیکول سلیگمن»، مشاور عمومی شرکت سونی.

این کمیته تازه جانشین کمیته ایمنی و امنیت قبلی می‌بشود که در ژوئن ۲۰۲۴ راه اندازی شده می بود و سم آلتمن نیز جزو اعضای آن می بود. کمیته قبلی موظف به اراعه پیشنهاد‌هایی در رابطه تصمیمات حیاتی ایمنی و امنیتی برای پروژه‌ها و عملیات OpenAI می بود.

ماموریت های کمیته ایمنی شرکت OpenAI

اکنون مسئولیت‌های SSC فراتر از اراعه پیشنهاد خواهد می بود. این کمیته صلاحیت نظارت بر برسی‌های ایمنی مدل‌های مهم و اعمال نظارت بر اراعه مدل‌ها را خواهد داشت. مهم‌تر از همه، کمیته این قوت را خواهد داشت که انتشار کردن مدل‌های تازه هوش مصنوعی را تا وقتی که به نگرانی‌های ایمنی به قدر کافی رسیدگی نشود، به تعویق بیندازد.

این تجدید ساختار به جستوجو یک دوره بازدید دقیق در رابطه ضمانت OpenAI به نگه داری ایمنی هوش مصنوعی صورت می‌گیرد. این شرکت در قبل به علت انحلال تیم Superalignment و خروج پرسنل کلیدی متمرکز بر ایمنی، با انتقاداتی مواجه شده می بود. به نظر می‌رسد حذف آلتمن از کمیته ایمنی تلاشی برای از بین بردن نگرانی‌ها در رابطه تضاد منافع احتمالی در نظارت بر ایمنی شرکت باشد.

دیگر ماموریت های کمیته ایمنی شرکت OpenAI شامل برنامه‌هایی برای تحکیم عمل های امنیتی، افزایش شفافیت در رابطه کار و همکاری با سازمان‌های خارجی است. این شرکت قبلاً با مؤسسات ایمنی هوش مصنوعی ایالات متحده و بریتانیا برای همکاری در عرصه خطرات و استانداردهای ایمنی در حال ظهور در حوزه هوش مصنوعی به توافق رسیده می بود.