در تلاش برای ایجاد محیطی safer و healthier در آنلاین، OpenAI Recently دو مدل استدلالگر fresh را معارفه کرده که گسترش دهندگان می‌توانند از آنها برای شناسایی و دسته بندی انواع صدمه‌های آنلاین در پلتفرم‌های خود استفاده کنند.

به گفته OpenAI، این مدل‌ها با نام‌های gpt-oss-safeguard-120b و gpt-oss-safeguard-20b معرفی شده‌اند که اندازه آنها نیز اشکار است. این مدل‌ها نسخه‌های تطبیق یافته و بهینه یافته از مدل‌های gpt-oss هستند که OpenAI در آگوست اشاره کرده بود.

معرفی مدل‌های تازه OpenAI

این مدل‌ها به‌گفتن مدل‌های وزن باز اراعه شده‌اند که به معنی این است که پارامترهای مدل که کیفیت خروجی و دقت پیش‌بینی‌ها را تعیین می‌کنند، به‌صورت عمومی در دسترس می باشند. این نوع مدل‌ها امکان شفافیت و کنترل زیاد تر را برای کاربران فراهم می‌کنند.

OpenAI اعلام کرده است که سازمان‌ها می‌توانند این مدل‌ها را با سیاست‌ها و نیازهای خاص خود تنظیم کنند. از آنجایی که این مدل‌ها قابلیت استدلال و توضیح روال تصمیم‌گیری خود را دارند، گسترش دهندگان می‌توانند به‌طور مستقیم دریابند که مدل چطور به یک نتیجه اشکار رسیده است. برای مثال، یک سایت نقد و برسی محصولات می‌تواند از مدل‌های gpt-oss-safeguard برای شناسایی بازدید‌های جعلی استفاده کند یا یک انجمن بازی‌های ویدیویی می‌تواند پست‌های مرتبط با تقلب و تخلفات را طبقه بندی کند.

پیشنهاد مطالعه: چطور انتقاد پذیر باشیم؟ + ۶ مسئله برای پذیرفتن انتقاد_دوپلر

این مدل‌ها با همکاری دیسکورد، SafetyKit و ROOST که آخری یک سازمان فعال در عرصه تشکیل زیرساخت‌های ایمنی برای هوش مصنوعی است، گسترش یافته‌اند. اکنون مدل‌ها در حالت پیش‌نمایش تحقیقاتی اراعه شده‌اند و OpenAI تصمیم دارد از بازخورد پژوهشگران و متخصصان ایمنی منفعت‌مند بشود.

معرفی این مدل‌ها می‌تواند به OpenAI پشتیبانی کند تا به برخی منتقدانش حول تجاری‌سازی سریع و رشد بدون دقت به اخلاق و ایمنی هوش مصنوعی پاسخی داده باشد. قیمت OpenAI اکنون نزدیک به ۵۰۰ میلیارد دلار است و چت‌بات ChatGPT بیشتر از ۸۰۰ میلیون کاربر فعال هفتگی دارد.

کاربران می‌توانند وزن مدل‌ها را از Hugging Face دانلود کنند. «کامیل فرانسوا»، رئیس ROOST، در بیانیه‌ای او گفت:

پیشنهاد مطالعه: گفتگو با ماشین! فولکس‌واگن با ChatGPT تعامل را هوشمندتر می‌کند_دوپلر

«با پیشرفت سریع هوش مصنوعی، ابزارهای ایمنی و تحقیقات بنیادی نیز باید همزمان پیشرفت کنند و برای همه قابل دسترس باشند.»