در تلاش برای ایجاد محیطی ایمن‌تر و سالم‌تر در فضای آنلاین، OpenAI اخیراً دو مدل استدلال‌گر نوین را معرفی کرده که توسعه‌دهندگان می‌توانند از آن‌ها برای شناسایی و دسته‌بندی انواع آسیب‌های آنلاین در پلتفرم‌های خود بهره ببرند.

معرفی مدل‌های تازه OpenAI

به گزارش OpenAI، این مدل‌ها با نام‌های gpt-oss-safeguard-120b و gpt-oss-safeguard-20b ارایه شده‌اند که اندازه آن‌ها نیز مشخص است. این مدل‌ها نسخه‌های تطبیق‌یافته و بهینه‌شده از مدل‌های gpt-oss هستند که OpenAI در ماه آگوست به آن‌ها اشاره کرده بود.

این مدل‌ها به‌عنوان مدل‌های وزن‌باز عرضه شده‌اند؛ یعنی پارامترهای مدل که کیفیت خروجی و دقت پیش‌بینی‌ها را تعیین می‌کنند، به‌صورت عمومی در دسترس قرار دارند. این نوع مدل‌ها امکان شفافیت و کنترل بیشتری را برای کاربران فراهم می‌آورند.

🔗 بیشتر بخوانید: مثلث عشق چیست؛ آشنایی با ۸ نوع عشق در روابط عاطفی

OpenAI اعلام کرده است که سازمان‌ها می‌توانند این مدل‌ها را با سیاست‌ها و نیازهای خاص خود تنظیم کنند. از آنجا که این مدل‌ها قابلیت استدلال و توضیح روند تصمیم‌گیری خود را دارند، توسعه‌دهندگان می‌توانند به‌صورت مستقیم دریابند که مدل چگونه به یک نتیجه رسیده است. برای مثال، یک سایت نقد و بررسی محصولات می‌تواند از مدل‌های gpt-oss-safeguard برای شناسایی بازدیدهای جعلی استفاده کند یا یک انجمن بازی‌های ویدیویی می‌تواند پست‌های مرتبط با تقلب و تخلفات را طبقه‌بندی نماید.

پیشنهاد مطالعه: چطور انتقاد‌پذیر باشیم؟ + ۶ مسئله برای پذیرفتن انتقاد_دوپلر

این مدل‌ها با همکاری دیسکورد، SafetyKit و ROOST که آخرین یک سازمان فعال در عرصه شکل‌دهی زیرساخت‌های ایمنی برای هوش مصنوعی است، توسعه یافته‌اند. اکنون مدل‌ها در حالت پیش‌نمایش تحقیقاتی عرضه شده‌اند و OpenAI قصد دارد از بازخورد پژوهشگران و متخصصان ایمنی بهره‌مند شود.

🔗 بیشتر بخوانید: آداب تسلیت گفتن و همدردی؛ چطور تسلیت بگوییم؟ + نمونه مطلب تسلیت مناسب_دوپلر

معرفی این مدل‌ها می‌تواند به OpenAI کمک کند تا به برخی از منتقدان خود در خصوص تجاری‌سازی سریع و رشد بدون دقت به اخلاق و ایمنی هوش مصنوعی پاسخی دهد. ارزش OpenAI در حال حاضر به حدود ۵۰۰ میلیارد دلار رسیده است و چت‌بات ChatGPT بیش از ۸۰۰ میلیون کاربر فعال هفتگی دارد.

کاربران می‌توانند وزن مدل‌ها را از Hugging Face دانلود کنند. «کامیل فرانسوا»، رئیس ROOST، در بیانیه‌ای بیان کرد:

پیشنهاد مطالعه: گفتگو با ماشین! فولکس‌واگن با ChatGPT تعامل را هوشمندتر می‌کند_دوپلر

🔗 بیشتر بخوانید: فولکس واگن ID.Cross؛ پیش‌نمایشی از آینده کراس‌اوورهای برقی

«با پیشرفت سریع هوش مصنوعی، ابزارهای ایمنی و تحقیقات بنیادی نیز باید همزمان پیشرفت کنند و برای همه قابل دسترس باشند.»