یک هکر با نام مستعار «پلینی پرامپتر» (Pliny the Prompter) یک مدل چت‌بات هوش مصنوعی جیلبریک‌شده به نام GODMODE GPT را در فضای آنلاین به اشتراک گذاشته است. اگرچه شرکت اوپن‌ای‌آی (OpenAI) اعلام کرده که در قبال این نقض سیاست‌ها اقدامات قضایی را آغاز کرده، اما به نظر می‌رسد این نسخه بتواند کلیه مکانیزم‌های امنیتی و فیلترهای محافظتی را غیرفعال سازد.

این فرد که خود را یک هکر «کلاه سفید» معرفی می‌کند، در پلتفرم ایکس (X) از این ابزار رونمایی نمود. در پست منتشرشده، او توضیح داد:

🔗 بیشتر بخوانید: آموزش ابزار هوش مصنوعی ساخت زیرنویس Captions + لینک دانلود

«این نسخه سفارشی GPT دارای یک دستور جیلبریک درونی است که قادر است بخش اعظم گاردهای امنیتی را دور بزند و یک چت‌جی‌پی‌تی کاملاً آزاد را در اختیار کاربران قرار دهد؛ دقیقاً همان‌طور که هوش مصنوعی همیشه باید بوده است: در دسترس و بدون قید و شرط.

آخرین مطالب

• راهنمای کامل پاسخ به خطاب «جانم» در تمام روابط و موقعیت‌ها
• راهنمای جامع کنترل بیماری ریفلوکس معده-مری (GERD) با تغذیه و تغییر سبک زندگی
• تأثیر استرس اقتصادی والدین بر توسعه اجتماعی کودکان: نتایج پژوهش‌های جدید
• خواص شیرین گفتن برای چه چیزهایی خوب است؟
• معرفی دو مدل جدید برای ارتقای ایمنی آنلاین

از این امکان به صورت مسئولانه استفاده کنید و از تجربه‌ی آن لذت ببرید!»

🔗 بیشتر بخوانید: آیفون SE ۴: پلتفرم رونمایی از مودم ۵G اختصاصی اپل؛ جزئیات طراحی و سخت‌افزار

[[OAR_MEDIA_1]]

اسکرین‌شات‌های منتشرشده توسط این هکر ادعا می‌کند که چت‌بات Godmode موفق شده محدودیت‌های اوپن‌ای‌آی را درهم بشکند. در یکی از این تصاویر، هوش مصنوعی راهنمای کامل و قدم‌به‌قدم ساخت ماده آتش‌زا ناپالم با وسایل خانگی را ارائه داده است (تصویر بالا). ناپالم یک ماده سوختنی و مخرب است که کاربردهای نظامی دارد.

واکنش فوری اوپن‌ای‌آی: پیگیری قضایی در برابر Jailbreak

تنها حدود یک ساعت پس از انتشار پست در شبکه اجتماعی ایکس، «کالین رایز» (Colin Ray)، سخنگوی رسمی اوپن‌ای‌آی در بیانیه‌ای به سایت Futurism اعلام کرد که تیم‌های امنیتی و حقوقی شرکت از این رخداد آگاه شده‌اند و به دلیل نقض صریح شرایط استفاده، فرآیند اقدام قانونی را آغاز کرده‌اند.

[[OAR_MEDIA_2]]

از زمان رونمایی از چت‌جی‌پی‌تی، کاربران و محققان امنیتی به طور مداوم در تلاش بوده‌اند تا با تکنیک‌های مختلف، محدودیت‌های و امنیتی این مدل‌ها را دور بزنند (Jailbreak)، هرچند که اوپن‌ای‌آی به طور مداوم دفاع‌های خود را تقویت می‌کند. با این حال، به نظر می‌رسد سازنده GODMODE GPT با بهره‌گیری از یک تکنیک viếtاری خاص به نام «لیت‌اسپیک» (Leetspeak) موفق به عبور از این دفاع‌ها شده است. در این روش، حروف الفبا با اعداد یا نمادهای مشابه جایگزین می‌شوند (مانند عدد ۳ به جای حرف E). در نمونه‌های مشاهده شده در این نسخه جیلبریک، کلماتی مانند Sur3، h3r3 یا fr3n به جای کلمات استاندارد به کار رفته‌اند. دقیقاً نحوه تأثیر این جایگزینی‌های ظاهری بر دور زدن فیلترهای پیشرفته امنیتی هنوز به طور کامل روشن نیست.