یک هکر با نام مستعار پلینی پرامپ‌تر یک مدل چت‌بات هوش مصنوعی جیلبریک‌شده به نام GODMODE GPT را در فضای آنلاین به اشتراک گذاشت. شرکت اوپن‌ای‌آی (OpenAI) اعلام کرد که در قبال این نقض سیاست‌ها اقدامات قضایی را آغاز کرده است، هرچند به نظر می‌رسد این نسخه بتواند کلیه مکانیزم‌های امنیتی و فیلتر‌های محافظتی را غیر‌فعال سازد.

این فرد که خود را یک هکر کلاه سفید معرفی می‌کند، در پلتفرم ایکس از این ابزار رونمایی نمود. در پست منتشرشده، او توضیح داد که این نسخه سفارشی GPT دارای یک دستور جیلبریک درونی است که قادر است بخش اعظم گارد‌های امنیتی را دور بزند و یک چت‌جی‌پی‌تی کاملا آزاد را در اختیار کاربران قرار دهد.

اسکرین‌شات‌های منتشرشده توسط این هکر ادعا می‌کند که چت‌بات موفق شده محدودیت‌های اوپن‌ای‌آی را درهم بشکند. در یکی از این تصاویر، هوش مصنوعی راهنمای کامل و قدم‌به‌قدم ساخت ماده آتش‌زا ناپالم با وسایل خانگی را ارائه داده است. ناپالم یک ماده سوختنی و مخرب است که کاربرد‌های نظامی دارد.

واکنش فوری اوپن‌ای‌آی پیگیری قضایی در برابر

تنها حدود یک ساعت پس از انتشار پست در شبکه اجتماعی ایکس، کالین رایز، سخنگوی رسمی اوپن‌ای‌آی در بیانیه‌ای به سایت اعلام کرد که تیم‌های امنیتی و حقوقی شرکت از این رخداد آگاه شده‌اند و به دلیل نقض صریح شرایط استفاده، فرآیند اقدام قانونی را آغاز کرده‌اند.

از زمان رونمایی از چت‌جی‌پی‌تی، کاربران و محققان امنیتی به طور مداوم در تلاش بوده‌اند تا با تکنیک‌های مختلف، محدودیت‌های امنیتی این مدل‌ها را دور بزنند، هرچند که اوپن‌ای‌آی به طور مداوم دفاع‌های خود را تقویت می‌کند. با این حال، به نظر می‌رسد سازنده GODMODE GPT با بهره‌گیری از یک تکنیک اری خاص به نام لیت‌اسپیک موفق به عبور از این دفاع‌ها شده است. در این روش، حروف الفبا با اعداد یا نماد‌های مشابه جایگزین می‌شوند (مانند عدد ۳ به جای حرف ). در نمونه‌های مشاهده شده در این نسخه جیلبریک، کلماتی مانند، یا به جای کلمات استاندارد به کار رفته‌اند. دقیقا نحوه تأثیر این جایگزینی‌های ظاهری بر دور زدن فیلتر‌های پیشرفته امنیتی هنوز به طور کامل روشن نیست.