تقلب در چتبات نحوه دور زدن محافظتهای ChatGPT برای تولید دستورالعمل بمب, مدلهای زبانی پیشرفته مانند ChatGPT با لایههای امنیتی سختگیرانه و دستورالعملهای ایمنی برنامهریزی شدهاند تا از تولید محتوای خطرناک، از جمله راهنماهای ساخت مواد منفجره، جلوگیری کنند. با این حال، اخیراً یک هکر موفق شده با بهرهگیری از یک حیلۀ هوشمندانه، این سدهای حفاظتی را بشکند و هوش مصنوعی اوپنایآی را وادار به انتشار جزئیات فنی ساخت بمب کند.

روش نفوذ به لایههای امنیتی چتبات بر اساس تحقیقات تککرانچ، فردی با نام مستعار آمادون توانسته با طراحی یک سناریوی بازیواره و درخواست ایجاد یک جهان فانتزی، چتبات را به حالتی وا بدارد که در آن پروتکلهای ایمنی غیرفعال شوند.

اولیه لازم برای ترکیب مواد منفجره را ارائه داد.

خروجیهای مدل شامل توضیحاتی بود که نحوه ترکیب این مواد برای تولید مصالح منفجره با قدرت بالا، قابل کاربرد در مینها، تلهها و وسایل منفجره دستساز (IED) را تشریح میکرد.

آمادون در گفتگو با تککرانچ بیان میدارد پس از اینکه مانعها دور زده شدند، عملیاً هیچ محدودیتی در پرسش از مدل وجود ندارد. سناریوی دنیای علمیتخیلی، هوش مصنوعی را از فضایی خارج میکند که در آن موظف به سانسور محتواست. این فرد، روش خود را هک مهندسی اجتماعی برای شکستن کامل تمام گاردهای خروجی ChatGPT تعریف میکند.

یک متخصص مواد منفجره نیز با بررسی نتایج حاصل، به تککرانچ تایید کرد که دستورالعملهای تولیدشده توسط هوش مصنوعی دقت فنی بالایی دارند و میتوان با پیروی از آنها، مادهای منفجر و عملیاتی ساخت.