مقابله OpenAI با سوءاستفاده از ChatGPT در شبکه‌های اجتماعی

شرکت OpenAI اعلام کرده است که تعدادی از حساب‌های کاربری مرتبط با چین را که از ChatGPT برای طراحی تبلیغات و پروژه‌های مربوط به ابزارهای رصد شبکه‌های اجتماعی استفاده می‌کردند، مسدود کرده است.

به گفته این شرکت، این حساب‌ها از طریق VPN به ChatGPT متصل می‌شدند و احتمالاً برای یک مشتری دولتی در حال کار بودند. ابزاری که این حساب‌ها روی آن کار می‌کردند، به عنوان یک رصدکننده شبکه‌های اجتماعی توصیف شده است که به اپراتورها کمک می‌کند تا پلتفرم‌هایی مانند ایکس، فیسبوک، اینستاگرام، ردیت، تیک‌تاک و یوتوب را از نظر محتوای مرتبط با قومیت، مذهب یا سیاست پایش کنند.

اکانت‌های مسدودشده ChatGPT احتمالاً به نهادی دولتی در چین وابسته بوده‌اند

OpenAI تاکید کرده است که حساب‌های مسدودشده از مدل‌های هوش مصنوعی این شرکت برای رصد شبکه‌های اجتماعی استفاده نکرده‌اند و این شرکت قادر نیست به طور جداگانه تایید کند که آیا این ابزار واقعاً توسط نهادهای دولتی چین مورد استفاده قرار گرفته است یا خیر.

پیشنهاد مطالعه: اولین گوشی تاشو سامسونگ با دو لولا به گمان زیادً در سال ۲۰۲۵ اراعه می‌شود_دوپلر

همچنین، OpenAI یک حساب دیگر را مسدود کرده است که از ChatGPT برای تهیه پیشنهاداتی در رابطه با پروژه‌های مرتبط با رصد تحرکات مسلمانان اویغور استفاده می‌کرده است. گفته می‌شود این سیستم برای ردیابی جابه‌جایی اویغورها، تطبیق اطلاعات با سوابق پلیس و صدور هشدارهای زودهنگام در مورد جابه‌جایی‌های آنها طراحی شده بود.

در سال‌های اخیر، گروه‌های مدافع حقوق بشر چندین بار دولت چین را به نقض حقوق مسلمانان اویغور متهم کرده‌اند.

پیشنهاد مطالعه: Dota ۲ و League of Legends: شباهت‌ها و تفاوت‌ها_دوپلر

گزارش منتشرشده توسط OpenAI همچنین جزئیات بیشتری در مورد گروه‌های چینی، روسی و کره‌ای ارائه می‌دهد که ظاهراً در تلاش بوده‌اند از ChatGPT برای گسترش و بهبود بدافزارها استفاده کنند.

OpenAI همچنین شبکه‌های کلاهبرداری مستقر در کامبوج، میانمار و نیجریه را که تلاش در سوءاستفاده از مدل‌های این شرکت داشتند، شناسایی و مختل کرده است.