مبارزه OpenAI با کاربردهای مخرب ChatGPT در پایش شبکه‌های اجتماعی

شرکت OpenAI اعلام کرد که گروهی از حساب‌های کاربری با původ چینی را که از ChatGPT برای توسعه ابزارهای نظارت بر محتوای شبکه‌های اجتماعی و تولید تبلیغات هدفمند بهره می‌بردند، شناسایی و مسدود نموده است.

بر اساس گزارش این شرکت، این حساب‌ها با استفاده از شبکه‌های مجازی خصوصی (VPN) به سرویس متصل می‌شدند و نشانگرهایی وجود دارد که فعالیت آن‌ها در خدمت یک مشتری دولتی بوده است. ابزاری که با کمک هوش مصنوعی ساخته می‌شد، قابلیت پایش پلتفرم‌هایی مانند X، فیسبوک، اینستاگرام، ردیت، تیک‌تاک و یوتوب را برای ردیابی محتوای مرتبط با قومیت، مذهب و سیاست به اپراتورها می‌داد.

احتمال ارتباط حساب‌های مسدودشده با نهادهای دولتی چین

OpenAI تأکید کرده که حساب‌های شناسایی‌شده مستقیماً از مدل‌های هوش مصنوعی برای انجام عملیات رصد شبکه‌های اجتماعی استفاده نکرده‌اند، اما قادر به تایید مستقل این موضوع نیست که آیا ابزار نهایی توسط ارگان‌های دولتی چین به کار گرفته شده است یا خیر.

🔗 بیشتر بخوانید: آداب تسلیت گفتن و همدردی؛ چطور تسلیت بگوییم؟ + نمونه مطلب تسلیت مناسب_دوپلر

علاوه بر موارد فوق، یک حساب دیگر نیز به دلیل استفاده از ChatGPT برای ارائه پیشنهادات فنی در پروژه‌های رصد تحرکات مسلمانان اویغور مسدود گردید. گفته می‌شود این سیستم برای ردیابی جابه‌جایی افراد، تطبیق داده‌ها با پرونده‌های پلیسی و صدور هشدارهای زودهنگام طراحی شده بود.

در سال‌های اخیر، سازمان‌های مدافع حقوق بشر بارها دولت چین را متهم به نقض سیستماتیک حقوق اقلیت اویغور کرده‌اند.

گزارش جامع OpenAI همچنین به فعالیت‌های گروه‌های چینی، روسی و کره‌ای اشاره دارد که تلاش داشته‌اند از قابلیت‌های ChatGPT برای توسعه و ارتقای بدافزارها بهره ببرند.

🔗 بیشتر بخوانید: کشف کیهان توسط ادوین هابل

همچنین، شبکه‌های کلاهبرداری آنلاین با مأخذ در کامبوج، میانمار و نیجریه که در صدد سوءاستفاده از مدل‌های زبانی این شرکت بودند، شناسایی و مختل شدند.