آژانس پیشرفته پژوهش و اخترع بریتانیا (ARIA) رویکردی نوآورانه برای مهار ریسک‌های هوش مصنوعی را معرفی کرد. این سازمان که به عنوان درپای بریتانیا شناخته می‌شود، برنامه‌ای با بودجه ۵۹ می‌لیون دلاری را برای توسعه تضمین‌های ایمنی کمی راه‌اندازی کرده است. هدف اصلی، ایجاد لایه‌ای از اطمینان ریاضیاتی است که جلوی خروج رفتار هوش مصنوعی از چارچوب‌های تعریف شده را بگیرد.

محوریت این برنامه، مفهوم هوش مصنوعی دروازه‌دار است. این دیده‌بان دیجیتالی وظیفه دارد تا عملیات سیستم‌های هوشمند را در محدوده کاربرد‌های مجاز محدود نگه دارد. در صورت موفقیت، این فناوری می‌تواند راه را برای استقرار مطمئن هوش مصنوعی در بخش‌های حساس و پرریسک — نظیر مدیریت زیرساخت‌های حیاتی، بهینه‌سازی شبکه برق و نظارت بر آزمایش‌های بالینی — هموار سازد.

معماری دروازه‌دار ترکیب تجربه تجاری و دقت آکادمیک

دیوید دالریمپل، برنامه‌ریز اصلی این طرح و خالق ارز دیجیتال فایل‌کوین، معتقد است که روش‌های سنتی هر کدام معایب خاص خود را دارند. مدل‌های تجاری بر داده‌های محدود و آزمون‌های تجربی تکیه دارند و تضمین مقیاس‌پذیری ایمن ندارند؛ در حالی که رویکرد‌های محض آکادمیک و اثبات‌های صوری اغلب مانع بهره‌برداری از پتانسیل‌های کامل هوش مصنوعی می‌شوند.

استراتژی دروازه‌دار ما، بهترین از دو جهان را فراهم می‌آورد استفاده از قدرت محاسباتی و پیشرفت‌های سریع مدل‌های تجاری برای توسعه قابلیت‌ها، در حالی که کنترل و تضمین ایمنی از طریق مدل‌سازی ریاضیاتی و اثبات‌های رسمی الزامی می‌گردند.

بیش‌تر بخوانید: خودرو‌های داخلی محبوب و پرفروش با محصولات گران‌تر جانشین شدند!

ریشه‌های تاریخی الهام از پروژه HACMS دارپا

ARIA در سال ۲۰۲۳ به عنوان یک سازمان تحقیقاتی با بودجه دولتی مستقل تأسیس گردید تا پروژه‌های پرریسک و پرپاداش را پیش ببرد. پروژه دروازه‌دار شباهت‌های ساختاری قابل توجه‌ی با برنامه HACMS آژانس پروژه‌های پیشرفته تحقیقاتی دفاعی آمریکا (DARPA) دارد. HACMS با بهره‌گیری از صحت‌سنجی ریاضیاتی، موفق به تولید نرم‌افزار‌های تقریبا بدون باگ شد؛ نمونه بارز آن، ساخت یک کوادکوپ‌تر غیر‌قابل هک بود که نشان‌دهنده قابلیت اعتماد این متد در دنیای واقعی است.

علاوه بر ایمنی، ARIA در مسیر کاهش دراماتیک هزینه‌های توسعه هوش مصنوعی (تا سطح ۰.۱ درصد هزینه‌های جاری) نیز گام برمی‌دارد. موفقیت در این مسیر‌ها می‌تواند موجبات افزایش تسهیلات مالی و حمایتی سیاست‌گذاران برای این آژانس را فراهم آورد.

این رویکرد نوین، نقطه عطفی در تحول از هوش مصنوعی قابل اعتماد به سمت هوش مصنوعی اثبات شده محسوب می‌شود که می‌تواند استاندارد‌های جهانی ایمنی را بازتعریف کند.