پیشرفت شتابان مدلهای هوش مصنوعی پیشرفته، بهویژه آنچه «هوش مصنوعی مرزی» یا Frontier AI نامیده میشود، موجی از نگرانیها را در میان پژوهشگران و قانونگذاران به راه انداخته است. در همین فضا، مفهومی قدیمی با لباسی جدید بازگشته است: کلید خاموشی هوش مصنوعی؛ سازوکاری اضطراری برای توقف، تعلیق یا ایزوله کردن یک سیستم هوشمند در زمانی که رفتار آن از کنترل خارج میشود. ایدهای که روی کاغذ ساده به نظر میرسد، اما در دنیای واقعی شبکههای توزیعشده و تراشههای پراکنده، بسیار پیچیده است.
چرا بحث کلید خاموشی دوباره اوج گرفته است؟
در هفتههای اخیر درخواستها برای کند کردن توسعه مدلهای بسیار قدرتمند به شکل بیسابقهای افزایش یافته است. جرقه تازه این بحث، کنارهگیری جیکوب کاکسون، پژوهشگر سابق آنتروپیک، بود که با اشاره به ریسکهای وجودی هوش مصنوعی از سمت خود استعفا داد. پس از آن، داریو آمودی، مدیرعامل آنتروپیک، به صراحت از لزوم کاهش سرعت پیشرفتها سخن گفت؛ موضعی که با حمایت چهرههایی مانند ایلان ماسک و سم آلتمن نیز همراه شد.
همزمان، جک کلارک، از بنیانگذاران آنتروپیک، بر ضرورت ایجاد کلیدهای خاموشی اجباری برای سیستمهای هوش مصنوعی تاکید کرده است. در سطح قانونگذاری نیز کنگره آمریکا با ارائه لایحهای دوحزبی تحت عنوان «AI Kill Switch Act» تلاش میکند توسعهدهندگان مدلهای پیشرفته را به طور قانونی ملزم کند که توانایی کاهش سرعت، تعلیق یا خاموشسازی کامل محصولات خود را حفظ کنند. این تحولات نشان میدهد کلید خاموشی دیگر یک ایده آکادمیک نیست، بلکه به یک مطالبه سیاستی تبدیل شده است.
کلید خاموشی از نظر فنی چگونه کار میکند؟
اگر یک شرکت کنترل کامل سرورهای میزبان یک مدل را در اختیار داشته باشد، توقف آن در نگاه اول ساده است. مایکل ورمیر، دانشمند ارشد فیزیک در موسسه RAND، به ابتداییترین راهکار اشاره میکند: قطع برق یا قطع اتصال شبکه سرورها. علاوه بر این، ابزارهای مرسوم امنیت سایبری، رمزنگاری و جداسازی شبکه میتوانند یک سیستم را ایزوله یا مهار کنند، به شرط آنکه مدافع بداند سیستم دقیقا کجا در حال اجراست.
اما پژوهشگران به راهکارهای پیشرفتهتری هم فکر میکنند. ورمیر حتی از ایده «عوامل شکارچی-قاتل» یاد میکند؛ عاملهای هوشمندی که به طور خودکار برای ردیابی و مختل کردن سیستمهای سرکش طراحی میشوند. این رویکرد تهاجمی، هرچند جنجالی، نشان میدهد مقابله با یک هوش سرکش ممکن است خود به هوش مصنوعی دیگری نیاز داشته باشد.
ایده دیگر که مارک نیتزبرگ، مدیر اجرایی مرکز هوش سازگار با انسان در دانشگاه برکلی مطرح کرده، تعبیه سیگنال حفظ حیات در سطح تراشه است. در این طرح، هر تراشه مرکز داده باید به صورت مداوم و مثلا هر دقیقه، سیگنالی از یک مرجع مورد اعتماد دریافت کند؛ در غیر این صورت به طور خودکار از کار میافتد. چنین سازوکاری میتواند اهرم قدرتمندی برای اعمال توقف در سطح سختافزار باشد.
چالش بزرگ مقیاس جهانی
با وجود جذابیت این ایدهها، اجرای آنها در مقیاس محلی با مقیاس جهانی تفاوت بنیادین دارد. ورمیر و نیتزبرگ هر دو تاکید میکنند که هرچند مداخله در یک مرکز داده مشخص ممکن است عملی باشد، اما اجرای هماهنگ و سراسری کلید خاموشی تقریبا «غیرممکن» ارزیابی میشود. هوش مصنوعی امروز در یک وب بههمپیوسته از خدمات ابری، کپیهای توزیعشده و زنجیره تامین تراشه پراکنده شده و خاموش کردن همه نسخهها به طور همزمان، نیازمند همکاری بیسابقه دولتها، شرکتها و اپراتورهای زیرساخت است.
عامل انسانی؛ چه کسی و چه زمانی کلید را فشار میدهد؟
یکی از گرههای اصلی، تصمیم انسانی است. نیتزبرگ یادآور میشود که انسانها باید تشخیص دهند چه زمانی استفاده از کلید ضروری است، آن هم در شرایطی که اطلاعات کامل در اختیار ندارند و تاخیر میتواند پرهزینه باشد. از سوی دیگر، ورمیر به مشکل انگیزهها اشاره میکند: حتی اگر ساخت کلید از نظر فنی آسان باشد، «انگیزهها برای استفاده از آن همسو نیستند». خاموش کردن یک مدل پیشرو، هزینههای سنگین رقابتی، مالی و عملیاتی دارد و همین تردید میتواند باعث تعلل خطرناک شود.
فراتر از استعاره کلید؛ اکوسیستمی از اقدامات
شماری از کارشناسان اساسا استعاره «کلید» را گمراهکننده میدانند. اران کاهانا، پژوهشگر دانشکده حقوق دانشگاه استنفورد، میگوید کلید خاموشی یک دکمه جادویی نیست، بلکه اکوسیستمی از اقدامات است که باید یک سیستم را در زمان بیثباتی عملیاتی متوقف، ایزوله و به تدریج غیرفعال کند. بدون سیاستگذاریهای از پیش تعیینشده، پروتکلهای شفاف و تمرین عملیاتی، این اکوسیستم کارایی نخواهد داشت.
دیلن بیکر، مهندس پژوهشی در موسسه Distributed AI Research، پا را فراتر میگذارد و استعاره کلید را مشکلساز میخواند. به باور او، با توجه به اکوسیستم پیچیده و درهمتنیده فناوریهای هوش مصنوعی، فروکاستن مساله به یک کلید یا حتی سازوکار «کاهش سرعت» بیش از حد سادهانگارانه است و ابعاد فنی، حقوقی و اجتماعی موضوع را نادیده میگیرد.
- نیاز به استانداردهای نظارتی برای پایش مداوم رفتار مدلها پیش از وقوع بحران
- تعریف پروتکلهای شفاف برای تقسیم مسئولیت میان توسعهدهنده، اپراتور مرکز داده و نهاد ناظر
- طراحی سختافزار قابل حسابرسی با قابلیت اعمال سیگنال حیات و قطع دسترسی
- ایجاد سازوکارهای انگیزشی و حقوقی که تعلل در فشار دادن کلید را پرهزینهتر از اقدام بهموقع کند
در نهایت، کارشناسانی مانند کاهانا و بیکر بر یک نکته مشترک تاکید دارند: به جای تمرکز صرف بر یک دکمه قرمز خیالی، باید به نظارت زودهنگام و تشخیص پیشدستانه ناهنجاریها سرمایهگذاری کرد تا بحران پیش از آنکه از کنترل خارج شود، شناسایی و مهار گردد. کلید خاموشی میتواند بخشی از جعبهابزار ایمنی باشد، اما هرگز جایگزین حکمرانی مسئولانه، شفافیت فنی و همکاری بینالمللی نخواهد شد.
دیدگاهها (0)
هنوز دیدگاهی ثبت نشده است.