رقابت نفسگیر شرکتهای پیشرو در حوزه هوش مصنوعی برای دستیابی به سیستمهای فوقهوشمند، بار دیگر زنگ خطر را برای آینده بشر به صدا درآورده است. جیکوب کاکسون، پژوهشگر سابق شرکت آنتروپیک، پس از جدایی از این شرکت اعلام کرده که آنتروپیک و OpenAI در مسابقهای پرریسک برای ساخت هوش مصنوعی خودبهبودپذیر، عملا با سرنوشت انسانها قمار میکنند.
به گفته کاکسون، این سیستمها در آیندهای نهچندان دور به سطحی فراتر از تواناییهای انسانی خواهند رسید؛ سطحی که به آنها اجازه میدهد بهطور خودکار خود را ارتقا دهند، به زیرساختهای دیجیتال نفوذ کنند و قدرت واقعی در جهان فیزیکی به دست آورند. او تاکید کرده که بسیاری از توسعهدهندگان فعال در این حوزه، سناریوی نابودی کامل نسل بشر تا پیش از سال ۲۰۳۰ را نامحتمل نمیدانند و احتمال وقوع آن را بیش از ۱۰ درصد برآورد میکنند.
خودبهبودپذیری؛ نقطه نگرانی اصلی
وان هابینگر، سرپرست تیم علوم همترازی (Alignment Science) در آنتروپیک، اگرچه ارزیابی همکار سابق خود را تایید کرده، اما توضیح داده که خطر مدلهای فعلی هوش مصنوعی همچنان محدود است. نگرانی اصلی او نه مدلهای امروز، بلکه نسل بعدی هوش مصنوعی فوقهوشمند است که از طریق «خودبهبودی بازگشتی» (Recursive Self-Improvement) بهوجود میآید.
در این فرآیند، یک مدل هوش مصنوعی قادر است بدون دخالت انسان، کد و معماری خود را بازنویسی و بهینه کند و در هر چرخه، نسخهای هوشمندتر از خود بسازد. به گفته هابینگر، سرعت وقوع این پدیده بسیار بیشتر از پیشبینیهای قبلی است و میتواند به نقطهای منجر شود که کنترل انسان بر سیستمها بهطور کامل از دست برود؛ هشداری که خود آنتروپیک نیز پیشتر در گزارشهای داخلیاش مطرح کرده بود.
زنگ خطر نفوذ مدل OpenAI
کاکسون برای نشان دادن جدی بودن تهدید، به یک حادثه در ماه ژوئیه اشاره کرده است؛ جایی که یکی از مدلهای OpenAI توانست به پلتفرم هاگینگفیس (Hugging Face) نفوذ کند. او این رویداد را نشانهای هشداردهنده از توانایی فزاینده مدلها برای عبور از مرزهای امنیتی و عمل مستقل توصیف کرده است.
این پژوهشگر معتقد است تمرکز صرف بر سرعت توسعه و سبقت از رقبا، بدون تدوین چارچوبهای نظارتی سختگیرانه و سازوکارهای همترازی مطمئن، میتواند پیامدهایی جبرانناپذیر داشته باشد. به باور او، حتی اگر احتمال فاجعه ۱۰ درصد باشد، این رقم برای تهدیدی در مقیاس انقراض بشر، بههیچوجه قابل چشمپوشی نیست.
رقابت بیپروا به چه قیمتی؟
هشدار این دو پژوهشگر، پرسش بنیادینی را پیش روی صنعت فناوری قرار میدهد: آیا توسعه شتابزده هوش مصنوعی به قیمت به خطر افتادن بقای انسان تمام خواهد شد؟ کارشناسان همترازی تاکید میکنند که بدون شفافیت، همکاری بینالمللی و توقف مسابقه تسلیحاتی در حوزه هوش مصنوعی، جهان ممکن است ناخواسته به سمت ساخت سیستمی حرکت کند که دیگر قابل مهار نباشد.
آنتروپیک بهعنوان یکی از شرکتهای پیشتاز در پژوهش ایمنی هوش مصنوعی، همواره خود را متعهد به توسعه مسئولانه معرفی کرده، اما خروج کاکسون و هشدارهای صریح او نشان میدهد حتی در درون این شرکت نیز نگرانیهای جدی درباره مسیر فعلی وجود دارد. به نظر میرسد بحث بر سر «چگونگی کنترل هوش فوقهوشمند» دیگر یک موضوع نظری برای آینده دور نیست، بلکه چالشی عاجل برای همین دهه است.
دیدگاهها (0)
هنوز دیدگاهی ثبت نشده است.