دو صدای مهم از درون شرکت آنتروپیک، از جدیترین مدعیان توسعه هوش مصنوعی ایمن، زنگ خطر را درباره آینده این فناوری به صدا درآوردهاند. آنها میگویند رقابت فشرده برای رسیدن به سامانههای «خودبهبوددهنده» از حد احتیاط فراتر رفته و میتواند به ریسکهای وجودی برای بشر منجر شود.
احتمال ۱۰ درصدی فاجعه تا پایان دهه
اوان هوبینگر، سرپرست یکی از تیمهای ایمنی هوش مصنوعی در آنتروپیک، در اظهارنظری کمسابقه اعلام کرده است که به باور او بیش از ۱۰ درصد احتمال دارد هوش مصنوعی در یک دهه آینده به سطحی برسد که «بتواند همه انسانها را بکشد». این ارزیابی تنها ساعاتی پس از استعفای جنجالی همکارش منتشر شد و بازتاب گستردهای در جامعه فناوری داشت.
هوبینگر تأکید کرده که سرعت پیشرفت سامانههای خودبهبوددهنده از پیشبینیهای قبلی نیز فراتر رفته است. او در عین حال اعتراف کرده که حتی در آنتروپیک نیز هنوز «برنامهای مدون برای تضمین ایمنی و همراستایی مدلهای فوقپیشرفته با ارزشهای انسانی» وجود ندارد و این شرکت هنوز بهطور جدی در مسیر تدوین چنین برنامهای قرار نگرفته است.
استعفای اعتراضی پژوهشگر ارشد
جرقه این بحث، پست خداحافظی جیکوب کوکسن در شبکه اجتماعی ایکس بود. کوکسن که سابقه فعالیت در هر دو شرکت اوپنایآی و آنتروپیک و تخصص در آموزش سامانههای هوش مصنوعی را دارد، دلیل جدایی خود را نگرانی از مسیر خطرناک صنعت عنوان کرد.
او نوشت شرکتهای بزرگ در «مسابقهای قفلشده» برای دستیابی زودتر به فراهوش خودبهبوددهنده گرفتار شدهاند و حاضرند حتی با وجود ریسکهای حلنشده به پیش بروند. به گفته او، سازندگان این فناوری خود «صادقانه باور دارند که هوش مصنوعی ممکن است تا پایان همین دهه همه انسانها را از بین ببرد» و با این حال با سرنوشت بشر قمار میکنند.
چرخه خودبهبودی؛ تهدیدی قدیمی که نزدیک میشود
نگرانی درباره سامانههایی که بتوانند خود را بهطور خودکار بهبود دهند و در چرخهای شتابگیر از کنترل انسان خارج شوند، سالهاست از سوی پژوهشگران ایمنی مطرح میشود. اگرچه هنوز چنین چرخه کاملی محقق نشده، اما نشانههای آن آشکار است: بخش قابل توجهی از کدنویسیهای امروز با کمک خود هوش مصنوعی انجام میشود و شرکتها سرمایهگذاری سنگینی روی همین مسیر انجام میدهند.
هوبینگر در پاسخ به کوکسن، ضمن تأیید نگرانی او گفت که این خطر را جدی میداند و معتقد است «ما واقعا صادقانه باور داریم هوش مصنوعی میتواند همه انسانها را بکشد». جملهای که نشان میدهد دغدغه ایمنی دیگر یک بحث حاشیهای در صنعت نیست، بلکه به هسته اصلی گفتوگوها در آزمایشگاههای پیشرو راه یافته است.
شکاف میان جاهطلبی فنی و آمادگی ایمنی
جدایی کوکسن یکی از پررنگترین موارد کنارهگیری یک پژوهشگر از آنتروپیک محسوب میشود؛ شرکتی که خود توسط گروهی از اعضای سابق اوپنایآی و با هدف تمرکز بیشتر بر ایمنی هوش مصنوعی بنیان گذاشته شد. در سالهای اخیر چندین پژوهشگر دیگر نیز اوپنایآی را به دلیل همین دغدغههای ایمنی ترک کردهاند.
برای کل صنعت، پیام این دو هشدار دوگانه است: از یک سو مشخص میشود که بحث کنترلپذیری مدلهای قدرتمند به متن اصلی صنعت آمده و از سوی دیگر، شکاف میان سرعت توسعه فنی و میزان آمادگی برای مدیریت ریسک همچنان پر نشده است؛ حتی در شرکتی که با شعار احتیاط و ایمنی شناخته میشود، پاسخی قطعی برای مهار آینده وجود ندارد.
به باور ناظران، اظهارات هوبینگر و کوکسن بار دیگر ضرورت تدوین چارچوبهای نظارتی، استانداردهای ارزیابی مستقل و برنامههای همراستایی پیش از رسیدن به نقطه بیبازگشت را یادآوری میکند؛ پیش از آنکه رقابت برای رسیدن زودتر، فرصت اندیشیدن به چگونه رسیدن را از بین ببرد.
دیدگاهها (0)
هنوز دیدگاهی ثبت نشده است.