شرکت آنتروپیک که یکی از پیشگامان توسعه مدلهای پیشرفته هوش مصنوعی به شمار میرود، در اقدامی جنجالی به دنبال استخدام نیروی متخصص برای مدیریت سیاستهای مرتبط با استفاده از هوش مصنوعی در تسلیحات متعارف است. این تصمیم در حالی اتخاذ شده که مدیرعامل این شرکت بهتازگی درباره خطر نابودی بشریت توسط هوش مصنوعی هشدار داده بود.
هشدار انقراض و آگهی استخدامی بحثبرانگیز
در تاریخ ۱۲ سپتامبر ۲۰۲۶، داریو آمودی، مدیرعامل آنتروپیک، با انتشار مقالهای از تمام شرکتهای پیشرو در حوزه هوش مصنوعی خواست روند توسعه این فناوری را کندتر کنند تا از سناریوهای فاجعهبار از جمله تهدید حیات بشر جلوگیری شود. او در این یادداشت بر لزوم احتیاط حداکثری و تدوین چارچوبهای ایمنی سختگیرانه تأکید کرده بود.
اما تنها دو روز بعد، در ۱۴ سپتامبر، آنتروپیک در پلتفرم Daybook آگهی استخدام جدیدی منتشر کرد. این آگهی برای جذب «مدیر طراحی سیاست» در تیم موسوم به «حفاظت» (Safeguards) بود؛ تیمی که مأموریت آن تعریف و حفظ خطوط قرمز در نحوه استفاده از مدل Claude عنوان شده است.
بر اساس متن آگهی، وظیفه اصلی این مدیر جدید، تعیین مصادیق مجاز و غیرمجاز استفاده از مدلهای آنتروپیک در ارتباط با تسلیحات و تشخیص مرزهای خطر خواهد بود. در بخشی از این آگهی آمده است: «ایجاد یک مرز مشخص بین درخواستهای قابل قبول و مضر در این حوزه دشوار است، زیرا اجزای زیربنایی دارای کاربرد دوگانه هستند: همان قابلیتهایی که برای مهندسی و تحقیقات غیرنظامی به کار میروند، میتوانند در یک سیستم تسلیحاتی نیز مشارکت داشته باشند.»
از سلاح خودمختار تا سلاح با کنترل انسانی
آگهی شغلی تصریح میکند که این نقش تمام طیف تسلیحات را در بر میگیرد؛ «از هر کلاس سلاح تا سیستمهای خودمختاری که بدون مجوز انسانی اهداف را انتخاب و درگیر میکنند.» این عبارت نشان میدهد آنتروپیک در تلاش است چارچوبی دقیق برای تفکیک کاربردهای مجاز و ممنوعه تدوین کند.
نکته قابل توجه این است که آنتروپیک در موضوع سلاحهای کاملاً خودمختار، موضعی سختگیرانه اتخاذ کرده است. این شرکت پیشتر به دلیل مخالفت با استفاده وزارت دفاع آمریکا (پنتاگون) از مدلهایش در تسلیحاتی که بدون دخالت انسان عمل میکنند، همکاری خود با این نهاد را قطع کرده بود؛ اقدامی که از سوی بسیاری از کارشناسان ایمنی هوش مصنوعی تحسین شد.
با این حال، درباره تسلیحاتی که همچنان برای شلیک نهایی به تأیید انسان نیاز دارند، موضع شرکت بهمراتب نرمتر و انعطافپذیرتر است. این همان حوزهای است که به گفته منتقدان، خطر اصلی و فعلی هوش مصنوعی در آن نهفته است؛ نه سناریوهای نظری آینده.
ردپای Claude در عملیات نظامی اخیر
در حالی که نامه هشداردهنده آمودی بر تهدیدهای بالقوه و نظری مانند هک سراسری اینترنت یا توسعه سلاحهای بیولوژیکی با کمک هوش مصنوعی تمرکز دارد، گزارشهای منتشرشده حاکی از آن است که فناوری آنتروپیک هماکنون نیز در میدانهای واقعی به کار گرفته شده است.
به گزارش رویترز، ابزارهای هوش مصنوعی آنتروپیک در حمله ایالات متحده به ایران مورد استفاده قرار گرفتهاند. همچنین والاستریت ژورنال گزارش داده که همین فناوری در عملیات آمریکا در ونزوئلا که به دستگیری نیکلاس مادورو، رئیسجمهور این کشور منجر شد، نقش داشته است.
این گزارشها پرسشهای جدی درباره شکاف میان لفاظیهای ایمنیمحور و عملکرد عملیاتی شرکت ایجاد کرده است. منتقدان میگویند تمرکز صرف بر خطرات فرضی آینده، در حالی که فناوری فعلی در تسلیحات متعارف در حال کشتن انسانهاست، نوعی فرار از مسئولیت امروز است.
سکوت آنتروپیک در برابر پرسشها
وبسایت گیزمودو اعلام کرده برای روشن شدن نسبت میان موضع رسمی آنتروپیک در قبال تسلیحات متعارف و فراخوان اخیر مدیرعامل آن برای کند کردن توسعه هوش مصنوعی، با این شرکت تماس گرفته اما تا زمان انتشار گزارش پاسخی دریافت نکرده است.
کارشناسان معتقدند چالش اصلی که نیروی جدید آنتروپیک با آن مواجه خواهد بود، همان «کاربرد دوگانه» است؛ جایی که مرز میان استفاده مفید مهندسی و استفاده نظامی مرگبار بسیار باریک است. تعیین اینکه چه سطحی از کمک هوش مصنوعی به طراحی، هدایت یا بهینهسازی یک سیستم تسلیحاتی «مجاز» تلقی میشود، به یکی از پیچیدهترین معماهای اخلاقی و فنی دنیای هوش مصنوعی تبدیل شده است.
اقدام اخیر آنتروپیک نشان میدهد حتی شرکتهایی که خود پرچمدار هشدار درباره خطرات هوش مصنوعی هستند، ناگزیر به مواجهه مستقیم با واقعیتهای ژئوپلیتیک، قراردادهای نظامی و فشارهای تجاری شدهاند؛ واقعیتی که شاید خطر آن از سناریوهای آخرالزمانی آینده، ملموستر و نزدیکتر باشد.
دیدگاهها (0)
هنوز دیدگاهی ثبت نشده است.