یک گزارش نادرست تولیدشده با کمک هوش مصنوعی، در بهار گذشته ارتش آمریکا را تا یکقدمی اقدامی پرریسک در خاورمیانه پیش برد؛ اقدامی که میتوانست تنش میان واشنگتن و پکن را بهطور ناگهانی تشدید کند. به گفته منابع مطلع، تنها بازبینی دقیقه نودی مانع از توقیف یک کشتی چینی بر اساس ادعایی بیاساس شد.
ماجرای گزارش اشتباه درباره کشتی چینی چه بود؟
به گزارش سیانان و به نقل از منابعی در ارتش آمریکا، در بهار امسال یک تحلیلگر نظامی برای ارزیابی اطلاعات مربوط به محموله یک کشتی چینی در خاورمیانه، از یک چتبات هوش مصنوعی کمک گرفته بود. این اطلاعات در ابتدا از فرماندهی عملیات ویژه اقیانوس آرام به دست آمده بود. چتبات در پاسخ خود ادعا کرد که کشتی حامل مواد مرتبط با تسلیحات هستهای است.
بر اساس همین پاسخ، تحلیلگر گزارشی تهیه کرد که به سرعت در چرخه تصمیمگیری قرار گرفت. نیروهای مسلح برای سوار شدن به کشتی به حالت آمادهباش درآمدند و هواگردهای نظامی نیز در منطقه به پرواز درآمدند. با این حال، پیش از اجرای عملیات، بررسیهای تکمیلی نشان داد که گزارش «حداقل تا حدی» توسط هوش مصنوعی تولید شده و محتوای آن کاملاً نادرست است و از این رو دستور توقف عملیات صادر شد.
هنوز مشخص نیست چتبات مورد استفاده یک سامانه داخلی و دولتی بوده یا یک ابزار تجاری عمومی. یک مقام آگاه به موضوع استقرار هوش مصنوعی در ارتش آمریکا گفته است که همین اتکا به پاسخ اشتباه سامانه هوشمند، زمینهساز آمادهباش نظامی شد.
چرا ارتش آمریکا به سرعت به سراغ هوش مصنوعی رفته است؟
این حادثه در شرایطی رخ داده که پنتاگون بهدنبال تسریع بهکارگیری هوش مصنوعی در بخشهای مختلف است. در ماه ژانویه، پیت هگست، وزیر دفاع آمریکا، برنامههایی برای استفاده تهاجمیتر از این فناوری اعلام کرد و هشدار داد که عقب ماندن در این حوزه میتواند ابتکار عمل را به رقبا واگذار کند.
منابع آمریکایی میگویند تحلیلگران نظامی نیز تحت فشار فزایندهای قرار دارند تا گزارشها و ارزیابیهای خود را با کمک ابزارهای هوشمند با سرعت بیشتری تولید و منتشر کنند. همین فشار زمانی، در کنار جذابیت خودکارسازی، خطر اتکای بیش از حد به خروجیهای تأییدنشده را افزایش میدهد.
ارتش آمریکا در حال حاضر بهطور عمده از هوش مصنوعی در سه حوزه تحلیل اطلاعات، پشتیبانی لجستیک و کمک به هدفگیری استفاده میکند. پیشتر نیز گزارشهایی درباره نقش سامانههایی مانند کلود شرکت آنتروپیک در عملیاتهای اولیه مرتبط با درگیریهای اخیر، از جمله حملات هوایی در جریان تنش با ایران، منتشر شده بود.
زنگ خطر دقت و نظارت انسانی
مقامهای آمریکایی به سیانان گفتهاند که ماجرای کشتی چینی تنها نمونه خطای مرتبط با هوش مصنوعی در ساختار نظامی این کشور نبوده است. به گفته آنها، موارد دیگری از تولید اطلاعات نادرست یا برداشت اشتباه سامانهها نیز ثبت شده است.
در همین زمینه، برخی گزارشها به احتمال نقش اطلاعات قدیمی و تحلیلهای خودکار در حملهای اشاره کردهاند که به مدرسهای در میناب اصابت کرد و به کشته شدن ۱۶۸ نفر، عمدتاً کودک، منجر شد؛ حملهای که گروهی از کارشناسان سازمان ملل آن را مصداق جنایت جنگی دانستهاند. هرچند جزئیات فنی این ادعا همچنان محل بررسی است، اما این نمونهها نشان میدهد که چگونه یک خطای کوچک در الگوریتم یا داده ورودی میتواند پیامدهای انسانی و ژئوپلیتیکی بزرگی داشته باشد.
کارشناسان امنیت و فناوری تأکید میکنند که هرچه نقش هوش مصنوعی در تصمیمگیریهای حساس پررنگتر میشود، نیاز به سازوکارهای دقیق راستیآزمایی، نظارت انسانی چندلایه و مستندسازی شفاف منابع نیز بیشتر میشود. بدون این لایههای حفاظتی، حتی یک «توهم» ساده مدل زبانی میتواند در بدترین سناریو، به جرقه یک بحران بینالمللی تبدیل شود.
درس بزرگ یک خطای کوچک
حادثه اخیر بار دیگر این واقعیت را یادآوری میکند که هوش مصنوعی، با وجود سرعت و توان پردازش بالا، جانشین قضاوت انسانی و بررسی میدانی نیست؛ بهویژه زمانی که پای امنیت ملی و روابط میان قدرتهای بزرگ در میان باشد. توقف بهموقع عملیات علیه کشتی چینی، از وقوع یک اشتباه استراتژیک جلوگیری کرد، اما پرسش اصلی همچنان باقی است: آیا ساختارهای فعلی برای جلوگیری از تکرار چنین خطاهایی کافی هستند؟
دیدگاهها (0)
هنوز دیدگاهی ثبت نشده است.