سم آلتمن: بروز برخی حوادث هوش مصنوعی اجتناب‌ناپذیر است

سم آلتمن، مدیرعامل OpenAI، در جریان کنفرانس Dreamforce شرکت سیلزفورس اعلام کرد که جلوگیری کامل از وقوع حوادث و خطرات مرتبط با هوش مصنوعی ممکن نیست و بخشی از تبعات این فناوری پیشرفته اجتناب‌ناپذیر خواهد بود. او تأکید کرد که تمرکز اصلی باید بر چگونگی مواجهه و واکنش به این رخدادها باشد.

الگوی صنعت هوانوردی برای ایمنی هوش مصنوعی

آلتمن با اشاره به تجربه صنعت هوانوردی گفت: «فکر می‌کنم وقوع حدی از حوادث با فناوری‌های جدید اجتناب‌ناپذیر است. آنچه واقعاً برای من اهمیت دارد، ایجاد فرهنگ قدرتمند گزارش‌دهی حوادث و یادگیری از آن‌هاست.»

او سازمان هوانوردی فدرال آمریکا (FAA) و هیئت ملی ایمنی ترابری (NTSB) را به‌عنوان الگوهای موفق معرفی کرد؛ نهادهایی که با بررسی دقیق و موشکافانه سوانح هوایی، زمینه را برای ایمن‌تر شدن پروازهای مدرن فراهم کرده‌اند. به باور آلتمن، صنعت هوش مصنوعی نیز باید سازوکار مشابهی برای ثبت، تحلیل و اشتراک‌گذاری خطاها ایجاد کند تا از تکرار آن‌ها جلوگیری شود.

ضرورت تقدم ایمنی بر توانمندی مدل‌ها

مدیرعامل OpenAI هشدار داد که توسعه‌دهندگان باید فعالیت‌های حوزه ایمنی، هم‌ترازی (Alignment) و نظارت را همواره جلوتر از پیشرفت توانایی مدل‌ها نگه دارند. او صراحتاً گفت در صورت به‌هم خوردن این تعادل، لازم است سرعت پژوهش‌ها و عرضه قابلیت‌های جدید کاهش یابد تا ریسک‌ها قابل کنترل باقی بماند.

آلتمن همچنین با اذعان به نگرانی‌های عمومی درباره آینده این فناوری گفت: «جهان کاملاً حق دارد که از این موضوع بترسد.» این اظهارات در شرایطی مطرح می‌شود که برخی پژوهشگران از جمله جیکوب کوکسون نسبت به شتاب گرفتن رقابت جهانی برای ساخت ابرهوش خودمختار هشدار داده‌اند؛ رقابتی که به گفته آن‌ها می‌تواند بدون چارچوب‌های نظارتی کافی، خطرات جدی به همراه داشته باشد.

از رقابت شتابان تا مسئولیت جمعی

سخنان آلتمن را می‌توان تلاشی برای تغییر نگاه از «پیشگیری مطلق» به «مدیریت مسئولانه ریسک» دانست. او معتقد است همان‌طور که جامعه پذیرفته است با وجود استانداردهای سخت‌گیرانه هوانوردی، باز هم احتمال بروز سانحه صفر نیست اما سازوکار شفاف بررسی سوانح اعتماد عمومی را حفظ کرده، در حوزه هوش مصنوعی نیز باید نهادی فراصنعتی و متکی بر شفافیت برای ثبت حوادث ایجاد شود.

این رویکرد در حالی مطرح می‌شود که شرکت‌های بزرگ فناوری هم‌زمان در حال رقابت برای عرضه مدل‌های قدرتمندتر هستند و فشار بازار، گاه ملاحظات ایمنی را به حاشیه می‌راند. تأکید آلتمن بر کاهش سرعت توسعه در صورت عقب ماندن تدابیر ایمنی، پیامی مستقیم به کل اکوسیستم هوش مصنوعی است که بدون فرهنگ پاسخ‌گویی و یادگیری جمعی، اعتماد عمومی و پایداری این فناوری در معرض خطر قرار خواهد گرفت.