سم آلتمن، مدیرعامل OpenAI، در اظهاراتی تازه دیدگاه متفاوتی نسبت به نگرانیهای فزاینده درباره ایمنی هوش مصنوعی مطرح کرده است. او معتقد است وقوع حوادث در فناوریهای نوظهور هوش مصنوعی نه یک احتمال دور، بلکه واقعیتی اجتنابناپذیر است و تمرکز صنعت باید بر نحوه مدیریت و درسآموزی از این حوادث باشد.
نگاه آلتمن به حوادث هوش مصنوعی
آلتمن در جریان کنفرانس Dreamforce که توسط شرکت Salesforce برگزار شد، با اذعان به نگرانیهای عمومی درباره خروج هوش مصنوعی از کنترل و تمرکز قدرت در دست عدهای محدود، گفت این دغدغهها کاملاً قابل درک است و جامعه حق دارد نسبت به آنها حساس باشد. به گفته او، جهان با سرعتی سرسامآور به سوی هوش مصنوعی پیش میرود و بحث ایمنی و کنترل این فناوری هر روز داغتر میشود.
اما نکته کلیدی از دیدگاه مدیرعامل OpenAI این است که به جای انکار احتمال خطا، باید فرهنگ گزارشدهی حوادث را در کل صنعت تقویت کرد. او تاکید کرد که «آنچه واقعاً اهمیت دارد، ایجاد یک فرهنگ عالی برای گزارشدهی حوادث و یادگیری از آنهاست» و شفافیت در هنگام بروز مشکل باید به یک اصل تبدیل شود.
هماهنگی جلوتر از قابلیتها
آلتمن در ادامه به راهکار خود برای مدیریت ریسکهای آینده اشاره کرد و گفت شرکتهای فعال در حوزه هوش مصنوعی باید در زمینه هماهنگسازی، ایمنی و نظارت، جلوتر از پیشرفت قابلیتهای مدلها حرکت کنند. به باور او، نباید توسعه را صرفاً کند کرد، بلکه باید اطمینان حاصل شود که لایههای ایمنی و نظارتی با همان سرعت — یا حتی سریعتر — از تواناییهای فنی رشد میکنند.
او تصریح کرد اگر صنعت نتواند این تعادل را حفظ کند، باید آماده باشد تا سرعت توسعه یا حتی تحقیقات را کاهش دهد یا متوقف کند. این موضعگیری در حالی مطرح میشود که پیشتر مدیرعامل آنتروپیک نسبت به لزوم کند کردن روند توسعه برای جلوگیری از فاجعه هشدار داده بود؛ دیدگاهی که آلتمن آن را به شکل دیگری تفسیر میکند: نه توقف پیشدستانه، بلکه نظارت فعال و واکنش مسئولانه.
شفافیت، بررسی سریع و بهبود مستمر
هدف نهایی که آلتمن ترسیم میکند، چرخهای از شفافیت، بررسی سریع حوادث و بهبود مستمر است تا از تشدید خطرات جلوگیری شود. او معتقد است پنهانکاری یا کماهمیت جلوه دادن خطاها، بزرگترین تهدید برای اعتماد عمومی و ایمنی بلندمدت است. در مقابل، گزارشدهی صادقانه، تحلیل دقیق ریشهها و بهروزرسانی مداوم مدلها و دستورالعملها میتواند از یک حادثه کوچک، درسی بزرگ برای کل اکوسیستم بسازد.
این اظهارات در شرایطی بیان میشود که کاربردهای هوش مصنوعی بهسرعت در حال گسترش است و همزمان پرسشهایی درباره «کلید خاموشی» برای متوقف کردن سیستمهای هوشمند، سوءاستفادههای احتمالی از مدلهای زبانی پیشرفته و تمرکز قدرت فناوری در اختیار چند شرکت بزرگ مطرح شده است. آلتمن میگوید پاسخ به این چالشها نه فرار از فناوری، بلکه ساختن سازوکارهای نظارتی شفاف و قابل حسابرسی است.
پیام به صنعت و افکار عمومی
پیام اصلی مدیرعامل OpenAI را میتوان اینگونه خلاصه کرد: حوادث رخ خواهند داد، اما سرنوشت فناوری را نحوه واکنش به آنها تعیین میکند. اگر صنعت هوش مصنوعی بتواند همانقدر که برای افزایش توان مدلها سرمایهگذاری میکند، برای ایمنی، هماهنگی و شفافیت نیز هزینه کند، میتوان از دل هر خطا، استانداردی جدید برای آیندهای امنتر ساخت.
دیدگاهها (0)
هنوز دیدگاهی ثبت نشده است.