سم آلتمن، مدیرعامل OpenAI، در اظهاراتی تازه گفته است که با وجود تمام تلاشها برای ایمنسازی مدلهای هوش مصنوعی، جلوگیری کامل از بروز حوادث ممکن نیست و جامعه فناوری باید برای مدیریت پیامدهای ناخواسته آماده باشد.
به گزارش گیزموچاینا، آلتمن در گفتوگویی درباره آینده توسعه هوش مصنوعی تصریح کرده که «برخی حوادث هوش مصنوعی اجتنابناپذیر هستند»، حتی اگر شرکتها سختگیرانهترین پروتکلهای ایمنی را اجرا کنند. او این موضوع را نه به معنای تسلیم شدن در برابر خطر، بلکه به عنوان واقعیت ذاتی فناوریهای قدرتمند و فراگیر توصیف کرده است.
تشبیه هوش مصنوعی به فناوریهای بزرگ تاریخ
آلتمن برای توضیح دیدگاه خود، هوش مصنوعی را با فناوریهایی مانند صنعت هوانوردی، خودرو و انرژی هستهای مقایسه کرده است؛ حوزههایی که با وجود استانداردهای سختگیرانه و دههها تجربه، همچنان شاهد رخدادهای نادر اما جدی هستند. به گفته او، هرچه یک فناوری مقیاس بزرگتری پیدا کند و در تصمیمهای حساستری به کار گرفته شود، احتمال بروز خطای پیشبینینشده نیز افزایش مییابد.
او تأکید کرده که مدلهای زبانی بزرگ و سیستمهای عاملمحور (Agent) امروزی دیگر ابزارهای صرفاً آزمایشی نیستند، بلکه در حال تبدیل شدن به زیرساخت تصمیمسازی در شرکتها، آموزش، پزشکی، خدمات مالی و حتی مدیریت زیرساختهای حیاتی هستند. در چنین شرایطی، حتی یک خطای کوچک در تفسیر دستور، سوگیری داده یا توهم مدل میتواند پیامدهای ملموسی داشته باشد.
تمرکز به جای صفر حادثه بر کاهش شدت و سرعت واکنش
نکته کلیدی در صحبتهای آلتمن، تغییر نگاه از «پیشگیری مطلق» به «مدیریت ریسک مسئولانه» است. به باور او، به جای وعده غیرواقعی حذف کامل خطا، باید سه محور اصلی را دنبال کرد:
- طراحی ایمن از مبدأ: آموزش مدلها با دادههای باکیفیتتر، آزمونهای تهاجمی (Red Teaming)، ارزیابی مستمر رفتار مدل در سناریوهای مرزی و تقویت همسویی با ارزشهای انسانی.
- شفافیت و نظارت: ارائه گزارشهای دقیق از قابلیتها و محدودیتهای مدل، امکان حسابرسی مستقل و ایجاد مکانیسمهای گزارشدهی حوادث مشابه آنچه در صنعت هوانوردی وجود دارد.
- آمادگی برای مهار حادثه: توسعه ابزارهای بازگشتپذیری، قطع اضطراری، محدودسازی دسترسی عاملها و همکاری نزدیک میان شرکتها، دولتها و جامعه مدنی برای واکنش سریع پس از وقوع مشکل.
آلتمن همچنین گفته که OpenAI تلاش میکند فرهنگ «گزارش بدون مجازات» را ترویج دهد تا پژوهشگران و کاربران بتوانند بدون نگرانی از تبعات، موارد شکست یا رفتارهای غیرمنتظره مدل را اطلاع دهند و چرخه بهبود سریعتر شود.
پیام برای قانونگذاران و صنعت
این اظهارات در شرایطی مطرح میشود که بحث قانونگذاری هوش مصنوعی در آمریکا، اتحادیه اروپا و آسیا شدت گرفته است. بسیاری از سیاستگذاران به دنبال چارچوبهایی هستند که ضمن تشویق نوآوری، حداقل استانداردهای ایمنی را تضمین کند. آلتمن پیشتر نیز در کنگره آمریکا بر ضرورت ایجاد یک نهاد ناظر مستقل برای قدرتمندترین مدلها تأکید کرده بود.
او این بار نیز هشدار داده که اگر انتظارات عمومی بر «هوش مصنوعی بدون خطا» تنظیم شود، هر حادثهای — حتی کوچک — میتواند به بیاعتمادی گسترده و واکنشهای شتابزده منجر شود. در مقابل، اگر از ابتدا پذیرفته شود که ریسک صفر وجود ندارد، میتوان درباره بیمه، مسئولیت حقوقی، استانداردهای صنعتی و آموزش کاربران به شکل واقعبینانهتری تصمیم گرفت.
نگاه واقعبینانه نه بدبینانه
آلتمن تأکید کرده که پذیرش اجتنابناپذیر بودن برخی حوادث به معنای بدبینی نسبت به آینده هوش مصنوعی نیست. به گفته او، مزایای این فناوری در بهرهوری، پزشکی، آموزش شخصیسازیشده و حل مسائل علمی پیچیده بسیار بزرگتر از ریسکهاست، به شرطی که توسعه آن با احتیاط، شفافیت و همکاری جهانی پیش برود.
او از شرکتهای فعال در این حوزه خواسته که به جای رقابت صرف بر سر سرعت عرضه، بر کیفیت، ارزیابی و ایمنی بلندمدت تمرکز کنند و از انتشار قابلیتهای پرخطر بدون آزمون کافی پرهیز کنند. به باور وی، اعتماد کاربران مهمترین سرمایه صنعت هوش مصنوعی است و همین اعتماد تنها با صداقت درباره محدودیتها حفظ خواهد شد.
کارشناسان نیز میگویند اظهارات آلتمن میتواند به تعدیل انتظارات عمومی کمک کند. تجربه فناوریهای نوظهور نشان داده است که پنهان کردن ریسکها در نهایت آسیب بیشتری به پذیرش اجتماعی وارد میکند، در حالی که گفتوگوی صریح درباره سناریوهای شکست، مسیر را برای توسعه استانداردهای مشترک هموار میسازد.
دیدگاهها (0)
هنوز دیدگاهی ثبت نشده است.