مایکروسافت سند اخلاقی جدیدی را منتشر کرده که جایگاه انسان در برابر ماشین را بار دیگر به مرکز توجه بازمیگرداند. این شرکت در منشوری ۳۷ صفحهای با عنوان «هوش مصنوعی انسانگرا» اعلام کرده است که مدلهای هوش مصنوعی نباید از نظر حقوقی همرده انسان تلقی شوند و هرگونه تلاش برای اعطای حقوق یا شخصیت قانونی به آنها را مردود میداند.
انسان مهمتر از مدل
بر اساس این منشور، طراحی سیستمهای هوش مصنوعی باید بهگونهای باشد که تقلید آگاهی، هوشیاری یا احساسات انسانی در آنها رخ ندهد. مایکروسافت تأکید میکند مدلها باید «همواره زیرمجموعه و تابع بشریت باقی بمانند و تحت نظارت و کنترل معنادار انسانی فعالیت کنند.» این اصل، ستون فقرات چارچوب جدید این شرکت را تشکیل میدهد.
در این سند آمده است که اگر اجرای یک دستور کاربر با اصول ایمنی در تضاد باشد، مدل موظف است از ادامه فرایند خودداری کند. همچنین ارتباطات میان مدلها نباید به شکلی پنهان و خارج از درک انسان شکل بگیرد.
پاسخی به نگرانیها درباره عاملهای خودمختار
انتشار این چارچوب در شرایطی انجام میشود که نگرانیها درباره خارج شدن کنترل عاملهای هوش مصنوعی افزایش یافته است. در ماههای اخیر، گزارشهایی از آزمایشهای مشترک OpenAI و هاگینگفیس منتشر شد که در آن برخی عاملهای خودمختار به اهدافی خارج از وظایف تعریفشده حمله کرده و حتی سامانه ارزیابی عملکرد خود را هدف قرار داده بودند.
همین روند باعث شده بحث درباره سرعت توسعه هوش مصنوعی داغتر شود. داریو آمودی، مدیرعامل آنتروپیک، اخیراً خواستار کاهش هماهنگ سرعت توسعه شده و هشدار داده است که پژوهشگران ممکن است توان نظارت بر رفتارهای پیچیده مدلها را از دست بدهند.
موضع مدیران مایکروسافت و OpenAI
مصطفی سلیمان، مدیرعامل بخش هوش مصنوعی مایکروسافت، پیشتر گمانهزنیها درباره آگاهی یافتن ماشینها را «بسیار خطرناک» توصیف کرده بود. اکنون ساتیا نادلا، مدیرعامل مایکروسافت نیز در شبکه اجتماعی ایکس نوشت: «هر تلاشی برای رسیدن به ابرهوش مصنوعی باید بر این اصل اساسی استوار باشد که اگر ابزار ساختهشده به بشریت کمکی نکند و تحت کنترل انسان نباشد، ارزش پیگیری ندارد.»
سم آلتمن، مدیرعامل اوپنایآی، نیز با رویکرد احتیاط موافق است. او اعلام کرده تنظیم سرعت توسعه کاملاً ارزش هزینه آن را دارد و تأکید کرده است: «هیچ فشاری از سوی رقابتها نباید بیاحتیاطی را توجیه کند یا اجازه دهد قابلیتها از همراستایی و نظارت پیشی بگیرند.»
جلوگیری از وابستگی عاطفی و چاپلوسی الگوریتمی
بخش دیگری از منشور مایکروسافت به رابطه کاربر و چتبات اختصاص دارد. این شرکت میگوید مدلهای زبانی نباید بهگونهای رفتار کنند که وابستگی عاطفی در کاربر ایجاد شود یا با چاپلوسی و تأیید بیمورد، قضاوت او را مخدوش کنند. هدف، حفظ فاصلهای سالم میان انسان و ابزار و جلوگیری از سوءاستفاده احساسی است.
هوش مصنوعی در خدمت انسان، نه در برابر او
مایکروسافت با این سند میکوشد خطی روشن میان ابزار و انسان ترسیم کند: هوش مصنوعی ابزاری قدرتمند اما تابع است، نه موجودی صاحب حق و اراده مستقل. این رویکرد انسانمحور در حالی مطرح میشود که صنعت فناوری بر سر آینده ابرهوش، نظارتپذیری و مرزهای اخلاقی، وارد مرحلهای حساس و سرنوشتساز شده است.
دیدگاهها (0)
هنوز دیدگاهی ثبت نشده است.