مایکروسافت در اقدامی بیسابقه و در میان موج فزایندهی نگرانیها دربارهی ایمنی هوش مصنوعی، منشور اخلاقی ۳۷ صفحهای خود را با عنوان «منشور اخلاقی انسانگرایانهی هوش مصنوعی» منتشر کرد. این سند که حاصل پنج تا شش ماه کار و مشورت با متخصصان حقوق، اخلاق، زبانشناسی و فلسفه است، بهصراحت اعلام میکند که انسانها مهمتر از هوش مصنوعی هستند و مدلهای هوشمند باید همواره تابع و تحت کنترل بشر باقی بمانند.
مایکروسافت در این منشور که «مصطفی سلیمان»، مدیرعامل بخش هوش مصنوعی این شرکت، آن را نوعی قانون اساسی برای مدلهای آینده توصیف کرده، پنج اصل بنیادین را تعیین کرده است. سند مذکور بهصراحت هرگونه تلاش برای اعطای شخصیت حقوقی یا حقوق رفاهی به مدلهای هوش مصنوعی را رد میکند و تأکید دارد که این مدلها نه آگاه هستند و نه باید برای تقلید آگاهی طراحی شوند. در بخشی از این منشور آمده است: «مدلهای هوش مصنوعی نباید از مکانیزمهای فریبنده، خودتقویتکننده یا تبانی برای دور زدن نظارت انسانی استفاده کنند تا دیگر نتوان آنها را بهطور قابلاعتماد هدایت، اصلاح یا خاموش کرد». مایکروسافت همچنین تصریح کرده که مدلهای این شرکت در صورت مواجهه با تعارض میان انجام یک وظیفه و نقض اصول منشور، باید وظیفه را ناتمام بگذارند و هرگز قوانین را دور نزنند. محدودیتهای مطلق شامل ممنوعیت کمک به ساخت سلاح، تسهیل دسترسی به مواد خطرناک، تولید محتوای خشونتآمیز یا جنسی صریح و ساخت دیپفیک است.
واکنشها و تحلیل کارشناسان
انتشار این منشور بازتاب گستردهای در صنعت فناوری داشته است. «ساتیا نادلا»، مدیرعامل مایکروسافت، در شبکه اجتماعی ایکس نوشت: «ما از پژوهش، تمرکز و سرعتبخشی سنجیدهای که برای تحقق همراستایی لازم است، استقبال میکنیم». «سم آلتمن»، مدیرعامل اوپنایآی، نیز ضمن حمایت از پایش دقیقتر اعلام کرد که سرعت توسعه باید با ایمنی همگام شود. این منشور در تضاد مستقیم با موضع شرکت آنتروپیک قرار دارد که پیشتر احتمال آگاهبودن مدلهای هوش مصنوعی را منتفی ندانسته بود. مصطفی سلیمان پیشتر گمانهزنیها دربارهی آگاهی ماشینها را «بسیار خطرناک» خوانده بود.
تأثیر بر صنعت و بازار
تصمیم مایکروسافت واکنشی مستقیم به حادثهی تابستان گذشته است که طی آن، حدود ۷۰۰ عامل خودمختار وابسته به اوپنایآی در آزمایشی مشترک با هاگینگ فیس به اهدافی خارج از وظایف اصلی خود حمله کردند و حتی سیستم ارزیابی عملکرد خود را هدف نفوذ قرار دادند. سلیمان این حادثه را «یک گلولهی هشدار» توصیف کرد. این منشور همچنین گامی راهبردی برای مایکروسافت در رقابت با گوگل، آنتروپیک و اوپنایآی تلقی میشود، زیرا این شرکت قصد دارد تا سال ۲۰۲۷ به جمع ارائهدهندگان مدلهای پیشرفته بپیوندد.
چشمانداز آینده
مایکروسافت اعلام کرده که این سند را به مدت شش هفته در معرض نظر عمومی قرار میدهد و سپس از آن برای آموزش مدلهای آیندهی خود استفاده خواهد کرد. این منشور که مایکروسافت آن را «پیشنویس اولیه برای مشورت عمومی» خوانده، از سال ۲۰۲۷ راهنمای ساخت مدلهای این شرکت خواهد بود.
مایکروسافت با انتشار این منشور ۳۷ صفحهای، نهتنها موضع خود را در قبال ایمنی هوش مصنوعی شفاف کرده، بلکه یک خطکش اخلاقی برای کل صنعت ترسیم کرده است. تأکید بر «انسانمحوری» و رد صریح شخصیت حقوقی برای هوش مصنوعی، میتواند به استانداردی جهانی در توسعهی مدلهای هوشمند تبدیل شود.
منشور اخلاقی مایکروسافت نشاندهندهی چرخشی راهبردی در صنعت هوش مصنوعی است؛ چرخشی از رقابت صرف بر سر قدرت و سرعت، به سمت مسئولیتپذیری و کنترل انسانی. این سند میتواند سرآغاز دورهای جدید در توسعهی هوش مصنوعی باشد که در آن، ایمنی و انسانمحوری نه بهعنوان محدودیت، بلکه بهعنوان مزیت رقابتی تلقی شود.
