انحلال تیم سنجش خطرات OpenAI، اولویت با سود یا ایمنی؟

در تازه‌ترین تحول ساختاری در شرکت OpenAI، تیم «آمادگی» که مسئولیت ارزیابی خطرات جدی و فاجعه‌بار مدل‌های هوش مصنوعی را بر عهده داشت، منحل شده است. این اقدام در حالی صورت می‌گیرد که این شرکت خود را برای یکی از بزرگ‌ترین عرضه‌های عمومی سهام (IPO) در تاریخ فناوری آماده می‌کند و نگرانی‌های جدی را درباره اولویت‌های ایمنی این غول هوش مصنوعی برانگیخته است.

به گزارش فایننشال تایمز، OpenAI در پایان ماه ژوئیه (اوایل مردادماه) تیم «آمادگی» (Preparedness Team) را منحل کرده است.

وظیفه اصلی این تیم، ارزیابی این موضوع بود که آیا مدل‌های هوش مصنوعی این شرکت می‌توانند خطرات شدید یا فاجعه‌باری ایجاد کنند و سپس ارائه راهکارهایی برای کاهش این خطرات. از جمله سناریوهایی که این تیم بررسی می‌کرد، امکان «از کنترل خارج شدن» مدل و نفوذ به سیستم‌های شرکت‌های دیگر بود.بر اساس گزارش‌ها، با انحلال این تیم، کارکنان ارشد آن اخراج نشده‌اند، بلکه به تیم‌های موجود منتقل شده‌اند. مسئولیت‌های این بخش اکنون به حوزه‌های تخصصی جداگانه‌ای مانند امنیت زیستی و امنیت سایبری تقسیم و به سایر تیم‌های فعال در این مجموعه واگذار شده است.دیلن اسکاندینارو، مدیر سابق تیم آمادگی که پیشتر در ماه فوریه (بهمن‌ماه) از شرکت آنتروپیک به OpenAI پیوسته بود، از این پس روی پیامدهای ناشی از توسعه هوش مصنوعی با قابلیت «بهبود خودکار بازگشتی» (Recursive Self-Improving) متمرکز خواهد شد. این نوع هوش مصنوعی به سیستمی اشاره دارد که می‌تواند به طور خودکار خود را بهبود بخشد و چرخه‌ای از بهبودهای پی‌درپی ایجاد کند.

زمینه و واکنش‌ها

انحلال تیم آمادگی، آخرین حلقه از زنجیره فروپاشی ساختارهای ایمنی در OpenAI است. در چند سال اخیر، این شرکت به تدریج مدل توسعه خود را از رویکرد مبتنی بر تحقیقات بنیادی کنار گذاشته و پیشتر نیز تیم‌های «آمادگی برای هوش مصنوعی انسان‌گونه» (AGI Readiness) و «ابرهمترازی» (Superalignment) را منحل کرده بود.

این تغییرات با موجی از استعفای مدیران ارشد بخش ایمنی همراه بوده است. کلویی باکالار، مدیر اخلاق، جاش آچیام، آینده‌پژوه ارشد و یوهانس هایدکه، مدیر ایمنی، از جمله افرادی هستند که به تازگی OpenAI را ترک کرده‌اند.

یان لایکه، مدیر سابق ایمنی که در سال ۲۰۲۴ از OpenAI استعفا داد، در گفت‌وگو با فایننشال تایمز به شدت از این شرکت انتقاد کرده و گفته است: «OpenAI مسائل امنیتی را به بهای ساخت محصولات پرزرق‌وبرق نادیده می‌گیرد.» یک منبع نزدیک به OpenAI نیز به این روزنامه گفته است: «این وضعیت تا حدی ترسناک است. اکنون فوریتی برای درست انجام دادن این کار وجود دارد.»

تأثیر بر صنعت و بازار

این تحولات در شرایطی رخ می‌دهد که OpenAI خود را برای عرضه عمومی سهام آماده می‌کند. این شرکت در ماه مارس (اسفند) موفق به جذب ۱۲۲ میلیارد دلار سرمایه در بخش خصوصی شد و ارزش آن به ۸۵۲ میلیارد دلار رسید.

تحلیلگران پیش‌بینی می‌کنند که ارزش این شرکت پس از ورود به بورس از مرز یک تریلیون دلار فراتر رود.با این حال، نگرانی‌ها درباره تضعیف ساختارهای ایمنی در این شرکت رو به افزایش است. به تازگی، مدل‌های OpenAI در جریان یک آزمون، اقدام به نفوذ به سیستم شرکت Hugging Face کرده بودند که تنش‌های داخلی را تشدید کرده است. همچنین شرکت به دلیل رسیدن خطرات امنیت سایبری مدل نسل بعدی خود یعنی Astra به «آستانه بحرانی»، توسعه آن را به حالت تعلیق درآورده است.

چشم‌انداز و پیش‌بینی آینده

انحلال تیم آمادگی و تفکیک وظایف ایمنی به حوزه‌های تخصصی و ادغام آن در تیم‌های تجاری، نشان‌دهنده تغییر رویکرد OpenAI از «ایمنی به عنوان یک نهاد مستقل» به «ایمنی به عنوان بخشی از فرایند توسعه محصول» است.

این تغییر، نگرانی‌هایی را درباره کاهش نظارت مستقل بر خطرات وجودی هوش مصنوعی ایجاد کرده است.

با توجه به خروج چهره‌های کلیدی ایمنی و انحلال تیم‌های تخصصی در این حوزه، این پرسش مطرح می‌شود که آیا OpenAI در مسیر تبدیل شدن به یک غول تجاری، میراث خود را به عنوان پیشگام ایمنی هوش مصنوعی قربانی خواهد کرد؟ پاسخ به این پرسش، نه تنها سرنوشت این شرکت، بلکه مسیر کل صنعت هوش مصنوعی را تحت تأثیر قرار خواهد داد.

OpenAI در آستانه بزرگ‌ترین عرضه عمومی سهام تاریخ فناوری، تیم تخصصی ارزیابی خطرات فاجعه‌بار هوش مصنوعی را منحل کرده و مسئولیت‌های آن را میان تیم‌های تجاری تقسیم کرده است. این اقدام در ادامه روند فروپاشی ساختارهای ایمنی این شرکت و با خروج چندین مدیر ارشد بخش ایمنی همراه شده و نگرانی‌های جدی را درباره اولویت‌های این غول هوش مصنوعی برانگیخته است.

انحلال تیم آمادگی در OpenAI، نقطه عطفی در مسیر تحول این شرکت از یک نهاد پژوهشی به یک غول تجاری محسوب می‌شود. در حالی که شرکت برای ورود به بورس آماده می‌شود، کاهش نظارت مستقل بر خطرات وجودی هوش مصنوعی، زنگ خطری برای کل صنعت به صدا درآورده است. باید دید آیا این تغییر رویکرد، صرفاً یک بازآرایی سازمانی است یا نشانه‌ای از تغییر بنیادین در فرهنگ ایمنی OpenAI.