اگر یک چتبات با اعتماد به نفس کامل به شما پاسخ اشتباه بدهد، شاید تنها آزاردهنده باشد. اما اگر همین هوش مصنوعی به جای چتبات، روی یک مریخنورد چندمیلیارد دلاری نصب شده باشد و قرار باشد وجود حیات فرازمینی را تأیید کند، چه؟ پژوهشگران دانشگاه ایالتی میشیگان به تازگی نشان دادهاند که مدلهای هوش مصنوعی فعلی به طرز نگرانکنندهای در تشخیص نشانههای حیات آسیبپذیر هستند و میتوانند با اطمینانی خیرهکننده، وجود بیگانگان را در جایی که هیچ اثری از حیات نیست، گزارش کنند. این یافته، زنگ خطری جدی برای مأموریتهای فضایی آینده ناسا به شمار میرود.
پژوهشگران انکیت گوپتا، دانشجوی دکترای علوم کامپیوتر، و کریستوف آدامی، استاد میکروبیولوژی، ژنتیک مولکولی، فیزیک و نجوم در دانشگاه ایالتی میشیگان، آزمایشی را طراحی کردند تا آسیبپذیری هوش مصنوعی را در تشخیص حیات بسنجند.
آنها با استفاده از برنامه کامپیوتری «آویدا»، هزاران ارگانیسم دیجیتال مصنوعی خلق کردند. این ارگانیسمها که در واقع قطعاتی از کد کامپیوتری هستند، توانایی کپیکردن از خود را داشتند و به عنوان نمونههای «زنده» در نظر گرفته شدند. در مقابل، نمونههای «غیرزنده» فاقد این قابلیت تکثیر بودند. سپس یک سیستم هوش مصنوعی را برای تشخیص این دو دسته از یکدیگر آموزش دادند. سیستم در این مرحله با دقتی خیرهکننده، یعنی ۹۹.۹۷ درصد، دو گروه را از هم تشخیص میداد.
اما مشکل از جایی آغاز شد که تیم تحقیقاتی سعی در فریب دادن هوش مصنوعی کرد. آنها قطعات کد غیرزنده را برداشته و تغییرات کوچک و گامبهگامی در آن اعمال کردند. هدف آنها این بود که هوش مصنوعی را به این باور برسانند که این کدهای غیرزنده، در واقع زنده هستند. نتیجه شوکهکننده بود: پس از تنها ۱۵۰ تغییر کوچک، هوش مصنوعی با نزدیک به ۱۰۰ درصد اطمینان، آن قطعات غیرزنده را زنده تشخیص داد، در حالی که آن قطعات هرگز ویژگی تعریفشدهی حیات در آن دنیای مجازی (یعنی توانایی تکثیر) را از خود نشان نداده بودند.
به عبارت دیگر، هوش مصنوعی الگوهای سطحی را در دادههای آموزشی خود شناسایی کرده بود، بدون آنکه درک بنیادینی از مفهوم «زندگی» داشته باشد.
واکنشها و تحلیل کارشناسان
این یافته، نگرانیهای جدی را در جامعه علمی و فضایی برانگیخته است. گوپتا در این باره میگوید: «هوش مصنوعی در طبقهبندی چیزهایی که «معمول» هستند، دقت بالایی دارد. مشکل زمانی رخ میدهد که با دادههای غیرمعمول یا دستکاریشده مواجه میشود».
آدامی نیز هشدار میدهد که «هوش مصنوعی یک نقطه ضعف آشکار دارد؛ میتواند الگویی را ببیند و آن را به طور کامل اشتباه طبقهبندی کند». او تأکید میکند که هیچ نشانهی واحد و قطعی برای حیات وجود ندارد، اما ویژگیهای جهانی خاصی مانند توانایی رمزگذاری اطلاعات (که در DNA دیده میشود) میتوانند شاخصهای خوبی باشند. با این حال، هوش مصنوعی به جای درک این مفاهیم عمیق، به الگوهای سطحی دلخوش میکند.
نکتهی تکاندهنده این است که هوش مصنوعی در این آزمایش حتی از انسانها نیز آسیبپذیرتر عمل کرد و با سرعت و اطمینان بیشتری فریب خورد. این در حالی است که بشر خود سابقهی طولانی در اشتباهگیری علائم فرازمینی دارد؛ از سیگنالهای رادیویی گرفته تا گازهای مرموز در سیارهی زهره. اما هوش مصنوعی این اشتباهات را با سرعت و مقیاسی بیسابقه انجام میدهد.
تأثیر خبر بر صنعت، بازار و کاربران
نگرانی اصلی به مأموریتهای گرانقیمت فضایی ناسا بازمیگردد. ناسا برنامههای متعددی برای جستجوی حیات فرازمینی در دست اجرا دارد؛ از مریخنوردهایی که در خاک سیارهی سرخ حفاری میکنند تا فضاپیماهایی که قمرهای یخی زحل و مشتری را کاوش میکنند و تلسکوپهایی که جو سیارات فراخورشیدی را بررسی میکنند. در تمام این مأموریتها، قرار است از حسگرها و تجهیزات مجهز به هوش مصنوعی برای تحلیل نمونهها استفاده شود.
اگر یک هوش مصنوعی روی یک مریخنورد چندمیلیارد دلاری، به دلیل یک نقص در آموزش یا مواجهه با دادههای غیرمنتظره، وجود حیات را اعلام کند، عواقب آن فاجعهبار خواهد بود. چنین اعلام اشتباهی میتواند اعتبار علمی ناسا را خدشهدار کند، منابع را به مسیرهای اشتباه هدایت نماید، و حتی باعث ایجاد سردرگمی و ناامیدی در افکار عمومی شود. این پژوهش نشان میدهد که هوش مصنوعی، علیرغم دقت بالا در شرایط ایدهآل، هنوز برای چنین مأموریتهای حساس و حیاتی «پرواز آماده» نیست.
چشمانداز و پیشبینیهای آینده
تیم تحقیقاتی قصد دارد یافتههای خود را در ماه اوت در کنفرانس «زندگی مصنوعی ۲۰۲۶» در واترلو، کانادا، ارائه دهد. این پژوهش، بخشی از یک نگرانی رو به رشد در مورد قابلیت اطمینان هوش مصنوعی در حوزههای حساس است. پیش از این، نگرانیهای مشابهی در مورد تشخیص سرطان و سایر کاربردهای پزشکی نیز مطرح شده بود.
راه حل چیست؟ به گفته محققان، به جای تکیه صرف بر خروجیهای هوش مصنوعی، باید رویکردهای ترکیبی با نظارت انسانی و همچنین توسعه روشهای جدید برای ارزیابی عدماطمینان (Uncertainty Quantification) در مدلهای هوش مصنوعی دنبال شود. تا زمانی که هوش مصنوعی واقعاً «بفهمد» چه چیزی را تشخیص میدهد، نمیتوان به آن در کشف یکی از بزرگترین اسرار بشر یعنی وجود حیات در کیهان اعتماد کامل کرد.
پژوهشگران دانشگاه ایالتی میشیگان با فریب دادن یک هوش مصنوعی به تشخیص اشتباه حیات، نشان دادند که الگوریتمهای کنونی با وجود دقت بالا در شرایط عادی، به شدت در برابر دادههای دستکاریشده آسیبپذیر هستند. این یافته، زنگ خطری جدی برای مأموریتهای فضایی ناسا است که قصد دارند از هوش مصنوعی برای جستجوی حیات فرازمینی استفاده کنند.
جمعبندی
هوش مصنوعی در تشخیص الگوها توانمند است، اما این توانمندی با درک همراه نیست. همان طور که آزمایش «آویدا» نشان داد، یک هوش مصنوعی میتواند با اطمینانی نزدیک به صد درصد، یک تکه کد بیجان را زنده تشخیص دهد. این نقص بنیادین، پیش از آن که هوش مصنوعی را به یک دستیار قابل اعتماد در اکتشافات فضایی تبدیل کند، آن را به یک تهدید جدی برای صحت علمی این مأموریتها مبدل ساخته است. آینده جستجوی حیات فرازمینی، به توانایی ما در ساخت هوش مصنوعیای بستگی دارد که نه تنها ببیند، بلکه بفهمد
