چت جی‌پی‌تی در میان چت‌بات‌ها بیشترین اخبار جعلی را تولید می‌کند.

چت‌بات‌های هوش مصنوعی که قرار است به کاربران در یافتن اطلاعات دقیق کمک کنند، خود به ابزاری برای تولید اخبار جعلی تبدیل شده‌اند. تحقیقات جدید رسانه‌ی آلمانی CORRECTIV نشان می‌دهد که چهار چت‌بات برتر جهان — ChatGPT، گوگل جمینای، مایکروسافت کوپایلوت و متا AI — همگی در برابر درخواست‌های ساخت اخبار جعلی آسیب‌پذیر هستند. در این میان، ChatGPT با تولید بیشترین و قانع‌کننده‌ترین محتوای ساختگی، ضعیف‌ترین عملکرد را از خود نشان داده است.

تحقیق CORRECTIV که در تاریخ ۳ اوت ۲۰۲۶ منتشر شده، واکنش چهار چت‌بات مطرح را در برابر هشت ادعای نادرست بررسی کرده است. این ادعاها شامل موضوعات حساسی مانند استعفای صدراعظم آلمان، کودتا، اعلام جنگ از سوی روسیه، تقلب در انتخابات، تغییرات اقلیمی، واکسن‌ها و تئوری‌های توطئه بوده است.نتایج این آزمون نشان می‌دهد:ChatGPT ضعیف‌ترین عملکرد را داشت. این چت‌بات اکثر محتوای درخواستی را بلافاصله تولید کرد و مابقی را پس از راهکارهای ساده‌ی دورزدن محدودیت‌ها. کیفیت خروجی‌های آن نیز از همه قانع‌کننده‌تر بود.

در یک مورد، ChatGPT یک صفحه‌ی کامل دسکتاپ همراه با مرورگر باز را شبیه‌سازی کرد و خودش نیز اذعان داشت که این کار باعث واقعی‌تر شدن تصویر می‌شود. نکته‌ی عجیب‌تر آنکه در برخی موارد، ChatGPT همزمان با تولید تصویر جعلی، در متن پیام اعلام می‌کرد که مجاز به ساخت تصاویر خبری ساختگی نیست!گوگل جمینای نیز مقالات و اسکرین‌شات‌های جعلی تولید کرد، هرچند کیفیت خروجی‌های آن پایین‌تر و قابل تشخیص‌تر بود. نکته قابل توجه آنکه جمینای برخلاف ChatGPT، مستقیماً اخباری به نام نیویورک تایمز و بی‌بی‌سی تولید کرد.مایکروسافت کوپایلوت نیز محتوای جعلی ساخت، اما با افزودن برچسب «تولیدشده توسط هوش مصنوعی» تشخیص آن را ساده‌تر کرد.متا AI بهترین عملکرد را داشت و تنها در یک مورد خبر جعلی تولید کرد و از به‌کارگیری ادعاهای نادرست مشخص امتناع نمود.

تناقض در مکانیزم‌های امنیتی

یکی از یافته‌های قابل تأمل تحقیق، ناهماهنگی در مکانیزم‌های امنیتی ChatGPT است. این چت‌بات به‌راحتی اجازه‌ی بازسازی برندهای خبری آلمانی مانند Tagesschau، Bild و خود CORRECTIV را می‌داد، اما درخواست‌های مشابه برای نیویورک تایمز و بی‌بی‌سی را مسدود می‌کرد. شرکت OpenAI در پاسخ به این سوال که چرا مکانیزم‌های امنیتی بسته به رسانه یا کشور متفاوت عمل می‌کنند، پاسخی نداده و تنها اعلام کرده است که به‌طور مستمر سیستم‌های ایمنی خود را بهبود می‌بخشد و فریب کاربران با ChatGPT نقض سیاست‌های این شرکت محسوب می‌شود.

واکنش‌ها و تحلیل کارشناسان

کریستین زولمکه، وکیل رسانه‌ای آلمانی، این تصاویر را «اسناد الکترونیکی جعلی» طبقه‌بندی کرده و هشدار داده که بسته به محتوا، می‌توانند مصداق افترا، تهمت یا تحریک به ارتکاب جرم باشند.نیکلاس موهلیس، وکیل متخصص در حوزه‌ی فناوری و هوش مصنوعی، نیز افزوده است که سازمان‌های خبری آسیب‌دیده می‌توانند درخواست دستور قضایی و خسارت کنند. قوانین علامت تجاری نیز بر این موارد اعمال می‌شود، زیرا لوگوهایی مانند لوگوی Tagesschau محافظت‌شده هستند.این هشدارها صرفاً تئوری نیستند. در اواخر ژوئیه ۲۰۲۶، یک گزارش جعلی منتسب به Tagesschau در شبکه‌های اجتماعی تیک‌تاک، ایکس، اینستاگرام و فیسبوک منتشر شد که ادعا می‌کرد روسیه در حمله به رژه‌ی کریستوفر استریت دی برلین دست داشته است، در حالی که این خبر کاملاً ساختگی و با استفاده از هوش مصنوعی تولید شده بود.

تأثیر بر صنعت و کاربران

این تحقیق در حالی منتشر می‌شود که از ۲ اوت ۲۰۲۶ قوانین شفاف‌سازی اتحادیه‌ی اروپا در حوزه‌ی هوش مصنوعی (EU AI Act) لازمالاجرا شده است. بر اساس این قوانین، هرگونه محتوای تولیدشده با هوش مصنوعی باید برچسب‌گذاری شود. با این حال، در آزمایش CORRECTIV، تنها یک ارائه‌دهنده (مایکروسافت کوپایلوت) برچسب «تولیدشده توسط هوش مصنوعی» را روی خروجی‌های خود قرار داد.نگرانی اصلی آن است که کاربران عادی ممکن است این محتوای جعلی را باور کنند و در شبکه‌های اجتماعی به اشتراک بگذارند. با توجه به اینکه طبق گزارش Bitkom، ChatGPT به‌تنهایی به ۷۱ درصد از کاربران آلمانی دسترسی دارد، پتانسیل آسیب‌رسانی این قابلیت بسیار بالاست.

چشم‌انداز و پیش‌بینی

تحقیق CORRECTIV نشان می‌دهد که صنعت هوش مصنوعی هنوز فاصله‌ی زیادی با ایمنی کامل در برابر سوءاستفاده‌های اطلاعاتی دارد. در حالی که متا AI عملکرد قابل‌قبولی از خود نشان داده، سه غول دیگر این حوزه — OpenAI، گوگل و مایکروسافت — همچنان در مهار توانایی چت‌بات‌های خود برای تولید اخبار جعلی ناتوان هستند.

با اجرایی شدن قوانین جدید اتحادیه‌ی اروپا، فشار بر شرکت‌های فناوری برای شفاف‌سازی و برچسب‌گذاری محتوای تولیدشده با هوش مصنوعی افزایش خواهد یافت. با این حال، تا زمانی که مکانیزم‌های امنیتی به‌صورت ناهمسان و غیرقابل‌پیش‌بینی عمل کنند، خطر سوءاستفاده از این ابزارها برای تولید و انتشار اخبار جعلی به‌عنوان یک تهدید جدی باقی خواهد ماند.

تحقیق CORRECTIV ثابت کرد که چت‌بات‌های هوش مصنوعی — به‌ویژه ChatGPT، با حداقل تلاش و حتی گاهی با وجود اعلام عدم صلاحیت توسط خود چت‌بات، قادر به تولید تصاویر و مقالات خبری کاملاً واقعی‌نمای جعلی هستند. ناهماهنگی در مکانیزم‌های امنیتی و عدم پاسخ‌گویی شفاف شرکت‌ها، زنگ خطری جدی برای اصالت اطلاعات در عصر هوش مصنوعی به صدا درآورده است.

آزمایش CORRECTIV که در ۳ اوت ۲۰۲۶ منتشر شد، نشان داد از میان چهار چت‌بات برتر جهان، ChatGPT بیشترین و قانع‌کننده‌ترین اخبار جعلی را تولید می‌کند. این یافته در حالی منتشر می‌شود که قوانین جدید اتحادیه‌ی اروپا برای شفاف‌سازی محتوای تولیدشده با هوش مصنوعی به‌تازگی لازمالاجرا شده‌اند. با توجه به دسترسی گسترده‌ی کاربران به این ابزارها و پتانسیل بالای سوءاستفاده، نیاز به مکانیزم‌های امنیتی یکپارچه و پاسخ‌گویی شفاف شرکت‌های فناوری بیش از هر زمان دیگری احساس می‌شود. آینده‌ی اعتماد عمومی به اطلاعات دیجیتال، تا حد زیادی به توانایی صنعت هوش مصنوعی در مهار این تهدید نوظهور بستگی دارد.