دیپفیک در کمین انتخابات
تصور کنید چند روز مانده به انتخابات، ویدئویی در شبکههای اجتماعی پخش میشود که نامزد محبوب شما در حال بیان جملاتی توهینآمیز درباره اقلیتهای مذهبی است. ویدئو کاملاً واقعی به نظر میرسد؛ لبها هماهنگ با کلمات حرکت میکنند، لحن صدا آشناست، حتی نورپردازی طبیعی است. اما این ویدئو هرگز ضبط نشده است. این یک دیپفیک است؛ ساختهشده با هوش مصنوعی در عرض چند ساعت و با هزینهای کمتر از صد دلار.
این سناریو دیگر علمی‑تخیلی نیست. در آستانه انتخابات میاندورهای آمریکا در سال ۲۰۲۶، دیپفیکهای تولیدشده با هوش مصنوعی به ابزاری رایج در کمپینهای انتخاباتی تبدیل شدهاند. در تگزاس، کمیته ملی جمهوریخواهان سنا، ویدئویی دیپفیک از جیمز تالاریکو، نامزد دموکرات سنا، منتشر کرد که در آن به نظر میرسید جملات تند و توهینآمیزی بر زبان میآورد. در جای دیگر، یک ابرکمککننده سیاسی جمهوریخواه مبلغ شش رقمی برای یک کمپین دیپفیک پرداخت که در آن تالاریکو در حال پوشیدن لباس زنانه و خواندن آهنگی طنزآمیز درباره کودکان تراجنسیتی به تصویر کشیده شده بود.
اما آمریکا تنها صحنه این بحران نیست. نظرسنجیها نشان میدهد ۳۰ درصد از رأیدهندگان در انتخابات محلی بریتانیا، معادل حدود ۱۶٫۵ میلیون نفر، محتوای دیپفیک درباره نامزدها را در فضای مجازی دیدهاند. یک اندیشکده بریتانیایی این وضعیت را «اضطراری دموکراتیک» خوانده است. در مجارستان، ویدئوهای دیپفیک بدون برچسب از طریق کانالهای رسانههای اجتماعی وابسته به حزب نخستوزیر، در آستانه انتخابات ۲۰۲۶ بهطور هماهنگ منتشر و تقویت شدهاند. آنتونیو گوترش، دبیرکل سازمان ملل متحد، هشدار داده است که هوش مصنوعی میتواند برای «تخریب اعتماد، تضعیف ساختارهای دموکراتیک و انتشار پروپاگاندا» استفاده شود.
این پدیده چه تهدیدی برای سلامت انتخابات، اعتماد عمومی و آینده دموکراسی در سراسر جهان ایجاد میکند؟ در این مقاله، ابعاد سیاسی، اجتماعی، اخلاقی، حقوقی و رسانهای این بحران را بررسی میکنیم و راهکارهایی برای مقابله با آن ارائه میدهیم.
دیپفیک چیست و چگونه ساخته میشود؟
دیپفیک به محتوای دیجیتالی شامل تصویر، ویدئو یا صوت گفته میشود که با استفاده از الگوریتمهای یادگیری عمیق و شبکههای عصبی تولید یا دستکاری شده و بهگونهای واقعگرایانه ارائه میشود که تشخیص آن از محتوای اصیل برای انسان دشوار است. فناوری پشت دیپفیک بر پایه «شبکههای تخاصمی مولد» کار میکند؛ دو شبکه عصبی با یکدیگر رقابت میکنند: یکی محتوای جعلی تولید میکند و دیگری سعی در تشخیص آن دارد. این رقابت تا جایی پیش میرود که محتوای تولیدشده بهقدری واقعی میشود که شبکه تشخیصدهنده نیز از تمایز آن بازمیماند.
آنچه این فناوری را به تهدیدی بیسابقه تبدیل کرده، سه عامل است: سرعت تولید، هزینه ناچیز و دسترسی همگانی. امروز هر فردی با یک کامپیوتر معمولی و دسترسی به اینترنت میتواند در عرض چند ساعت یک دیپفیک نسبتاً واقعگرایانه تولید کند. ابزارهای مولد هوش مصنوعی بهسرعت در حال پیشرفت هستند و هر روز نسخههای قدرتمندتر و در دسترستری از آنها منتشر میشود.
روایت از کارزارهای انتخاباتی ۲۰۲۶؛ از آمریکا تا مجارستان
انتخابات میاندورهای آمریکا در سال ۲۰۲۶، نخستین دوره انتخاباتی است که دیپفیکهای هوش مصنوعی نقشی چشمگیر در آن ایفا میکنند. جمهوریخواهان در استفاده از این فناوری از دموکراتها پیشی گرفتهاند. یکی از برجستهترین نمونهها، ویدئوی کمیته ملی جمهوریخواهان سنا از تالاریکو است که در آن او پشت پرچم تگزاس ایستاده و جملات تندی درباره مردان سفیدپوست بیان میکند. اگرچه عبارت «تولیدشده با هوش مصنوعی» در گوشه پایین سمت راست ویدئو درج شده، اما با فونتی به سختی قابلتشخیص است.
در جورجیا، مایک کالینز، نماینده جمهوریخواه، ویدئویی دیپفیک از سناتور دموکرات جان آساف منتشر کرد که در آن به نظر میرسید آساف میگوید: «من به ادامه تعطیلی دولت رأی دادم». در کالیفرنیا، استیو هیلتون، رقیب جمهوریخواه گاوین نیوسام، تبلیغی منتشر کرد که نیوسام را در حال اداره یک «ماشین دموکرات» رباتیک نشان میداد که خاویر بسرا را به عنوان فرماندار بعدی انتخاب میکند.
در مجارستان، پارلمان اروپا با نگرانی از افزایش استفاده از محتوای سیاسی تولیدشده با هوش مصنوعی بدون برچسب در آستانه انتخابات ۲۰۲۶ خبر داد و اشاره کرد که ویدئوهای دیپفیک بهطور عمدی در کانالهای رسانههای اجتماعی وابسته به حزب نخستوزیر منتشر شدهاند. در بریتانیا، کمیسیون انتخابات یک برنامه آزمایشی برای تشخیص دیپفیک راهاندازی کرده است، اما نتایج آن حداقل شش ماه دیگر مشخص نمیشود.
حتی در ایران نیز ردپای دیپفیک دیده میشود. در جریان جنگ ۱۲ روزه ایران و اسرائیل در سال ۲۰۲۵، شبکهای از حسابهای جعلی با پشتیبانی اسرائیل از تاکتیکهای مبتنی بر هوش مصنوعی برای انتشار اطلاعات نادرست و تحریک ناآرامی در ایران استفاده کردند. یک ویدئوی دیپفیک تولیدشده با هوش مصنوعی، حمله مستقیم به زندان اوین را به تصویر میکشید. همچنین ویدئوهای تولیدشده با هوش مصنوعی که اعتراضات در ایران را به تصویر میکشیدند، در فضای مجازی منتشر شدند و حدود ۳٫۵ میلیون بازدید جمعآوری کردند.
تأثیر بر اعتماد عمومی و مشارکت رأیدهندگان
تهدید دیپفیک فراتر از تأثیر بر یک نامزد خاص است. این فناوری زیربنای خود دموکراسی را هدف قرار میدهد: اعتماد. همانگونه که سازمان ملل متحد هشدار داده، «اگر حقیقت نداشته باشی، اعتماد نداری. بدون هر سه [حقیقت، اعتماد و واقعیت مشترک]، دموکراسی آنگونه که میشناسیم و همه تلاشهای معنادار انسانی، مردهاند».
مطالعات نشان میدهد که مردم در تشخیص دیپفیک عملکرد ضعیفی دارند. یک مطالعه در سال ۲۰۲۵ نشان داد که افراد در شناسایی ویدئوهای دیپفیک مشکل دارند و نظرات آنها تحت تأثیر این نوع اطلاعات نادرست قرار میگیرد. در بریتانیا، تنها ۳ درصد از رأیدهندگان توانستند تشخیص دهند که یک ویدئو واقعی است یا ساخته هوش مصنوعی. در یوتا، مطالعهای نشان داد که دموکراتها، جمهوریخواهان و مستقلها همگی با نرخهای تقریباً یکسان و «بهطور یکسان ضعیف» دیپفیک را تشخیص میدهند؛ نرخ تشخیص بین ۱۵ تا ۱۹ درصد بود. همچنین دیپفیکهای صوتی توسط ۷۶٫۲ درصد از پاسخدهندگان مورد اعتماد قرار گرفتند، در حالی که تنها ۱۱٫۵ درصد آنها را آگاهانه تشخیص دادند.
در استرالیا، ۴۴ درصد از پاسخدهندگان معتقد بودند هوش مصنوعی عدالت انتخاباتی را بدتر میکند و ۴۵ درصد نگرانی زیادی درباره گسترش اطلاعات نادرست توسط هوش مصنوعی داشتند. این آمار نشان میدهد که دیپفیک نه تنها مستقیماً رأیدهندگان را گمراه میکند، بلکه با ایجاد شک و تردید عمومی، اعتماد به تمام اطلاعات سیاسی را فرسایش میدهد. هنگامی که مردم نتوانند به چشمان و گوشهای خود اعتماد کنند، مشارکت سیاسی کاهش مییابد، قطببندی اجتماعی تشدید میشود و بنیانهای دموکراسی سست میگردد.
واکنش نهادهای بینالمللی
سازمان ملل متحد در سال ۲۰۲۵، دبیرکل آنتونیو گوترش در نشست شورای امنیت، هوش مصنوعی را «دیگر نه یک افق دور، بلکه اینجا و اکنون» توصیف کرد و نسبت به استفاده از دیپفیک برای «تغذیه قطبیسازی یا خارج کردن دیپلماسی از مسیر» هشدار داد. او چهار اولویت برای دولتها تعیین کرد: حفظ کنترل انسانی بر استفاده از زور، ایجاد چارچوبهای هنجاری جهانی منسجم، حفظ یکپارچگی اطلاعات و پر کردن «شکاف ظرفیت هوش مصنوعی» بین کشورهای غنی و فقیر.
اتحادیه اروپا با تصویب قانون هوش مصنوعی و مقررات شفافیت و هدفمندی تبلیغات سیاسی، گامهای مهمی برداشته است. بر اساس این مقررات، تبلیغات سیاسی باید بهوضوح برچسبگذاری شده و شامل اطلاعاتی درباره منبع مالی و تکنیکهای هدفمندی باشد. از اوت ۲۰۲۶، ارائهدهندگان سیستمهای هوش مصنوعی موظفند هنگام انتشار دیپفیک یا متن تولیدشده با هوش مصنوعی در موضوعات با اهمیت عمومی، برچسبهای واضح و قابلتشخیص درج کنند. پارلمان اروپا همچنین نگرانی عمیق خود را درباره استفاده از محتوای تولیدشده با هوش مصنوعی بدون برچسب در مجارستان ابراز کرده و آن را تهدیدی جدی برای سلامت انتخابات دموکراتیک دانسته است.
با این حال، این اقدامات کافی نیستند. در آمریکا، تا ژوئن ۲۰۲۶ بیش از ۳۰ ایالت قوانینی برای تنظیم محتوای تولیدشده با هوش مصنوعی در تبلیغات سیاسی تصویب کردهاند，اما قانون فدرال جامعی وجود ندارد و این پچورک قوانین ایالتی، ناهماهنگ و عمدتاً آزمایشنشده است.
ابعاد اجتماعی، اقتصادی، اخلاقی و حقوقی
بعد اجتماعی: دیپفیک شکافهای اجتماعی موجود را عمیقتر میکند. هنگامی که مردم نتوانند به اطلاعات اعتماد کنند، به جای جستجوی حقیقت، به تأیید باورهای پیشین خود میپردازند. این پدیده به «جهانهای حقیقت» جداگانه دامن میزند که در آن هر گروه اجتماعی روایت خود را میپذیرد و روایت گروه دیگر را رد میکند. این وضعیت، گفتوگوی مدنی را غیرممکن و جامعه را به گروههای متخاصم تقسیم میکند.
بعد اقتصادی: اقتصاد اطلاعات در عصر دیپفیک با چالش جدی مواجه است. کسبوکارهای وابسته به اعتماد و شهرت، مانند رسانهها، مؤسسات مالی و پلتفرمهای تجاری، ممکن است متحمل خسارتهای سنگین شوند. هزینههای تشخیص و راستیآزمایی محتوا به طرز چشمگیری افزایش مییابد و این هزینه در نهایت بر دوش مصرفکنندگان و شهروندان عادی میافتد. همچنین، کاهش اعتماد عمومی به نهادها میتواند به کاهش سرمایهگذاری و رکود اقتصادی منجر شود.
بعد اخلاقی: استفاده از دیپفیک در سیاست، پرسشهای اخلاقی عمیقی را مطرح میکند. آیا دروغپردازی با فناوری پیشرفته، اخلاقیتر یا غیراخلاقیتر از دروغپردازی سنتی است؟ چه کسی مسئول انتشار دیپفیک است: سازنده، پلتفرم منتشرکننده یا کاربری که آن را به اشتراک میگذارد؟ سوداگران سیاسی و دولتها از این ابهامات سوءاستفاده میکنند و مرز بین طنز سیاسی، انتقاد مشروع و فریب عمدی را محو میسازند.
بعد حقوقی: چارچوبهای حقوقی موجود برای مقابله با دیپفیک ناکافی هستند. قوانین افترا و تهمت برای پیگرد سریع و مؤثر خالقان دیپفیک طراحی نشدهاند. قوانین انتخاباتی اغلب بهروز نیستند و پلتفرمهای رسانههای اجتماعی با استناد به آزادی بیان، در برابر نظارت دولتی مقاومت میکنند. سناتور آدام شیف و نماینده رو خانا لایحه «قانون تبلیغات هوش مصنوعی» را در کنگره آمریکا بازطراحی کردهاند که قانون موجود در مورد تبلیغات سیاسی کلاهبردارانه را بهروز میکند تا محتوای تولیدشده با هوش مصنوعی را نیز شامل شود.
چه راهکارهایی برای مقابله وجود دارد؟
۱. الزام به برچسبگذاری محتوای تولیدشده با هوش مصنوعی: اتحادیه اروپا در این زمینه پیشگام است. از اوت ۲۰۲۶، برچسبگذاری دیپفیک و محتوای تولیدشده با هوش مصنوعی در موضوعات با اهمیت عمومی اجباری شده است
. آمریکا نیز باید قانونی فدرال مشابه تصویب کند. با این حال، برچسبگذاری به تنهایی کافی نیست؛ برچسبها باید بهگونهای طراحی شوند که قابلتشخیص و غیرقابلحذف باشند.
۲. آموزش سواد رسانهای به شهروندان: پژوهشها نشان میدهند که آموزش سواد رسانهای مؤثر میتواند توانایی افراد در تشخیص دیپفیک را بهبود بخشد. تیکتاک با سرمایهگذاری ۲ میلیون دلاری در صندوق جهانی سواد هوش مصنوعی و مشارکت با ائتلاف سواد خبری و رسانهای، منابع آموزشی برای کمک به کاربران در شناسایی محتوای تولیدشده با هوش مصنوعی توسعه داده است. این مدل باید در سطح جهانی گسترش یابد.
۳. تقویت سازوکارهای راستیآزمایی: کمیسیون انتخابات بریتانیا یک برنامه آزمایشی برای تشخیص دیپفیک راهاندازی کرده است که محتوای آنلاین را برای ویدئوها و صداهای دیپفیک که برای گمراه کردن رأیدهندگان طراحی شدهاند، پایش میکند. کره جنوبی مدل تشخیص دیپفیک با دقت ۹۲ درصد توسعه داده است. دانشگاههای برزیل، چین و سنگاپور نیز سیستمهای تشخیص دیپفیک با دقت حدود ۹۰ درصد ایجاد کردهاند. این فناوریها باید در دسترس نهادهای نظارتی و روزنامهنگاران در سراسر جهان قرار گیرد.
۴. وضع قوانین شفافیت برای کمپینهای انتخاباتی: استرالیا نمونه موفقی در این زمینه است. زالی استگال، نماینده مستقل پارلمان استرالیا، لایحهای برای مقابله با تبلیغات سیاسی فریبنده ارائه کرده است که افشای واضح محتوای تولیدشده با هوش مصنوعی را الزامی میکند. این لایحه دیپفیک را ممنوع نمیکند، بلکه شفافیت را الزامی میسازد.
۵. همکاری بینالمللی: گوترش بر نیاز به همکاری دولتها، رسانهها، پلتفرمها و جامعه مدنی برای شناسایی و جلوگیری از فریب تولیدشده با هوش مصنوعی تأکید کرده است. ایجاد یک نهاد نظارتی جهانی برای هوش مصنوعی، مشابه آژانس بینالمللی انرژی اتمی، میتواند راهکاری بلندمدت باشد.
وظیفه رسانهها و پلتفرمهای اجتماعی
رسانههای سنتی و پلتفرمهای اجتماعی خط مقدم دفاع در برابر دیپفیک هستند. متا و ایکس (توییتر سابق) سیستمهای راستیآزمایی حرفهای خود را کنار گذاشته و به سیستمهای یادداشتهای تولیدشده توسط کاربران روی آوردهاند. این رویکرد، هرچند دموکراتیک به نظر میرسد، در برابر کمپینهای هماهنگ اطلاعات نادرست آسیبپذیر است.
رسانهها باید:
-
سرمایهگذاری در فناوریهای تشخیص دیپفیک را افزایش دهند.
-
تیمهای راستیآزمایی خود را تقویت کنند.
-
پیش از انتشار محتوای مشکوک، اصالت آن را تأیید کنند.
-
به جای انتشار کلیکبait، به تأیید حقیقت متعهد شوند.
پلتفرمهای اجتماعی باید:
-
الگوریتمهای خود را برای کاهش سرعت انتشار محتوای تأییدنشده تنظیم کنند.
-
برچسبگذاری محتوای تولیدشده با هوش مصنوعی را اجباری کنند.
-
با نهادهای نظارتی و روزنامهنگاران برای شناسایی و حذف دیپفیکهای مخرب همکاری کنند.
-
در آموزش سواد رسانهای به کاربران خود سرمایهگذاری کنند.
آیندهای که در دستان ماست
دیپفیک تهدیدی جدی برای دموکراسی است، اما نباید فراموش کنیم که فناوری در خدمت انسان است، نه برعکس. همانگونه که گوترش تأکید کرد: «سرنوشت بشریت را نمیتوان به دست یک الگوریتم سپرد».
راه حل در تعادل میان نوآوری و نظارت، آزادی بیان و مسئولیتپذیری، پیشرفت فناوری و حفظ ارزشهای انسانی نهفته است. قوانین شفافیت، آموزش سواد رسانهای، همکاری بینالمللی و تعهد اخلاقی میتوانند دیپفیک را از یک تهدید وجودی به یک چالش قابلمدیریت تبدیل کنند.
تاریخ نشان داده است که جوامع بشری همواره توانستهاند با چالشهای جدید سازگار شوند. عصر دیپفیک نیز از این قاعده مستثنی نیست. با آگاهی، همبستگی و اقدام جمعی، میتوانیم اطمینان حاصل کنیم که هوش مصنوعی به جای تضعیف دموکراسی، به تقویت آن کمک میکند. آینده دموکراسی در دستان ماست؛ بیایید هوشمندانه، آگاهانه و مسئولانه عمل کنیم.
