شفافیت در تولید محتوا
ساباستک با ابزار جدید تشخیص محتوای هوش مصنوعی، شفافیت را به قلب تولید محتوا آورد
در شرایطی که سیل محتوای تولیدشده توسط هوش مصنوعی، پلتفرمهای آنلاین را فراگرفته و تمایز بین نوشتههای انسانی و تولیدات ماشینی روزبهروز دشوارتر میشود، ساباستک (Substack) بهعنوان یکی از محبوبترین پلتفرمهای خبرنامهنویسی جهان، گامی بلند در جهت شفافیت برداشته است. این پلتفرم در تاریخ ۲۱ جولای ۲۰۲۶ (۳۰ تیر ۱۴۰۵) با همکاری شرکت تشخیص هوش مصنوعی «پانگرام» (Pangram)، ابزاری نوین برای اسکن محتوای متنی و تشخیص سهم هوش مصنوعی در تولید آن رونمایی کرد. کریس بست، مدیرعامل ساباستک، این اقدام را پاسخی به پدیدهای میداند که خود آن را «کلودفیشینگ» (Claudefishing) نامیده است؛ وضعیتی که در آن خواننده بدون آگاهی از دخالت هوش مصنوعی، زمان و توجه خود را صرف محتوایی میکند که پشت آن هیچ تفکر انسانی وجود ندارد. این ابزار که هماکنون در نسخه وب و اپلیکیشن iOS در دسترس است و بهزودی برای اندروید نیز عرضه خواهد شد، میتواند نقطهعطفی در نحوه تعامل مخاطبان با محتوای آنلاین باشد.
ابزار تشخیص هوش مصنوعی ساباستک: چگونه کار میکند؟
ابزار جدید ساباستک که با نام «Scan for AI text» معرفی شده، به کاربران این امکان را میدهد که پستها، یادداشتها، نظرات و پاسخهای موجود در پلتفرم را اسکن کرده و تخمینی از میزان محتوای تولیدشده توسط هوش مصنوعی دریافت کنند. این ابزار توسط شرکت پانگرام، یک سامانه تشخیص هوش مصنوعی که از مدل شبکه عصبی طبقهبندیکننده (Classifier Neural Network) برای تشخیص تفاوت بین متن انسانی و ماشینی استفاده میکند، پشتیبانی میشود.
برای استفاده از این ابزار، کاربران کافی است روی منوی سهنقطه (…) در گوشه سمت راست بالای هر پست یا یادداشت کلیک کرده و گزینه «Scan for AI text» را انتخاب کنند. سپس پنجرهای باز میشود که درصدهای محتوای «تولیدشده توسط هوش مصنوعی»، «کمکگرفته از هوش مصنوعی» و «نوشتهشده توسط انسان» را به نمایش میگذارد.
با این حال، این ابزار محدودیتهایی نیز دارد. اسکن فقط بر روی متون طولانیتر از ۱۰۰ کلمه که از تاریخ ۲۱ جولای ۲۰۲۶ بهبعد منتشر شدهاند، امکانپذیر است. محتوای منتشرشده پیش از این تاریخ یا متون کوتاهتر از ۱۰۰ کلمه، مشمول این قابلیت نمیشوند. همچنین این ابزار برای پستهای ویدئویی، صوتی یا محتوای منتشرشده در دامنههای سفارشی (Custom Domains) در دسترس نیست.
پانگرام؛ مغز متفکر پشت صحنه تشخیص محتوا
پانگرام که بهعنوان شریک فنی ساباستک در این پروژه انتخاب شده، یک سامانه تخصصی تشخیص محتوای هوش مصنوعی است. برخلاف مدلهای مولد (Generative AI) که متن تولید میکنند، پانگرام از یک مدل شبکه عصبی طبقهبندیکننده استفاده میکند که برای تشخیص و تمایز بین متون انسانی و ماشینی آموزش دیده است. دادههای آموزشی این الگوریتم از منابعی جمعآوری شده که پیش از سال ۲۰۲۱، یعنی پیش از گسترش گسترده هوش مصنوعی مولد، منتشر شدهاند.
بر اساس برآوردهای پانگرام، حدود ۴۰ درصد از محتوای برخی پلتفرمهای اجتماعی بهطور کامل توسط هوش مصنوعی تولید میشود و در شبکه اجتماعی لینکدین، این رقم به دوسوم محتوای منتشرشده میرسد. این آمار نشاندهنده ابعاد گسترده پدیدهای است که ساباستک قصد مقابله با آن را دارد.
کلودفیشینگ؛ اصطلاحی جدید برای چالش قدیمی اعتماد
کریس بست، مدیرعامل و همبنیانگذار ساباستک، در پست وبلاگی خود با عنوان «Against Claudefishing» به تشریح فلسفه پشت این ابزار پرداخته است. او «کلودفیشینگ» را وضعیتی تعریف میکند که در آن خواننده بدون آگاهی از ماهیت محتوا، زمان و توجه خود را صرف نوشتهای میکند که پشت آن هیچ تفکر و حضور انسانی وجود ندارد.
بست در این پست مینویسد: «مسئله اصلی استفاده از هوش مصنوعی یا کیفیت خروجی آن نیست. مشکل زمانی رخ میدهد که بین انتظار خواننده و واقعیت، ناهماهنگی وجود داشته باشد، بهویژه وقتی که ناآگاهانه توجه خود را به چیزی معطوف میکنند که در آن سوی آن هیچ تفکر انسانی وجود ندارد.»
او تأکید میکند که «هر محتوای تولیدشده با هوش مصنوعی، بیکیفیت (Slop) نیست و هر محتوای بیکیفیتی هم با هوش مصنوعی ساخته نشده است.» هدف اصلی این ابزار، نه ممنوعیت یا تنبیه نویسندگانی است که از هوش مصنوعی استفاده میکنند، بلکه ایجاد شفافیت و آگاهی برای خوانندگان است. بهگفته بست: «زمانی که خوانندگان مجبور باشند درباره واقعی بودن آنچه میخوانند تردید کنند، اعتماد به نویسندگی تضعیف شده و معیشت نویسندگان، از جمله آنهایی که از ابزارهای هوش مصنوعی بهصورت هوشمندانه برای تولید آثاری که به آن باور دارند استفاده میکنند، به خطر میافتد.»
امکانات ویژه برای نویسندگان؛ شفافیت دوسویه
ساباستک در کنار ابزار تشخیص برای خوانندگان، قابلیتهای جدیدی نیز برای نویسندگان در نظر گرفته است که رویکرد دوسویه شفافیت را تقویت میکند:
۱. گزارش «چگونه مینویسم» (How I make this): نویسندگان میتوانند در صفحه تنظیمات انتشارات خود، بیانیهای درباره فرآیند نویسندگی خود ثبت کنند که در صورت اسکن محتوایشان توسط خوانندگان، نمایش داده میشود.
۲. اسکن پیشاز انتشار: نویسندگان میتوانند پیش از انتشار محتوای خود، آن را با پانگرام اسکن کرده و از میزان تشخیص هوش مصنوعی در اثر خود مطلع شوند.
۳. گزارش خطای تشخیص: در صورتی که نویسنده معتقد باشد ابزار تشخیص بهاشتباه محتوای او را هوش مصنوعی تشخیص داده، میتواند این خطا را گزارش کند.
۴. غیرفعالسازی تشخیص: جالبترین ویژگی، امکان غیرفعالسازی کامل ابزار تشخیص توسط نویسنده است، صرفنظر از اینکه تشخیص پانگرام درست بوده یا نه. این قابلیت نشان میدهد که ساباستک بهدنبال تحمیل شفافیت اجباری نیست، بلکه ابزاری اختیاری در اختیار کاربران قرار داده است.
واکنشها؛ از استقبال تا نگرانیهای جدی
معرفی این ابزار با واکنشهای گسترده و متنوعی در فضای مجازی و میان فعالان صنعت محتوا همراه شده است.
از یک سو، بسیاری از کارشناسان و کاربران از این حرکت بهعنوان گامی مثبت در جهت شفافیت و مبارزه با محتوای بیکیفیت هوش مصنوعی استقبال کردهاند. در شرایطی که لینکدین اخیراً دامنه دسترسی پستها و نظرات تولیدشده با هوش مصنوعی را کاهش داده و متا نیز بهطور پنهانی در حال آزمایش ابزار تشخیص هوش مصنوعی خود است، حرکت ساباستک میتواند الگویی برای سایر پلتفرمها باشد.
با این حال، نگرانیهای جدی نیز درباره دقت و پیامدهای این ابزار مطرح شده است. آزمایشهای عملی نشان داده که ابزارهای تشخیص هوش مصنوعی همچنان با خطاهای قابلتوجهی مواجه هستند. برای نمونه، یکی از کاربران ساباستک گزارش داده که این ابزار، محتوایی که تقریباً بهطور کامل توسط هوش مصنوعی تولید شده بود را «انسانی» تشخیص داده، در حالی که متنی را که خودش نوشته بود، «۱۰۰ درصد هوش مصنوعی» اعلام کرده است.
در یک پست تحلیلی در خود پلتفرم ساباستک با عنوان «Substack’s AI Detector and the Return of the Witch Hunt»، نویسنده بهشدت نسبت به این ابزار انتقاد کرده و آن را به «شکار جادوگران» تشبیه کرده است. در این تحلیل آمده: «هر پست الآن با دکمهای میرسد که درباره شخصی که آن را نوشته، سوال میپرسد. خواننده تبدیل به بازرس میشود و نویسنده به مظنونی که باید در هر لحظه ثابت کند هر جمله را یک انسان نوشته است.» نویسنده این تحلیل با اشاره به آزمایشهای خود، نشان داده که این ابزار یک نوشته را ابتدا ۱۰۰ درصد هوش مصنوعی و سپس ۱۰۰ درصد انسانی تشخیص داده است.
کریس بست خود نیز در این باره صادقانه اذعان کرده که «پانگرام کامل نیست و فقط میتواند تشخیص دهد که آیا از هوش مصنوعی برای تولید متن استفاده شده یا نه، نه اینکه آیا مراقبت و تفکر انسانی عالی در پشت آن وجود داشته یا اینکه آیا از ابزارهای هوش مصنوعی بهعنوان منبع استفاده شده است.»
تأثیر بر صنعت و چشمانداز آینده
حرکت ساباستک در شرایطی رخ میدهد که صنعت محتوای آنلاین با چالش بیسابقهای مواجه است. بر اساس گزارش اخیر آژانس Graphite، هوش مصنوعی هماکنون به اندازه انسانها مقاله آنلاین تولید میکند. نظرسنجی گارتنر نیز نشان میدهد که ۶۸ درصد از مردم درباره واقعی بودن محتوایی که میبینند تردید دارند و نیمی از مصرفکنندگان، برندهایی را ترجیح میدهند که در بازاریابی خود از هوش مصنوعی استفاده نمیکنند.
در چنین فضایی، ابزار تشخیص ساباستک میتواند تأثیرات عمیقی بر صنعت داشته باشد:
۱. افزایش شفافیت و اعتماد: با در اختیار داشتن ابزاری برای تشخیص محتوای هوش مصنوعی، خوانندگان میتوانند تصمیمات آگاهانهتری درباره محتوایی که مصرف میکنند بگیرند.
۲. فشار بر نویسندگان: این ابزار میتواند نویسندگانی را که بهطور گسترده از هوش مصنوعی استفاده میکنند بدون شفافسازی، تحت فشار قرار دهد.
۳. الگوسازی برای سایر پلتفرمها: حرکت ساباستک میتواند سایر پلتفرمهای محتوایی را به سمت پذیرش ابزارهای مشابه سوق دهد.
۴. چالش دقت فنی: با توجه به خطاهای موجود در ابزارهای تشخیص هوش مصنوعی، چالش اصلی در آینده، بهبود دقت این سامانهها خواهد بود.
ساباستک با معرفی ابزار تشخیص هوش مصنوعی، گامی بلند در جهت شفافیت محتوای آنلاین برداشته است. این حرکت که با همکاری پانگرام انجام شده، نشاندهنده آگاهی روزافزون پلتفرمهای محتوایی از چالشهای ناشی از گسترش هوش مصنوعی مولد است. با این حال، موفقیت این ابزار در عمل، به میزان دقت فنی آن و نحوه تعامل کاربران با آن بستگی دارد. تجربه نشان داده که ابزارهای تشخیص هوش مصنوعی هنوز با خطاهای قابلتوجهی مواجه هستند و نمیتوانند بهطور کامل جایگزین قضاوت انسانی شوند. رویکرد ساباستک در ارائه این ابزار بهصورت اختیاری و همراه با امکان گزارش خطا و غیرفعالسازی، نشان از درک این واقعیت دارد که شفافیت باید با حفظ آزادی بیان و خلاقیت همراه باشد.
معرفی ابزار «Scan for AI text» توسط ساباستک، نقطه عطفی در تاریخ این پلتفرم و بهطور کلی صنعت محتوای آنلاین محسوب میشود. این حرکت نشان میدهد که دوران «هرچه تولید میشود، مصرف میشود» به پایان رسیده و مخاطبان خواهان شفافیت درباره ماهیت محتوایی که مصرف میکنند، هستند. با توجه به اینکه هوش مصنوعی روزبهروز توانمندتر میشود و تشخیص محتوای تولیدشده توسط آن دشوارتر میگردد، ابزارهایی از این دست میتوانند نقش کلیدی در حفظ اعتماد بین تولیدکنندگان و مصرفکنندگان محتوا ایفا کنند.
با این حال، چالش اصلی پیشرو، بهبود دقت این ابزارها و یافتن تعادلی بین شفافیت و حفظ حریم خصوصی و آزادی بیان است. همانطور که خود کریس بست اشاره کرده، هدف نهایی ساباستک «ایجاد بستری است که در آن پلتفرمهای پاداشدهنده به محتوای غیرواقعی، به سمت پایینترین سطح کیفیت سوق پیدا نکنند.» آینده نشان خواهد داد که آیا این ابزار میتواند به هدف خود یعنی بازگرداندن اعتماد به محتوای آنلاین دست یابد یا خیر.
