شما در حال مشاهده نسخه متنی وبسایت بیبیسی هستید که از داده کمتری استفاده میکند. نسخه اصلی وبسایت را که شامل تمام تصاویر و ویدیوهاست، مشاهده کنید.
بازگشت به وبسایت یا نسخه اصلی
اطلاعات بیشتر درباره نسخه لایت که برای مصرف کمتر حجم دادههاست
جنگ آمریکا و اسرائیل با ایران؛ افزایش تولید ویدئو با هوش مصنوعی برای پولسازی
- نویسنده, توماس کوپلند
- شغل, بخش راستیآزمایی بیبیسی
- زمان مطالعه: ۶ دقیقه
کارشناسان به بخش راستیآزمایی بیبیسی گفتهاند موجی بیسابقه از اطلاعات نادرست مربوط به جنگ آمریکا و اسرائیل با ایران که با هوش مصنوعی تولید میشود، اکنون توسط تولیدکنندگان آنلاین که به فناوریهای جدید تولید محتوا دسترسی بیشتری پیدا کردهاند، به منبع درآمد تبدیل شده است.
بررسیهای بیبیسی نشان میدهد که نمونههای متعددی از ویدئوهای تولیدشده با هوش مصنوعی و تصاویر ماهوارهای جعلی برای انتشار ادعاهای نادرست و گمراهکننده درباره این درگیری به کار رفتهاند؛ محتوایی که در مجموع صدها میلیون بار در فضای آنلاین دیده شده است.
تیموتی گراهام، کارشناس رسانههای دیجیتال در دانشگاه فناوری کویینزلند، میگوید: «مقیاس این مساله واقعا نگرانکننده است و این جنگ باعث شده دیگر نتوان آن را نادیده گرفت.»
او میگوید «کاری که پیشتر نیازمند یک تیم حرفهای تولید ویدئو بود، حالا با ابزارهای هوش مصنوعی در چند دقیقه انجام میشود. عملاً سد تولید تصاویر ساختگیِ قانعکننده از صحنههای جنگ فرو ریخته است.»
ایالات متحده و اسرائیل در ۲۸ فوریه حمله به ایران را آغاز کردند. در پاسخ، ایران حملات پهپادی و موشکی به اسرائیل، و همچنین چندین کشور خلیج فارس و داراییهای نظامی آمریکا در منطقه انجام داده است.
بسیاری از مردم برای جستوجو و به اشتراک گذاشتن تازهترین اطلاعات و کمک به درک هفتهای پرتحول از درگیری به شبکههای اجتماعی روی آوردهاند.
پلتفرم ایکس اعلام کرده اگر تولیدکنندگان محتوا ویدیوهای تولیدشده با هوش مصنوعی از درگیریهای نظامی را بدون برچسب منتشر کنند، به طور موقت آنها را از برنامه درآمدزایی تعلیق خواهد کرد.
این طرح به کاربرانی که واجد شرایط باشند و پستهایشان تعداد زیادی بازدید، لایک، بازنشر و نظر ایجاد کند، پرداختهایی از سوی پلتفرم ارائه میدهد.
مهسا علیمردانی، پژوهشگر متخصص در امور ایران در موسسه اینترنت آکسفورد، میگوید: «این نشانه قابل توجهی است که آنها متوجه شدهاند این یک مشکل بزرگ است.»
بیبیسی از تیک تاک و متا، شرکت مالک فیسبوک و اینستاگرام، پرسید آیا قصد دارند اقدام مشابهی انجام دهند یا نه، اما آنها به درخواست برای اظهار نظر پاسخ ندادند.
یک نمونه معمول از ویدیوی تولیدشده با هوش مصنوعی که بخش راستیآزمایی بیبیسی آن را دنبال کرده، ظاهرا نشان میدهد موشکهایی به شهر تل آویو در اسرائیل اصابت میکنند در حالی که صدای انفجار در پسزمینه شنیده میشود.
این ویدیو در بیش از ۳۰۰ پست منتشر شده که سپس دهها هزار بار در پلتفرمهای شبکههای اجتماعی به اشتراک گذاشته شدهاند.
برخی از کاربران ایکس برای تائید صحت این ویدیو به چتبات هوش مصنوعی این پلتفرم، گروک، مراجعه کردند. اما در بسیاری از مواردی که بخش راستیآزمایی بیبیسی مشاهده کرده است، گروک به اشتباه اصرار داشته که این ویدیوی تولیدشده با هوش مصنوعی واقعی است.
ویدیوی جعلی دیگری که دهها میلیون بار دیده شده، ادعا میکند آسمانخراش برج خلیفه در دبی در آتش میسوزد، در حالی که به نظر میرسد جمعیتی از مردم به سوی ساختمان در حال دویدن هستند.
این تصاویر تولیدشده با هوش مصنوعی در زمانی به طور گسترده در فضای آنلاین منتشر شد که ساکنان و گردشگران نسبت به حملات پهپادی و موشکی به این شهر نگرانی قابل توجهی داشتند.
خانم علیمردانی میگوید: «ویدیوهای جعلی مانند اینها تاثیر مخربی بر اعتماد مردم به اطلاعات تائیدشدهای که آنلاین میبینند میگذارد و مستندسازی شواهد واقعی را بسیار دشوارتر میکند.»
یکی از ویژگیهای جدید این درگیری که بخش راستیآزمایی بیبیسی آن را بررسی کرده، ظهور تصاویر ماهوارهای تولیدشده با هوش مصنوعی است.
ما چندین ویدیوی واقعی را تائید کردیم که حملات پهپادی و موشکی ایران به مقر ناوگان پنجم نیروی دریایی آمریکا در بحرین را در نخستین روز درگیری نشان میداد.
عکسی ساختگی که توسط روزنامه تهران تایمز، در ایکس منتشر شد، روز بعد توسط بسیاری دست به دست شد. این عکس ادعا میکرد آسیب گستردهای به این پایگاه وارد شده است.
به نظر میرسد این تصویر جعلی بر اساس تصاویر ماهوارهای واقعی از یک پایگاه دریایی آمریکا در بحرین ساخته شده باشد که در فوریه ۲۰۲۵ گرفته شده و به طور عمومی و به شکل آنلاین در دسترس است.
بر اساس نرمافزار آشکارساز واترمارک به نام «سینث آی دی» گوگل، این تصویر جعلی با یک ابزار هوش مصنوعی گوگل تولید یا ویرایش شده است.
سه وسیله نقلیه پارک شده در بیرون نیز در هر دو تصویر ماهوارهای واقعی و تصویر هوش مصنوعی دقیقا در همان نقطه قرار دارند، با وجود اینکه ادعا میشود این عکسها با فاصله یک سال گرفته شدهاند.
ابزارهای هوش مصنوعی گوگل، از جمله تولیدکننده ویدیوی آن به نام «ویو»، در فهرست رو به رشد پلتفرمهای محبوب هوش مصنوعی قرار دارند. مانند مدل سورا از شرکت اوپن ای آی، اپلیکیشن هوش مصنوعی چینی سیدنس و همچنین هوش مصنوعی گروک که در ایکس ادغام شده است.
هنری اجدر، کارشناس هوش مصنوعی مولد میگوید: «تعداد ابزارهای مختلفی که اکنون برای ایجاد طیف گستردهای از دستکاریهای بسیار واقعگرایانه با هوش مصنوعی در دسترس است بیسابقه است.»
او میگوید: «ما هرگز این ابزارها را تا این اندازه در دسترس، آسان و ارزان برای استفاده ندیدهایم.»
ویکتوار ریو، مدیر اجرایی سازمان غیرانتفاعی به نام «وات تو فیکس» که در عرصه سیاست فناوری فعال است، میگوید این موضوع باعث افزایش محتوای تولیدشده با هوش مصنوعی در فضای آنلاین شده است، «زیرا اکنون روند انتشار به شبکههای اجتماعی میتواند تقریبا به طور کامل خودکار شود».
رئیس بخش محصولات ایکس گفته است «۹۹ درصد» از حسابهایی که چنین ویدیوهای تولیدشده با هوش مصنوعی را منتشر میکنند، تلاش میکنند با انتشار محتوایی که تعامل زیادی ایجاد میکند، «از سیستم درآمدزایی سوءاستفاده کنند» تا در ازای آن از طریق برنامه «کریتور روینیو شیرینگ» در این اپلیکیشن پول دریافت کنند.
این پلتفرم اعلام نمیکند چه تعداد حساب در این برنامه حضور دارند یا آنها چقدر پول میتوانند به دست آورند.
اما آقای گراهام تخمین میزند ایکس ممکن است حدود «هشت تا ۱۲ دلار برای هر یک میلیون نمایش از سوی کاربران تائیدشده» پرداخت کند.
او افزود: «برای واجد شرایط شدن، تولیدکنندگان محتوا باید در مدت سه ماه به پنج میلیون نمایش ارگانیک برسند و همچنین اشتراک پریمیوم ایکس داشته باشند.»
او میگوید: «وقتی وارد این برنامه شوید، محتوای وایرال تولیدشده با هوش مصنوعی عملا یک دستگاه چاپ پول است. آنها نهایتا یک صنعت تولید اطلاعات نادرست ساختهاند.»
ایکس به درخواست ما برای اظهار نظر یا پرسشهای ما درباره برنامه کریتور روینیو شیرینگ پاسخ نداد.
کارشناسان به بخش راستیآزمایی بیبیسی گفتهاند در حالی که بسیاری از شرکتهای شبکههای اجتماعی میگویند در حال تلاش برای تغییر سیستمهای نظارت و شناسایی خود هستند تا با مقیاس و سرعت انتشار محتوای تولیدشده با هوش مصنوعی مقابله کنند، راهحل سادهای برای این مشکل وجود ندارد.
آقای گراهام میگوید: «مساله عمیقتر این است که درآمدزایی مبتنی بر تعامل و اطلاعات دقیق اساسا در تنش با یکدیگر قرار دارند و هیچ پلتفرمی این تنش را به طور کامل حل نکرده است. و شاید هرگز هم نتواند.»