سودجویی در عصر دیپ‌فیک؛ وقتی سندرم داون ابزار درآمد می‌شود

آلیس روزی را به خاطر دارد که برای نخستین بار در اینستاگرام با حسابی روبه‌رو شد که تصویرش را دستکاری و به صورت دیپ‌فیک منتشر کرده بود.

این دختر ۱۷ ساله در گفت‌وگو با بی‌بی‌سی می‌گوید: «در آن لحظه تنها چیزی که ذهنم را پر کرده بود، شوک و احساس تحقیر بود.»

یک حساب جعلی با انتشار تصاویر بدن او و دستکاری چهره‌اش با هوش مصنوعی، وانمود کرده بود که او سندرم داون دارد. این صفحه با بیش از ۲۵ هزار دنبال‌کننده، کاربران را به سایت‌های خارجی محتوای بزرگسالان هدایت می‌کرد.

آلیس بارها به گردانندگان حساب پیام داد و با تاکید بر این‌که هنوز به سن قانونی نرسیده، خواستار حذف آن شد، اما پاسخی نگرفت. او می‌گوید: «بی‌توجهی کامل به سن و احساساتم واقعاً ترسناک بود».

بی‌بی‌سی دریافته است که این پروفایل بخشی از یک روند نگران‌کننده است؛ حساب‌هایی که با جعل هویت افراد دارای معلولیت برای کسب سود فعالیت می‌کنند. این شخصیت‌های ساخته‌شده با هوش مصنوعی در اینستاگرام از تصاویر بدن زنان واقعی بدون رضایت آن‌ها استفاده می‌کنند. این تصاویر احتمالا از حساب‌های عمومی شبکه‌های اجتماعی به سرقت رفته و با اعمال فیلترهای هوش مصنوعی روی چهره‌ها، آنها را به‌عنوان افراد مبتلا به سندرم داون جا می‌زنند.

این حساب‌های جعلی برای جلب توجه، پیام‌هایی با محتوای جنسی منتشر می‌کنند. در مقابل، کاربرانی که این محتوا را مصرف می‌کنند، با اظهارنظرهای آشکارا جنسی پاسخ می‌دهند.

النور درِیج، پژوهشگر ارشد اخلاق هوش مصنوعی در دانشگاه کمبریج، می‌گوید این حساب‌ها داده‌های زنان را «بدون رضایت آن‌ها برداشته و برای کسب درآمد از طریق سوءاستفاده از معلولیت استفاده می‌کنند».

او تاکید می‌کند: «این اقدام به‌طور جدی به افرادی مثل آلیس آسیب می‌زند.»

منبع اصلی درآمد این جریان جای دیگری است؛ چرا که همه حساب‌هایی که بی‌بی‌سی شناسایی کرده، کاربران را به پروفایل‌هایی در سرویس پولی اونلی‌فنز (OnlyFans) هدایت می‌کنند؛ پلتفرمی که بیشتر به خاطر محتوای جنسی شناخته می‌شود.

در پلتفرم اونلی‌فنز حساب‌هایی با همان نام حساب‌های جعلی اینستاگرام دیده می‌شود، اما در آنها از فیلتر سندرم داون استفاده نشده و به جای آن بدن زنانی دیگر نمایش داده می‌شود؛ صورت‌ها یا محو شده‌اند یا کاملاً حذف شده‌اند. از آنجا که اونلی‌فنز انتشار محتوای تولیدشده با هوش مصنوعی بدون رضایت را ممنوع کرده، به نظر می‌رسد گردانندگان با پنهان کردن صورت‌ها به‌جای استفاده از دیپ‌فیک، تلاش می‌کنند این محدودیت را دور بزنند.

مشخص نیست که آیا سایر زنان برای نمایش بدن‌هایشان در حساب‌های اونلی‌فنز رضایت داده‌اند یا نه.

به گفته دریج، «وقتی در یک پروفایل از بدن چندین زن مختلف استفاده می‌شود، در نهایت شبکه‌ای از بهره‌کشی شکل می‌گیرد».

آلیس می‌گوید حساب را به اینستاگرام گزارش داد، اما تنها پاسخی خودکار دریافت کرد که اعلام می‌کرد این حساب ناقض دستورالعمل‌ها نیست.

هرچند دیپ‌فیک‌های جنسی صریح برخلاف سیاست‌های اینستاگرام هستند، اما ویدئوهایی که از بدن آلیس استفاده می‌کردند از نظر این پلتفرم محتوای جنسی صریح به شمار نمی‌آمدند.

بی‌بی‌سی در جست‌وجوی افرادی که این حساب‌ها را ایجاد می‌کنند، به دنیای «مدیران هوش مصنوعی برای اکانت‌های OnlyFans» وارد شد؛ این مدیران افرادی هستند که خود را چنین معرفی می‌کنند و با ساخت اینفلوئنسرهای هوش مصنوعی برای تبلیغ محتوای بزرگسالان و کسب درآمد از آن فعالیت دارند.

بی‌بی‌سی یک «مدیر» فرانسوی‌ به نام دوریان را شناسایی کرد؛ فردی که در یوتیوب صدها ویدئوی آموزشی درباره ساخت اینفلوئنسرهای هوش مصنوعی منتشر کرده و در تلگرام هزاران دنبال‌کننده دارد.

او در یکی از آموزش‌های یوتیوبش می‌گوید: «یکی از بهترین قابلیت‌های هوش مصنوعی این است که می‌توان هر حوزه خاصی را به‌دلخواه ایجاد کرد.»

او می‌پرسد: «یک دختر گاتیک می‌خواهید؟ انجامش می‌دهیم. یک مدل ورزشی لاتین؟ مشکلی نیست. حتی فراتر از این؟» سپس از نمونه‌هایی که خود آن را «بازار خاص» می‌نامد مثال می‌زند؛ مثل یک مدل ترنس یا مدلی با کوتاه‌قامتی.

او می‌گوید: «می‌توانید هر شخصیتی را به‌سرعت خلق کنید و بر بازارهای خاصی که کمتر مورد توجه بوده‌اند یا تازه مد شده‌اند، تسلط پیدا کنید.»

بی‌بی‌سی با بررسی حساب‌هایی که دوریان در تلگرام به نام خود معرفی کرده و همچنین تصاویر شخصیت‌های هوش مصنوعی که در آموزش‌های یوتیوبش نشان داده، شواهدی یافت که نشان می‌دهد یکی از «بازارهای خاص» مورد بهره‌برداری او، سندرم داون است.

او در تلگرام اسکرین‌شاتی از یکی از حساب‌های «اینفلوئنسر» خود منتشر کرد که صورت فرد در آن پنهان بود. با تطبیق سایه، پس‌زمینه و ترتیب پست‌ها، مشخص شد این حساب همان حساب دیپ‌فیک در اینستاگرام است که وانمود می‌کرد فردی با سندرم داون است. همچنین در پس‌زمینه یکی از آموزش‌های دوریان، یک مدل ساخته‌شده با هوش مصنوعی و شبیه فردی مبتلا به سندرم داون قابل مشاهده بود.

هیچ شواهدی در دست نیست که دوریان سازنده دیپ‌فیک‌های مربوط به آلیس باشد. بی‌بی‌سی برای ارتباط با او از طریق تلگرام و اینستاگرام اقدام کرد و حتی با آدرس‌های کاری‌ او تماس گرفت، اما هیچ پاسخی دریافت نشد.

این حساب‌ها فقط به کسانی که محتوایشان سرقت می‌شود آسیب نمی‌زنند؛ بلکه جامعه افراد دارای سندرم داون را نیز تحت تأثیر قرار می‌دهد. جرمی و آدری، دو فعال و پادکستر آمریکایی در این حوزه، نسبت به این روند نگرانی جدی ابراز کرده‌اند.

آدری می‌گوید: «فکر می‌کنم درست نیست که آن‌ها وانمود کنند معلولیت دارند. من و جرمی سندرم داون داریم و خیلی هم دوستش داریم. این یک ویژگی خاص است و من عاشقش هستم. انگار بهترین چیز زندگی من است. با این دیپ‌فیک‌ها احساس می‌کنم از من سوءاستفاده می‌شود.»

جرمی می‌گوید: «این کار را فقط برای پول انجام می‌دهند. لطفاً بس کنید.»

یوتیوب در واکنش به گزارش بی‌بی‌سی اعلام کرد که کانال‌های دوریان به دلیل نقض قوانین مربوط به هرزنامه، فریب و کلاهبرداری مسدود شده‌اند.

متا، شرکت مادر اینستاگرام، اعلام کرد که همه حساب‌هایی که گزارش شده بودند، به جز یکی، پیش‌تر به دلیل نقض قوانینی مانند ممنوعیت جعل هویت یا تبلیغ خدمات جنسی حذف شده‌اند. حسابی که از تصویر آلیس استفاده می‌کرد نیز دیگر فعال نیست.

بی‌بی‌سی یافته‌های خود را به اونلی‌فنز ارائه داد. این شرکت گفت: «تمام تولیدکنندگان محتوا باید فرایند کامل تایید هویت را طی کنند تا مشخص شود بالای ۱۸ سال هستند و رضایت داده‌اند از تصاویرشان استفاده شود.» همچنین تاکید شد که همه محتواها تحت نظارت قرار دارند و چنین تصاویری در این پلتفرم مجاز نخواهد بود.