کارشناسان هشدار میدهند محتوای Al Slop میتواند ذهن و مغز کودکان را تحت تأثیر قرار دهد.
وقتی کودکان در معرض جریان بیپایانی از ویدیوهای تولیدشده با هوش مصنوعی قرار میگیرند، نتیجه میتواند بسیار نگرانکننده باشد. یک تحلیل جدید حتی احتمال ارتباط این نوع محتوا با گسترش افراطگرایی خشونتآمیز را مطرح کرده است.
پژوهشگران شبکه جهانی مقابله با افراطگرایی و فناوری (GNET) در گزارشی تازه هشدار دادهاند که ویدیوهای میوهای تولیدشده با هوش مصنوعی که به شکل گسترده در فیدهای شبکههای اجتماعی ظاهر میشوند، میتوانند بستری پنهان برای انتشار محتوای خشونتآمیز و افراطگرایانه باشند.
بخش زیادی از این ویدیوها در نگاه اول بیاهمیت به نظر میرسند و داستانهایی عجیب و اصطلاحاً برینرات را به تصویر میکشند. در آنها شخصیتهای میوهای رنگارنگ درگیر موقعیتهایی مانند مثلث عشقی، از دست دادن شغل و غیره میشوند. با این حال، تحلیلگران GNET متوجه شدهاند که تعداد بیشتری از این ویدیوها به سمت چیزی میروند که آن را خشونت شدید علیه میوهها و سبزیجات میتوان نامید؛ صحنههایی که در آن شکنجه، قطع عضو و دیگر اشکال خشن و بیرحمانه آزار نمایش داده میشود.
محتوای خشونتآمیز فقط به نمایش خشونت محدود نمیشود
#ویسندگان این گزارش معتقدند مسئله تنها نمایش تصاویری کلی از خشونت نیست. در بسیاری از این ویدیوها، شخصیتهای خشن به گروهها یا ایدئولوژیهای مشخصی نسبت داده میشوند؛ از کارتلهای تبهکاری گرفته تا جریانهای راست افراطی و دیدگاههای شدیداً نیهیلیستی.
تحلیلگران GNET در گزارش خود مینویسند:
محتوای تولیدشده با هوش مصنوعی که بر خشونت تمرکز دارد، شیفتگی به خشونت صرفاً برای خود خشونت را تشویق میکند و به این ترتیب، ستایش آنلاین از خشونت میتواند بهتدریج در میان جوانان و در فضای دیجیتال جای بیشتری پیدا کند.
آنها در ادامه هشدار میدهند:
چنین محتوایی میتواند زمینه مصرف بیشتر آثار تصویری خشونتآمیز را فراهم کند و کاربران کمسنوسال را در دام افراطیشدن آنلاین و مصرف محتوای دیداری خشونتآمیز گرفتار سازد.
با این حال، هنوز مشخص نیست که آیا ادعای ارتباط مستقیم میان هوش مصنوعی و گرایش کودکان به خشونت در مطالعات دانشگاهی نیز تأیید خواهد شد یا نه. گزارش GNET بیشتر بر یک بررسی سطحی از این پدیده تکیه دارد و حتی دستکم به یک مطلب تحریریهای تولیدشده با هوش مصنوعی نیز ارجاع داده است.
از سوی دیگر، باید توجه داشت که GNET بازوی پژوهشی مجمع جهانی اینترنت برای مقابله با تروریسم محسوب میشود؛ سازمانی که بودجه آن از سوی نمایندگان صنعت فناوری تأمین میشود و مدیریت آن نیز با حضور همین نمایندگان صورت میگیرد. این نهاد به دلیل نقشی که در پیشبرد سانسور دیجیتال داشته، با انتقادهایی روبهرو شده است.
خطر اصلی فراتر از افراطگرایی است
#در نهایت، اینکه آیا ویدیوهای میوهای تولیدشده با هوش مصنوعی واقعاً کودکان را به سمت افراطگرایی خشونتآمیز سوق میدهند یا نه، شاید حتی مهمترین بخش ماجرا نباشد. مشکل بزرگتر این است که چنین محتواهایی همه کاربران را، بهخصوص کودکان که هنوز مهارت تشخیص و ارزیابی محتوای رسانهای را بهطور کامل کسب نکردهاند، وارد چرخهای بیپایان از محتوای بیکیفیت میکنند.
این محتوای تولیدشده توسط هوش مصنوعی میتواند به همان سادگی که خشونت را عادی یا ستایش میکند، برای تبلیغ تقلب انتخاباتی، نژادپرستی یا هر آسیب اجتماعی دیگری مورد استفاده قرار گیرد. بنابراین فارغ از اینکه در یک ویدیوی خاص چه نوع انحراف یا محتوای مخربی نمایش داده میشود، ظرفیت نامحدود هوش مصنوعی مولد برای تولید انبوه چنین محتواهایی، دلیل اصلی خطرناک بودن آن به شمار میرود.
