اینستاگرام به جنگ اکانت‌های جعلی رفت؛ پروفایل‌های ساخته‌شده با هوش مصنوعی برچسب می‌خورند

اینستاگرام قوانین مربوط به پروفایل‌های ساخته‌شده با هوش مصنوعی را تغییر داده تا کاربران راحت‌تر متوجه شوند با یک انسان واقعی طرف هستند یا شخصیتی که کاملاً توسط هوش مصنوعی ساخته شده است. این تغییر در شرایطی انجام می‌شود که تعداد اینفلوئنسرها و شخصیت‌های مجازی تولیدشده با هوش مصنوعی در شبکه‌های اجتماعی به‌سرعت در حال افزایش است.

اینستاگرام پیش از این از برچسب AI Creator برای برخی حساب‌ها استفاده می‌کرد، اما اکنون این عنوان به AI-generated profile یا «پروفایل تولیدشده با هوش مصنوعی» تغییر می‌کند. هدف از تغییر نام، شفاف‌تر کردن مفهوم برچسب است؛ زیرا عنوان قبلی می‌توانست این تصور را ایجاد کند که صاحب حساب یک انسان واقعی است که صرفاً از ابزارهای هوش مصنوعی برای تولید محتوا استفاده می‌کند.

برچسب جدید در درجه اول برای حساب‌هایی طراحی شده است که شخصیت اصلی پروفایل توسط هوش مصنوعی ساخته شده است؛ برای مثال، اینفلوئنسرهای مجازی، شخصیت‌های کاملاً مصنوعی یا حساب‌هایی که تصویری از یک انسان غیرواقعی را به‌عنوان صاحب پروفایل نمایش می‌دهند. اینستاگرام می‌گوید هدف این است که کاربر از همان ابتدا بداند شخصیت مقابل واقعی نیست.

مهم‌ترین بخش تغییرات جدید این است که اینستاگرام قصد دارد با پروفایل‌های تولیدشده توسط هوش مصنوعی که از اعلام ماهیت خودداری می‌کنند، برخورد کند. اگر این پلتفرم تشخیص دهد یک حساب دارای شخصیت تولیدشده با هوش مصنوعی است اما برچسب مربوطه را ندارد، می‌تواند دسترسی آن حساب به سیستم پیشنهاد محتوا را محدود کند.

در چنین شرایطی، پست‌ها و ویدئوهای حساب ممکن است دیگر برای کاربرانی که آن را دنبال نمی‌کنند در بخش‌هایی مانند Reels و Explore پیشنهاد نشوند. در نتیجه، حساب همچنان می‌تواند فعال باشد، اما شانس آن برای جذب مخاطب جدید و افزایش بازدید به شکل محسوسی کاهش پیدا می‌کند.

اینستاگرام همچنین اعلام کرده حساب‌هایی که به اشتباه شناسایی شده‌اند، امکان اعتراض دارند. در صورت دریافت هشدار، صاحب حساب می‌تواند وضعیت حساب را بررسی کند، برچسب مناسب را اضافه کند یا در صورت اشتباه بودن تشخیص، درخواست بازبینی ارائه دهد.

نکته مهم این است که تغییر جدید به معنای الزام تمام کاربران اینستاگرام به استفاده از برچسب «پروفایل تولیدشده با هوش مصنوعی» نیست.

اگر یک فرد واقعی برای ویرایش عکس، اصلاح متن، ساخت گرافیک، بهبود ویدئو یا سایر بخش‌های تولید محتوا از ابزارهای هوش مصنوعی استفاده کند، این برچسب مخصوص پروفایل‌های کاملاً مصنوعی برای او در نظر گرفته نمی‌شود. تفاوت اصلی میان استفاده از هوش مصنوعی برای تولید محتوا و ساختن هویت یا شخصیت اصلی حساب با هوش مصنوعی است.

به این ترتیب، هدف اصلی اینستاگرام مقابله با حساب‌هایی است که یک شخصیت مصنوعی را به شکلی ارائه می‌کنند که کاربر ممکن است تصور کند با یک انسان واقعی مواجه است.

اینستاگرام می‌گوید بخشی از این تصمیم به بازخورد کاربران مربوط می‌شود. برخی کاربران از این موضوع ناراضی هستند که یک پروفایل در نگاه اول کاملاً واقعی به نظر برسد اما بعداً مشخص شود فردی که در تصاویر و ویدئوها حضور دارد، اصلاً وجود خارجی ندارد و تمام شخصیت با هوش مصنوعی ساخته شده است.

رشد سریع ابزارهای تولید تصویر و ویدئو نیز تشخیص چنین حساب‌هایی را دشوارتر کرده است. تصاویر تولیدشده توسط مدل‌های جدید هوش مصنوعی می‌توانند چهره‌ها، محیط زندگی، لباس‌ها و حتی سبک زندگی یک شخصیت خیالی را با جزئیات زیادی بازسازی کنند و همین مسئله تشخیص انسان واقعی از شخصیت مصنوعی را برای کاربران دشوار کرده است.

این تغییر همچنین می‌تواند روی اقتصاد اینفلوئنسرهای مجازی تأثیر بگذارد. حساب‌هایی که با ساخت شخصیت‌های مصنوعی توانسته‌اند مخاطب جمع کنند، اکنون باید ماهیت شخصیت خود را شفاف‌تر اعلام کنند؛ در غیر این صورت ممکن است از بخشی از سیستم توزیع و پیشنهاد محتوای اینستاگرام کنار گذاشته شوند.

اینستاگرام پیش از این نیز برای شناسایی برخی تصاویر و ویدئوهای تولید یا ویرایش‌شده با هوش مصنوعی از برچسب AI Info استفاده می‌کرد. این سیستم در سطح محتوا عمل می‌کند، در حالی که برچسب جدید AI-generated profile در سطح حساب کاربری قرار دارد.

بنابراین ممکن است یک کاربر واقعی همچنان بتواند از هوش مصنوعی برای ساخت یا ویرایش یک تصویر استفاده کند و محتوای او بر اساس شرایط مربوط به همان پست برچسب هوش مصنوعی دریافت کند، بدون اینکه پروفایلش یک «پروفایل تولیدشده با هوش مصنوعی» محسوب شود.

خیر. اینستاگرام اعلام نکرده که تمام حساب‌های تولیدشده با هوش مصنوعی را حذف خواهد کرد. رویکرد جدید بیشتر بر شفافیت و اعلام ماهیت حساب تمرکز دارد.

در واقع، اگر یک پروفایل واقعاً شخصیت مصنوعی داشته باشد و این موضوع را به‌درستی اعلام کند، صرفاً به دلیل مصنوعی بودن شخصیت با کاهش دسترسی مواجه نخواهد شد. محدودیت اصلی متوجه حساب‌هایی است که ماهیت مصنوعی خود را اعلام نمی‌کنند و در عین حال به‌گونه‌ای فعالیت دارند که ممکن است کاربر تصور کند با یک انسان واقعی روبه‌رو است.

تغییر جدید اینستاگرام را می‌توان بخشی از تلاش گسترده‌تر متا برای افزایش شفافیت درباره محتوای تولیدشده توسط هوش مصنوعی دانست. متا پیش‌تر نیز اعلام کرده بود که برای شناسایی محتوای تولیدشده با هوش مصنوعی از نشانه‌های فنی و استانداردهای مربوط به محتوای مصنوعی استفاده می‌کند.

در نهایت، این سیاست می‌تواند یک تغییر مهم برای اینفلوئنسرهای مجازی باشد. در شرایطی که تشخیص انسان واقعی از شخصیت ساخته‌شده توسط هوش مصنوعی روزبه‌روز دشوارتر می‌شود، اینستاگرام حالا می‌خواهد حداقل در سطح پروفایل، اطلاعات شفاف‌تری در اختیار کاربران قرار دهد؛ حتی اگر این اقدام به قیمت کاهش دسترسی حساب‌هایی تمام شود که حاضر به معرفی ماهیت مصنوعی خود نیستند.