گوگل تشخیص محتوای هوش مصنوعی را برای همه آزاد کرد؛ SynthID حتی آثار ساخته‌شده با ChatGPT را هم بررسی می‌کند

گیزمکس
gizmax.ir
پنجنشبه 16 مهر 1405
ابزار Google SynthID Detector برای تشخیص تصاویر و ویدیوهای تولیدشده با هوش مصنوعی
ابزار SynthID گوگل برای شناسایی محتوای تولیدشده با هوش مصنوعی

گوگل ابزار SynthID Detector را که پیش‌تر فقط در اختیار گروه محدودی از خبرنگاران، پژوهشگران و متخصصان رسانه بود، اکنون به‌صورت عمومی در دسترس کاربران سراسر جهان قرار داده است. این ابزار به کاربران اجازه می‌دهد بررسی کنند یک عکس، ویدیو یا فایل صوتی با هوش مصنوعی تولید شده یا خیر. گوگل می‌گوید نسخه جدید از محتوای تولیدشده توسط برخی شرکت‌های دیگر، از جمله OpenAI، انویدیا و Kakao نیز پشتیبانی می‌کند.

SynthID در واقع یک واترمارک دیجیتال نامرئی است که هنگام تولید محتوا در آن قرار می‌گیرد. این علامت برای چشم انسان قابل مشاهده نیست، اما نرم‌افزارهای مخصوص می‌توانند آن را شناسایی کنند. گوگل می‌گوید این فناوری برای مقاومت در برابر تغییراتی مانند برش تصویر، اعمال فیلتر، تغییر نرخ فریم و فشرده‌سازی طراحی شده است.

اهمیت نسخه جدید در این است که SynthID دیگر صرفاً به اکوسیستم خود گوگل محدود نیست. بر اساس اعلام گوگل، ابزار جدید می‌تواند واترمارک‌های SynthID مربوط به Google، OpenAI، NVIDIA و Kakao را بررسی کند و پشتیبانی از Apple نیز در آینده اضافه خواهد شد. به این ترتیب، کاربر برای بررسی محتوای مشکوک مجبور نیست سراغ سرویس جداگانه هر شرکت برود.

تبلیغات

این فناوری در سال ۲۰۲۳ معرفی شد و طی این مدت به شکل گسترده در محصولات هوش مصنوعی گوگل استفاده شده است. گوگل اعلام کرده تاکنون بیش از ۱۸۰ میلیارد تصویر و ویدیو و حدود ۲۴۰ هزار سال محتوای صوتی با SynthID واترمارک شده‌اند. ابزارهای هوش مصنوعی مختلف گوگل، از جمله Gemini، Veo و Lyria، از این فناوری استفاده می‌کنند.

با این حال، SynthID را نباید یک «تشخیص‌دهنده عمومی هوش مصنوعی» دانست که بتواند هر تصویر یا ویدیوی ساخته‌شده توسط هر مدل هوش مصنوعی را شناسایی کند. این سیستم در اصل به دنبال واترمارک SynthID می‌گردد؛ بنابراین اگر محتوایی با ابزاری تولید شده باشد که از این فناوری استفاده نمی‌کند، نتیجه منفی لزوماً به معنی انسانی بودن آن محتوا نیست.

گوگل همچنین تأکید کرده که قابلیت بررسی SynthID هم‌اکنون در بخش‌هایی از Google Search، Gemini و Chrome نیز مورد استفاده قرار می‌گیرد. طبق اعلام این شرکت، ابزارهای تأیید محتوای آن روزانه بیش از یک میلیون درخواست دریافت می‌کنند؛ موضوعی که نشان می‌دهد تشخیص منشأ تصاویر و ویدیوها با افزایش محتوای جعلی و دیپ‌فیک به مسئله‌ای جدی تبدیل شده است.

با عمومی شدن SynthID Detector، کاربران، رسانه‌ها و تولیدکنندگان محتوا اکنون ابزار ساده‌تری برای بررسی منشأ فایل‌های مشکوک در اختیار دارند. البته این فناوری همچنان محدودیت‌هایی دارد و نتیجه «SynthID شناسایی نشد» به‌تنهایی نمی‌تواند ثابت کند یک محتوا توسط انسان ساخته شده است. به همین دلیل، واترمارک دیجیتال در کنار استانداردهایی مانند C2PA می‌تواند برای ایجاد زنجیره قابل اعتمادتر از منشأ و تغییرات یک فایل مورد استفاده قرار گیرد.

نظرات کاربرانکپی متنکپی لینک