به نقل از سایت خبری دانشگاه ام آی تی، مایکروسافت طرحی جامع برای حل یکی از بزرگترین چالشهای عصر هوش مصنوعی ارائه کرده است: چگونه بفهمیم یک تصویر، ویدیو یا متن واقعی است یا توسط هوش مصنوعی ساخته شده؟ این پیشنهاد که با MIT Technology Review به اشتراک گذاشته شده، در زمانی منتشر شده که قوانین سختگیرانهای مانند قانون شفافیت هوش مصنوعی کالیفرنیا (که از اوت ۲۰۲۶ اجرایی میشود) در حال شکلگیری هستند، تیم تحقیقاتی ایمنی هوش مصنوعی مایکروسافت، ۶۰ ترکیب مختلف از ابزارهای فنی را آزمایش کرده است؛ provenance (سند کامل منشأ و تغییرات محتوا) ، واترمارکهای نامرئی (قابل خواندن توسط ماشین) و امضاهای ریاضی (فینگرپرینت مبتنی بر ویژگیهای محتوا) از جمله این ابزارها است.
هدف، ایجاد استانداردی است که سکوهای اجتماعی و شرکتهای هوش مصنوعی بتوانند با اطمینان به کاربران بگویند یک محتوا دستکاری شده یا واقعی است. اریک هورویتز، رئیس علمی مایکروسافت، گفت: شاید این را خودتنظیمی بنامید. ما همچنین میخواهیم ارائهدهندهای قابل اعتماد برای کسانی باشیم که میخواهند بدانند در جهان چه میگذرد. این طرح فقط دستکاری را تشخیص میدهد، نه صحت یا دروغ بودن محتوا. هورویتز تأکید کرد: «ما تصمیم نمیگیریم چه چیزی درست است یا نیست… فقط برچسبهایی میسازیم که به مردم بگویند محتوا از کجا آمده.»
هانی فرید، استاد متخصص forensics دیجیتال در دانشگاه برکلی، این طرح را «گامی بزرگ اما ناکافی» خواند و گفت: فکر نمیکنم مشکل را کامل حل کند، اما بخش بزرگی از آن را برطرف میکند.» او هشدار داد که افراد حرفهای هنوز میتوانند سیستم را دور بزنند، اما استاندارد جدید میتواند حجم محتوای گمراهکننده را بهطور قابل توجهی کاهش دهد. مایکروسافت هنوز متعهد نشده که این استاندارد را روی سکوهای خودش (کوپایلوت، آزور، لینکدین و همکاری با OpenAI) اجرا کند، با این حال هورویتز گفت تیمهای محصول و مهندسی شرکت در حال بررسی گزارش برای اعمال آن در نقشه راه محصولات هستند. این پیشنهاد در حالی مطرح شده که تحقیقات نشان میدهد حتی وقتی محتوای هوش مصنوعی برچسب میخورد، بسیاری از مردم همچنان تحت تأثیر آن قرار میگیرند. مطالعهای روی ویدیوهای پروپاگاندای روسی درباره اوکراین نشان داد که کامنتهایی که ویدیو را هوش مصنوعی میدانستند، تعامل بسیار کمتری نسبت به کامنتهایی داشتند که آن را واقعی فرض کرده بودند.
مایکروسافت یکی از بنیانگذاران استاندارد C2PA (استاندارد provenance محتوا) در سال ۲۰۲۱ بوده و گوگل نیز از سال ۲۰۲۳ واترمارک روی تصاویر هوش مصنوعی قرار میدهد. با این حال، بررسیهای اخیر نشان میدهد که فقط حدود ۳۰ درصد از پستهای آزمایشی روی اینستاگرام، لینکدین، تیکتاک و یوتیوب به درستی برچسبگذاری شدهاند.این طرح مایکروسافت میتواند تحت تأثیر قوانین جدید قرار گیرد. قانون هوش مصنوعی اتحادیه اروپا، قوانین پیشنهادی هند و قانون شفافیت کالیفرنیا همگی شرکتها را به سمت شفافیت بیشتر سوق میدهند. هورویتز گفت مایکروسافت در تدوین قانون کالیفرنیا لابی کرده تا الزامات «واقعبینانهتر» شوند. اگر این استاندارد بهخوبی اجرا شود، میتواند deception را بسیار سختتر کند. اما اگر ضعیف اجرا شود، ممکن است اعتماد عمومی را بیشتر از قبل از بین ببرد. محققان پیشنهاد میکنند اگر ابزاری قابل اعتماد نباشد، بهتر است هیچ برچسبی نشان داده نشود، این خبر در شرایطی منتشر شده که دولت ترامپ با دستور اجرایی، مقررات ایالتی هوش مصنوعی را محدود کرده و بودجه تحقیقات misinformation را قطع کرده است، حتی خود دولت گاهی از ابزارهای هوش مصنوعی برای ساخت محتوای دستکاریشده استفاده کرده است. مایکروسافت با این طرح نشان میدهد که آماده است نقش رهبری در شفافیت محتوای هوش مصنوعی را بر عهده بگیرد –حتی اگر هنوز خودش را بهطورکامل متعهد نکرده باشد.
