شرکت آنتروپیک اعلام کرده است که مدلهای هوش مصنوعی Claude از این پس برای شناسایی محتوای تولیدشده توسط هوش مصنوعی، از واترمارکهای نامرئی و قابل تشخیص توسط ماشین استفاده میکنند. این نشانگر در خود متن قرار میگیرد و برخلاف واترمارکهای تصویری، برای کاربر قابل مشاهده نیست.
این واترمارک در سطح مدل ایجاد میشود؛ به همین دلیل محتوای تولیدشده از مسیرهایی مانند Claude، API، Claude Code و سرویسهای ابری طرف قرارداد نیز میتواند دارای این نشانگر باشد. Anthropic میگوید این فناوری برای رعایت الزامات شفافیت قانون هوش مصنوعی اتحادیه اروپا توسعه یافته است.
نکته جالب این است که واترمارک متنی قرار نیست ظاهر یا معنای نوشته را تغییر دهد. این فناوری با ایجاد الگوهای آماری در انتخاب واژهها، یک اثر قابل تشخیص ایجاد میکند که میتواند حتی پس از کپی و پیست و برخی ویرایشهای جزئی همچنان قابل شناسایی باشد.
Anthropic برای فایلهای تصویری نیز از C2PA و دادههای منشأ دیجیتال استفاده میکند تا مشخص شود فایل توسط Claude تولید یا پردازش شده است. این شرکت همچنین اعلام کرده ابزارهایی برای تشخیص این نشانگرها در اختیار کاربران و اشخاص ثالث قرار خواهد داد.
البته این سیستم بهمعنای تشخیص قطعی منشأ تمام متنها نیست. خود Anthropic نیز محدودیتهایی برای فناوری تشخیص در نظر گرفته و تأکید کرده است که مشاهده یک نشانگر میتواند نشان دهد محتوا با Claude پردازش شده، اما بهتنهایی اثباتکننده تمام سابقه تولید محتوا نیست.
این اقدام میتواند شروع روند گستردهتری در صنعت هوش مصنوعی باشد؛ زیرا با افزایش استفاده از مدلهای مولد در تولید محتوا، شرکتهای فناوری به دنبال روشهایی هستند که امکان تشخیص منشأ محتوای AI را بدون تغییر محسوس در تجربه کاربر فراهم کنند.
معرفی کانال تلگرام گیزمکس
#برای دنبالکردن آخرین اخبار هوش مصنوعی، فناوری، گوشیهای هوشمند، گجتها، خودرو و مهمترین اتفاقات دنیای تکنولوژی، به کانال تلگرام گیزمکس بپیوندید. جدیدترین خبرها و مطالب مهم گیزمکس را میتوانید در این کانال سریعتر دنبال کنید.
کانال تلگرام گیزمکس؛ اخبار فناوری را سریع و خلاصه دنبال کنید.
