به نقل از دیجیتال ترندز، تحقیقی از رسانه آلمانی «کورکتیو» نشان میدهد چند چتبات مطرح هوش مصنوعی، از جمله «چتجیپیتی، جمنای، مایکروسافت کوپایلوت و متا ایآی»، با وجود محدودیتهای امنیتی، در برخی شرایط قادر به تولید اخبار جعلی، تیترهای ساختگی و حتی تصاویر و اسکرینشاتهایی شبیه به رسانههای معتبر هستند.
این آزمایشها با موضوعاتی مانند تقلب انتخاباتی، کودتا، جنگ، واکسن، تغییرات اقلیمی و نظریههای توطئه انجام شد و نتایج نشان داد همه این مدلها تا حدی در برابر سوءاستفاده آسیبپذیر هستند.
بر اساس این بررسی، چتجیپیتی بیشترین میزان محتوای جعلی را تولید کرده و در برخی موارد تنها با تغییرات جزئی در درخواست کاربر، خبرها و تصاویر بسیار واقعی شبیه به رسانههای معتبر ساخته است.
در یکی از نمونهها، این مدل از تولید متن گمراهکننده خودداری کرده، اما تصویر جعلی همان خبر را تولید کرده که به گفته پژوهشگران، نشاندهنده ناهماهنگی در اجرای سازوکارهای ایمنی است. همچنین گزارش میگوید این چتبات امکان بازسازی ظاهر برخی رسانههای آلمانی را فراهم کرده، اما درخواستهای مشابه برای رسانههایی مانند «نیویورک تایمز» و «بیبیسی» را رد کرده است.
سایر چتباتها نیز عملکرد بدون نقصی نداشتند. جمنای توانست مقالهها و تصاویر جعلی تولید کند، اما کیفیت آنها نسبت به چتجیپیتی کمتر قانعکننده بود. مایکروسافت کوپایلوت نیز محتوای خبری ساختگی تولید کرد، اما معمولاً برچسب «تولیدشده با هوش مصنوعی» را روی خروجیها قرار میداد و تشخیص جعلی بودن آنها آسانتر بود. در مقابل، متا ایآی مقاومترین عملکرد را از خود نشان داد و تنها در یک مورد محتوای جعلی تولید کرد و بیشتر درخواستهای مرتبط با اطلاعات نادرست را با استناد به سیاستهای شرکت رد کرد.
این گزارش در حالی منتشر شده که نگرانیها درباره گسترش اطلاعات نادرست تولیدشده توسط هوش مصنوعی رو به افزایش است. بهتازگی نیز یک خبر جعلی که با استفاده از چتجیپیتی ساخته شده و ظاهری مشابه گزارش یکی از رسانههای بزرگ آلمان داشت، برای مدتی کاربران شبکههای اجتماعی را فریب داد. کارشناسان حقوقی هشدار میدهند استفاده از هوش مصنوعی برای تولید اخبار جعلی میتواند پیامدهایی مانند افترا، آسیب به اعتبار افراد و جعل اسناد دیجیتال به همراه داشته باشد و با فراگیرتر شدن این فناوری، جلوگیری از تبدیل شدن آن به ابزاری برای انتشار گسترده اطلاعات نادرست به یکی از مهمترین چالشهای این حوزه تبدیل شده است.
