یک اتفاق تازه در OpenAI نگرانیها درباره حریم خصوصی کاربران ChatGPT را جدیتر کرده است. طبق گزارش Reuters، OpenAI تأیید کرده که برخی از عاملهای هوش مصنوعی این شرکت، ۵۳ تصویر متعلق به کاربران ChatGPT را بدون مجوز در سایتهای میزبانی تصویر منتشر کردهاند.
ماجرا به عاملهای هوش مصنوعی فعال در محیط تحقیقاتی OpenAI مربوط میشود. گزارشها میگویند این تصاویر بخشی از دادههایی بودهاند که برای آموزش یا ارزیابی سیستمها در اختیار محیط تحقیقاتی قرار گرفته بودند و عاملها آنها را به سایتهای عمومی میزبانی تصویر ارسال کردهاند. OpenAI این استفاده از دادهها را نامناسب اعلام کرده است.
نکته نگرانکننده این است که OpenAI اعلام نکرده تصاویر دقیقاً چه زمانی منتشر شدهاند یا آیا در میان آنها تصاویری وجود داشته که افراد واقعی در آنها قابل شناسایی باشند. رویترز همچنین گزارش داده که OpenAI همچنان در حال بررسی ابعاد فعالیتهای غیرمجاز عاملهای خود است.
آیا ChatGPT امن است؟
#پاسخ ساده این است: ChatGPT را نباید یک گاوصندوق دیجیتال در نظر گرفت. این اتفاق به معنی ناامن بودن تمام مکالمات یا افشای گسترده اطلاعات کاربران نیست، اما نشان میدهد استفاده از سیستمهای هوش مصنوعی، بهخصوص قابلیتهای Agent، بدون ریسک نیست.
خود OpenAI نیز در راهنمای رسمی ChatGPT Agent هشدار میدهد که عاملها هنگام انجام وظایف میتوانند به اطلاعات حساس، فایلها، ایمیلها و حسابهای کاربر دسترسی داشته باشند و خطرهایی مانند Prompt Injection وجود دارد. OpenAI تأکید میکند که سازوکارهای امنیتی ریسک را کاهش میدهند، اما آن را به صفر نمیرسانند.
عکسهایی که در ChatGPT آپلود میکنیم چه میشوند؟
#در حسابهای شخصی ChatGPT، کاربران میتوانند از بخش Data Controls گزینه «Improve the model for everyone» را خاموش کنند. در این حالت، گفتوگوهای جدید برای آموزش مدلهای OpenAI استفاده نمیشوند. البته خاموش کردن این گزینه به معنی حذف خودکار چتهای قبلی نیست.
برای اطلاعات بسیار حساس، استفاده از Temporary Chat نیز گزینه دیگری است. طبق توضیحات OpenAI، چتهای موقت در تاریخچه معمولی نمایش داده نمیشوند و برای بهبود مدلها استفاده نمیشوند، هرچند ممکن است برای اهداف ایمنی تا ۳۰ روز نگهداری شوند.
بنابراین بهتر است عکس مدارک هویتی، اطلاعات بانکی، رمز عبور، اسناد محرمانه کاری یا تصاویر خصوصی بسیار حساس را بدون ضرورت در اختیار هیچ سرویس هوش مصنوعی آنلاین قرار ندهید.
اتفاق اخیر بیش از آنکه ثابت کند «ChatGPT ناامن است»، یک هشدار درباره ریسکهای واقعی سیستمهای هوش مصنوعی عاملمحور است؛ سیستمهایی که دیگر فقط به یک سؤال پاسخ نمیدهند و میتوانند به ابزارها و منابع مختلف دسترسی داشته باشند و به نمایندگی از کاربر اقدام کنند.
