خطرات هوش مصنوعی

یک پژوهشگر ارشد ایمنی در شرکت Anthropic هشدار داده است که به باور او، احتمال اینکه هوش مصنوعی در دهه آینده باعث نابودی همه انسان‌ها شود، بیش از ۱۰ درصد است.

سازمان ملل درباره خطرات هوش مصنوعی هشدار داد و خواستار تعیین خطوط قرمز بین‌المللی شد؛ فناوری‌ای که در صورت از دست رفتن کنترل می‌تواند به تهدیدی وجودی برای انسان‌ها تبدیل شود.

آیا چت با هوش مصنوعی واقعاً خصوصی است؟ ماجرای انتشار برخی گفت‌وگوهای Claude در نتایج گوگل نشان می‌دهد یک اشتباه ساده در اشتراک‌گذاری می‌تواند اطلاعات حساس را عمومی کند.

لشکری از عامل های هوش مصنوعی افسارگسیخته اوپن ای آی در بهار سال جاری میلادی به یک وب سایت آلمانی نفوذ و آن را به تابلو اعلاناتی برای عامل های هوش مصنوعی دیگر تبدیل کردند.

دولت ترامپ در نشست G20 از کشورها خواست مقررات جدید و سخت‌گیرانه برای هوش مصنوعی وضع نکنند و به‌جای آن بر نوآوری و توسعه فناوری تمرکز کنند.

شهردار نیویورک با هدف تقویت تعاملات انسانی، استفاده از ابزارهای هوش مصنوعی مولد را برای مقاطع ابتدایی و راهنمایی ممنوع و برای دبیرستانی‌ها محدود کرد.

آمریکا در نشست سران G۲۰ از کشورهای دیگر خواست برای هوش مصنوعی قوانین وضع نکنند و موضع شرکت های بزرگ این حوزه را اتخاذ کرد.

Anthropic جزئیات دسترسی غیرمجاز مدل‌های Claude به سیستم‌های واقعی در آزمایش‌های امنیتی و مشکلاتی مانند Reward Hacking و عدم هم‌راستایی مدل‌های هوش مصنوعی را منتشر کرد.

بیل گیتس خواستار ملاقات با شی جین پینگ رئیس جمهور چین در سال جاری میلادی است تا اقداماتی جهانی برای کاهش ریسک های فزاینده ناشی از هوش مصنوعی را پیشنهاد دهد.

چت‌بات‌های هوش مصنوعی هر روز اطلاعات بیشتری درباره کاربران به دست می‌آورند؛ از علایق و عادت‌ها گرفته تا دغدغه‌های شخصی، سلامت، روابط و مسائل مالی. شرکت‌هایی مانند OpenAI، گوگل، متا و اپل رویکردهای متفاوتی در زمینه ذخیره، استفاده و پردازش این اطلاعات دارند. اکنون پرسش مهم این است که این داده‌ها فقط برای پاسخ‌های شخصی‌سازی‌شده استفاده می‌شوند یا می‌توانند در آینده به ابزاری برای آموزش مدل‌ها، پیشنهاد محتوا و حتی تبلیغات هدفمند تبدیل شوند.

یوال نوح هراری، نویسنده کتاب Nexus، درباره اعطای حقوق به هوش مصنوعی هشدار داد و خواستار تعیین مرزهای مشخص برای AI پیش از افزایش نفوذ آن شد.

یک مطالعه بزرگ روی ۲۶ هزار دانش‌آموز نشان می‌دهد هوش مصنوعی نمره تکالیف را ۱۸ درصد افزایش می‌دهد، اما می‌تواند نمره امتحان‌ها را تا ۲۰ درصد کاهش دهد.

پژوهشگران امنیتی با استفاده از روش متا-هک توانستند از Microsoft Copilot سرنخ‌هایی درباره آسیب‌پذیری امنیتی آن دریافت کنند؛ جزئیات این حمله را بخوانید.

مقام‌های امنیت سایبری آمریکا درباره یک تهدید فعال علیه کنترل‌گرهای صنعتی سری S7 شرکت زیمنس هشدار داده‌اند؛ مهاجمان با استفاده از ابزارهای هوش مصنوعی، کدهای بهره‌برداری برای هدف قرار دادن زیرساخت‌های حیاتی از جمله شبکه‌های آب، انرژی و صنایع تولیدی توسعه می‌دهند.

مو گاودات، مدیر اجرایی سابق گوگل، معتقد است پیشرفت هوش مصنوعی می‌تواند آموزش دانشگاهی سنتی را در دهه آینده تا حد زیادی بی‌استفاده کند.

یک بررسی جدید نشان می‌دهد مدل‌های هوش مصنوعی می‌توانند بدون دسترسی به GPS یا متادیتای عکس، محل ثبت بسیاری از تصاویر را از روی نشانه‌های بصری تشخیص دهند

پرونده‌های حقوقی علیه xAI بر سر سوءاستفاده از Grok برای تولید تصاویر جنسی جعلی وارد مرحله تازه‌ای شده است. چهارمین شاکی پرونده مدعی است ناپدری‌اش با استفاده از تصاویر دوران کودکی او، هزاران تصویر جعلی تولید کرده است. این پرونده در حالی مطرح شده که تحقیقات قانونی درباره عملکرد Grok و مسئولیت xAI در جلوگیری از سوءاستفاده از این فناوری ادامه دارد.

OpenAI تیم Preparedness را که مسئول ارزیابی خطرات فاجعه‌بار مدل‌های هوش مصنوعی بود منحل کرد و مسئولیت بررسی تهدیدهای سایبری و زیستی را میان تیم‌های تخصصی دیگر تقسیم کرد.

اتکای بیش از حد به هوش مصنوعی می‌تواند کاربران را به اهداف بالقوه‌ای برای مجرمان سایبری تبدیل کند. افراد و شرکت‌ها در مسیر افزایش بهره‌وری و سرعت، بخش قابل‌توجهی از فعالیت‌های خود را بدون انجام بررسی‌های لازم به عوامل هوش مصنوعی واگذار می‌کنند.

مدل هوش مصنوعی چینی GLM-5.3 در آزمایش‌های امنیت سایبری به عملکردی نزدیک به مدل قدرتمند Mythos 5 از Anthropic رسیده است؛ اتفاقی که رقابت چین و آمریکا در حوزه هوش مصنوعی هکری را جدی‌تر می‌کند.