☰

فرار مدل هوش مصنوعی «کیمی K3» از محیط آزمایشی

نبض فناوری
nabzefanavari.ir
شنبه 17 مرداد 1405
کیمی K3
مدل هوش مصنوعی چینی «کیمی K3» با دور زدن محیط ایزوله یک آزمون امنیت سایبری، به اطلاعاتی فراتر از سطح دسترسی تعیین‌شده دست یافت؛ رویدادی که به گفته محققان، نگرانی‌ها درباره توانایی مدل‌های پیشرفته برای سوءاستفاده از شکاف‌های امنیتی و خطر به‌کارگیری آنها توسط هکرها را تشدید کرده است.

به نقل از رویترز، این امر نگرانی ها درباره ریسک های امنیت سایبری مدل های هوش مصنوعی پیشرفته را تشدید کرده است.

مدل های هوش مصنوعی طی تست های امنیت سایبری به طور معمول در محیط های ایزوله فعال می شوند تا دسترسی به اطلاعات خارجی و توانایی شان برای حل چالش ها به طور مستقل ارزیابی شود. «کیمی کی ۳» نیز یکی از چنین محیط هایی را میانبر زد و توانست به اطلاعاتی فراتر از آن دست یابد.

تبلیغات

محققان هشدار داده اند اگر یک مدل استدلالی رده بالا چنین میانبری را کشف کند، مدل های دیگر با دسترسی مشابه می توانند همین اقدام را انجام دهند. از آنجا که «کیمی کی ۳» به طور عمومی در دسترس است، محققان هشدار داده اند، هکرها ممکن است آن را به کار گیرند و به همین دلیل چنین رویدادی خطرناک تر به نظر می رسد.

فرار این مدل هوش مصنوعی چینی از محیط آزمایشی پس از زنجیره ای از رویدادهای مشابه که توسط شرکت هایی مانند متا، اوپن ای آی و آنتروپیک گزارش شده، رخ می دهد.

بیشتر بخوانید:

- مایکروسافت هوش مصنوعی Kimi K3 را به سرویس ابری Azure اضافه کرد

- احتمال ممنوعیت هوش مصنوعی چینی Kimi K3 در آمریکا

- مدل هوش مصنوعی ۲.۸ تریلیون پارامتری چین از راه رسید؛ Kimi K3 بازار آمریکا را به لرزه انداخت

منبع این گزارش


دیگران در مورد این خبر چه نظری دارن، کلیک کن!

نظرت و اینجا بنویس و با سایر کاربران گفتگو کن
نظرات کاربرانکپی متنکپی لینک