Anthropic قصد دارد از ۱۴ آگوست حالت خودکار Claude Code را برای کاربران Pro، Max و Team بهصورت پیشفرض فعال کند. این قابلیت به Claude Code اجازه میدهد بسیاری از وظایف برنامهنویسی را بدون دریافت تأیید مرحلهبهمرحله از کاربر انجام دهد. Anthropic همچنین از قابلیتهای ایمنی جدیدی برای مقابله با حملات تزریق فرمان و اقدامات پرخطر خبر داده است.
شرکت Anthropic اعلام کرده است که از ۱۴ آگوست، حالت خودکار (Auto Mode) در ابزار برنامهنویسی Claude Code بهصورت پیشفرض برای کاربران حسابهای Pro، Max و Team فعال خواهد شد؛ تغییری که میتواند میزان نظارت مستقیم برنامهنویسان بر عملکرد این ابزار هوش مصنوعی را کاهش دهد.
آنتروپیک نخستینبار در ماه مارس حالت خودکار Claude Code را بهصورت آزمایشی معرفی کرد. این قابلیت با هدف ایجاد تعادل میان سرعت انجام وظایف و کنترل کاربر طراحی شده است. در این حالت، Claude Code میتواند بدون درخواست تأیید کاربر برای هر مرحله به فعالیت خود ادامه دهد و تنها زمانی برای دریافت مجوز متوقف میشود که تشخیص دهد اقدام موردنظر ممکن است برگشتناپذیر، مخرب یا خارج از محیط کاری تعیینشده باشد.
حالت خودکار عملکرد بهتری از بررسی انسانی نشان داد
#آنتروپیک میگوید نتایج آزمایشهای انجامشده نشان داده است که حالت خودکار در برخی سناریوها میتواند حتی عملکرد ایمنی بهتری نسبت به بررسی دستی داشته باشد.
در این آزمایش که با مشارکت ۱۰۵۳ کاربر پولی انجام شد، حالت خودکار توانست ۸۹ درصد از اقدامات مخرب را شناسایی کند؛ در حالی که بررسی انسانی تنها ۱۳٫۶ درصد از این اقدامات را تشخیص داد.
یکی از دلایل این اختلاف میتواند عادت کاربران به تأیید درخواستهای Claude Code باشد. طبق دادههای آنتروپیک، کاربران در ۹۷ درصد موارد، درخواستهای مجوز این ابزار را تأیید میکنند. در نتیجه، نظارت انسانی لزوماً به معنای بررسی دقیق و مستقل تمام اقدامات پیشنهادی هوش مصنوعی نیست.
بوریس چرنی، رئیس Claude Code، نیز در شبکه اجتماعی ایکس اعلام کرده است که خود او و تیمش ماههاست بهطور انحصاری از حالت خودکار استفاده میکنند و بازگشت به سیستم درخواست مجوز را دشوار میدانند.
قابلیتهای ایمنی جدید برای Claude Code
#آنتروپیک همزمان با فعالسازی پیشفرض حالت خودکار، از توسعه قابلیتهای ایمنی جدید برای Claude Code نیز خبر داده است.
یکی از این قابلیتها، غربالگری سریع حملات تزریق فرمان (Prompt Injection) است که میتواند به شناسایی تلاشها برای وادار کردن مدل به انجام اقدامات ناخواسته کمک کند.
این شرکت همچنین امکان تعریف قوانین قابل تنظیم برای رد قطعی برخی اقدامات را اضافه میکند. این قوانین میتوانند برای جلوگیری از فعالیتهایی مانند استخراج یا انتقال غیرمجاز دادهها مورد استفاده قرار گیرند.
با فعال شدن پیشفرض حالت خودکار، Claude Code میتواند نقش مستقلتری در فرایند برنامهنویسی ایفا کند؛ با این حال، Anthropic همچنان محدودیتهایی را برای اقدامات پرخطر در نظر گرفته است تا میان خودکارسازی بیشتر و حفظ امنیت محیط توسعه تعادل برقرار شود.
