خطرات هوش مصنوعی

یک قاضی فدرال، چهار وکیل را به دلیل استفاده از هوش مصنوعی و استناد به پرونده‌های حقوقی جعلی، جریمه و از پرونده اخراج کرد.

شرکتی که خود در خط مقدم توسعه هوش مصنوعی قرار دارد، حالا خواستار مقررات سخت‌گیرانه‌تر شده است.

سه نماینده دموکرات در حال پیشبرد لایحه‌هایی هستند که هدف آن‌ها ممنوعیت تسلیحات کاملا خودمختار است.

دانشمندان هشدار می‌دهند که اتکای بیش از حد به هوش مصنوعی می‌تواند خلاقیت، تفکر نقادانه، دامنه توجه و حافظه انسان را تضعیف کند، هرچند با راهکارهایی می‌توان از این آسیب‌ها جلوگیری کرد.

با گسترش چت‌بات‌های هوش مصنوعی و عادت کاربران به دریافت پاسخ‌های فوری، پژوهشگران هشدار می‌دهند اتکای بیش از حد به این ابزارها ممکن است توانایی انسان برای جست‌وجو، تحلیل و تفکر انتقادی را به‌تدریج تضعیف کند.

شرکت اسنپ، مالک اسنپ‌چت، در راستای افزایش بهره‌وری و کاهش هزینه‌ها با اتکا به پیشرفت‌های هوش مصنوعی، حدود ۱۰۰۰ نیروی خود را اخراج می‌کند.

مهندسان نرم‌افزار می‌گویند حالا که هوش مصنوعی خودش کدنویسی را برایشان انجام می‌دهد، کم‌کم توانایی کد زدن را از دست داده‌اند.

این هوش مصنوعی تنها با یک فراخوانی API و در مجموع طی ۹ ثانیه مسیر نابودگرانه خود را طی کرد. عامل این اقدام، کشف یک توکن API بود که دسترسی کامل می‌داد و هیچ‌کس در شرکت حتی نمی‌دانست چنین توکنی وجود دارد.

سم آلتمن، مدیرعامل OpenAI، در واکنش به موج فزاینده نگرانی‌ها درباره جایگزینی نیروی انسانی با هوش مصنوعی، این دیدگاه‌ها را «بیش‌ازحد بدبینانه» خواند و بر نقش تکمیلی این فناوری تاکید کرد.

مطالعه‌ای از ام‌آی‌تی به رهبری ناتالیا کاسمینا بررسی کرده است که آیا اتکای زیاد به هوش مصنوعی مولد می‌تواند فعالیت‌های شناختی مرتبط با نوشتن، مطالعه و حل مسئله را تضعیف کند.

رگولاتورهای مالی انگلیس مذاکرات اضطراری با آژانس امنیت سایبری و بانک های بزرگ این کشور برای ارزیابی ریسک های جدیدترین مدل هوش مصنوعی شرکت آنتروپیک برگزار می کنند.

پزشکان هشدار می‌دهند پشت چهره دوستانه همراهان هوش مصنوعی، خطری پنهان برای سلامت روان در حال شکل‌گیری است.