«وایب هکینگ»؛ گزارش آنتروپیک تهدید نوظهور عامل‌های هوش مصنوعی را نشان می‌دهد

دیجیاتو چهارشنبه 05 شهریور 1404 - 19:07
هکرها در یک ماه با عامل هوشمند Claude داده‌های 17 سازمان جهانی را هدف قرار داده‌اند. The post «وایب هکینگ»؛ گزارش آنتروپیک تهدید نوظهور عامل‌های هوش مصنوعی را نشان می‌دهد appeared first on دیجیاتو.

گزارش تازه شرکت آنتروپیک نشان می‌دهد که پدیده‌ای نوظهور به‌نام «وایب هکینگ» (Vibe hacking) به یکی از تهدیدهای جدی در حوزه هوش مصنوعی تبدیل شده است. وایب هکینگ شیوه‌ای مشابه Vibe Coding است که کاربر را با توصیف درخواست به نتیجه می‌رساند.

این گزارش که با عنوان Threat Intelligence منتشر شده، جزئیات گسترده‌ای درباره سوءاستفاده مجرمان سایبری از ایجنت هوش مصنوعی Claude و سایر عامل‌های هوش مصنوعی‌ ارائه می‌کند. در بخشی از این گزارش آمده است که سیستم‌های هوش مصنوعی عامل‌محور اکنون درحال تبدیل‌شدن به ابزارهایی برای حملات سایبری هستند و می‌توانند عملیات‌های پیچیده‌ای را اجرا کنند.

سوءاستفاده هکرها از عامل‌های هوش مصنوعی برای Vibe-hacking

براساس این گزارش، یکی از باندهای سازمان‌یافته سایبری توانسته تنها در مدت یک ماه از طریق Claude Code داده‌های محرمانه 17 سازمان مختلف در حوزه‌های درمانی، خدمات اضطراری، نهادهای مذهبی و حتی سازمان‌های دولتی را استخراج کند و از آنها باج بگیرد. نکته مهم این است که پیش‌تر چنین حملاتی نیازمند تیمی کامل از مهاجمان ماهر بود اما اکنون یک فرد با کمک سیستم‌های عامل‌محور می‌تواند کل فرایند را به تنهایی پیش ببرد.

Claude در این پرونده حتی نقش اپراتور را ایفا کرده و با تکیه بر تکنیک‌های روانشناختی درخواست‌های باج‌گیری هدفمند نیز تولید کرده است. مجرمان سپس ارزش این داده‌ها از جمله اطلاعات درمانی، مالی و دولتی را در دارک وب تخمین زده و درخواست‌هایی معادل بیش از 500 هزار دلار داشته‌اند.

Vibe-hacking؛ تهدید نوظهور در حوزه هوش مصنوعی

در نمونه‌ای دیگر، هوش مصنوعی کلود به مأموران فناوری اطلاعات کره شمالی کمک کرده تا با هویت‌های جعلی در شرکت‌های Fortune 500 آمریکا استخدام شوند و درآمد حاصل را صرف برنامه‌های تسلیحاتی کنند. «جیکوب کلاین»، مدیر تیم تهدیدات آنتروپیک، توضیح می‌دهد که بسیاری از این افراد حتی دانش برنامه‌نویسی یا مهارت کافی در زبان انگلیسی نداشته‌اند و عملاً بیشتر کارهایشان را با کمک کلود انجام داده‌اند.

نمونه سوم به یک کلاهبرداری عاشقانه مربوط می‌شود. یک ربات تلگرام با بیش از 10 هزار کاربر ماهانه، کلود را به‌عنوان مدلی با EQ (هوش هیجانی) بالا معرفی کرده و از آن برای تولید پیام‌های احساسی و متقاعدکننده جهت فریب قربانیان در آمریکا، ژاپن و کره جنوبی بهره گرفته است. حتی نمونه‌ای در گزارش نشان می‌دهد که کاربر عکس مردی با باکراوات را بارگذاری کرده و از کلود درباره بهترین شیوه تعریف‌کردن از او پرسیده است.

آنتروپیک در این گزارش اذعان می‌کند که اگرچه سیستم‌های امنیتی پیشرفته‌ای برای جلوگیری از سوءاستفاده توسعه داده اما همچنان افراد خرابکار می‌توانند راه‌های دورزدن این محدودیت‌ها را پیدا کنند. این فناوری موانع ورود به حوزه جرایم سایبری را پایین آورده و باعث شده مجرمان بتوانند پروفایلی از اطلاعات قربانیان تهیه کنند، داده‌ها را سرقت و تحلیل نمایند، هویت‌های جعلی بسازند و حتی اطلاعات کارت اعتباری قربانیان را بدزدند.

در پایان گزارش تأکید شده که اگرچه این مطالعات مربوط به کلود بوده اما حملات Vibe Coding به‌طور مشابه در سایر مدل‌های هوش مصنوعی پیشرفته نیز مشاهده می‌شود. آنتروپیک اعلام کرده در همه موارد حساب‌های مرتبط را مسدود کرده است. به‌علاوه، سامانه‌های تازه‌ای برای تشخیص حملات ایجاد و اطلاعات با نهادهای دولتی و امنیتی به اشتراک گذاشته است. کلاین می‌گوید اکنون تغییر بزرگی در زمینه ریسک‌های AI شکل گرفته است، زیرا این سیستم‌ها دیگر تنها چت‌باتی ساده نیستند بلکه قادرند اقدامات چندمرحله‌ای و عملیاتی واقعی انجام دهند.

منبع خبر "دیجیاتو" است و موتور جستجوگر خبر تیترآنلاین در قبال محتوای آن هیچ مسئولیتی ندارد. (ادامه)
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت تیترآنلاین مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویری است، مسئولیت نقض حقوق تصریح شده مولفان از قبیل تکثیر، اجرا و توزیع و یا هرگونه محتوای خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.