هکرها با سوءاستفاده از ChatGPT و Grok، دستورهای مخرب منتشر می‌کنند

گزارش جدید نشان می‌دهد هکرها با روشی خلاقانه و نگران‌کننده توانسته‌اند مدل‌های هوش مصنوعی مانند ChatGPT و Grok و همچنین موتور جستجوی گوگل را به ابزاری برای انتشار دستورهای مخرب خود تبدیل کنند. این دستورها عملاً مسیر نصب بدافزار روی دستگاه کاربر را هموار می‌کنند.
این هشدار توسط شرکت امنیتی Huntress منتشر شده است. طبق گزارش این شرکت، هکر ابتدا با یک دستیار هوش مصنوعی درباره یک عبارت رایج برای جستجو گفتگو می‌کند و سپس از مدل می‌خواهد دستوری پیشنهاد دهد که کاربر باید آن را در ترمینال اجرا کند. هکرها سپس این گفتگو را با پرداخت هزینه در گوگل تبلیغ می‌کنند تا در صدر نتایج جستجو ظاهر شود. بدین ترتیب، هر کاربری که عبارت مشابهی را در گوگل جستجو کند، با دستوری مخرب مواجه می‌شود که به ظاهر توصیه خود ChatGPT یا Grok است.
Huntress آزمایش‌های خود روی ChatGPT و Grok را پس از کشف یک حمله سرقت‌داده روی مک با نام AMOS آغاز کرده است. در این حمله، کاربر تنها با جستجوی عبارت «clear disk space on Mac» در گوگل و کلیک روی یک لینک تبلیغ شده از ChatGPT، آلوده شده است.
کاربر بدون اینکه از ماهیت مخرب دستور آگاه باشد، آن را در ترمینال اجرا کرده و به‌این‌ترتیب، هکر موفق شده بدافزار AMOS را روی دستگاه او نصب کند. بررسی محققان Huntress نشان می‌دهد که این شیوه حمله در هر دو مدل هوش مصنوعی مشاهده شده است.
از نظر Huntress، نکته ترسناک این حمله توانایی آن در دور زدن تقریباً تمام نشانه‌های هشداردهنده قدیمی است. در این نوع حمله، کاربر نه فایلی ناشناس دانلود می‌کند و نه برنامه مشکوکی نصب می‌کند؛ بلکه اساس کار روی دو ابزار آشنا و معتبر، یعنی گوگل و ChatGPT (یا Grok) است. همین موضوع باعث اعتماد کاربران می‌شود.
با وجود حذف شدن لینک مخرب از نتایج جستجو، Huntress اعلام کرده که این لینک حداقل نیم‌روز پس از انتشار هشدار همچنان در نتایج گوگل قابل مشاهده بوده است.
در نهایت، این شرکت به کاربران توصیه کرده که هیچ دستوری را بدون آگاهی کامل از عملکرد آن، چه در ترمینال و چه در نوار آدرس مرورگر اجرا نکنند؛ حتی اگر پیشنهاد از یک چت‌بات یا لینک معتبر دریافت شده باشد.