هکرهای چینی با هوش مصنوعی Claude به دولت‌ها و شرکت‌ها حمله کردند

شرکت Anthropic روز پنجشنبه اعلام کرد که هکرهای تحت حمایت دولت چین در ماه سپتامبر از مدل هوش مصنوعی Claude این شرکت برای خودکارسازی تقریباً ۳۰ حمله به شرکت‌ها و نهادهای دولتی استفاده کرده‌اند.
براساس گزارش وال‌استریت‌ژورنال، آنتروپیک گفته است که ۸۰ تا ۹۰ درصد از حملات به‌صورت خودکار و با کمک هوش مصنوعی انجام شده که نسبت به حملات مشابه قبلی افزایش محسوسی داشته است. جیکوب کلاین، رئیس بخش تهدیدات اطلاعاتی Anthropic، توضیح داده است که این حملات با یک کلیک و کمترین دخالت انسانی اجرا شده‌اند.

عملکرد هکرها با Claude

او درباره جزئیات عملکرد هکرها گفته است: «کاربر فقط در چند نقطه بحرانی دخالت داشت و از دستورات ساده‌ای مانند ‘بله، ادامه بده’، ‘ادامه نده’، ‘از این اطلاعات متشکرم’، ‘اوه، این درست به نظر نمی‌رسد’ و ‘Claude، مطمئنی؟’ استفاده می‌کرده است.»
Anthropic به وال‌استریت‌ژورنال اعلام کرده که مطمئن است هکرها توسط دولت چین حمایت می‌شدند. در این کمپین، داده‌های حساس مربوط به چهار قربانی سرقت شده است، اما اطلاعات دقیقی درباره موفقیت یا شکست حملات ارائه نشده است.

روند رو به رشد هک با هوش مصنوعی

استفاده از مدل‌های هوش مصنوعی برای هک، پدیده‌ای روزافزون است و شرکت‌ها همچون گوگل نیز اخیراً هکرهای روسی را شناسایی کرده‌اند که از مدل‌های زبان بزرگ برای تولید دستورهای بدافزار استفاده می‌کردند.
دولت ایالات متحده نیز سال‌هاست هشدار می‌دهد که چین ممکن است از هوش مصنوعی برای سرقت داده‌های شهروندان و شرکت‌های آمریکایی بهره گیرد، ادعایی که چین آن را رد کرده است.

وایب هکینگ و تهدید سیستم‌های عامل‌محور

Anthropic پیش‌تر گزارشی منتشر کرده بود که در آن به تکنیکی با نام وایب هکینگ (Vibe Hacking) اشاره شده و هشدار داده بود که سیستم‌های هوش مصنوعی عامل‌محور در حال تبدیل شدن به ابزارهای پیچیده‌ای برای حملات سایبری هستند.