گوگل تا ۳۰ هزار دلار پاداش برای گزارش باگ‌های سرویس‌های هوش مصنوعی خود ارائه می‌دهد

گوگل برنامه جدیدی را برای اهدای پاداش به محققان امنیتی که باگ‌های محصولات هوش مصنوعی این شرکت را شناسایی می‌کنند، راه‌اندازی کرده است.
بر اساس گزارش ورج، در این برنامه، گوگل انواع باگ‌هایی را که می‌تواند منجر به اقدامات غیرمجاز یا خطرناک از طریق هوش مصنوعی شود، شناسایی کرده است. این باگ‌ها شامل مواردی مانند تزریق پرامپت که ممکن است باعث باز شدن درب خانه توسط Google Home یا تزریق پرامپت برای استخراج داده‌ها و ارسال آن‌ها به حساب کاربری مهاجم باشد.
باگ بانتی هوش مصنوعی گوگل تا ۳۰ هزار دلار پاداش در نظر می‌گیرد. طبق این برنامه، باگ‌هایی که از یک مدل زبانی بزرگ یا سیستم هوش مصنوعی مولد برای سوءاستفاده از حفره‌های امنیتی استفاده می‌کنند، مشمول پاداش خواهند شد.
این باگ‌ها ممکن است شامل تغییر داده‌ها یا دسترسی به حساب‌های کاربری فردی برای ایجاد آسیب یا انجام عملیات ناخواسته باشند. به عنوان مثال، یکی از آسیب‌پذیری‌های کشف‌شده قادر بود از طریق رویدادهای آلوده در Google Calendar، پرده‌ها را باز کند و چراغ‌ها را خاموش نماید.
گوگل اعلام کرده که از آغاز این برنامه و دعوت از محققان برای شناسایی خطرات احتمالی در محصولات هوش مصنوعی، تاکنون بیش از ۴۳۰ هزار دلار به محققان پاداش داده است.
در این برنامه، برای شناسایی باگ‌ها و آسیب‌پذیری‌ها در محصولات اصلی گوگل، از جمله جستجو، اپلیکیشن‌های Gemini و برنامه‌های کلیدی مانند Gmail و Drive، پاداش‌هایی تا سقف ۲۰ هزار دلار در نظر گرفته شده است. همچنین، برای کشفیات باکیفیت‌تر و گزارش‌های دقیق‌تر، ضریب پاداش وجود دارد که می‌تواند مبلغ کل پاداش را به ۳۰ هزار دلار افزایش دهد.
اما برای باگ‌هایی که در محصولات دیگر گوگل مانند Jules یا NotebookLM کشف می‌شوند یا برای موارد سوءاستفاده در سطوح پایین‌تر، مانند سرقت پارامترهای محرمانه مدل‌های هوش مصنوعی، پاداش کمتری در نظر گرفته شده است.