گوگل مدل Gemma را به‌دلیل انتشار اطلاعات نادرست درباره سناتور بلکبرن از AI Studio حذف کرد

بر اساس جدیدترین گزارش‌ها، سناتور جمهوری‌خواه مارشا بلکبرن مدل هوش مصنوعی Gemma را به انتشار اطلاعات نادرست درباره خود متهم کرده است. به دنبال این اتهامات، گوگل تصمیم گرفت این مدل را از پلتفرم AI Studio حذف کند.
بلکبرن در نامه‌ای به ساندار پیچای، مدیرعامل گوگل، اعلام کرد که Gemma در پاسخ به پرسشی درباره خود، اطلاعات نادرستی منتشر کرده و ادعاهایی بی‌پایه درباره یک پرونده قضایی منتشر کرده است. طبق گزارش‌ها، این ادعاها هیچ مبنای واقعی نداشتند و به منابع غیرمرتبط هدایت می‌شدند.
بلکبرن همچنین به یک پرونده مشابه اشاره کرد که رابی استارباک، فعال محافظه‌کار، علیه گوگل مطرح کرده بود. او اعلام کرد که مدل‌های هوش مصنوعی گوگل از جمله Gemma او را با اتهام‌های نادرست مانند «متجاوز به کودکان» متهم کرده‌اند. بلکبرن تاکید کرد که این اطلاعات اشتباه به معنای افترا هستند و توسط یک مدل هوش مصنوعی منتشر شده‌اند.
گوگل توضیح داد که هدف اصلی مدل Gemma خدمت به توسعه‌دهندگان و امکان ادغام آن در محصولات مختلف بوده است و این مدل برای استفاده عمومی طراحی نشده بود. به دنبال این رخداد، گوگل دسترسی به این مدل در AI Studio را متوقف کرد، اما توسعه‌دهندگان همچنان از طریق API به آن دسترسی دارند.
این موضوع بار دیگر نشان داد که هوش مصنوعی هنوز با چالش‌های جدی در زمینه دقت اطلاعات روبه‌رو است و هنوز راه‌حلی قطعی برای تضمین صحت اطلاعات مدل‌ها وجود ندارد. بلکبرن همچنین بر لزوم توقف دسترسی به این مدل تا زمانی که کنترل کامل بر تولید اطلاعات برقرار شود، تأکید کرد.
این بحث همچنین به نگرانی‌های گسترده‌تری درباره سوگیری سیاسی و سانسور در هوش مصنوعی دامن زده است. برخی از حامیان ترامپ معتقدند که سیستم‌های هوش مصنوعی گوگل به‌ویژه در برابر شخصیت‌های محافظه‌کار سوگیری دارند. با این حال، گوگل اعلام کرده است که همچنان به بهبود و کاهش خطاهای مدل‌های خود متعهد است.