یوتیوب سال‌ها با اتکای به جامعه‌ی تولیدکنندگان محتوا رشد کرده، اما افزایش وابستگی این پلتفرم به هوش مصنوعی در بخش نظارت، مشکلات نگران‌کننده‌ای ایجاد کرده است. حذف ناگهانی کانال Enderman با بیش از ۳۹۰ هزار مشترک نمونه‌ی واضح همین بحران بود؛ اتفاقی که بحث‌های گسترده‌ای درباره‌ی تصمیم‌گیری خودکار و نبود نظارت انسانی به‌راه انداخت.

بحران تصمیم‌گیری خودکار در یوتیوب

به‌نقل از SlashGear، ماجرا زمانی شروع شد که کاربران در ردیت گزارش دادند کانال Enderman بدون هیچ هشدار و بازبینی انسانی حذف شده است. آن‌ها معتقد بودند چنین اقداماتی، به‌ویژه وقتی حتی روند اعتراض نیز توسط هوش مصنوعی بررسی می‌شود، تهدیدی جدی برای جامعه‌ی محتواسازان محسوب می‌شود.
Enderman در ویدیویی با عنوان «کانالم قرار است حذف شود» توضیح داد کانال دومش به دلیل تشخیص اشتباه هوش مصنوعی و نسبت‌دادن آن به کانالی با سه اخطار کپی‌رایت مسدود شده است. او تأکید کرد که هیچ ارتباطی با آن کانال ندارد و نمی‌دانسته این تصمیم‌ها می‌توانند کاملاً خودکار انجام شوند.
این اتفاق محدود به Enderman نبود؛ کانال Scrachit Gaming نیز به دلیل مشابهی مسدود شد، اما یوتیوب پس از بررسی انسانی، هر دو کانال را بازگرداند. سرعت این بازگردانی نشان می‌دهد منشأ اتفاق، احتمالاً خطای خودکار الگوریتمی بوده است.
با وجود ادعای یوتیوب مبنی بر اینکه هوش مصنوعی تنها در صورت سطح اطمینان بالا اقدام به حذف می‌کند، هنوز مشخص نیست این سطح چگونه تعریف می‌شود. همین ابهام، همراه با خطر اشتباهات سیستمی، باعث شده تولیدکنندگان محتوا نسبت به فرایندهای نظارتی اعتماد خود را از دست بدهند.
در نهایت، اتکای بیش‌ازحد یوتیوب به تصمیم‌گیری خودکار می‌تواند آسیب جدی به جامعه‌ی تولیدکنندگان وارد کند. هوش مصنوعی برای مدیریت حجم عظیم محتوا ضروری است، اما حذف کانال‌ها باید تحت نظارت مؤثر انسانی انجام شود تا از نابودی ناگهانی سال‌ها تلاش جلوگیری شود.