جرد کپلان، دانشمند ارشد شرکت Anthropic، هشدار داده است که انسان‌ها در آستانه یک تصمیم‌گیری تاریخی درباره آینده هوش مصنوعی قرار دارند؛ تصمیمی که به گفته او می‌تواند کنترل آینده را به‌طور کامل از دست بشر خارج کند. کپلان می‌گوید این انتخاب سرنوشت‌ساز ممکن است خیلی زودتر از انتظار و در بازه ۲۰۲۷ تا ۲۰۳۰ رخ دهد؛ جایی که انسان باید مشخص کند آیا اجازه می‌دهد مدل‌های هوش مصنوعی بدون نظارت انسانی، خودشان را آموزش دهند و تکامل پیدا کنند یا نه؛ مسیری که او از آن با عنوان ریسک نهایی یاد می‌کند.
به باور کپلان، آزاد گذاشتن این روند می‌تواند به انفجار هوش و ظهور هوش جامع مصنوعی (AGI) منجر شود؛ سیستمی که از نظر توانایی‌های شناختی با انسان برابری می‌کند یا حتی از آن فراتر می‌رود. هرچند چنین سناریویی می‌تواند دستاوردهای بزرگی در علم و پزشکی به همراه داشته باشد، اما روی تاریک آن، رشد مهارنشده هوش مصنوعی و از دست رفتن کنترل انسانی است؛ وضعیتی که به گفته کپلان ترسناک بوده و مقصد نهایی آن مشخص نیست.
او همچنین هشدار می‌دهد که طی دو تا سه سال آینده، هوش مصنوعی قادر خواهد بود بخش بزرگی از کارهای دفتری را انجام دهد؛ دیدگاهی که با نگرانی‌های چهره‌هایی مانند جفری هینتون، سم آلتمن و داریو آمودی هم‌راستاست. با این حال، کپلان تأکید می‌کند توقف پیشرفت هوش مصنوعی بعید است و این فناوری به احتمال زیاد مسیر بهبود سریع خود را ادامه خواهد داد؛ پرسش اصلی این است که بشر تا چه اندازه می‌تواند پیامدهای آن را مدیریت کند.