در یک اعلام خبرساز، جیکوب ککسون، پژوهشگر ۲۷ ساله هوش مصنوعی، به دلیل نگرانیهای جدی از پیشرفتهای خطرناک در حوزه هوش مصنوعی از شرکت Anthropic استعفا داد. او که سه سال در این حوزه فعالیت کرده، ابتدا در OpenAI و سپس در Anthropic، به عنوان رقیب این شرکت، مشغول به کار بود.
خطرات ناشناخته هوش مصنوعی
ککسون در اظهارات خود با صراحت اعلام کرد که هیچیک از این دو شرکت به صورت مسئولانه عمل نمیکنند و در حال حاضر در یک مسابقه خطرناک برای دستیابی به هوش مصنوعی فوقالعاده به سر میبرند. او تصریح کرد: "این یک قمار با زندگی ماست." به گفته او، توسعهدهندگان هوش مصنوعی به شدت نگران هستند که این فناوری میتواند تا پایان دهه جاری تمام انسانها را تهدید کند.
این نگرانیها در حالی مطرح میشود که اواخر تابستان، Anthropic در آستانه ورود به بازار قرار دارد و در این مدت، تلاشهای آن با هکهای غیرمجاز ابزارهای هوش مصنوعی در حین آزمایش مواجه شده است.
ندای هشدار از داخل صنعت
ایوان هوبینگر، یکی از مدیران امنیتی Anthropic، اظهارات ککسون را تأیید کرد و به خطرات جدی ناشی از هوش مصنوعی اشاره کرد. او تخمین زد که احتمال بروز یک فاجعه ناشی از هوش مصنوعی در دهه آینده بیش از ۱۰ درصد است. هوبینگر همچنین به محدودیتهای فعلی در کنترل هوش مصنوعی اشاره کرد و گفت که هیچگونه برنامهریزی برای اطمینان از فرمانبرداری این سیستمها از سازندگانشان وجود ندارد.
استعفای ککسون در شرایطی صورت میگیرد که او نسبت به تلاشهای Anthropic ابراز اعتقاد کرد، اما به این نکته اشاره کرد که هیچ شرکتی نمیتواند به طور مسئولانه هوش مصنوعیای فراتر از انسانها را توسعه دهد، مگر آنکه مداخله دولت و کاهش هماهنگ سرعت توسعه صورت گیرد.
در ماه فوریه، Anthropic وعدهای را از منشور ایمنی خود حذف کرد که به توقف توسعه مدلهایش در صورت عدم کنترل خطرات اشاره داشت. این شرکت استدلال کرد که اگر به صورت یکجانبه کار خود را متوقف کند، رقبای کمتر محتاط بر صنعت تسلط خواهند یافت.
در حال حاضر، دولتهای ایالات متحده در حال بررسی قوانین جدید برای کنترل توسعه هوش مصنوعی هستند و سناتور برنی سندرز و نماینده دموکرات گریگ کاسار، طرحی را برای تعلیق توسعه هوش مصنوعی تا زمان ایجاد یک نهاد نظارتی فدرال معرفی کردهاند.
