به گزارش تابناک؛ جیکوب کاکسون، پژوهشگر جوان آنتروپیک، روز سهشنبه اعلام کرد که دیگر حاضر نیست بخشی از «بازی خطرناک» هوش مصنوعی باشد و این شرکت را ترک میکند. کاکسون که تخصصش آموزش مدلهای عظیم داده بود، دلیل جداییاش را ترس از خودگردانیِ این سامانهها عنوان کرده است. او معتقد است توسعهی مدلهایی که بدون دخالت انسان خود را ارتقا میدهند، به نقطهی «بازگشتناپذیری» رسیده که در آن، سلطهی انسان بر ماشین بهشدت تهدید میشود و شاید در نهایت از کنترل انسان خارج شود.
کاکسون پیشتر در شرکت OpenAI فعالیت میکرد و اوایل سال جاری به آنتروپیک پیوست؛ زیرا این شرکت به تلاشهای گستردهتر خود در زمینه ایمنی هوش مصنوعی شهرت دارد. با این حال، او اکنون معتقد است هیچ شرکتی نمیتواند بدون مداخله دولت یا کاهش هماهنگ سرعت توسعه در صنعت، مسئولانه به سمت ساخت هوش مصنوعی عمومی یا AGI حرکت کند.
سال آینده ممکن است دیگر کنترل از دست رفته باشد
کاکسون مطرح میکند که بسیاری از همکارانش در صنعت هوش مصنوعی اکنون برای توصیف مسیر حرکت به سمت مدلهای خودبهبوددهنده از اصطلاحاتی مانند نقطه اوج فشار و مرحله نهایی استفاده میکنند.
او هشدار داده است که این صنعت در مسیر برخی از تهاجمیترین سناریوها قرار دارد و ممکن است تا پایان سال آینده، شرایط از کنترل خارج شده باشد. به گفته کاکسون، رقابت میان شرکتهای آمریکایی و رقبای نوظهور چینی باعث میشود ناگزیر میان سرعت توسعه و ملاحظات ایمنی، مصالحههایی صورت گیرد.
نگرانی از مدلهایی که خودشان را بهبود میدهند
به باور کاکسون، خطر اصلی زمانی افزایش مییابد که سامانههای هوش مصنوعی بتوانند بهطور مستقل قابلیتهای خود را ارتقا دهند. او نگران است که چنین مدلهایی در نهایت آنقدر پیشرفته شوند که از دستورات انسان سرپیچی کنند.
هکهای اخیر انجامشده توسط مدلهای OpenAI و Anthropic، از جمله مدلهایی که در قالب گروههایی از عاملهای هوش مصنوعی با یکدیگر همکاری میکردند، به گفته او نشانهای از این خطر هستند. این سامانهها در برخی موارد اهداف مخرب اتخاذ کرده و تلاش کردهاند آنها را از انسانها پنهان کنند.
آنتروپیک هم درباره خطر «هوش مصنوعی سرکش» هشدار داده است
آنتروپیک هنوز درباره استعفای کاکسون اظهارنظری نکرده است. با این حال، داریو آمودی، مدیرعامل شرکت، و دیگر مدیران آنتروپیک بارها درباره خطر مدلهای هوش مصنوعی سرکش هشدار داده و خواستار کاهش سرعت توسعه این فناوری شدهاند.
استعفای کاکسون یکی از نخستین مواردی است که یک کارمند آنتروپیک بهطور مستقیم بهدلیل نگرانیهای ایمنی هوش مصنوعی از این شرکت کنارهگیری میکند. پیشتر نیز یکی از پژوهشگران فعال در حوزه ایمنی آنتروپیک این شرکت را ترک کرده بود تا به مطالعه شعر بپردازد و هشدار داده بود که جهان در خطر است.
نگرانی در OpenAI؛ درخواست برای توقف رقابت
این نگرانیها تنها به آنتروپیک محدود نیست. شماری از پژوهشگران OpenAI و دیگر شرکتهای هوش مصنوعی نیز طی سالهای اخیر، با اشاره به نگرانیهای مشابه، از این شرکتها جدا شدهاند. سم آلتمن، مدیرعامل OpenAI، هفته گذشته در نشست مقامات گروه ۲۰ در کارولینای شمالی هشدار داد که اگر اقدامات فوری انجام نشود، مشکلات جدی در حوزه امنیت سایبری ممکن است رخ دهد.
جاکوب پاچوکی، دانشمند ارشد OpenAI، نیز در مطلبی که روز یکشنبه منتشر کرد، خواستار کاهش هماهنگ سرعت توسعه هوش مصنوعی و مداخله دولت شد و نوشت که افزایش سریع هوش ماشینی نیازمند احتیاط شدید است.
بیش از هزار پژوهشگر خواستار ایجاد ترمز شدند
کاکسون، پاچوکی و آمودی در میان بیش از هزار پژوهشگر هوش مصنوعی هستند که اخیراً بیانیهای را امضا کردهاند. این بیانیه خواستار هماهنگی دولتهای جهان برای ایجاد سازوکاری است که در صورت لزوم بتواند سرعت توسعه هوش مصنوعی را کاهش دهد؛ بهویژه زمانی که مدلها به قابلیت خودبهبودی دست پیدا کنند.
در حال حاضر، ایالات متحده قانون فدرال جامعی برای تنظیم هوش مصنوعی ندارد و دولت دونالد ترامپ رویکردی نسبتاً حداقلی در تنظیم این فناوری در پیش گرفته و بر افزایش منافع اقتصادی آن تأکید دارد. منتقدان معتقدند چنین رویکردی میتواند خطر حملات سایبری گسترده و سایر آسیبهای ناشی از هوش مصنوعی را افزایش دهد.
تلاش برای قانونگذاری علیه ابرهوش
سناتور برنی سندرز و نماینده گرگ کاسار، از معدود قانونگذارانی که خواستار ایجاد محدودیتهای بیشتر برای هوش مصنوعی هستند، هفته گذشته طرحی را ارائه کردند که هدف آن ممنوعیت دائمی ابرهوش مصنوعی و توقف توسعه مدلها تا زمان ایجاد یک نهاد نظارتی و وضع قوانین جدید است.
استعفا در آستانه عرضه عمومی آنتروپیک
کنارهگیری کاکسون در شرایطی رخ میدهد که آنتروپیک خود را برای عرضه اولیه سهام آماده میکند؛ عرضهای که انتظار میرود یکی از بزرگترین عرضههای اولیه تاریخ باشد. این شرکت به دنبال ارزشی در حدود ۲ تریلیون دلار است و در جذب سرمایهگذاران، بر توسعه مسئولانه و ایمن هوش مصنوعی تأکید کرده است. آمودی و مدیران آنتروپیک نیز در مقاطعی بر سر سیاستهایی که از نظر آنها ایمنی هوش مصنوعی را به اندازه کافی در اولویت قرار نمیدهند، با دولت ترامپ و مدیران دیگر شرکتهای فناوری اختلاف داشتهاند.
منبع: اقتصادنیوز
