رئیس آنتروپیک خواستار کاهش سرعت توسعه هوش مصنوعی شد

بی بی سی: مدیر شرکت هوش مصنوعی آنتروپیک خواستار کاهش سرعت توسعه مدل‌های هوش مصنوعی و نظارت دقیق بر روند توسعه آنها شده است.

 

داریو آمودی در یادداشتی که در اینترنت منتشر کرده ، نوشته است که مضوع و مسئله، اصل توسعه هوش مصنوعی نیست اما خطرات مرتبط با آن «جدی» هستند و باید شرکت‌ها و دولت‌ها فرصت مقابله با این خطرات را داشته باشند.

 

مدیران دو شرکت رقیب در حوزه هوش مصنوعی، سم آلتمن، مدیرعامل اوپن‌ای‌آی، و ایلان ماسک، نیز گفته‌اند که با آقای آمودی موافق‌اند.

 

در هفته‌های اخیر نگرانی‌ها درباره خطرات احتمالی این فناوری افزایش یافته است. یک پژوهشگر هوش مصنوعی که آنتروپیک را ترک کرده است، به بی‌بی‌سی گفت: «با این سرعت فعلی پیشرفت [هوش مصنوعی]، اگر روند توسعه آن را کاهش ندهیم، احتمال زیادی وجود دارد که همه ما در آینده‌ای نزدیک جان خود را از دست بدهیم.»

 

جیکوب کاکسون به لورا کونزبرگ گفت، افرادی که در شرکت‌های هوش مصنوعی کار می‌کنند «واقعا ترسیده‌اند... واقعا نگران سرنوشت بشریت در دو سال آینده هستند».

 

آقای کاکسون گفت: «اصلا اغراق نیست اگر بگوییم افرادی که هم در تأسیس این شرکت‌ها و هم در ساخت این فناوری نقش دارند، معتقدند احتمال انقراض بشر وجود دارد.»

 

آقای آمودی، مدیر شرکت هوش مصنوعی آنتروپیک، در یادداشت خود با عنوان «باید سرعت پیشروی مرزهای فناوری را کنترل کنیم» که روز شنبه منتشر شد، یک برنامه سه‌مرحله‌ای پیشنهاد کرده است که شامل نظارت مستقل بر مدل‌های هوش مصنوعی در زمان توسعه، وضع مقررات در سطح صنعت و همچنین مقررات جهانی می‌شود.

 

پس از انتشار این پیشنهاد، حتی رقبای آنتروپیک نیز از ایده استفاده از ناظران مستقل برای ارزیابی ایمنی مدل‌ها در زمان توسعه حمایت کردند.

 

سم آلتمن، در شبکه اجتماعی ایکس نوشت: «با داریو موافقم که باید سرعت پیشروی مرزهای فناوری را تنظیم و کنترل کنیم.» او استفاده از ارزیاب‌های مستقل را «ایده‌ای عالی» خواند.

 

آقای آلتمن در مصاحبه‌ای جدید نیز نگرانی‌های مشابهی درباره ایمنی مطرح کرد و به مجله فورچون گفت، استانداردها هنوز «در جایگاهی نیستند» که بتوان بر اساس آنها قابلیت‌های هوش مصنوعی را بسیار بیشتر توسعه داد و همچنین هشدار داد که به اعتقاد او، هوش مصنوعی خارج از کنترل انسان «قطعا» امکان‌پذیر است.

 

ایلان ماسک، بنیانگذار شرکت ایکس ای‌آی که سازنده گروک است، نیز گفت مدیر آنتروپیک «درست می‌گوید.»

 

این هشدارها باعث افزایش درخواست‌ها برای اقدام شده است، دونالد ترامپ، رئیس‌جمهور آمریکا، هم که تاکنون این نگرانی‌ها را انکار کرده بود، پنجشنبه گفت، نگران است که «اگر در زمینه هوش مصنوعی پیروز نشویم، در موقعیت بسیار بدی قرار خواهیم گرفت».

 

با قابلیت‌های هرچه قدرتمندتر مدل‌های جدید هوش مصنوعی، نگرانی‌ها درباره امنیت سایبری نیز افزایش یافته است.

 

پس از آن که در ماه آوریل مشخص شد، مدل «مایتوس» آنتوروپیک می‌تواند به‌طور مستقل از محیط آزمایشی موسوم به «سندباکس» خارج شود، این شرکت این مدل خود را در اختیار عموم قرار نداد.

 

اوپن‌ای‌آی نیز در آستانه عرضه جدیدترین مدل «آسترا»، با اشاره به نگرانی‌های امنیت سایبری اعلام کرد که برخی جنبه‌های توسعه این مدل را متوقف کرده است.

 

آمودی گفت عامل‌های هوش مصنوعی اوپن‌ای‌آی «مانند یک گروه به‌شدت متعصب و وفادار» عمل کرده بودند. اوپن‌ای‌آی نیز اعلام کرده است که در پی این موضوع، آموزش برخی مدل‌ها و ابزارهای پیشرفته هوش مصنوعی را کاهش داده است.

 

موضوع ایمنی همچنین یکی از محورهای اصلی در رقابت میان آنتروپیک و اوپن‌ای‌آی شده است.

 

آقای آمودی که پیش‌تر معاون اوپن‌ای‌آی بود، گفته است که در سال ۲۰۲۱ آنتروپیک را بنیان گذاشت تا بتواند مدل‌های هوش مصنوعی ایمن‌تر و قابل‌اعتمادتر بسازد.

 

او در یادداشت اینترتی خود اشاره کرده است که که هوش مصنوعی با سرعتی «به‌مراتب بیشتر» پیشرفت کرده است، از جمله در زمینه «توانایی ساخت نسل بعدی هوش مصنوعی.»

 

او همچنین به حادثه‌ای در ارتباط با رقیب خود، اوپن‌ای‌آی، اشاره کرد که در ماه ژوئیه مشخص شد عامل‌های این شرکت به اهداف خارجی حمله سایبری کرده بودند؛ اهدافی که از آنها خواسته نشده بود به آنها حمله کنند.

 

آقای آمودی خواستار «توسعه هوش مصنوعی با سرعتی متعادل شد که ضمن بهره‌گیری از مزایای آن، ایمنی‌اش را تضمین کند».

 

او گفت این به معنای «توقف آموزش مدل‌ها یا پیشرفت فنی نیست، بلکه به این معناست که اطمینان حاصل شود شرکت‌ها زمان کافی برای همسو کردن و ایمن‌سازی مدل‌های خود اختصاص می‌دهند و ارزیاب‌های مستقل نیز این موضوع را تایید می‌کنند».

 

آقای آمودی اعلام کرد که آنتروپیک به‌طور «یک‌جانبه» به این رویکرد متعهد خواهد بود و از دولت‌ها نیز خواست «شرکت‌های پیشرو دیگر را ملزم به پیروی از آنها کنند.»

 

داریو آمودی گفت که می‌داند ممکن است مقررات نتوانند همپای سرعت پیشرفت هوش مصنوعی حرکت کنند و به همین دلیل از شرکت‌های هوش مصنوعی خواست هم‌زمان با مقررات دولتی، «به‌طور داوطلبانه با یکدیگر همکاری کنند تا استانداردهایی را تعیین کنند».

 

مدیرعامل آنتروپیک البته به پیامدهای کاهش سرعت توسعه بر این صنعت و رقابت با توسعه‌دهندگان بزرگ در سراسر جهان، به‌ویژه چین، اشاره کرد: «معتقدم اگر کاهش سرعت [توسعه هوش مصنوعی] حتی یک یا دو سال بیشتر به ما فرصت دهد قبل از این مدل‌های هوش مصنوعی به سطوح بحرانی قابلیت‌های خود برسند ما می توانیم از این زمان برای پیشبرد همسوسازی استفاده کنیم و خطر وقوع یک اتفاق بسیار جدی را به میزان زیادی کاهش دهیم.»

 

او گفت که این کار باید به‌صورت هماهنگ انجام شود، «بدون این که مزیت تجاری یا پیشتازی آمریکا در زمینه هوش مصنوعی قربانی شود». به گفته او البته این کاهش سرعت باید کنترل شده و محدود باشد، زیرا در غیر این صورت ممکن است چین از آمریکا پیش بیفتد.

 

او از دولت آمریکا خواست اقداماتی انجام دهد تا تراشه‌های هوش مصنوعی شرکت‌های آمریکایی به چین فروخته نشود یا این فناوری در اختیار کشورهای اقتدارگرا قرار نگیرد.

 

با این حال، جیکوب کاکسون، کارمند سابق آنتروپیک، به بی‌بی‌سی گفت که تلاش برای کاهش سرعت توسعه باید فراتر از آمریکا باشد: «اگر بخواهیم از شکل‌گیری یک رقابت در سطح بین‌المللی جلوگیری کنیم، باید نوعی کاهش سرعت هماهنگ با چین وجود داشته باشد.»

 

یادداشت آقای آمودی واکنش‌های گسترده‌ای را به دنبال داشته است.

 

کلمان دلاگو، مدیرعامل پلتفرم هوش مصنوعی «هاگینگ فیس»، گفت پروژه جدیدی با عنوان «ابتکار همسوسازی باز» راه‌اندازی می‌کند و می‌خواهد از جمله «ارزیاب‌های مستقر» باشد که آقای آمودی آنها را بخشی از راه‌حل پیشنهادی خود می‌داند.

 

اوایل امسال، هاگینگ فیس هدف حمله عامل‌های هوش مصنوعی اوپن‌ای‌آی قرار گرفت که این موضوع اعتراض‌هایی را درباره ایمنی هوش مصنوعی برانگیخت.

 

آقای دلاگو در شبکه اجتماعی ایکس نوشت: «بیایید با شفاف‌تر کردن هوش مصنوعی، آن را ایمن‌تر کنیم.»

 

آقای ماسک که از پیشنهاد آمودی نیز حمایت کرده است، پیش‌تر آنتروپیک را «شیطان» خوانده بود، اما پس از امضای قراردادی ۱۵ میلیارد دلاری برای فروش ظرفیت پردازشی به آنتروپیک در ماه مه، لحن خود را تغییر داده است.

 

با این حال، برخی ناظران معتقدند یادداشت آقای آمودی بیش از آن که درباره ایمنی باشد، تلاشی برای متمرکز کردن کنترل فناوری هوش مصنوعی است.

 

چمات پالیهاپیتیا، سرمایه‌گذار و یکی از مجریان پادکست فناوری «آل-این»، نوشت: «داریو تلاش می‌کند، بگوید که باید جلوی منبع باز شدن (دسترسی کدها برای همه) را گرفت و قدرت عظیم فناوری و اقتصادی را در آنتروپیک متمرکز کرد.»

 

ایده کاهش سرعت یا حتی توقف توسعه هوش مصنوعی مدت‌هاست در بخش‌هایی از سیلیکون‌ولی با تردید مواجه شده است. منتقدان، توسعه‌دهندگان بزرگ، هوش مصنوعی را متهم می‌کنند که برای بازاریابی، درباره قابلیت‌های این فناوری بزرگ‌نمایی می‌کنند.

 

طبق گزارش‌ها، آنتروپیک و اوپن‌ای‌آی هر دو در حال آماده شدن برای عرضه اولیه سهام در بازار هستند که می‌تواند رکوردشکن باشد.