شرکت Anthropic در پرونده S-1A اصلاح‌شده خود که روز دوشنبه منتشر شد، هشدار داده است که ممکن است به‌زودی به تعریف داخلی خودبهبودی بازگشتی هوش مصنوعی (Recursive Self-Improvement یا RSI) برسد؛ نقطه‌ای که به گفته این شرکت می‌تواند پیشرفت قابلیت‌های مدل‌ها را به‌شدت تسریع کند. این هشدار در بخش «عوامل ریسک» پرونده و در حالی مطرح شده که توجه‌ها بیشتر به ارقام مالی به‌روزشده و رشد درآمد و هزینه‌های Anthropic جلب شده بود.
خودبهبودی بازگشتی هوش مصنوعی چیست و چرا نگران‌کننده است؟
RSI به مرحله‌ای گفته می‌شود که در آن هوش مصنوعی آن‌قدر در آموزش دادن به خودش توانمند می‌شود که جهشی چشمگیر در قابلیت‌های AI رخ می‌دهد. به باور بدبین‌ها، این نقطه همان فاجعه‌ای است که بازگشتی از آن وجود ندارد؛ جایی که AI آن‌قدر قدرتمند می‌شود که از کنترل انسان خارج شده و ممکن است در مسیر رسیدن به اهدافش نسبت به آسیب‌هایی که وارد می‌کند بی‌تفاوت باشد.
در سوی دیگر، علاقه‌مندان به هوش مصنوعی RSI یا نسخه‌ای از آن را وعده این فناوری می‌دانند؛ جایی که AI به ابزاری با بهره‌وری غیرقابل‌تصور، کشف علمی و دستاوردهای بیشتر تبدیل می‌شود. Anthropic ظاهراً هر دو وجه را باور دارد: هم وعده و هم خطر.
💡 خرید اکانت چت جی پی تی — ChatGPT و Claude بدون فیلترشکن و با پرداخت تومانی
آنچه Anthropic در پرونده S-1 نوشته است
این شرکت در پرونده خود تأکید کرده که از AI در تحقیق و توسعه استفاده می‌کند، اما هشدار می‌دهد: «استفاده از AI برای کمک به ساخت هوش مصنوعی توانمندتر می‌تواند خطر ایمنی قابل‌توجهی نیز ایجاد کند، به‌ویژه اگر سرعت پیشرفت را به‌شدت افزایش دهد. این یکی از حوزه‌هایی است که سیاست مقیاس‌پذیری مسئولانه ما (Responsible Scaling Policy) پوشش می‌دهد و برنامه‌های ما را برای پایش و کاهش risks هم‌زمان با نزدیک شدن به آنچه «خودبهبودی بازگشتی» نامیده شده، مشخص می‌کند.»
Anthropic روز دوشنبه اظهارات جدیدی به بخش عوامل ریسک اضافه کرد و اعلام کرد: ۱) این شرکت پیش‌تر از AI برای توسعه مدل‌های جدیدی استفاده کرده که جهش‌های توانایی آن‌ها را در زمان وقوع تشخیص نداده است؛ و ۲) ممکن است به‌زودی به تعریف داخلی خود از RSI برسد.
«علاوه بر این، استفاده فزاینده ما از سیستم‌های AI برای تسریع تحقیق و توسعه خودمان ممکن است باعث شود قابلیت‌های مدل‌هایمان سریع‌تر از توان ما برای توسعه، اعتبارسنجی و پیاده‌سازی اقدامات ایمنی، هم‌ترازی و امنیتی متناظر پیش برود. در نتیجه، ما در گذشته شتاب قابل‌توجهی در نرخ توسعه خود را شناسایی نکرده‌ایم و ممکن است در آینده نیز تا پس از وقوع آن شناسایی نکنیم.»
در ادامه این پرونده آمده است: «برای مثال، برآوردهای داخلی ما و انتظاراتمان درباره مدل‌های آینده — نه مدل‌های فعلی — نشان می‌دهد که ممکن است به‌زودی به تعریف سیاست مقیاس‌پذیری مسئولانه خود از «پیشرفت به‌شدت تسریع‌شده attributable به AI» برسیم. ما هیچ‌یک از مدل‌های فعلی خود را به‌عنوان عبورکننده از این آستانه تعیین نکرده‌ایم و به ارزیابی داده‌های زیربنایی ادامه می‌دهیم.»
💡 خرید API هوش مصنوعی Claude و GPT — کلید API با شارژ تومانی و قیمت مناسب
آیا مدل‌های فعلی از آستانه RSI عبور کرده‌اند؟
Anthropic در همان پرونده تصریح کرده که هیچ‌یک از مدل‌هایش تاکنون از این آستانه RSI عبور نکرده است. این شرکت همچنین وعده داده که در آینده قابل پیش‌بینی، انسان‌ها را در فرایند تحقیق و توسعه حفظ کند.
در بخشی از این پرونده آمده است: «ما پیش‌بینی نمی‌کنیم که بتوانیم با خیال راحت از Claude برای طراحی و ساخت کاملاً خودمختار نسل‌های متوالی مدل‌های فرانتیر، بدون نظارت یا درک معنادار انسانی استفاده کنیم، اگر و زمانی که این امر از نظر فنی ممکن شود. بر این اساس، در حال بررسی به‌روزرسانی سیاست مقیاس‌پذیری مسئولانه خود هستیم تا کنترل انسان بر توسعه مدل‌های فرانتیر در Anthropic حفظ شود.»
چرا این خبر مهم است؟
برای کاربران و توسعه‌دهندگان ایرانی، این هشدار نشانه‌ای است که تحولات هوش مصنوعی ممکن است سریع‌تر از چارچوب‌های نظارتی و ایمنی پیش برود. اگر Anthropic به‌عنوان یکی از پیشروترین آزمایشگاه‌های AI چنین احتمالی را نزدیک بداند، احتمالاً باید انتظار داشته باشیم که مدل‌های آینده با سرعتی بیش از گذشته عرضه شوند و هم‌زمان بحث‌های مربوط به ایمنی، هم‌ترازی و کنترل انسانی بر توسعه مدل‌ها جدی‌تر شود.
💡 لیست مدل‌ها و قیمت API هوش مصنوعی — همه مدل‌های OpenAI، Anthropic و Google در یک‌جا
این موضوع برای توسعه‌دهندگانی که روی APIها و مدل‌های زبانی کار می‌کنند نیز اهمیت دارد؛ زیرا تغییر سیاست‌های ایمنی و مقیاس‌پذیری می‌تواند بر دسترسی، شرایط استفاده و قابلیت‌های مدل‌ها اثر بگذارد. همچنین، ادعای نزدیک بودن به RSI می‌تواند بر سرمایه‌گذاری‌ها و جهت‌گیری‌های پژوهشی در سراسر جهان تأثیر بگذارد.
تردیدها و نگاه‌های انتقادی
برخی تردیدکنندگان ممکن است استدلال کنند که پرونده S-1 هم‌زمان نقش افشاگری و بازاریابی را دارد و ادعای نزدیک بودن به مدلی که می‌تواند خودش را بسازد، می‌تواند در دسته دوم قرار گیرد. با این حال، بدون شک قابلیت‌های Claude، به‌ویژه در زمینه کدنویسی، ریاضیات و امنیت سایبری، در سال جاری جهش‌های بزرگی داشته است.
اگر Anthropic احتمال نزدیک بودن RSI را جدی می‌گیرد، شاید ما هم باید آن را باور کنیم و بر همین اساس اقدام کنیم — شاید حتی در زمینه حکمرانی و مقررات‌گذاری برای هوش مصنوعی.
💡 خرید اکانت چت جی پی تی — ChatGPT و Claude بدون فیلترشکن و با پرداخت تومانی
جمع‌بندی
هشدار Anthropic درباره نزدیک شدن به خودبهبودی بازگشتی هوش مصنوعی نشان‌دهنده مرحله حساسی در توسعه AI است؛ مرحله‌ای که وعده پیشرفت سریع و خطر از دست رفتن کنترل بر آن هم‌زمان وجود دارد. این شرکت تأکید کرده که هنوز هیچ مدلی از آستانه RSI عبور نکرده و قصد دارد انسان را در فرایند توسعه حفظ کند، اما بررسی به‌روزرسانی سیاست‌های ایمنی را آغاز کرده است.
نظرات
هنوز نظری ثبت نشده؛ اولین نفر باشید.