گزارش METR درباره Anthropic که پنجشنبه منتشر شد، نشان می‌دهد این شرکت از هوش مصنوعی برای ساخت هوش مصنوعی قدرتمندتر استفاده می‌کند و مدل‌هایش تقریباً دو برابر سریع‌تر از یک سال پیش در حال پیشرفت هستند. این گزارش حاصل یک بررسی ۱۱ هفته‌ای درون شرکت است و به گفته METR، شواهد روشنی از شتاب گرفتن توسعه هوش مصنوعی به دست می‌دهد.
گزارش METR درباره Anthropic چه می‌گوید؟
METR، سازمان پژوهشی ایمنی هوش مصنوعی، پس از ۱۱ هفته بررسی درون Anthropic اعلام کرد که سرعت بهبود مدل‌های این شرکت حدود دو برابر سال گذشته است و نشانه‌ای از کند شدن دیده نمی‌شود.
بر اساس این گزارش، امتیازهای بنچمارک نشان می‌دهد Anthropic در یک سال گذشته تقریباً معادل دو سال پیشرفت تاریخی قبلی را تجربه کرده است. نکته مهم این است که پژوهشگران METR مطمئن هستند این شتاب فقط ناشی از افزایش قدرت محاسباتی برای آموزش مدل‌ها نیست.
💡 خرید اکانت چت جی پی تی — ChatGPT و Claude بدون فیلترشکن و با پرداخت تومانی
به گفته آن‌ها، بخش عمده این شتاب تا اکتبر «ناشی از هوش مصنوعی» است و سهم آن با گذشت زمان بیشتر می‌شود. این یافته با نظرسنجی‌های غیررسمی در Slack و مصاحبه با کارکنان Anthropic تأیید شده است.
چگونه هوش مصنوعی توسعه مدل‌ها را در Anthropic تسریع کرده است؟
METR می‌گوید کارکنان Anthropic که از توانمندترین مدل داخلی شرکت استفاده می‌کنند، به طور میانگین اعلام کرده‌اند حدود ۱۲ برابر مولدتر از زمانی هستند که کمک هوش مصنوعی نداشتند. این رقم حدود دو برابر چیزی است که چند ماه قبل و هنگام استفاده از Mythos 5 گزارش شده بود.
در حال حاضر بیشتر این شتاب از کمک هوش مصنوعی به پژوهشگران انسانی می‌آید، نه کار مستقل هوش مصنوعی. با این حال METR هشدار می‌دهد که «نشانه‌هایی وجود دارد که سهم کاملاً خودمختار به‌زودی بزرگ‌تر خواهد شد.»
💡 خرید API هوش مصنوعی Claude و GPT — کلید API با شارژ تومانی و قیمت مناسب
پژوهشگران همچنین هیچ نشانه روشنی از بازده نزولی یا گلوگاه قابل مشاهده‌ای پیدا نکردند که بتواند از «شتاب حتی سریع‌تر» جلوگیری کند.
سه مدل منتشرنشده در Anthropic
بخشی از شتاب و بهره‌وری توصیف‌شده در گزارش METR به مدل‌های داخلی منتشرنشده Anthropic مربوط می‌شود. به گفته METR، این شرکت در شش ماه گذشته آموزش سه مدل را تمام کرده که هنوز منتشر نشده‌اند.
- Model 2: تکمیل آموزش در جولای
- Model 3: تکمیل آموزش در آگوست تا سپتامبر
- Model 4: تکمیل آموزش در سپتامبر تا اکتبر
- Unreleased 2022: یک مدل منتشرنشده مربوط به سال ۲۰۲۲
METR نوشته است: «این‌ها نام‌های رمزی هستند که با ما در میان گذاشته شده؛ می‌دانیم آن‌ها نام‌های رمزی داخلی متفاوتی دارند.»
💡 لیست مدل‌ها و قیمت API هوش مصنوعی — همه مدل‌های OpenAI، Anthropic و Google در یک‌جا
سانسور گسترده در گزارش METR درباره Anthropic
Anthropic به METR اجازه دسترسی به اطلاعات غیرعمومی زیادی از جمله پژوهش‌های محرمانه، داده‌های عملکرد مدل و مصاحبه با کارکنان را داده بود. METR خود اذعان می‌کند که این شرکت «اطلاعات بیشتری از آنچه در ابتدا برای این پروژه تعیین شده بود به اشتراک گذاشت.»
با این حال، Anthropic اختیار داشت بخش‌هایی از گزارش نهایی را سانسور کند و به گفته METR، از این اختیار به‌طور گسترده استفاده کرده است. METR در شبکه X نوشت: «ما یک گزارش کامل حدود ۱۰۰ صفحه‌ای را به Anthropic ارائه دادیم. برای نسخه عمومی، Anthropic بیشتر شواهدی را که ما آموزنده‌ترین می‌دانستیم سانسور کرد.»
«ما اطلاعات زیادی را سانسور کردیم و می‌پذیرم که این کار بررسی کار METR را برای دیگران سخت‌تر می‌کند. اما تشخیص دادیم که به اشتراک گذاشتن دقیق آنچه باعث این شتاب می‌شود کار درستی نیست، هم به دلیل حساسیت تجاری و هم به دلیل خطر ارائه نقشه راه به دیگران برای سریع‌تر رفتن.» — Sam McCandlish، هم‌بنیان‌گذار Anthropic
METR تأکید کرده که بسیاری از شواهد سانسورشده می‌توانست «تفاسیر معقول متعددی» داشته باشد و به همین دلیل، عموم مردم باید بیش از حد مطلوب به قضاوت METR تکیه کنند.
💡 خرید اکانت چت جی پی تی — ChatGPT و Claude بدون فیلترشکن و با پرداخت تومانی
واکنش پژوهشگران ایمنی به گزارش METR درباره Anthropic
انتشار این گزارش واکنش شدید پژوهشگران ایمنی هوش مصنوعی را برانگیخته است. آن‌ها به تناقض ظاهری در رویکرد Anthropic اشاره می‌کنند: شرکتی که یکی از پرصداترین مدافعان ایمنی و توسعه مسئولانه بوده، اکنون به تسریع همان فناوری کمک می‌کند.
Marius Hobbhahn، مدیرعامل Apollo Research، به The Verge گفت این گزارش سرعتی حتی بیشتر از پیش‌بینی‌های سناریوی AI 2027 را نشان می‌دهد. Alan Chan از GovAI نیز گفت این یافته‌ها باید شک‌گرایان را به بازنگری در موضعشان وادار کند.
Daniel Kokotajlo، از AI Futures Project، Anthropic را متهم کرد که «با زندگی ما به‌طور بی‌پروایانه قمار می‌کند» و گفت استناد به سریع‌تر رفتن دیگران برای سانسور اطلاعات «کاملاً طعنه‌آمیز» است، چون خود این شرکت «به نظر نمی‌رسد اصلاً کند شده باشد.»
💡 خرید API هوش مصنوعی Claude و GPT — کلید API با شارژ تومانی و قیمت مناسب
Brianna Rosen از Institute for AI Policy and Strategy نیز گفت نگران‌کننده است که شرکت‌ها و نه دولت‌ها، در مورد خودکارسازی پژوهش هوش مصنوعی تصمیم می‌گیرند: «برای اینکه نظارت دموکراتیک کار کند، ارزیابان مستقل باید آزادی توضیح دلایل نتیجه‌گیری‌هایشان را داشته باشند.»
چرا این خبر مهم است؟
این گزارش برای کاربران و توسعه‌دهندگان ایرانی که با مدل‌های Claude کار می‌کنند یا به هوش مصنوعی به‌عنوان ابزار توسعه وابسته‌اند، پیام مهمی دارد: سرعت پیشرفت مدل‌ها ممکن است از آنچه تصور می‌شد بیشتر باشد و این می‌تواند فاصله میان ابزارهای در دسترس و انتظارات را سریع‌تر تغییر دهد.
از سوی دیگر، سانسور بخشی از یافته‌ها نشان می‌دهد شفافیت شرکت‌های پیشرو در حوزه هوش مصنوعی محدود است. برای توسعه‌دهندگانی که می‌خواهند ریسک‌ها و قابلیت‌های مدل‌ها را ارزیابی کنند، این یعنی نمی‌توانند صرفاً به گزارش‌های رسمی تکیه کنند و باید به ارزیابی‌های مستقل و محدودیت‌های آن‌ها توجه داشته باشند.
💡 لیست مدل‌ها و قیمت API هوش مصنوعی — همه مدل‌های OpenAI، Anthropic و Google در یک‌جا
همچنین، اگر روند خودبهبودی هوش مصنوعی سریع‌تر از انتظار پیش برود، ممکن است دسترسی به مدل‌های قدرتمندتر زودتر از پیش‌بینی‌ها فرا برسد؛ موضوعی که برای کسب‌وکارها و پژوهشگران ایرانی در انتخاب زمان و نحوه سرمایه‌گذاری روی این فناوری اهمیت دارد.
جمع‌بندی
گزارش METR درباره Anthropic نشان می‌دهد این شرکت با کمک هوش مصنوعی، توسعه مدل‌هایش را حدود دو برابر سریع‌تر کرده است؛ یافته‌ای که بحث‌های داغی درباره ایمنی، شفافیت و سرعت نزدیک شدن به خودبهبودی هوش مصنوعی به راه انداخته است. در حالی که Anthropic وعده انتشار گزارش خودش را داده، پرسش اصلی باقی می‌ماند: آیا نظارت مستقل و شفافیت کافی برای چنین شتابی وجود دارد؟
نظرات
هنوز نظری ثبت نشده؛ اولین نفر باشید.