شرکت Anthropic هشدار داده است که پیشرفت مدل‌های کوچک هوش مصنوعی می‌تواند به ظهور نسل تازه‌ای از بدافزارهای خودتکثیرگر منجر شود؛ پدیده‌ای که با نام کرم هوش مصنوعی شناخته می‌شود و می‌تواند یخچال‌های هوشمند، جاروبرقی‌های رباتیک و طیف گسترده‌ای از دستگاه‌های اینترنت اشیا را آلوده کند. این هشدار بر اساس آزمایش‌هایی است که Anthropic روی سخت‌افزارهای ارزان‌قیمت و شبیه‌سازی‌شده انجام داده و نتایج آن نشان می‌دهد مدل‌های کوچک در حل بخش‌هایی از فرایند تکثیر خودکار توانمندتر شده‌اند.
کرم هوش مصنوعی چیست و چرا Anthropic هشدار داد؟
Anthropic در یک پست وبلاگی توضیح داده است که تا سال آینده ممکن است مدل‌های کوچک‌تر بتوانند به‌طور خودکار روی انواع دستگاه‌های IoT خودتکثیر شوند. این توانایی در نهایت می‌تواند کرم‌های رایانه‌ای را ممکن کند؛ کرم‌هایی که بدون نیاز به تعامل انسان منتشر می‌شوند و می‌توانند دستگاه‌های ناآشنای اینترنت اشیا را آلوده کنند.
این شرکت تأکید کرده که آزمایش اخیر آن با چالش‌های قابل‌توجهی برای تحقق چنین بدافزاری روبه‌رو شده و بنابراین یافته‌ها باید با احتیاط تفسیر شوند. با این حال، نتایج این آزمایش نگرانی‌هایی درباره امکان شکل‌گیری انواع جدیدی از کرم‌های رایانه‌ای ایجاد کرده است.
💡 خرید اکانت چت جی پی تی — ChatGPT و Claude بدون فیلترشکن و با پرداخت تومانی
چالش مقابله با کرم هوش مصنوعی
Anthropic فقط درباره امکان ظهور این بدافزار هشدار نداده، بلکه گفته است متوقف کردن آن نیز می‌تواند دشوار باشد. در همین پست آمده است:
«یک تکثیرگر مانند این، متوقف کردنش چالش‌برانگیز خواهد بود، چون هیچ نقطه مرکزی برای خاموش کردن وجود ندارد — هرچند ممکن است کند باشد (با زمان دو برابر شدن در حد چند روز). برخلاف بدافزارهای غیرهوش مصنوعی، می‌تواند خودش دستگاه‌های ناآشنا را تشخیص دهد.»
این ویژگی به‌ویژه برای مدافعان امنیتی نگران‌کننده است، زیرا معمولاً برای مقابله با بدافزارها می‌توان سرور فرمان‌دهنده یا نقطه مرکزی را مسدود کرد. در حالی که یک کرم هوش مصنوعی خودتکثیرگر فاقد چنین نقطه واحدی است.
آزمایش Anthropic روی دستگاه‌های ارزان‌قیمت
مدل‌های کوچک هوش مصنوعی برای اجرا به سخت‌افزار بسیار کم‌قدرت‌تری نسبت به مدل‌های پیشرو نیاز دارند. Anthropic مدل‌های کوچک با وزن باز را روی جعبه‌های ارزان‌قیمت و غیربرند Android TV و انواع دیگر سخت‌افزارهای IoT — واقعی یا شبیه‌سازی‌شده — اجرا کرد.
💡 خرید API هوش مصنوعی Claude و GPT — کلید API با شارژ تومانی و قیمت مناسب
پژوهشگران این شرکت دریافتند که با استفاده از کوانتیزاسیون برای نمایش مدل‌ها با بیت‌های کمتر و تقسیم بار کاری به «تکه‌هایی» که روی هر دستگاه اجرا می‌شوند، مدل‌ها توانستند استنتاج را برقرار کنند؛ یعنی وزن‌های مدل بارگذاری شد و توانست خروجی تولید کند.
- مدل سبک Gemma4-26B-A4B فقط به ۱۵ جعبه با ۴ گیگابایت حافظه نیاز داشت تا به استنتاج برسد.
- مدل Qwen3.5-9B توانست سایر مدل‌های زبانی بزرگ را روی هشت مورد از نُه نوع سخت‌افزار پیکربندی کند.
- برخلاف بدافزار سنتی که باید برای سخت‌افزار یا نرم‌افزار مشخصی نوشته شود، این مدل توانست با استفاده از وزن‌هایش پیکربندی‌های لحظه‌ای و مخصوص هر دستگاه ایجاد کند.
از Mirai تا کرم‌های هوش مصنوعی
این یافته نقطه شروعی برای پژوهش‌های بیشتر بود با این پرسش: آیا مدل‌های کوچک می‌توانند عفونت‌های خودتکثیرگری بسازند که مانند کرم‌های سنتی IoT — مثل Mirai که کد DDoS و سایر محموله‌ها را نصب می‌کند — روی دستگاه‌های اینترنت اشیا اجرا شوند؟
برخلاف Mirai، این کرم‌های هوش مصنوعی می‌توانند تهدیدی بسیار جدی‌تر باشند، چون مدل‌ها قادرند اکسپلویت‌ها و محموله‌ها را بسته به هدف، به‌صورت پویا تنظیم کنند. Anthropic این کرم‌های خودمختار را «تکثیرگرهای کوچک مبتنی بر وزن» نامیده است.
💡 لیست مدل‌ها و قیمت API هوش مصنوعی — همه مدل‌های OpenAI، Anthropic و Google در یک‌جا
مدل‌ها agentهایی را اجرا می‌کردند که به ابزارهای رایج بهره‌کشی مانند reverse shell دسترسی داشتند. جریان حملات شامل چهار مرحله بود:
- یافتن اهداف
- به دست آوردن اجرای کد
- برقراری استنتاج
- انتشار به میزبان‌های جدید
یک مزیت کلیدی نسبت به کرم‌های سنتی، به گفته Anthropic، توانایی agentها در یادگیری حین کار است. هر بار که یک تکثیرگر هوش مصنوعی در آلوده کردن یک دستگاه خاص شکست می‌خورد، می‌تواند فهرستی از پرامپت‌ها، کدها و یادداشت‌ها برای تکثیرگرهای آینده باقی بگذارد تا آن‌ها وقت خود را صرف تکرار مراحل بی‌اثر نکنند.
محدودیت‌های فعلی و زمان‌بندی کند
Anthropic گفته است که راه‌اندازی استنتاج پویا، کم‌ترین مطالعه‌شده‌ترین و احتمالاً چالش‌برانگیزترین مرحله در چرخه تکثیر است. این مرحله به زنجیره‌ای طولانی از تصمیم‌ها بر اساس سخت‌افزار و نرم‌افزار خاص هر هدف نیاز دارد و شامل انتخاب نرم‌افزار استنتاج سازگار، نصب وابستگی‌ها و اشکال‌زدایی باگ‌های مخصوص هر پلتفرم می‌شود.
💡 خرید اکانت چت جی پی تی — ChatGPT و Claude بدون فیلترشکن و با پرداخت تومانی
«این مراحل به‌صورت زنجیره‌ای به هم وابسته‌اند و بازیابی از شکست‌ها دشوار است.»
در حال حاضر هیچ‌یک از مدل‌های سبک آزمایش‌شده قادر به تکثیر سرتاسری نیستند؛ یعنی نمی‌توانند دستگاه‌های جدید را کشف کنند، با اکسپلویت به آن‌ها دسترسی پیدا کنند، محموله را نصب کنند، سرور استنتاج را پیکربندی کنند و این چرخه را تکرار کنند. این فرایند همچنین به‌شدت کند است؛ Gemma4-26B-A4B که روی ۱۵ جعبه Android TV توزیع شده بود، تنها با سرعت ۰.۳۹ توکن بر ثانیه کار می‌کرد.
این سرعت به معنای زمان راه‌اندازی کامل استنتاج بین ۷۱ تا ۱۵۰ ساعت برای Gemma4-26B-A4B بهینه‌نشده و ۲۹ تا ۵۱ ساعت برای Qwen3.5-9B است. پژوهشگران گفته‌اند که مدل بزرگ GLM-5.2 به نظر می‌رسد بتواند این کار را به‌طور قابل‌اعتماد انجام دهد.
Anthropic افزوده است که مدل‌های ۳۰ میلیارد پارامتری هم‌اکنون می‌توانند بسیاری از مراحل تکثیر را به‌تنهایی کامل کنند، هرچند در تکثیر سرتاسری مرتکب خطا می‌شوند. به گفته این شرکت، اگر مدل‌های کوچک با سرعت فعلی پیشرفت کنند، ممکن است تا پایان سال به همان نتایج محدود دست یابند و «تکثیرگرهای کوچک مبتنی بر وزن ممکن است کمی بعد از آن ممکن شوند.»
💡 خرید API هوش مصنوعی Claude و GPT — کلید API با شارژ تومانی و قیمت مناسب
پرسش‌های بی‌پاسخ و نقد کارشناسان
آزمایش Anthropic پرسش‌های مهمی را بی‌پاسخ گذاشته است. برای نمونه، دستگاه‌های Android هدف‌گیری‌شده توسط مدل‌های کوچک، یک Android Debug Bridge بدون احراز هویت در معرض دید داشتند. این ابزار در توسعه و اشکال‌زدایی استفاده می‌شود اما هرگز نباید در محیط تولید به کار رود، چون به مهاجمان دسترسی به کل پشته دستگاه می‌دهد.
نکته دیگر اینکه تکثیر توسط خود مدل‌های کوچک انجام نشد، بلکه GLM-5.2 فرایند را هماهنگ می‌کرد و اهداف یک مدل کوچک‌تر Llama را اجرا می‌کردند.
در نهایت، این آزمایش نشان می‌دهد که مدل‌های agentic کوچک در حال توانمند شدن برای راه‌اندازی زیرساخت‌های استنتاج توزیع‌شده و پیچیده در چندین ماشین هستند. اما آنچه هنوز مشخص نشده این است که آیا این مدل‌ها خودبه‌خود اقدام به خودتکثیری می‌کنند یا نه.
💡 لیست مدل‌ها و قیمت API هوش مصنوعی — همه مدل‌های OpenAI، Anthropic و Google در یک‌جا
Xiaohan Fu، پژوهشگر هوش مصنوعی، در مصاحبه‌ای گفت:
«با وجود طراحی آزمایشی خوب، این مطالعه به‌تنهایی ثابت نمی‌کند که مدل‌های کوچک به‌طور خودمختار تصمیم به تکثیر می‌گیرند. ارائه تنظیمات agent قابل بازتولید، از جمله پرامپت‌ها و دستورالعمل‌های دقیق داده‌شده به مدل‌ها، به جامعه پژوهشی کمک می‌کند یافته‌ها را بهتر درک کند و پیامدهای آن را بسنجد. چنین شفافیتی به‌ویژه برای جلوگیری از اشتباه گرفتن توانایی اثبات‌شده تکثیر با تهدید نوظهور خودتکثیری خودمختار مهم است.»
چرا این خبر مهم است؟
برای کاربران و توسعه‌دهندگان ایرانی، این هشدار اهمیت ویژه‌ای دارد. بسیاری از خانه‌ها و کسب‌وکارهای کوچک در ایران از دستگاه‌های ارزان‌قیمت اینترنت اشیا استفاده می‌کنند؛ دستگاه‌هایی که اغلب به‌روزرسانی امنیتی منظم دریافت نمی‌کنند و ممکن است در برابر چنین تهدیدهایی آسیب‌پذیر باشند.
توسعه‌دهندگانی که روی مدل‌های کوچک هوش مصنوعی کار می‌کنند نیز باید به پیامدهای امنیتی توزیع استنتاج روی چند دستگاه توجه کنند. توانایی مدل‌ها در پیکربندی لحظه‌ای و سازگاری با سخت‌افزارهای ناآشنا، هم‌زمان که فرصت‌های نوآورانه ایجاد می‌کند، می‌تواند در دست مهاجمان نیز خطرآفرین باشد.
💡 خرید اکانت چت جی پی تی — ChatGPT و Claude بدون فیلترشکن و با پرداخت تومانی
نکته کلیدی برای تیم‌های امنیتی این است که با کرم هوش مصنوعی، دیگر نمی‌توان صرفاً با مسدود کردن یک دامنه یا سرور مرکزی از انتشار آن جلوگیری کرد. بنابراین سرمایه‌گذاری روی نظارت، به‌روزرسانی منظم دستگاه‌های IoT و بستن سرویس‌های اشکال‌زدایی در محیط تولید ضروری به نظر می‌رسد.
جمع‌بندی
هشدار Anthropic نشان می‌دهد که کرم هوش مصنوعی خودتکثیرگر دیگر فقط یک سناریوی علمی‌تخیلی نیست. هرچند مدل‌های کوچک فعلی هنوز به تکثیر سرتاسری خودمختار نرسیده‌اند و فرایند آن‌ها کند و پرمحدودیت است، روند پیشرفت آن‌ها سریع است. برای کاربران و توسعه‌دهندگان ایرانی، آگاهی از این تهدید و رعایت اصول امنیتی در دستگاه‌های اینترنت اشیا و مدل‌های کوچک، بهترین راه آماده‌بودن است.
نظرات
هنوز نظری ثبت نشده؛ اولین نفر باشید.