ساتیا نادلا، مدیرعامل مایکروسافت، در پستی بلند در شبکه اجتماعی X درباره خطرات مدل‌های بسیار پیشرفته هوش مصنوعی و چگونگی مقابله با آن‌ها نوشت. او تأکید کرد که دیگر نمی‌توان جهانی را پذیرفت که در آن هوش مصنوعی به‌عنوان «مجموعه‌ای از جعبه‌های سیاه تودرتو» در نظر گرفته شود و ما فقط توصیه‌ها و اقدامات آن را بپذیریم یا رد کنیم. نادلا خواستار ساختن نظامی شفاف‌تر شد که در آن مدل‌ها قابل مهار، مشاهده و برجای‌گذارنده «شواهد قابل خواندن برای انسان و دست‌نخورده» باشند.
ترمز اضطراری برای هوش مصنوعی
نادلا در بخشی از این پست، پیشنهاد خود را با یک استعاره مطرح کرد:
«باید فرض کنیم یک مدل آلوده است و آن را از همان ابتدا مهار کنیم. مثل ترمز اضطراری فکر کنید. یک فرد مجاز باید همیشه بتواند یک مدل را در میانه کار متوقف یا خاموش کند. مدل‌های پیشرفته‌تر به فناوری‌های مهار پیشرفته‌تری نیاز دارند که باید روی آن‌ها استانداردسازی کنیم.»
او این ایده را در حالی مطرح می‌کند که بسیاری از توصیه‌های دیگرش با آنچه پیش‌تر از سوی فعالان این صنعت شنیده شده همسو است: افشای به‌موقع حوادث، حسابرسی مستقل، داده‌های قابل راستی‌آزمایی و مهار.
توصیه‌های نادلا برای ایمنی هوش مصنوعی
مدیرعامل مایکروسافت در این پست چند محور اصلی را برجسته کرد:
- افشای به‌موقع حوادث: رویدادهای مرتبط با ایمنی باید سریع و شفاف گزارش شوند.
- حسابرسی مستقل: نهادهای بیرونی باید بتوانند عملکرد مدل‌ها را بررسی کنند.
- داده‌های قابل راستی‌آزمایی: اطلاعاتی که مدل‌ها بر پایه آن‌ها تصمیم می‌گیرند باید قابل بررسی باشد.
- مهار از ابتدا: مدل‌ها باید در محیط‌های کنترل‌شده نگهداری شوند و امکان توقف آنی وجود داشته باشد.
- استانداردسازی فناوری‌های مهار: برای مدل‌های پیشرفته‌تر به فناوری‌های مهار پیشرفته‌تر و استاندارد نیاز است.
او همچنین بر لزوم وجود «شواهد قابل خواندن برای انسان و دست‌نخورده» تأکید کرد تا بتوان تصمیم‌ها و اقدامات مدل‌ها را ردیابی کرد.
نگاه به هوش مصنوعی به‌عنوان «ابرهوشمندی»
نادلا در سراسر این پست از عبارت «ابرهوشمندی» (Superintelligence) برای اشاره به هوش مصنوعی استفاده می‌کند؛ اصطلاحی که بحث‌های زیادی درباره کاربرد و پیامدهای آن وجود دارد. این انتخاب واژگان نشان می‌دهد که او خطرات را در سطحی بسیار فراتر از ابزارهای امروزی می‌بیند.
چرا این خبر مهم است؟
اظهارات نادلا از آن جهت اهمیت دارد که او یکی از تأثیرگذارترین چهره‌های صنعت فناوری است و مایکروسافت سرمایه‌گذاری سنگینی در حوزه هوش مصنوعی انجام داده است. اگر مدیرعامل چنین شرکتی بگوید باید همه مدل‌ها را «آلوده» فرض کرد، این پیام می‌تواند بر جهت‌گیری‌های آینده صنعت اثر بگذارد.
برای کاربران، این سخنان می‌تواند به معنای افزایش شفافیت و امنیت در تعامل با سیستم‌های هوش مصنوعی باشد. اگر توصیه‌های نادلا عملی شود، ممکن است شاهد گزارش‌های عمومی بیشتری درباره حوادث، امکان توقف مدل‌ها در شرایط حساس و افزایش نظارت مستقل باشیم.
برای توسعه‌دهندگان، تأکید بر مهار از ابتدا و استانداردسازی فناوری‌های مهار می‌تواند به ایجاد چارچوب‌های جدید برای طراحی و استقرار مدل‌ها منجر شود. این تغییرات ممکن است هزینه‌ها و پیچیدگی‌هایی به همراه داشته باشد، اما هدف آن جلوگیری از پیامدهای ناخواسته مدل‌های قدرتمند است. همچنین فراخوان برای «شواهد قابل خواندن برای انسان و دست‌نخورده» می‌تواند به ابزارهای جدیدی برای ردیابی و حسابرسی منجر شود.
در مجموع، این اظهارات نشان‌دهنده یک چرخش گفتمانی به سمت ایمنی و مسئولیت‌پذیری در توسعه هوش مصنوعی است؛ موضوعی که با رشد سریع مدل‌ها، بیش از پیش اهمیت پیدا کرده است.
نظرات
هنوز نظری ثبت نشده؛ اولین نفر باشید.