Anthropic روز سه‌شنبه در یک پست وبلاگی اعلام کرد که روی یک سیستم متن‌باز برای احراز هویت مدل‌های هوش مصنوعی کار می‌کند؛ سیستمی که به کاربران اجازه می‌دهد بررسی کنند یک پاسخ مشخص واقعاً از همان مدلی آمده که ادعا می‌شود. این سیستم که FlashProve نام دارد، بر پایه مفهومی ساخته شده که پژوهشگران آن را «استنتاج اثبات‌پذیر» می‌نامند: یک اثبات رمزنگاری‌شده، یعنی در عمل یک تضمین ریاضی، که نشان می‌دهد یک خروجی از یک مدل مشخص تولید شده است.
FlashProve چیست و چگونه احراز هویت مدل‌های هوش مصنوعی را ممکن می‌کند؟
ایده اصلی FlashProve ساده و در عین حال فنی است: کاربر باید بتواند مطمئن شود پاسخی که دریافت کرده، از همان مدلی است که فکر می‌کند با آن صحبت می‌کند. پژوهشگران این سازوکار را با امضای رمزنگاری‌شده ایمیل مقایسه می‌کنند؛ همان امضاهایی که به گیرنده اجازه می‌دهد مطمئن شود پیام واقعاً از فرستنده ادعاشده آمده است.
به گفته آن‌ها، FlashProve در برابر جاعلانی مقاوم است که می‌خواهند یک مدل را به جای مدل دیگر جا بزنند؛ حتی اگر آن جاعل، همان آزمایشگاهی باشد که مدل را ساخته و اجرا می‌کند.
💡 خرید اکانت چت جی پی تی — ChatGPT و Claude بدون فیلترشکن و با پرداخت تومانی
برای کارکردن، این سیستم از آزمایشگاه‌های هوش مصنوعی می‌خواهد برای هر مدلی که منتشر می‌کنند یک «اثر انگشت» منتشر کنند؛ اثری که بعداً می‌توان آن را با خروجی‌های مشخص تطبیق داد و به‌صورت رمزنگاری‌شده تأیید کرد.
چرا این سیستم برای شفافیت مدل‌های تجاری مهم است؟
نکته کلیدی این است که اثر انگشت مدل، وزن‌های آن را افشا نمی‌کند. وزن‌ها همان اعداد درونی‌اند که رفتار مدل را تعیین می‌کنند و سازندگان مدل‌های بسته مانند Anthropic و OpenAI آن‌ها را خصوصی نگه می‌دارند.
یعنی آزمایشگاه‌ها می‌توانند اثر انگشت را منتشر کنند بدون اینکه ارزشمندترین دارایی خود را از دست بدهند؛ همین موضوع باعث می‌شود سیستم برای مدل‌های تجاری هم قابل استفاده باشد. پژوهشگران می‌گویند FlashProve سبک طراحی شده تا تأیید هویت حتی روی یک دستگاه محلی هم قابل انجام باشد.
💡 خرید API هوش مصنوعی Claude و GPT — کلید API با شارژ تومانی و قیمت مناسب
آن‌ها در توضیح کاربردهای احتمالی نوشته‌اند که این سیستم می‌تواند جلوی یک شرکت هوش مصنوعی را بگیرد که پنهانی مدل ارزان‌تری را برای کاهش هزینه جایگزین کند، یا مدل گران‌تری را برای بزرگ‌نمایی نتایج عملکردش به کار ببرد.
کاربردهای عملی احراز هویت مدل‌های هوش مصنوعی در ادعاهای شخص ثالث
یکی از سناریوهایی که پژوهشگران روی آن تأکید دارند، بررسی ادعاهای اشخاص ثالث است. مثلاً یک توسعه‌دهنده ممکن است بگوید کتابخانه نرم‌افزاری‌اش با یک مدل پیشرو در حوزه امنیت سایبری از نظر آسیب‌پذیری بررسی شده است، یا شرکتی ادعا کند که طرح کسب‌وکارش را یک مدل مناسب تأیید کرده است.
پرسشی که پژوهشگران مطرح می‌کنند این است: کاربر چگونه می‌تواند این ادعاها را تأیید کند؟ FlashProve قرار است پاسخ همین پرسش باشد.
💡 لیست مدل‌ها و قیمت API هوش مصنوعی — همه مدل‌های OpenAI، Anthropic و Google در یک‌جا
- جلوگیری از جعل هویت مدل‌ها حتی توسط آزمایشگاه سازنده
- تأیید ادعاهای شخص ثالث درباره استفاده از یک مدل خاص
- شفافیت بدون افشای وزن‌ها برای مدل‌های تجاری و بسته
- تأیید سبک که روی دستگاه محلی هم قابل اجراست
انتشار متن‌باز و وضعیت فعلی پروژه
همراه با این اعلام، پژوهشگران یک مشخصات فنی مفصل و کد کارآمد بخش‌های مختلف سیستم را منتشر کردند که با مجوز متن‌باز در GitHub در دسترس عموم قرار دارد.
با این حال، پژوهش روی این سیستم ادامه دارد و هیچ برنامه‌ای برای استقرار آن در Anthropic یا هیچ آزمایشگاه دیگری وجود ندارد. پژوهشگران در پست اعلامیه توضیح می‌دهند: «این پست پژوهشی برای به اشتراک گذاشتن پیشرفت میانی است، نه یک برنامه پژوهشی کامل‌شده. ما این را صریحاً با این هدف به اشتراک می‌گذاریم که دیگران کار ما را ببینند، بردارند و بهترش کنند.»
«این پست پژوهشی برای به اشتراک گذاشتن پیشرفت میانی است، نه یک برنامه پژوهشی کامل‌شده. ما این را صریحاً با این هدف به اشتراک می‌گذاریم که دیگران کار ما را ببینند، بردارند و بهترش کنند.»
چرا این خبر مهم است؟
برای کاربران و توسعه‌دهندگان ایرانی، پرسش «این پاسخ از کدام مدل آمده؟» فقط یک کنجکاوی فنی نیست. بسیاری از سرویس‌های واسط و اپلیکیشن‌ها ادعا می‌کنند از مدل‌های پیشرو استفاده می‌کنند، اما کاربر راهی برای بررسی این ادعا ندارد.
💡 خرید اکانت چت جی پی تی — ChatGPT و Claude بدون فیلترشکن و با پرداخت تومانی
سیستمی مانند FlashProve، اگر روزی عملیاتی شود، می‌تواند به توسعه‌دهندگان کمک کند مطمئن شوند API یا ابزاری که به آن تکیه می‌کنند واقعاً همان مدل ادعاشده را اجرا می‌کند و مدل ارزان‌تری جای آن جا نزده است.
همچنین انتشار متن‌باز مشخصات و کد، امکان بررسی و بازسازی این سازوکار را برای پژوهشگران مستقل فراهم می‌کند؛ موضوعی که برای شفافیت در اکوسیستم هوش مصنوعی اهمیت دارد. با این حال باید در نظر داشت که این پروژه در مرحله پژوهش است و هیچ تضمینی برای تبدیل شدن آن به یک استاندارد عملی وجود ندارد.
جمع‌بندی
FlashProve تلاشی از سوی Anthropic برای احراز هویت مدل‌های هوش مصنوعی است؛ سیستمی متن‌باز که با اثبات رمزنگاری‌شده می‌خواهد نشان دهد یک پاسخ از همان مدلی آمده که ادعا می‌شود، بدون آنکه وزن‌های مدل افشا شود. این پروژه فعلاً در مرحله پژوهش است و قرار نیست به‌زودی در محصولی مستقر شود.
نظرات
هنوز نظری ثبت نشده؛ اولین نفر باشید.