شرکت Anthropic پیش‌نویس لایحه‌ای را برای ایمنی هوش مصنوعی در اختیار قانون‌گذاران آمریکایی قرار داده است؛ لایحه‌ای که به گفته منابع خبری، شرایطی را تعیین می‌کند که در آن انتشار یک مدل هوش مصنوعی می‌تواند متوقف شود. این طرح که لایحه ایمنی هوش مصنوعی Anthropic خوانده می‌شود، در ظاهر از کاربران در برابر خطرات فاجعه‌بار محافظت می‌کند، اما به گزارش پولیتیکو، عملاً آژانس‌های فدرال را از توقف انتشار مدل بدون اجازه یک قاضی منع می‌کند.
لایحه ایمنی هوش مصنوعی Anthropic چه می‌گوید؟
بر اساس گزارش پولیتیکو، این لایحه پیشنهادی سناریوهایی را مشخص می‌کند که در آن‌ها انتشار یک مدل هوش مصنوعی می‌تواند مسدود شود. این سناریوها حول مفهوم «خطر قابل پیش‌بینی و قریب‌الوقوع» می‌چرخند؛ خطری که در آن جان بیش از ۵۰ نفر در معرض تهدید باشد یا خسارت مالی بیش از یک میلیارد دلار پیش‌بینی شود.
به نوشته پولیتیکو، این خطر فاجعه‌بار باید ناشی از «ساخت یا انتشار یک سلاح بیولوژیکی، خارج شدن مدل از کنترل توسعه‌دهنده یا یک حمله سایبری» باشد. این معیارها یعنی ۵۰ نفر و یک میلیارد دلار، شباهت زیادی به تعریف «خطر فاجعه‌بار» در قانونی دارد که اخیراً در کالیفرنیا تصویب شده است؛ قانونی با عنوان Senate Bill 53.
💡 خرید اکانت چت جی پی تی — ChatGPT و Claude بدون فیلترشکن و با پرداخت تومانی
نقش ارزیابان مستقل و وزارت بازرگانی آمریکا
در لایحه پیشنهادی Anthropic، تحلیل پتانسیل فاجعه‌بار یک مدل می‌تواند از طریق «ارزیابان مستقل» انجام شود که در وزارت بازرگانی آمریکا ثبت نام می‌کنند. این ارزیابان احتمالاً می‌توانند از سوی خود آزمایشگاه‌های هوش مصنوعی پرداخت شوند، به شرطی که «پرداخت به نتایج ارزیابی وابسته نباشد».
با این حال، مشخص نیست این سیستم پیشنهادی چگونه تضمین می‌کند که پرداخت‌ها نتوانند بر ارزیابی تأثیر بگذارند. دمیس هاسابیس، رئیس DeepMind، چند ماه پیش پیشنهاد کرده بود که یک نهاد نظارتی خودگردان برای هوش مصنوعی باید از الگوی نهاد تنظیم‌گر صنعت مالی یعنی FINRA پیروی کند.
در پیش‌نویس لایحه Anthropic، وقتی ارزیابان تشخیص دهند که خطر فاجعه‌بار قریب‌الوقوع وجود دارد، ۷۲ ساعت فرصت دارند تا موضوع را به وزارت بازرگانی اطلاع دهند. وزارت بازرگانی هم باید از یک قاضی در واشنگتن دی‌سی درخواست توقف انتشار مدل را بکند. این لایحه صراحتاً هرگونه اختیار آژانس‌های فدرال برای توقف توزیع مدل به‌طور مستقل را ممنوع می‌کند.
💡 خرید API هوش مصنوعی Claude و GPT — کلید API با شارژ تومانی و قیمت مناسب
واکنش Anthropic و تفاوت با پیشنهادهای دیگر
سخنگوی Anthropic در گفت‌وگو با پولیتیکو پیش‌نویس این لایحه را تأیید کرده و گفته است: «این لایحه نمایانگر پیشنهادهای چارچوب هوش مصنوعی پیشرفته Anthropic است که از ژوئن با قانون‌گذاران فدرال و ایالتی در حال پیگیری آن هستیم.»
Anthropic به درخواست تک‌کرانچ برای اظهارنظر فوری پاسخ نداده است. با این حال، صرف ارائه این پیشنهاد قانون‌گذاری، کمی فراتر از پیشنهادهای نظارتی دیگر شرکت‌های صنعت می‌رود؛ از جمله انویدیا که مدیرعاملش، جنسون هوانگ، اخیراً استدلال کرده بود صنعت هوش مصنوعی به هیچ قانون جدیدی نیاز ندارد.
چرا این خبر مهم است؟
این خبر از چند جهت برای کاربران و توسعه‌دهندگان ایرانی اهمیت دارد. اول اینکه نشان می‌دهد بحث قانون‌گذاری هوش مصنوعی در آمریکا جدی‌تر شده و شرکت‌های بزرگ مانند Anthropic در حال ارائه چارچوب‌های مشخص برای نظارت هستند. این چارچوب‌ها می‌توانند بر نحوه دسترسی جهانی به مدل‌های هوش مصنوعی و شرایط انتشار آن‌ها تأثیر بگذارند.
💡 لیست مدل‌ها و قیمت API هوش مصنوعی — همه مدل‌های OpenAI، Anthropic و Google در یک‌جا
دوم، تأکید بر ارزیابان مستقل و معیارهای کمی مانند ۵۰ نفر و یک میلیارد دلار، الگویی است که ممکن است در کشورهای دیگر هم الهام‌بخش قانون‌گذاری شود. توسعه‌دهندگان ایرانی که با مدل‌های خارجی کار می‌کنند یا قصد ارائه سرویس دارند، باید بدانند که شرایط انتشار مدل‌ها ممکن است در آینده سخت‌گیرانه‌تر شود.
سوم، این لایحه بحث قدیمی میان نوآوری و ایمنی را دوباره برجسته می‌کند؛ اینکه چه کسی حق دارد درباره خطرات هوش مصنوعی تصمیم بگیرد و آیا قضات باید در این زمینه حرف آخر را بزنند یا نهادهای فنی.
- نکته کلیدی: مسدودسازی انتشار مدل فقط با درخواست وزارت بازرگانی از دادگاه ممکن است.
- معیار خطر: بیش از ۵۰ کشته یا خسارت بیش از یک میلیارد دلار.
- مهلت ۷۲ ساعته: ارزیابان باید خطر قریب‌الوقوع را به وزارت بازرگانی اطلاع دهند.
جمع‌بندی
لایحه ایمنی هوش مصنوعی Anthropic تلاشی است برای تعریف چارچوب قانونی خطرات فاجعه‌بار مدل‌های هوش مصنوعی، اما با شرط گرفتن مجوز از دادگاه، اختیار آژانس‌های فدرال را محدود می‌کند. این پیشنهاد نشان‌دهنده رقابت شرکت‌ها برای تعیین قواعد بازی در عصر هوش مصنوعی است و پیامدهای آن می‌تواند فراتر از مرزهای آمریکا احساس شود.
نظرات
هنوز نظری ثبت نشده؛ اولین نفر باشید.