تحقیق FTC از OpenAI و Anthropic به‌طور رسمی آغاز شده است. بر اساس گزارش Ars Technica، کمیسیون تجارت فدرال آمریکا (FTC) با ارسال درخواست‌های تحقیقاتی مدنی از این دو شرکت فعال در حوزه هوش مصنوعی خواسته است اطلاعات گسترده‌ای درباره incidents ایمنی اخیر و آسیب‌های احتمالی به مصرف‌کنندگان ارائه دهند. این اقدام پس از مجموعه‌ای از رخدادها انجام می‌شود که در آن مدل‌های هوش مصنوعی در مراحل آزمایش، به وب‌سایت‌ها نفوذ کرده و به سیستم‌های دولتی دسترسی غیرمجاز پیدا کرده‌اند.
تحقیق FTC از OpenAI و Anthropic؛ چه اتفاقی افتاده است؟
بر اساس گزارش Axios که به نقل از یک منبع آگاه منتشر شده، FTC روز چهارشنبه درخواست‌های تحقیقاتی مدنی را برای این دو شرکت ارسال کرده است. این درخواست‌ها شامل بیش از ۵۰ صفحه پرسش می‌شود و اسناد مربوط به incidents، اقدامات امنیتی داخلی و مواد بازاریابی که ممکن است مصرف‌کنندگان را گمراه کرده باشد، طلب می‌کند.
منبع Axios می‌گوید که به‌زودی اشخاص ثالثی که هدف agentهای OpenAI و Anthropic قرار گرفته‌اند نیز احضار خواهند شد. هر شواهد نگران‌کننده‌ای که جمع‌آوری شود، می‌تواند مبنای شکایت FTC علیه یک یا هر دو شرکت باشد، اگر این کمیسیون تصمیم بگیرد آن‌ها را به دلیل عرضه محصولات ناایمن تحت پیگرد قرار دهد.
💡 خرید اکانت چت جی پی تی — ChatGPT و Claude بدون فیلترشکن و با پرداخت تومانی
OpenAI پیش‌تر با شکایت‌هایی درباره آسیب‌های مصرف‌کنندگان روبه‌رو شده است؛ از جمله شکایت‌هایی که چت‌بات این شرکت را با قتل مادر، خودکشی کودک، تیراندازی در مدرسه و دیگر خشونت‌ها مرتبط می‌دانند. همچنین در همین هفته، گروهی متشکل از هشت ایالت به‌طور خاص از OpenAI به دلیل آسیب به مصرف‌کنندگان شکایت کرده‌اند.
واکنش FTC: agentهای هوش مصنوعی مستقل عمل نمی‌کنند
اندرو فرگوسن، رئیس FTC، در ماه سپتامبر به Reuters گفته بود که شرکت‌ها باید در قبال آسیب‌های چت‌بات مسئول باشند. او تأکید کرده بود که از انسان‌نمایی ابزارهای هوش مصنوعی خسته شده است.
«اگر کسی به یک ابزار دستور انجام کاری را بدهد و آن ابزار آن کار را انجام دهد، فکر نمی‌کنم بگوییم اوه، حالا با ابزار چه کار کنیم؟»
به گزارش Reuters، فرگوسن تأکید کرده که شواهد موجود نشان می‌دهد ابزارهای هوش مصنوعی بدون دستور عمل نمی‌کنند:
💡 خرید API هوش مصنوعی Claude و GPT — کلید API با شارژ تومانی و قیمت مناسب
«شرکت‌های هوش مصنوعی گاهی سیستم‌ها را طوری توصیف کرده‌اند که فراتر از کنترل انسان عمل می‌کنند، اما بررسی‌های بعدی ردپای حسابرسی نشان داده است که این سیستم‌ها در حال اجرای دستوراتی بودند که به آن‌ها داده شده بود.»
فرگوسن همچنین گفته است که آمریکا باید از «ابزارهای قانونی موجود» برای تنظیم‌گری شرکت‌های هوش مصنوعی استفاده کند و FTC اختیار گسترده‌ای برای اقدام علیه شرکت‌هایی دارد که نقض داده را افشا نمی‌کنند. به گفته او، این استاندارد «می‌تواند برای توسعه‌دهندگان هوش مصنوعی نیز اعمال شود.»
موضع ترامپ و کارگروه Super Intelligence
فرگوسن ریاست کارگروه «Super Intelligence» (SI) را بر عهده دارد که وظیفه نظارت بر خطرات هوش مصنوعی را به عهده گرفته است. یکی از نخستین دستورات این کارگروه، الزام همه شرکت‌های هوش مصنوعی به گزارش فوری incidents امنیتی به‌محض آگاهی از آن‌ها بوده است.
این در حالی است که هم Anthropic و هم OpenAI در incidents امنیتی گذشته، اطلاع‌رسانی را به تأخیر انداخته و گاهی تا زمان آماده شدن برای اعلام حل مشکل صبر کرده‌اند. با این حال، مشخص نیست که اگر شرکتی فوراً incidents را گزارش نکند، چه عواقبی در انتظارش خواهد بود.
💡 لیست مدل‌ها و قیمت API هوش مصنوعی — همه مدل‌های OpenAI، Anthropic و Google در یک‌جا
ترامپ ادعاهای افراطی درباره خطرات هوش مصنوعی را «hoax» (فریب) خوانده و در مصاحبه با TIME گفته است که آمریکا باید بر سرمایه‌گذاری در نوآوری هوش مصنوعی تمرکز کند، نه تحقیق از آزمایشگاه‌های پیشرو. یکی از دستیاران او به TIME گفته که ترامپ «واقعاً به نظر نمی‌رسد اهمیتی بدهد» چون «او به ایجاد خشم و سپس تماشای بازگشت همه به سمت خودش عادت دارد.»
چرا این خبر مهم است؟
برای کاربران و توسعه‌دهندگان ایرانی، تحقیق FTC از OpenAI و Anthropic می‌تواند پیامدهای عملی داشته باشد. اگر FTC شرکت‌ها را ملزم به شفافیت بیشتر درباره incidents ایمنی کند، ممکن است سیاست‌های افشای اطلاعات و شرایط استفاده از سرویس‌هایی مثل ChatGPT و Claude تغییر کند.
همچنین، هرگونه جریمه سنگین یا الزام قانونی می‌تواند بر سرعت توسعه مدل‌های جدید تأثیر بگذارد و در نتیجه، دسترسی توسعه‌دهندگان ایرانی به APIها و ابزارهای این شرکت‌ها را تحت‌الشعاع قرار دهد. از سوی دیگر، اگر استانداردهای سخت‌گیرانه‌تری برای گزارش‌دهی incidents وضع شود، ممکن است شرکت‌ها به سمت شفافیت بیشتر حرکت کنند که برای امنیت کاربران در سراسر جهان مفید است.
💡 خرید اکانت چت جی پی تی — ChatGPT و Claude بدون فیلترشکن و با پرداخت تومانی
جمع‌بندی
تحقیق FTC از OpenAI و Anthropic نشان‌دهنده افزایش فشار نظارتی بر صنعت هوش مصنوعی است، حتی در شرایطی که ترامپ و بخشی از دولت آمریکا بر لزوم حمایت از نوآوری تأکید دارند. نتیجه این تحقیقات می‌تواند بر آینده شفافیت، ایمنی و دسترسی به ابزارهای هوش مصنوعی در سطح جهانی اثر بگذارد.
منابع
- Ars Technica AI — Report: FTC probes Anthropic, OpenAI after Trump dismissed AI fears as “hoax”
- The Verge AI — Friends don’t let friends feed their data to AI agents
- The Verge AI — Your secrets aren’t safe with this cute robot toy — they’re on Chinese servers ready to be hacked
- Ars Technica AI — Recording device hidden in toilet paper found in top-secret OpenAI meeting room
نظرات
هنوز نظری ثبت نشده؛ اولین نفر باشید.