شرکت آنتروپیک (Anthropic) سیاست‌های استفاده از مدل‌های هوش مصنوعی Claude را به‌روزرسانی کرده است که این تغییرات از پنجشنبه ۱۲ نوامبر (۲۱ آبان) به‌طور رسمی اجرا می‌شود. این شرکت دلیل بازبینی در این سیاست‌ها را افزایش توانمندی‌های مستقل مدل‌های خود در یک سال اخیر و لزوم شفاف‌سازی محدودیت‌ها اعلام کرده است.
سخت‌گیری در سیاست مناطق پشتیبانی‌شده
یکی از تغییرات مهم در نسخه جدید، شفاف‌سازی نحوه اجرای «سیاست مناطق پشتیبانی‌شده» است. آنتروپیک سازوکار نظارتی خود را برای محدود کردن دسترسی در مناطق پشتیبانی‌نشده دقیق‌تر کرده است. بر اساس شرایط جدید، استفاده از Claude برای سه گروه به‌طور صریح ممنوع است:
- افرادی که از نظر فیزیکی و جغرافیایی در یک منطقه پشتیبانی‌نشده حضور دارند. - شرکت‌ها و نهادهایی که دفتر مرکزی آنها در مناطق پشتیبانی‌نشده است یا در آنجا به ثبت رسیده‌اند. - شرکت‌هایی که بخش عمده مالکیت یا مدیریت آنها در اختیار افراد یا نهادهای مستقر در این مناطق است.
با توجه به اینکه نام ایران در فهرست مناطق تحت پشتیبانی آنتروپیک قرار ندارد، تصریح این شرکت بر ممنوعیت استفاده برای افراد «حاضر در این مناطق»، احتمال شناسایی ابزارهای دورزدن تحریم، مسدود شدن حساب‌ها و قطع دسترسی کاربران در ایران را افزایش داده است.
سایر محدودیت‌های جدید مدل‌های Claude
آنتروپیک علاوه بر مسائل جغرافیایی، خط‌قرمزهای کارکردی مدل‌های خود را در حوزه‌های زیر به‌روزرسانی کرده است:
- مقابله با کمپین‌های فریبنده: ایجاد بخش مجزایی برای جلوگیری از فعالیت رسانه‌های دولتی، نهادهای تبلیغاتی یا شرکت‌های تجاری جهت راه‌اندازی سایت‌های خبری دروغین، اکانت‌های جعلی یا هدایت افکار عمومی. - انتخابات: بازنویسی بخش انتخابات با تمرکز بر جلوگیری از فریب رأی‌دهندگان، شبیه‌سازی هویت نامزدها و اخلال در روند انتخابات. - امور تسلیحاتی و نظارتی: ممنوعیت کامل ساخت نرم‌افزارهای هدایت، ناوبری و کنترل سلاح و تجهیز پهپادها. همچنین استفاده از Claude برای ساخت ابزارهای جاسوسی، ردیابی افراد بدون رضایت یا تصمیم‌گیری درباره بازداشت و تعقیب قضایی شهروندان غیرمجاز است. - حوزه‌های حساس: در زمینه‌های پزشکی، مالی و حقوقی، حضور ناظر انسانی آگاه الزامی است. همچنین اگر Claude به تجهیزات سخت‌افزاری با توانایی اقدام فیزیکی آسیب‌رسان متصل شود، باید امکان توقف اضطراری توسط اپراتور وجود داشته باشد. - رفتارهای توهین‌آمیز: در صورت تکرار رفتارهای توهین‌آمیز کاربر نسبت به مدل‌ها، Claude اجازه دارد مکالمه را به‌صورت خودکار قطع کند.
نظرها
هنوز نظری منتشر نشده است؛ اولین نظر را شما بنویسید.