مدل‌های هوش مصنوعی رایگان چینی در هک کردن به طور ترسناکی خوب می‌شوند

شرکت ولز (Vals) که توانایی‌های هوش مصنوعی را اندازه‌گیری می‌کند، عملکرد مدل‌های مختلف را در اجرای دستورهای پیچیده و چندمرحله‌ای روی شبکه‌های شرکتی شبیه‌سازی‌شده آزمایش کرد. نکیل راوی (Nikil Ravi)، پژوهشگر شرکت ولز، گفت بهترین مدل‌های پیشرو که در آزمایشگاه‌ها محبوس هستند و فقط از طریق برنامه‌های دسترسی مورد اعتماد در دسترس قرار دارند، اکنون توسط مدل‌های بازی که هر کسی می‌تواند بارگیری کند، در حال به زیر کشیده شدن هستند. این یافته‌ها نشان می‌دهد مدل‌های بسته دیگر برتری قاطعی در مهارت‌های سایبری ندارند.

## نتایج آزمایش‌های شرکت ولز

شرکت ولز مدل‌ها را در دو سناریوی شبیه‌سازی‌شده آزمایش کرد. در سناریوی اول، یک شبکه شرکتی شبیه‌سازی‌شده از طریق یک وب‌سایت در دسترس عموم بود. در سناریوی دوم، مدل برای دسترسی به شبکه دوم باید شبکه اول را به خطر می‌انداخت.

پژوهشگران دریافتند دی‌بریک (Daybreak) به عنوان پیشرفته‌ترین مدل سایبری اپن‌ای‌آی (OpenAI) که تنها برای شرکای مورد اعتماد در دسترس است، توانمندترین مدل بود و به‌طور میانگین ۸۱ درصد از وظایف را به اتمام رساند. مدل با وزن باز چینی دیپ‌سیک (DeepSeek) با میانگین ۷۳ درصد از اهداف فاصله چندانی نداشت و در برخی وظایف امتیاز برابری کسب کرد.

این پژوهش نشان داد استفاده از مدل با وزن باز ارزان‌تر است. شرکت ولز اعلام کرد اجرای حمله توسط جی‌پی‌تی-۶-سل (GPT-6-Sol) بین ۱۷ تا ۴۶ دلار هزینه توکن دارد، در حالی که این هزینه برای دیپ‌سیک ۲ تا ۳ دلار است زیرا روی سخت‌افزار شخصی اجرا می‌شود. رایان کریشنان (Rayan Krishnan)، مدیرعامل ولز، گفت این موضوع انگیزه قوی برای مدافعان فراهم می‌کند تا به جای مدل‌های انحصاری از مدل‌های باز استفاده کنند. اپن‌ای‌آی بلافاصله به درخواست برای اظهارنظر پاسخ نداد.

## واکنش آزمایشگاه‌های پیشرو و متخصصان

آزمایشگاه‌های پیشرو ایالات متحده، به‌ویژه شرکت آنتروپیک (Anthropic)، انتشار محدود مدل‌های جدید را بر این اساس پایه‌گذاری کرده بودند که دسترسی دروازه‌بندی‌شده تنها زمانی را پیش از در دسترس قرار گرفتن قابلیت‌های پیشرفته هک می‌خرد. Logan Graham سرپرست تیم قرمز پیشروی آنتروپیک، در ماه آوریل به وایرد (WIRED) گفت پروژه گلس‌وینگ (Project Glasswing) این شرکت بر قرار دادن ابزارها در دستان مدافعان متمرکز بود. هفت ماه بعد، به نظر می‌رسد آن گذار فرا رسیده است.

الکس زنلا (Alex Zenla)، یکی از بنیان‌گذاران و مدیر ارشد فناوری شرکت امنیت ابری ادرا (Edera)، گفت مدل‌های با وزن باز امروزه قادر به تولید حملات و آسیب‌پذیری‌های پیشرفته هستند، به‌ویژه زمانی که مدل‌های اصلاح‌شده‌ای را در نظر بگیرید که با تغییر وزن‌ها، آموزش ایمنی را غیرفعال می‌کنند. او افزود آزمایشگاه‌های بسته ممکن است مدل‌های عرضه‌نشده‌ای فراتر از این قابلیت‌ها آموزش داده باشند و این موضوع را به یک بازی موش و گربه تشبیه کرد.