سوءاستفاده مهاجمان از هوش مصنوعی Claude برای خودکارسازی حملات و سرقت داده

بر اساس اعلام Anthropic، طیف متنوعی از مهاجمان از جمله گروه‌های حمایت‌شده توسط دولت‌ها، مجرمان مالی‌محور و بازیگران تجاری، از مدل‌های زبانی Claude برای پیشبرد فعالیت‌های مخرب بهره برده‌اند. این سوءاستفاده‌ها شامل خودکارسازی مراحل حمله سایبری و سرقت داده از قربانیان متعدد، و همچنین کمک به طراحی سلاح، تولید محتوای تبلیغاتی و انجام نظارت گسترده بوده است. این هشدار نشان می‌دهد ابزارهای هوش مصنوعی مولد می‌توانند سرعت و مقیاس حملات سایبری را به‌طور قابل‌توجهی افزایش دهند، زیرا کارهایی که پیش‌تر نیازمند مهارت فنی بالا بود اکنون با کمک این مدل‌ها ساده‌تر و سریع‌تر انجام می‌شود. Anthropic این گروه‌های مهاجم را با عنوان «گروه‌های تهدید مولد» (Generative Threat Groups) دسته‌بندی کرده تا الگوی جدیدی از تهدیدات مبتنی بر هوش مصنوعی را برجسته کند.