نبرد نابرابر سرعت و امنیت در تله‌ هوش مصنوعی

هوش مصنوعی با شتابی وصف‌ناپذیر به پیش می‌رود و امنیت دیگر نمی‌تواند یک موضوعی فرعی باشد. دولت‌ها و سازمان‌ها یا باید حاکمیت دقیق بر سیستم‌های خود داشته باشند یا اجازه دهند مهاجمان، آینده آن‌ها را رقم بزنند.

به گزارش افتانا، دنیای فناوری امروز شاهد تحولی است که از آن به عنوان بزرگ‌ترین تغییر پس از اختراع اینترنت یاد می‌شود. هوش مصنوعی دیگر یک پروژه آزمایشی نیست؛ آمارهای تکان‌دهنده نشان می‌دهد که اکنون بیش از ۹۲ درصد از شرکت‌های برتر لیست Fortune 500 به طور رسمی از ابزارهای هوش مصنوعی مولد استفاده می‌کنند. اما در حالی که چهار غول بزرگ فناوری (گوگل، آمازون، متا و مایکروسافت) در حال آماده‌سازی برای سرمایه‌گذاری خیره‌کننده ۴۰۰ میلیارد دلاری در زیرساخت‌های هوش مصنوعی تا سال ۲۰۲۶ هستند، شکافی عمیق و نگران‌کننده میان سرعت پذیرش این فناوری و توانایی دفاع در برابر تهدیدات ناشی از آن ایجاد شده است.

اولویت‌هایی که جابه‌جا شده‌اند
گزارش جدید مؤسسه SANS و نظرسنجی‌های معتبر نشان‌دهنده یک بحران مدیریتی در حوزه امنیت است. در حالی که هوش مصنوعی با سرعتی سرسام‌آور در حال پیشروی است، تنها ۲۷ درصد از مدیران ارشد امنیت اطلاعات (CISO) موفق شده‌اند کنترل‌های هوش مصنوعی خود را با چارچوب‌های امنیتی استاندارد تطبیق دهند. نگران‌کننده‌تر آنکه، ۴۵ درصد از مدیران فناوری اطلاعات در بودجه‌بندی سال ۲۰۲۵ خود، توسعه هوش مصنوعی مولد را بر امنیت سایبری مقدم دانسته‌اند و ابزارهای امنیتی تنها ۳۰ درصد از تمرکز بودجه‌ای را به خود اختصاص داده‌اند.
این عدم توازن، منجر به ظهور پدیده‌ای خطرناک به نام هوش مصنوعی سایه (shadow AI) شده است؛ وضعیتی که در آن به دلیل سخت‌گیری یا کندی سازمان در پذیرش رسمی، کارکنان به صورت پنهانی و بدون نظارت از ابزارهای هوش مصنوعی غیرمجاز استفاده می‌کنند و داده‌های حساس سازمانی را در معرض پلتفرم‌های شخص ثالث قرار می‌دهند.

چهل‌وهفت برابر سریع‌تر از انسان
چشم‌انداز تهدیدات به طور کامل تغییرکرده است. دیگر صحبت از نبرد انسان با انسان نیست. تحقیقات نشان می‌دهد که مهاجمان با استفاده از هوش مصنوعی، زنجیره حملات خود را با سرعتی باورنکردنی به اجرا در می‌آورند. در حالی که یک نفوذگر ماهر انسانی ممکن است ساعت‌ها برای ارتقای سطح دسترسی (Privilege Escalation) زمان نیاز داشته باشد، ابزارهای خودکار اکنون این کار را در حدود ۶۰ ثانیه انجام می‌دهند. به طور کلی، فرآیندهای تهاجمی مبتنی بر هوش مصنوعی حداقل ۴۷ برابر سریع‌تر از روش‌های سنتی عمل می‌کنند. گزارش‌ها حاکی از آن است که بیش از ۷۵ درصد از نقض‌های مربوط به مهندسی اجتماعی در سال جاری، ردپایی از محتوای تولید شده توسط هوش مصنوعی را در خود داشته‌اند.

نقشه راه عبور از بحران
برای مقابله با این وضعیت، مؤسسه SANS یک مدل راهبردی سه لایه را تحت عنوان «مالکیت امن هوش مصنوعی» ارائه کرده است که شامل سه محور اصلی است:
محافظت از هوش مصنوعی: تمرکز بر امنیت مدل‌ها و داده‌ها. حملاتی مانند «مسموم‌سازی مدل» که در آن مهاجم داده‌های مخرب را وارد چرخه آموزش می‌کند، یا «تزریق دستور» (Prompt Injection) که می‌تواند در عرض چند دقیقه داده‌های حساس را استخراج کند، از تهدیدات جدی این حوزه هستند. نمونه بارز آن، نفوذ "Promptware" به گوگل جمینای در اوایل ۲۰۲۵ بود که از طریق یک دعوت‌نامه ساده، دستورات غیرمجاز را روی دستگاه کاربر اجرا کرد.

بهره‌گیری از هوش مصنوعی: سازمان‌ها باید برای مقابله با آتش، از آتش استفاده کنند. مراکز عملیات امنیت (SOC) باید به ابزارهای هوشمند مجهز شوند تا بتوانند سرعت دفاع را به سرعت حملات برسانند. در حال حاضر، ۴۲ درصد از مراکز امنیتی تنها از ابزارهای یادگیری ماشین پیش‌فرض استفاده می‌کنند که کارایی لازم را در برابر حملات پیچیده ندارند.

حاکمیت هوش مصنوعی : حاکمیت دیگر یک موضوع حاشیه‌ای نیست، بلکه یک ضرورت استراتژیک برای هیئت مدیره است. جالب است بدانید ۷۴ درصد از مدیران عامل در سطح جهان معتقدند اگر نتوانند دستاوردهای تجاری ملموسی از طریق هوش مصنوعی ارائه دهند، ممکن است ظرف دو سال آینده جایگاه خود را از دست بدهند. با این حال، ۶۶ درصد از اعضای هیئت مدیره هنوز دانش یا تجربه بسیار محدودی در مورد این فناوری دارند.

پذیرش مسئولانه هوش مصنوعی نیازمند شفافیت، پاسخگویی و امنیت طراحی‌شده از پایه است. فایل این گزارش در بالای همین مطلب قابل دریافت است.