«اعتماد صفر» برگ برنده سازمان‌ها در عصر هوش مصنوعی است

برندگان واقعی عصر هوش مصنوعی الزاماً سازمان‌هایی هستند که از ابتدا فرض کرده‌اند نفوذ، اجتناب‌ناپذیر است و معماری خود را بر پایه «اعتماد صفر» طراحی کرده‌اند.

به گزارش افتانا، هوش مصنوعی دیگر صرفاً ابزاری برای پاسخ به پرسش‌ها یا تولید محتوا نیست. نسل جدید سیستم‌های هوشمند که با عنوان «عامل‌های هوش مصنوعی (AI Agents) » شناخته می‌شوند، قادرند به صورت مستقل تصمیم بگیرند، با نرم‌افزارها و پایگاه‌های داده تعامل کنند، ایمیل ارسال کنند، گزارش بنویسند و حتی زنجیره‌ای از اقدامات را بدون دخالت مستقیم انسان اجرا کنند. اما همین استقلال عمل، چالش امنیتی تازه‌ای را به وجود آورده است.

گزارش جدید «Zero Trust for AI Agents» هشدار می‌دهد که سازمان‌ها در آستانه ورود به دوره‌ای هستند که در آن مهاجمان نیز از هوش مصنوعی استفاده می‌کنند و فاصله زمانی میان کشف یک آسیب‌پذیری و سوءاستفاده از آن از چند ماه به چند ساعت کاهش یافته است. در چنین شرایطی، مدل‌های امنیتی سنتی که بر حفاظت از «مرزهای شبکه» تکیه دارند، دیگر کارایی گذشته را ندارند.

مفهوم اعتماد صفر چیست؟
فلسفه «اعتماد صفر» (Zero Trust) بر یک اصل ساده بنا شده است: به هیچ چیز اعتماد نکن، همه چیز را راستی‌آزمایی کن و فرض را بر این بگذار که نفوذ از قبل رخ داده است.

بر اساس این رویکرد، حتی اگر یک کاربر، نرم‌افزار یا عامل هوش مصنوعی در داخل شبکه سازمان قرار داشته باشد، باز هم باید برای هر اقدام خود احراز هویت و مجوز لازم را دریافت کند. هدف این است که در صورت وقوع نفوذ، دامنه خسارت تا حد ممکن محدود شود.

عامل‌های هوش مصنوعی چه خطراتی ایجاد می‌کنند؟
گزارش معتقد است که عامل‌های هوشمند ماهیتی متفاوت از نرم‌افزارهای سنتی دارند.

یک نرم‌افزار کلاسیک دقیقاً همان کاری را انجام می‌دهد که برنامه‌نویس برای آن تعریف کرده است. اما یک عامل هوش مصنوعی می‌تواند هدفی را دریافت کند و خودش تصمیم بگیرد چگونه به آن هدف برسد. همین ویژگی، سطح جدیدی از ریسک را ایجاد می‌کند.

از مهم‌ترین تهدیدهای شناسایی‌شده می‌توان به موارد زیر اشاره کرد:
۱. حملات تزریق دستور (Prompt Injection): مهاجم می‌تواند دستورهای مخرب را در قالب متن، ایمیل یا حتی محتوای وب‌سایت‌ها پنهان کند و عامل هوش مصنوعی را وادار به انجام اقداماتی کند که هرگز نباید انجام دهد.

۲. سوءاستفاده از ابزارها: عامل‌های هوشمند معمولاً به ابزارهای مختلفی مانند پایگاه داده، سیستم ایمیل یا APIهای سازمانی دسترسی دارند. اگر مهاجم موفق شود رفتار عامل را منحرف کند، می‌تواند از همین ابزارهای قانونی برای سرقت اطلاعات یا تخریب سیستم‌ها استفاده کند.

۳. مسموم‌سازی حافظه: عامل‌های پیشرفته دارای حافظه هستند و اطلاعات جلسات قبلی را نگهداری می‌کنند. اگر این حافظه آلوده شود، اثر حمله می‌تواند برای مدت طولانی باقی بماند و بر تصمیم‌های آینده عامل تأثیر بگذارد.

۴. حملات زنجیره تأمین: همان‌طور که نرم‌افزارها به کتابخانه‌های متن‌باز وابسته‌اند، عامل‌های هوش مصنوعی نیز به مدل‌ها، ابزارها و سرویس‌های متعددی متکی هستند. هر یک از این اجزا می‌تواند به نقطه ورود مهاجمان تبدیل شود.

یکی دیگر از مفاهیم جدیدی که در این سند مطرح می‌شود «حداقل عاملیت» (Least Agency) است. در امنیت سنتی از اصل «حداقل دسترسی» استفاده می‌شد؛ یعنی هر کاربر فقط به منابع موردنیاز خود دسترسی داشته باشد.

اما در دنیای عامل‌های هوش مصنوعی این اصل باید یک گام جلوتر برود. نه‌تنها باید مشخص شود عامل به چه چیزی دسترسی دارد، بلکه باید تعیین شود:
چه عملی را می‌تواند انجام دهد؟
چند بار می‌تواند آن عمل را انجام دهد؟
در چه شرایطی مجاز به انجام آن است؟
چه زمانی باید متوقف شود و از انسان تأیید بگیرد؟

این گزارش را می‌توان یکی از مهم‌ترین اسناد راهبردی سال‌های اخیر در حوزه امنیت هوش مصنوعی دانست.

پیام اصلی آن روشن است: سازمان‌هایی که صرفاً روی توسعه و استقرار عامل‌های هوش مصنوعی تمرکز کنند، اما امنیت آن‌ها را جدی نگیرند، با ریسک‌های بزرگی روبه‌رو خواهند شد. در مقابل، برندگان واقعی عصر هوش مصنوعی الزاماً سازمان‌هایی نیستند که پیشرفته‌ترین مدل‌ها را در اختیار دارند؛ بلکه آن‌هایی هستند که از ابتدا فرض کرده‌اند نفوذ، اجتناب‌ناپذیر است و معماری خود را بر پایه «اعتماد صفر» طراحی کرده‌اند.

برای مدیران امنیت اطلاعات، مدیران فناوری و معماران سازمانی، این گزارش یک هشدار مهم و در عین حال یک نقشه راه عملی محسوب می‌شود: اگر قرار است عامل‌های هوش مصنوعی بخشی از آینده کسب‌وکار باشند، امنیت آن‌ها باید از روز نخست در طراحی لحاظ شود، نه پس از وقوع اولین حادثه.

نسخه کامل گزارش «Zero Trust for AI Agents» بالای همین مطلب، پیوست شده است.