بیش از هزار سرور آسیب‌پذیر هوش مصنوعی در اینترنت رها هستند

تیم امنیتی Talos شرکت سیسکو اعلام کرده است که بیش از ۱۱۰۰ سرور Ollama بدون هیچ‌گونه محدودیت دسترسی در فضای اینترنت رها شده‌اند و مهاجمان می‌توانند از آن برای اقدامات مخرب گوناگون سوءاستفاده کنند.

به گزارش افتانا، تیم امنیتی Talos وابسته به شرکت سیسکو اعلام کرد بیش از ۱۱۰۰ سرور Ollama بدون هیچ‌گونه حفاظت در اینترنت رها شده‌اند. این سرورها امکان اجرای مدل‌های زبانی بزرگ را به‌صورت محلی فراهم می‌کنند و در صورت دسترسی غیرمجاز می‌توانند به اهدافی چون مصرف منابع، اختلال در سرویس، استخراج مدل‌ها و حتی تزریق کدهای مخرب مورد سوءاستفاده قرار گیرند.

محققان Talos با استفاده از ابزار اسکن اینترنتی Shodan توانستند بیش از ۱۱۰۰ سرور بدون امنیت را شناسایی کنند که حدود ۲۰ درصد از آنها به‌طور فعال میزبان مدل‌های زبانی در معرض دسترسی غیرمجاز بوده‌اند. این بررسی تنها در عرض ۱۰ دقیقه از آغاز اسکن بیش از هزار نمونه آسیب‌پذیر را آشکار کرد.

قرار گرفتن یک سرور Ollama بدون محافظت در اینترنت بدین معناست که هر فردی می‌تواند با یافتن آن، از طریق API به مدل دسترسی پیدا کند، منابع سیستم را مصرف کند یا حتی هزینه‌های گزافی به صاحبان زیرساخت تحمیل نماید. علاوه بر این، بسیاری از این سرورها اطلاعاتی را افشا می‌کنند که می‌تواند برای شناسایی میزبان و اجرای حملات هدفمند مورد استفاده قرار گیرد.

سیسکو هشدار داده است که پیامدهای احتمالی چنین وضعیتی می‌تواند شامل موارد زیر باشد:
استخراج مدل(Model Extraction) : مهاجم با ارسال درخواست‌های مکرر قادر است پارامترهای مدل را بازسازی کند.

جیل‌بریک و سوءاستفاده محتوایی: مدل‌هایی نظیر GPT-4، LLaMA یا Mistral ممکن است وادار به تولید محتوای ممنوع، از جمله کد مخرب، اطلاعات گمراه‌کننده یا خروجی‌های خطرناک شوند.

آلودگی و تزریق بدافزار در مدل: مهاجمان می‌توانند با بارگذاری مدل‌های غیرقابل اعتماد یا تزریق کدهای آلوده، سرور را دستکاری کنند.

بر اساس یافته‌ها، ۸۰ درصد از سرورهای شناسایی‌شده «غیرفعال» بوده و هیچ مدلی روی آنها اجرا نمی‌شده است؛ اما همین سامانه‌ها همچنان در معرض خطر بارگذاری مدل‌های ناشناس یا تغییر پیکربندی قرار دارند.

دکتر یانیس تزیاکوریس، معمار ارشد پاسخ‌گویی به رخدادهای امنیتی در سیسکو، هشدار داده است که همین رابط‌های باز می‌توانند به‌عنوان سکوی حملاتی مانند مصرف بی‌رویه منابع، ایجاد اختلال در سرویس (DoS) یا حرکت جانبی در شبکه به‌کار گرفته شوند.

طبق آمار، بیشترین سهم این سرورهای ناامن در ایالات متحده (۳۶/۶ درصد) قرار دارد و پس از آن چین (۲۲/۵ درصد) و آلمان (۸/۹ درصد) در رتبه‌های بعدی هستند.

او در جمع‌بندی نتایج این تحقیق تأکید کرده است که این وضعیت نشان‌دهنده بی‌توجهی گسترده به اصول پایه‌ای امنیتی مانند کنترل دسترسی، احراز هویت و جداسازی شبکه در استقرار سامانه‌های هوش مصنوعی است. به گفته وی، رواج استفاده از APIهای سازگار با OpenAI نیز شرایط را بدتر می‌کند، زیرا مهاجمان می‌توانند حملات خود را با کمترین تغییر روی بسترهای مختلف اجرا کنند.

تزیاکوریس در پایان خواستار تدوین استانداردهای امنیتی مشترک، ابزارهای خودکار برای حسابرسی، و راهنمایی‌های دقیق‌تر برای استقرار زیرساخت‌های هوش مصنوعی شد. او همچنین بر لزوم توسعه ابزارهای تحقیقاتی پیشرفته‌تر برای بررسی امنیت دیگر بسترهای میزبانی مدل مانند Hugging Face، Triton و vLLM تأکید کرد.

Ollama بستری است که امکان اجرای مدل‌های زبانی بزرگ را به‌صورت محلی روی دسکتاپ یا سرور فراهم می‌کند. دکتر تزیاکوریس علت توجه به این بستر را محبوبیت روزافزون آن به دلیل سادگی کاربری و قابلیت اجرای محلی عنوان کرده است.