يکشنبه ۱۵ مهر ۱۴۰۳ , 6 Oct 2024
جالب است ۰
امنیت اوپن‌ای‌آی زیر ذره‌بین؛ از اخراج مدیر فنی تا همکاری با ژنرال بازنشسته ارتش

ذخیره‌سازی بدون رمزگذاری گفت‌وگوهای کاربران مک در ChatGPT

شرکت اوپن‌ای‌آی به تازگی با دو مشکل امنیتی بزرگ روبه‌رو شد که اولین مورد مربوط به اپلیکیشن مک (Mac) برای ChatGPT است و دومین مورد به نگرانی‌های گسترده‌تر پیرامون نحوه مدیریت امنیت سایبری این شرکت مربوط می‌شود.
شرکت اوپن‌ای‌آی به تازگی با دو مشکل امنیتی بزرگ روبه‌رو شد که اولین مورد مربوط به اپلیکیشن  مک (Mac) برای ChatGPT است و دومین مورد به نگرانی‌های گسترده‌تر پیرامون نحوه مدیریت امنیت سایبری این شرکت مربوط می‌شود.
 
به گزارش افتانا، پدرو خوزه پریرا ویتو(Pedro José Pereira Vieito)، مهندس و توسعه‌دهنده انجمن تعاونی غیرانتفاعی سوئیفت(Swift)، اوایل این هفته اپلیکیشن مک را بررسی کرد و متوجه شد که این اپلیکیشن، گفت‌وگوهای کاربران را به‌جای رمزگذاری، در قالب متن ساده ذخیره می‌کند.  اپلیکیشن مک فقط از وب‌سایت اوپن‌ای‌آی در دسترس است و از آنجا که در اپ استور(App Store) در دسترس نیست، نیازی به پیروی از الزامات حفاظتی sandboxing اپل ندارد. پس از جلب شدن توجه‌ها به این موضوع ، اوپن‌ای‌آی یک به‌روزرسانی را منتشر کرد که رمزگذاری را به گفت‌وگوهای ذخیره‌شده اضافه می‌کند.
 
سندباکس برای غیر توسعه‌دهندگان، یک اقدام امنیتی است که از گسترش آسیب‌پذیری‌ها و انتقال خرابی‌های احتمالی از یک اپلیکیشن به اپلیکیشن‌های دیگر جلوگیری می‌کند و برای کارشناسان غیرامنیتی، ذخیره فایل‌های محلی در متن ساده به این معناست که سایر برنامه‌ها یا بدافزارها می‌توانند داده‌های حساس را به راحتی ببینند.
 
دومین مشکل که ابتدا در سال ۲۰۲۳ رخ داد، پیامدهایی داشت که اثرات آنها تا به امروز ادامه داشته‌اند. بهار گذشته، یک هکر پس از دسترسی غیرقانونی به سیستم‌های پیام‌رسان داخلی اوپن‌ای‌آی توانست اطلاعاتی را درباره شرکت به دست بیاورد. نیویورک تایمز گزارش داد که لئوپولد اشنبرنر(Leopold Aschenbrenner)، مدیر برنامه فنی اوپن‌ای‌آی، نگرانی‌های امنیتی را با هیئت مدیره شرکت مطرح کرده و معتقد است این هک، نشانه آسیب‌پذیری‌های داخلی است که دشمنان خارجی می‌توانند از آنها سوءاستفاده کنند. اشنبرنر اکنون فاش کرده که به دلیل افشای اطلاعات درباره اوپن‌ای‌آی و بروز دادن نگرانی‌های خود درباره امنیت شرکت اخراج شده است. یکی از نمایندگان اوپن‌ای‌آی گفت:  اخراج اشنبرنر به دلیل افشاگری نبوده است. اگرچه ما در تعهد او نسبت به ساختن نسخه ایمن هوش مصنوعی عمومی سهیم هستیم، اما با بسیاری از ادعاهایی که از آن زمان درباره کار ما مطرح کرده است، مخالفیم.
 
کاربرد گسترده‌ ChatGPT نگاه‌های زیادی به سوی این شرکت و میزان توانش در مدیریت  و امنیت داده‌های کاربران جلب کرده‌است.
 
شرکت «اوپن‌ای‌آی»(OpenAI) اخیرا اعلام کرده بود که پل ناکاسون(Paul Nakasone) ژنرال بازنشسته ارتش آمریکا به هیئت مدیره‌اش پیوسته است. از نظر عده‌ای، انتصاب ناکاسون که یک متخصص برجسته در حوزه امنیت سایبری است، تعهد اوپن‌ای‌آی را به ایمنی و امنیت منعکس می‌کند و بر اهمیت روزافزون امنیت سایبری همراه با رشد تاثیر فناوری هوش مصنوعی تاکید دارد.
 
به گفته برت تیلور(Bret Taylor)، رئیس هیئت مدیره اوپن‌ای‌آی، تجربه بی‌نظیر ژنرال ناکاسون در زمینه‌هایی مانند امنیت سایبری، به هدایت اوپن‌ای‌آی در دستیابی به مأموریت خود در اطمینان یافتن از سودمندی هوش مصنوعی عمومی برای همه بشریت کمک می‌کند.
 
این در حالی است که تصمیم جدید اوپن‌ای‌آی برای همه خوشایند نیست. ادوارد اسنودن(Edward Snowden)، پیمانکار سابق آژانس امنیت ملی آمریکا، در حساب ایکس خود درباره این انتصاب، نوشت: «هرگز به اوپن‌ای‌آی یا محصولات آن اعتماد نکنید. تنها یک دلیل برای انتصاب یک مدیر آژانس امنیت ملی در هیئت مدیره شما وجود دارد. این یک خیانت عمدی و حساب‌شده به حقوق همه افراد روی زمین است... . به شما هشدار داده شده است.»
 
کد مطلب : 22301
https://aftana.ir/vdchzxni.23nivdftt2.html
ارسال نظر
نام شما
آدرس ايميل شما
کد امنيتی