تحلیلهای اخیر جفروگ نشان میدهد که سیستمهای یادگیری ماشینی متنباز در برابر تهدیدات امنیتی بیشتر از سیستمهای بالغتر مانند دیفاپس یا سرورهای وب قرار دارند. با گسترش کاربرد یادگیری ماشینی در صنایع گوناگون، ایمنسازی این سیستمها به اولویت حیاتی تبدیل شده است، زیرا صدمهپذیریها میتوانند منجر به دسترسی غیرمجاز، نقض دادهها و اختلال در عملیات شوند.
به گزارش تکنا، جفروگ در چند ماه گذشته ۲۲ صدمهپذیری را در ۱۵ پروژه متنباز یادگیری ماشینی از جمله کشف کرده است. این نقصها در دو دسته اصلی قرار میگیرند تهدیدهایی که مؤلفههای سمت سرور را هدف میگذارند و خطرات افزایش امتیازات در چارچوبهای یادگیری ماشینی.
صدمهپذیریهای شناساییشده مؤلفههای کلیدی که به وفور در گردشکارهای یادگیری ماشینی استفاده میشوند را تحت تأثیر قرار دادهاند. این موضوع به مهاجمان اجازه میدهد تا از ابزارهایی که به دلیل انعطافپذیری توسط متخصصان مورد اعتماد قرار گرفتهاند، سوءاستفاده کنند و به فایلهای حساس دسترسی یابند یا امتیازات خود را در محیطهای یادگیری ماشینی ارتقا دهند.
یکی از صدمهپذیریهای برجسته مربوط به ویو ابزاری محبوب از ویتساندبایاسز ( & ) است که از ردیابی و تجسم معیارهای مدل پشتیبانی میکند. صدمهپذیری پیمایش دایرکتوری WANDB ویو به کاربران با امتیازات پایین اجازه میدهد تا به فایلهای دلخواه در سراسر سیستم فایل دسترسی پیدا کنند.
این نقص ناشی از اعتبارسنجی نادرست ورودی در زمان مدیریت مسیرهای فایل است و به مهاجمان امکان میدهد تا به فایلهای حساس مانند کلیدهای API ادمین یا سایر اطلاعات محرمانه دست یابند. چنین نقضی میتواند به افزایش امتیازات و اعطای دسترسی غیرمجاز به منابع منجر شده و امنیت کل خط لوله یادگیری ماشینی را به خطر بیندازد.
زنامال ابزاری برای مدیریت خط لوله نیز تحت تأثیر یک صدمهپذیری بحرانی قرار دارد که سیستمهای کنترل دسترسی آن را تهدید میکند. این نقص به مهاجمان با حداقل امتیازات اجازه میدهد تا مجوزهای خود را در زنامال کلود (یک استقرار مدیریت شده) افزایش دهند و در نتیجه به اطلاعات محدود شده از جمله اسرار محرمانه یا فایلهای مدل دسترسی یابند.
مشکل کنترل دسترسی در زنامال سیستم را در معرض خطرات قابلتوجهی قرار میدهد، زیرا افزایش امتیازات میتواند به مهاجم اجازه دهد تا خط لولههای یادگیری ماشینی را دستکاری کند، دادههای مدل را جعل کند یا به دادههای عملیاتی حساس دسترسی یابد و بر محیطهای تولیدی متکی بر این خط لولهها تأثیر بگذارد.
صدمهپذیری جدی دیگری تحت عنوان تزریق فرمان دیپ لیک با شناسه در پایگاه داده دیپ لیک یافت شده است — راهحلی برای ذخیرهسازی داده بهینهشده برای برنامههای هوش مصنوعی. این نقص به مهاجمان اجازه میدهد تا با سوءاستفاده از نحوه مدیریت واردات مجموعه دادههای خارجی، دستورات دلخواه را اجرا کنند.
به دلیل پاکسازی نادرست فرمان، یک مهاجم میتواند به طور بالقوه اجرای کد از راه دور را انجام دهد و امنیت هر دو پایگاه داده و برنامههای متصل را به خطر بیندازد.
یک صدمهپذیری قابلتوجه در وانا ایآی ( AI) ابزاری برای تشکیل و تجسم پرسوجوی SQL با زبان طبیعی نیز کشف شده است. تزریق اعلان وانا.ایآی به مهاجمان اجازه میدهد تا کد مخرب را در اعلانهای SQL تزریق کنند که این ابزار آن را پردازش میکند. این نقص میتواند به اجرای کد از راه دور منجر شده و به بازیگران مخرب اجازه دهد تا ویژگی تجسم SQL به نمودار را هدف قرار دهند، تزریق SQL انجام دهند یا دادهها را خارج کنند.
مج.ایآی ابزاری برای مدیریت خط لولههای داده، دارای چندین صدمهپذیری از جمله دسترسی غیرمجاز به پوسته، نشت فایلهای دلخواه و پیمایش ضعیف مسیر است. این مسائل به مهاجمان اجازه میدهد تا کنترل خط لولههای داده را به دست بگیرند، پیکربندیهای حساس را افشا کنند یا حتی دستورات مخرب را اجرا کنند. ترکیب این صدمهپذیریها خطر افزایش امتیازات و نقض یکپارچگی دادهها را افزایش میدهد و امنیت و پایداری خط لولههای یادگیری ماشینی را تهدید میکند.
با کسب دسترسی ادمین به پایگاه دادهها یا رجیستریهای یادگیری ماشینی، مهاجمان میتوانند کد مخرب را در مدلها جاسازی کنند و درهای پشتی ایجاد کنند که هنگام بارگذاری مدل فعال میشوند. این کار میتواند فرآیندهای پاییندستی را به خطر بیندازد، زیرا مدلها توسط تیمهای گوناگون و خط لولههای CI/CD استفاده میشوند. مهاجمان میتوانند دادههای حساس را خارج کنند یا حملات مسمومسازی مدل را برای کاهش کارکرد مدل یا دستکاری خروجیها انجام دهند.
یافتههای جفروگ یک شکاف عملیاتی در امنیت را برجسته میکند. تعداد زیادی از سازمانها ادغام قوی از روشهای امنیتی AI/ML با استراتژیهای گستردهتر امنیت سایبری ندارند و این امر باعث ایجاد نقاط کور بالقوه میشود. با توجه به پیشرفتهای سریع صنعت در حوزه ML و، محافظت از چارچوبها، مجموعه دادهها و مدلهایی که این نوآوریها را تقویت میکنند، از اهمیت بالایی برخوردار است.