تحلیل آسیبپذیری در برابر تزریق مخفی دستورات از طریق تصاویر کوچکشده

تحلیل آسیبپذیری در برابر تزریق مخفی دستورات از طریق تصاویر کوچکشده, پژوهشگران امنیتی شرکت اخیراً’ یک آسیبپذیری مهم در ابزارهای مبتنی بر مدل گوگل را که به دلیل مقیاسگذاری تصویر رخ میدهد.

این مشکل، یک نوع تزریق غیرمستقیم دستور است که در فریمورکهای یادگیری ماشین شناختهشده است.بر اساس گزارشهای سایبری، وقتی یک تصویر حاوی دستورات مخفی توسط سامانههای هوش مصنوعی کوچکسازی میشود، این دستورات در حین تغییر ابعاد قابل شدن میشوند.

حت نام را توسعه داد که میتواند تصاویر آلوده را با استفاده از سه روش انطباقی رایج — نزدیکترین همسایه، دوخطی و دوخطی یک — مقدار ری کند.

این ابزار موفق شد تا در محیطها شامل AI، رابط وب، API، Google در گوشیهای اندرویدی و حتی مرورگر، حملات موفقیتآمیز را انجام دهد.م اینکه این نوع تزریق برای کاربران عادی کاملاً است؛ چون هیچ متنی در تصویر قابل مشاهده نیست، متوجه é یک دستور مخرب نمیشود.

ربر تنظیمات پیشفرض سیستم را تغییر داده و از قابلیتهای غیرمستقیم مانند فراخوانی خودکار MCP استفاده کند.

شرکت اعلام کرد که بهزودی هشدارهای واضحتری برای توسعهدهندگان و کاربران افزوده خواهد شد که از غیرفعال کردن ایمنیهای سیستمی خبردار شوند.پژوهشگران در پایان توصیه کردند که برای مقابله با این تهدید، بر پیشنمایش تصویر یا ابزارهای جانبی کافی نیست؛ بلکه نیاز به ‘ در طراحی سامانههای هوش مصنوعی وجود دارد تا در برابر چنین حملات خلاقانه و پنهان، প্রয়تلاف در برابر نهایی حاصل شود.