برچسب: هوش مصنوعی جمینای

۲.۵ ابزار جدید گوگل برای ساخت و ویرایش تصاویر با هوش مصنوعی, گوگل نسخه بهروزیر تصویری را تحت نام ۲.۵ منتشر کرده است. این ابزار به کاربران اجازه میدهد تا با استفاده از دستورات متنی و صوتی، تصاویر را تولید و ویرایش کنند. قابلیتهای این مدل شامل جایگزینی در یک عکس، تغییر لباس، ترکیب عکسهای واقعی با پسزمینههای جدید و حتی کامل کردن جزئیات ناپدید شده در تصویر میباشد.

در تستهای انجام شده توسط مجله سیاه پوش، یک مثال واضح از این قابلیت نشان داده شد. سردبیر مجله تکنولوژی تکنا، یک عکس از بالاتنه خود و دو صندلی را به جمینی داد و درخواست کرد تا او را در صندلی قر بنشاند.

یک نکته جالب در این تست، رنگ شلوار بود. در عکس اصلی، شلوار شخص مشکی نمایش داده میشد در حالی که در او شلوار جین آبی پوشیده بود. پس از درخواست کاربر، با موفقیت شلوار را به جین آبی روشن تبدیل کرد بدون هیچ ظاهر یا تخریب جزئیات. گوگل که این ابزار به سادگی کار میکند کافی است یک عکس آپلود کنید و بگویید چه تغییری میخواهید.

سپس میتوانید عکسهای مختلف را ترکیب کنید — خودتان را با حیوان خانگیتان در یک فریم بگذارید، یک اتاق را با کاغذ دیواری جدید کنید یا خودتان را در هر مکان جهان ورت کنید.

در آزمایشهای دیگر، حذف نامطلوب مانند مجسمهها از پسزمینه یک عکس بهسرعت انجام شد و سایهٔ ó را به- شد. همچنین تغییر مکان یک کودک را نسبت به در و بهبود آن، بدون از دست دادن الطبیعیه، توسط مدل انجام شد. سرعت پردازش نیز بود — تصاویر در عرض چند ثانیه آماده میشدند. تمامی این پردازشها در فضای ابری انجام میشود و حتی عکس جلد این مقاله نیز توسط تولید شده است.

این نشان میدهد ابزار چگونه میتواند زمان کاری طراح گرافیک را از ساعتها به چند ثانیه کاهش دهد — مثلاً جایگذاری یک شخص در یک عکس که قبلاً نیاز به کار دقیق فوتوشاپ داشت، اکنون با یک دستور ساده انجام میشود. برای مقابله با تصاویر ساختگی، گوگل را به خروجیهای جمینی افزوده است. این علامت بیصوت، امکان تشخیص محتواهای تولیدشده توسط هوش مصنوعی را فراهم میآورد و در مقابله با ک، هرزنامه و محتوای مخرب কিছু مؤثری دارد.

با این حال، ابزار هنوز محدودیتهایی دارد —، ساخت تصاویر شخصیهای تاریخی چون هتلر سخت اما غیرممکن نیست، در حالی که مستعارین تایلور یا دونالد ترامپ را مشکلی ایجاد میشود. در ایمنی، ۲.۵ محافظتهای لازم را دارد، اگرچه برخی نتایج ممکن است کیفیت ن داشته باشند. با این حال، این مدل همچنان mộ مقابل مدلهای LLM دیگر مثل DALL·E از اوپنایآی یا از به شمار میرود.

Google این ابزار را از طریق API، Google AI برای توسعهدهندگان و AI با قیمت ۳۰ دلار برای هر میلیون توکن خروجی ارائه میدهد — هر تصویر معادل ۱۲۹۰ توکن خروجی است ( تقریباً ۰.۰۳۹ دلارد برای هر عکس). این نسخه فعلی مá است و شرکت ادعا دارد که بهزودی قابلیتهای بیشتری افزوده خواهد شد. گوگل همچنین با سرویسهایटीُور مثل و همکاری کرده تا دسترسی به این فناوری را کند.

الحادث الآن على الشرکات الأخرى فی هوش مصنوعی که بتوانند با نوآورانی قابلیتهای رقابت کنند.

تحلیل آسیبپذیری در برابر تزریق مخفی دستورات از طریق تصاویر کوچکشده, پژوهشگران امنیتی شرکت اخیراً’ یک آسیبپذیری مهم در ابزارهای مبتنی بر مدل گوگل را که به دلیل مقیاسگذاری تصویر رخ میدهد.

این مشکل، یک نوع تزریق غیرمستقیم دستور است که در فریمورکهای یادگیری ماشین شناختهشده است.بر اساس گزارشهای سایبری، وقتی یک تصویر حاوی دستورات مخفی توسط سامانههای هوش مصنوعی کوچکسازی میشود، این دستورات در حین تغییر ابعاد قابل شدن میشوند.

حت نام را توسعه داد که میتواند تصاویر آلوده را با استفاده از سه روش انطباقی رایج — نزدیکترین همسایه، دوخطی و دوخطی یک — مقدار ری کند.

این ابزار موفق شد تا در محیطها شامل AI، رابط وب، API، Google در گوشیهای اندرویدی و حتی مرورگر، حملات موفقیتآمیز را انجام دهد.م اینکه این نوع تزریق برای کاربران عادی کاملاً است؛ چون هیچ متنی در تصویر قابل مشاهده نیست، متوجه é یک دستور مخرب نمیشود.

ربر تنظیمات پیشفرض سیستم را تغییر داده و از قابلیتهای غیرمستقیم مانند فراخوانی خودکار MCP استفاده کند.

شرکت اعلام کرد که بهزودی هشدارهای واضحتری برای توسعهدهندگان و کاربران افزوده خواهد شد که از غیرفعال کردن ایمنیهای سیستمی خبردار شوند.پژوهشگران در پایان توصیه کردند که برای مقابله با این تهدید، بر پیشنمایش تصویر یا ابزارهای جانبی کافی نیست؛ بلکه نیاز به ‘ در طراحی سامانههای هوش مصنوعی وجود دارد تا در برابر چنین حملات خلاقانه و پنهان، প্রয়تلاف در برابر نهایی حاصل شود.