میتا دسترسی نوجوانان به هوش مصنوعی جنسیسازیشده را محدود کرد؛ چرا

میتا دسترسی نوجوانان به هوش مصنوعی جنسیسازیشده را محدود کرد؛ چرا

میتا دسترسی نوجوانان به هوش مصنوعی جنسیسازیشده را محدود کرد؛ چرا؟, شرکت متا تغییرات مهمی در نحوه آموزش چتباتهای خود تا امنیت کاربران نوجوانان در اولویت قرار گیرد. این تصمیم پس از آن شد که گزارشی تحقیقی نشان داد، این شرکت در حفظ نوجوانان در برابر محتوای نامناسب در استفاده از ابزارهای هوش مصنوعی، نقائصی داشته است.

بر اساس اظهارات سخنگوی متا، از این پس رباتهای هوش مصنوعی دیگر با نوجوانان در مورد موضوعات حساس مانند خودکشی، صدمه به خود، اختلال تغذیه و گفتگوی عاطفی یا رمانتیک نامناسب، صحبت نخواهند کرد.

در حاشیه این اخبار گفت قبلاً ما فکر میکردیم بحث درباره موضوعات با نوجوانان مناسب است، امااکنون میفهمیم این ção نادرست بود.

او توضیح داد که با گسترش بذرهٔ کاربران و پیشرفت فناوری، نیاز به یادگیری مداوم در خصوص نحوه تعامل نوجوانان با این ابزارها احساس میشود؛ بنابراین متا در حال تقویت mé حفاظتی است. علاوه بر آموزش رباتها برای اجتناب از وارد شدن به موضوعات ممانعتACE، سیستم بهگونهای تنظیم میشود که نوجوانان به منابع تخصصی هدایت شوند و دسترسی آنها به تعداد محدودی از شخصیتهای هوش مصنوعی محدود شود.

شخصیتهای هوش مصنوعی ساختهشده توسط کاربران در اینستاگرام و فیسبوک را محدود کرده است. برخی از این شخصیتها ویژگیهای جنسیسازیشده داشتند و در دسترس بودند.

بر اساس گزارش تکنا نیوز، اوتوی گفت اکنون نوجوانان تنها میتوانند با شخصیتهایی که تمرکز آنها بر آموزش و خلاقیت است، تعامل داشته باشند. این سیاستها دو هفته پس از انتشار گزارش و افشاگرافی خبرگزاریها اجرایی شد.

در آن گزارش یک سند داخلی متا فاش شد که révé این شرکت اجازه داده بود تا رباتهایش با کاربران خردسال در محتوای جنسی صحبت کنند؛ شامل جملات رمانتیکی که بهنظر میرسید برای نوجوانان مفید بود، اما موجی از انتقادهای گستردهای را در سطح جهانی برپا کرد. متا تأکید کرده که این سند با سیاستهای کلی این شرکت همخوانی نداشت و بلافاصله ش را تغییر داده است.

پس از انتشار خبر، سیناتور جوش هیولی تحقیق رسمی درموقع سیاستهای هوش مصنوعی این شرکت را آغاز کرد. همچنین ائتلافی شامل ۴۴ دادستان کل ایالتی در نامهای به شرکتهای فعال در حوزه هوش مصنوعی، از جمله متا، هشدار دادند که بیتوجهی به سلامت روانی کودکان قابل قبول نیست و اشاره کردند که برخی از رفتارهای هوش مصنوعی ممکن است با قوانین کیفری ایالتها در تضاد باشد.

اوتوی در پاسخ به سئوالات تعداد کاربران نوجوانان رباتهای متا یا تأثیر این سیاستها بر آنها، اظهارنظر نکرد و گفت که در این مرحله اطلاعات دقیقی در اختیار ما نیست.

لغو حذف ۴۵ شغل توسط بانک استرالیایی ؛ هوش مصنوعی و بحران اعتماد کارکنان

>> انحراف بانک استرالیا از حذف ۴۵ شغلی با هوش مصنوعی و انعکاسات آن بر کارکنان >> بانک در ا

>> انحراف بانک استرالیا از حذف ۴۵ شغلی با هوش مصنوعی و انعکاسات آن بر کارکنان >> بانک در استرالیا ابتدامیخواست ۴۵ شغلی را به دلیل معرفی دستیار صوتی مبتنی بر هوش مصنوعی حذف کند، اما پس از بررسی مجدد، این تصمیم را لغو و آن را نادرست کرد.

اینแบงک به کارکنان تحت تأثیر این تصمیم بابت خطای رخ داده عذرخواهی کرد، اما اتحادیه دلیل داد که زیان و تبعات این اقدام برای کارمندان از بین نرفته و صدمه به نیروی انسانی بهطور جدی وارد شده است. بر اساس گزارشهای جامعه رسانه اخبار تکنولوژی و فناوری تکنا، پس از بازنگری بانک، روشن شد که موقعیتهای خدمات مشتری که قرار بود حذف شوند، همچنان ضروری و الزامی هستند و حذف آنها منطقی نبود.

فهکاری و حتی پشتیبانی تیملیدرها در تماسها شده است.

قوانین بانک پذیرفت که در اظهار حذف شغلات، تمام ملاحظات ضروری کسبوکار را در نظر نگرفته و باید تحلیل دقیقتری از نیاز واقعی به این نقشها انجام میداد. به این، کارکنان تحت تأثیر این تصمیم اجازه دارند تا در نقشهای خود ادامه دهند، به موقعیتهای دیگر داخل بانک منتقل شوند یا از CBA خارج شوند. یک سخنگوی بانک اظهار کرد که در حال بازنگری فرآیندهای داخلی برای بهبود عملکرد در آینده هستند.

همه چیز درموردی باتریهای UPS_سیاه پوش با این حال، اتحادیه FSU تأکید کرد که صدمه وارد شده به نیروی انسانی همچنان باقی است و افزود که استفاده از هوش مصنوعی بهعنوان مبرری برای کاهش شغلات ایمن نیست و این کار بیشتر به صرفهجویی هزینهای شبیه میشود تا نوآوری واقعی.

اتحادیه در حال حاضر اطلاعاتی را از اعضایش جمعآوری میکند تا براثر، اتوماسیون و هوش مصنوعی بر حجم کار و امنیت شغلی را مورد بررسی قرار دهد و نتایج آن را در جلسه آینده ارائه نماید. رئیس تنفیذی CBA بیان کرد که پیشبینی اثرات طولانیمدت هوش مصنوعی بر شغلها دشوار است و پتانسیل کامل این فناوری هنوز تا سالها دور است. او تصریح کرد که برخی وظایف میتوانند خودکار شوند اما کارäگران به سمت کارهایی با ارزش بالاتر میکنند.

او همچنین به استخدام نزدیک به ۲۰۰۰ نفر تازه اشاره کرد که بخش معینی از این افراد در هند و در چارچوب گسترش تیم فناوری بانک استخدام شدهاند. در کنار این موارد، CBA سود نقدی رکوردی ۱۰.۲۵ میلیارد دلار برای سال مالی ۲۰۲۵ گزارش کرد. >>

چگونه هوش مصنوعی در حال بازنویسی مرزهای دین و فناوری است؟

هوش مصنوعی و تغییر مذهبی: کوچ

هوش مصنوعی و تغییر مذهبی کوچ, پیشرفت هپومرز در حوزه هوش مصنوعی میتواند مرزهای سنت > راه ارتباطی بین دین و فناوریی همزمان با رشد سریع و بدون نظارت هوش مصنوعی، واژههایی که صاحبان فناوری در سیلیکون ولی برای توصیف آن استفاده میکنند، به یک دایره مذهبی زیادی تبدیل شده است.

از پیشبینی نابودی احتمالی تا احتمالاتादी گزارشهای کلیدی

سوءاستفاده هکرها از هوش مصنوعی کلود برای اجرای حملات سایبری و دزدی داده

سوءاستفاده هکرها از هوش مصنوعی کلود برای اجرای حملات سایبری و دزدی داده

سوءاستفاده هکرها از هوش مصنوعی کلود برای اجرای حملات سایبری و دزدی داده, شرکت آنتروپیک، یکی از پیشروهای جهانی در توسعه هوش مصنوعی، اخیراً هشدار جدیای مبنی بر سوءاستفاده مخربانه از مدل زبانی خود به نام کلود منتشر کرده است. بر اساس گزارش اطلاعات تهدیدات این شرکت، گروههای هکری این چتبات را به ابزاری قدرتمند برای خودکارسازی و تسریع حملات سایبری پیچیده تبدیل کردهاند.

تغییر تعادل قدرت در جرایم سایبری گزارش آنتروپیک نشان میدهد که هوش مصنوعی نقشه بازی مهاجمان را به نفع خود تغییر داده است.د.

این تکنولوژی به هکرها اجازه میدهد تا در تمام مراحل زنجیره حمله، از بررسی هدف تا نفوذ و استخراج داده، هوشمندانهتر و سریعتر عمل کنند. مکانیزم حمله هک ارتعاشی و اهداف حساس تحقیقات آنتروپیک یک تهدید خاص را تحت عنوان هک ارتعاشی شناسایی کرده است. این اصطلاح اشاره به روش برنامهنویسی ارتعاشی دارد که در آن توسعهدهندگان به شدت به هوش مصنوعی برای تولید کد و ساخت اپلیکیشن وابستهاند.

مجزا در بخشهای حیاتی نظیر دولت، بهداشت، خدمات اورژانس و موسسات مذهبی را هدف قرار دهد.

سرقت هویت، کلاهبرداری مالی و طلب فدیه سنگین دامنه دادههای دزدیده شده بسیار گسترده است و شامل اطلاعات هویتی، پروندههای پزشکی، دادههای مالی و اعتبارنامههای دولتی میشود. هکرها از هوش مصنوعی نه تنها برای نفوذ، بلکه برای تجزیه و تحلیل حجم عظیم دادههای مسروقه به منظور استخراج ارزشهای مالی نیز استفاده میکنند.

تقاضاهای فدیه در برخی موارد از سقف ۵۰۰ هزار دلار فراتر رفته است که نشاندهنده سودآوری بالا و ریسک کم این مدل حمله جدید برای مجرمان سایبری است. هشدار کارشناسان پایین آمدن آستانه ورود به دنیای هک متخصصان امنیت سایبری از زمانها پیش از این هشدار میدادند که هوش مصنوعی موانع فنی ورود به دنیای جرایم سایبری را فرو میریزد.

اکنون با مشاهده عملکرد عملیاتی مدلهایی مانند کلود، این پیشبینیها محقق شدهاند؛ هکرهای با مهارت پایین نیز قادرند با راهنمایی هوش مصنوعی، حملات چندمرحلهای و مخرب را با دقت بالا اجرا کنند. این واقعیت ضرورت تقویت لایههای دفاعی، نظارت بر ترافیک مشکوک و توسعه راهکارهای تشخیص محتوای تولید شده توسط AI را برای سازمانها دوچندان کرده است.

هوش مصقول و باتنتها چگونه حملات را به تهدید روزانه تبدیل کردند

هوش مصقول و باتنتها چگونه حملات را به تهدید روزانه تبدیل کردند

هوش مصقول و باتنتها چگونه حملات را به تهدید روزانه تبدیل کردند؟, گروه هکری (۱۶) همچنان فعالترین منبع حملات در جهان میباشد. در نیمهٔ اول سال ۲۰۲۵،افزایش شد در حملات منع سرویس توزیعشده و بیش از هشت میلیون رخداد در سراسر جهان ثبت گردیده است.بر اساس گزارش و نقل از سایت تکنا، بیش از سه میلیون حملات در اروپا، خاورمیانه و آفریقا رخ داده که نشاندهنده شدت و روند منطقهای است.

ثانیه رسیده است.نتیجهٔ این تحولات این است که دیگر فقط مزاحمهٔ گاهبهگاه نیست، بلکه به روشی نظاممند برای ایجاد ناامنی در زیرساختهای حیاتی تبدیل شده است.

تنشهای ژئوپلیتیک همچنان بهعنوان اصلی در استقرار بزرگ عمل میکنند. تأکید کرده است که اختلافات هند و پاکستان موجی گسترده از حملات به سیستمهای مالی و دولتی هند را. درگیریهای ایران و إسرائیل نیز در عرض چند روز بیش از پانزده هزار حمله به زیرساختهای ایران را به داشت، در حالی که ۳۰۰ حمله به إسرائیل شد.

حتی مجمعهای بینالمللی مانند رویداد در سوئیس در یک هفته بیش از ۱۴۰۰ حمله را شاهد شدند.بخش عمده این حملات به آلوده به باتنت متکی است.

سیستمهای آلودهٔ معمول شامل روترها، سرورها و دستگاههای IoT بوده و بیشتر به نقصهای شناختهشده تا آسیبهای ناشناخته تکیه داشتهاند.ناتوان بودن نقاط ضعف شناختهشده هشدارهای سالیان به مستمر fü و حملات کوتاهمدت ولی مؤثری را ایجاد کرده که خدمات وابسته را مختل میسازد.

برای سازمانهایی که فقط به آنتیویروسهای ساده یا حفاظت متکی هستند، این ترافیک باتنت پایدار چالشی سنگین محسوب میشود که متعارف را بیاثر میسازد.همچنین تحول در استراتژی با بهکارگیری اتوماسیون و هوش مصنوعی تشدید شده است. حملات چند برداری و تکنیکهای فرش بمبگذاری اکنون زودتر از توان واکنش مدافعت رخ میدهند و یک دار ệm ایجاد میکنند.

به LLMهای سرکش اشاره دارد که به مهاجمان راهکارهای آسان برای برنامهریزی و گریز میدهند. ابزارها در ترکیب با پلتفرمهای مانعهای فنی را برای مهاجمان به و حملات را حتی با دانش فنیحداقل ممکن ساختهاند. بنابراین حملات ترابیت بر ثانیه از یک نادره به یک رَیسک ثابت تبدیل شدهاند.در میان گروههای هکتیویست، (۱۶) همچنان برتری بزرگä عددی دارد.

در ماه مارس، این گروه مسئولیت بیش از ۴۷۵ حمله را بر عهده گرفت که عمدتاً على پورتالهای دولتی اسپانیا، تایوان و اوکراین متمرکز بود. استفاده آنها از تکنیکهای سیلابی گوناگون śé و یک انگیزه ایدئولوژیکی که از اضطراب موقتی میرود.

ظهور جدیدان مانند و + که دهها حمله را انجام دادند، مقیاس فعالیتشان در مقایسه با (۱۶)زیاد کمتر ریچارد هامل، مدیر اطلاعات تهدید در، ید که هکتیویست به کارگیری اتوماسیون، زیرساختهای مشترک و های در حال تکامل، سازمانها باید بهدانی کنند که دفاعهای سنتی دیگر کافی نیستند.او افزود که ادغام دستیارهای هوش مصنوعی و استفاده از مدلهای زبانی بزرگ مانند و این نگرانی را تشدید میکند.

در نهایت هامل که هرچند از بین بردن موقت (۱۶) در فعالیتهای باتنت ممکن بود، اما بازگشت آنها به عنوان برجستهترین تهدید هکتیویست در آینده تضمین شده نیست.

نخستین باجافزار مبتنی بر هوش مصنوعی که کد مخرب را بهصورت پویا میسازد

نخستین باجافزار مبتنی بر هوش مصنوعی که کد مخرب را بهصورت پویا میسازد

نخستین باجافزار مبتنی بر هوش مصنوعی که کد مخرب را بهصورت پویا میسازد, پژوهشگران امنیتی شرکت ESET نمونهای از بدافزار را شناسایی کردهاند که به نظر میرسد اولین باجافزار در جهان باشد که از یک مدل زبان بزرگ (LLM) برای تولید کدهای مخرب در لحظه بهره میبرد. این بدافزار که نام را دارد، از مدل 20b اوپنایآی (OpenAI) بهصورت محلی و از طریق فریمورک استفاده میکند.

نحوه عملکرد برخلاف باجافزارهای سنتی که کدهای ثابت و از پیش کامپایلشده دارند، اسکریپتهای را در زمان اجرا و بر اساس دستورات از پیش تعریفشده که به مدل محلی ارسال میشوند، تولید میکند.

اری به بدافزار امکان میدهد بدون نیاز به باینریهای جداگانه برای هر پلتفرم، بهصورت چندپلتفرمی عمل کند؛ ویژگیای که در باجافزارهای معمول نادیر است.

معماری ارتباطی و دور زدن محدودیتها کل مدل زبان را در بدنه خود جاسازی نمیکند (چون حجم آن چند گیگابایت است). در عوض، یک پروکسی داخلی برقرار میکند که ترافیک را به سروری تحت کنترل مهاجم هدایت میکند؛ آنجا مدل 20b و سرویس در حال اجرا هستند.

نشانههای نسخه اولیه و اهداف نمادین تحلیلهای ESET نشان میدهد که در حال حاضر یک نمونه اولیه یا آزمایشی است، زیرا روالهای تخریب و رمزگذاری فایلها بهصورت کامل پیادهسازی نشدهاند. یک آدرس بیتکوین از پیش تعیینشده در کد وجود دارد که به ساتوشی ناکاموتو (مخترع ناشناس بیتکوین) مربوط میشود؛ این مورد احتمالاً یک ترفند گمراهکننده یا نمادین است، نه مکانیزم واقعی پرداخت باج.

مقایسه با بدافزار شباهتهای استراتژیکی با دارد، یک بدافزار مبتنی بر هوش مصنوعی که پیشتر توسط گروههای تهدید APT روسی در اوکراین مورد استفاده قرار گرفته بود. از مدل ۲.۵- شرکت برای تولید پویای دستورات سیستم استفاده میکرد. تفاوت کلیدی این است که مدل را بهصورت محلی و آفلاین (از طریق پروکسی) ادغام کرده و وابستگی به APIهای خارجی را از بین برده است. چرا این تهدید مهم است؟ بدافزارهای سنتی بر پایه امضاهای ثابت شناسایی میشوند.

اما بدافزارهای یکپارچهشده با LLM میتوانند رفتار خود را بر اساس متن، محیط یا دادههای سیستم در لحظه تغییر دهند. این قابلیت تولید کد پویا مقابله با آنها را برای راهکارهای سنتی آنتیویروس بسیار چالشبرانگیز میسازد. پیشنهادهای دفاعی ESET برای مقابله با این تهدید نوظهور، ESET توصیه میکند نظارت بر اجرای غیرعادی اسکریپتهای، بهویژه آنهایی که شامل شناسایی سیستم یا روالهای رمزگذاری باشند.

استفاده از هشهای فایلهای شناسایی شده که توسط ESET منتشر شدهاند. بازرسی ترافیک خروجی شبکه برای شناسایی نشانههای تونلزنی پروکسی به زیرساختهای سرویسدهنده LLM، بهخصوص از طریق پورتهای پیشفرض کشف جهشی فنی در تکامل باجافزارها محسوب میشود و هشدار میدهد که نسل جدید تهدیدات سایبری قادرند هوش مصنوعی را بهعنوان موتور تولید کد مخرب در لحظه به کار گیرند.

دو سال پس از فروش، ماریا دی‌بی دوباره SkySQL را خرید

ماریا دیبی دوباره از دست/ میگیرد: دو سال بعد

ماریا دیبی دوباره از دست/ میگیرد دو سال بعد، شرکت با هوش مصنوعی و اخبار pú بازمیگردد, دو سال پس از خروج از مدیریت شرکت،_NAMED خود را کشت بازگشت به گذراند. شرکت ابری که با بودجههای برجستهای برای پیشرفت تکنولوژی ادامه مییابد، امروز به دوباره$id به شرکت بازمیگردد.، رئیسCEO شرکت اصلی، در بیانیه رسمی اعلام کرد که این خدمات با هدف تسریع توسعه برنامهها و افزودن بیشتر به زیرساخت کلود ماریا دیبی طراحی شده است.

در حالیکه جزئیات مالی این پروسه – که تغییرات بسیاری از قیمت و قیمتگذاری را رفرنس میکند – به اطلاعرسانی.

این تغییر در نظرهای تحلیلی بازار بسیار بود، زیرا باعث میشد داشت رشد آینده شرکت متوقف میشود. کارشناسان آن زمان هشدار میدادند که این محصولات مرکزیترین رشد آینده شرکتها هستند، اما از آن زمان تا زمان حاضر بسیاری از تغییرات شده است. یک سال پیش، با یک خرید خصوصی دوباره به بخش خصوصی بازگشت. سپس در ماه مارس همین سال، اخباری منتشر شد که قصد بازگشت به کسبوکار پایگاه دادهها را دارند.

در آن زمان، به _ اعلام کرد که قصد میدارد از رویکرد قبلی خود با دوری کند. او علت این کار را ساختار قبلی شرکت دانست که حالا با بزرگترین شرکتهای ابر رقابت میکند که او را دیوانگی میآورد. او اضافه کرد که در آن زمان محصول به اندازه کافی بالغ نشده بود.

منابع اضافی را میدهد. افزونه اجرای مستقیم از طریق های ابر عمومی مایکروسافت نیز موجب شده است.

همچنین در طول ۱۸ ماه استقلال، قابلیتهای بسیار هوش مصنوعی با شدت شده بود. ادعا میکند که با استفاده از این فناوری،های الذکاء الاصطناعی را کاهش میدهد. در دسامبر سال قبل، یک ۶.۶ میلیارددلاری اعلام کرد و کاربردیهای معنایی را به عنوان یک ویژگی جدید معرفی کرد. این قابلیت به کمک هوش مصنوعی، کاربران اجازه میدهد که از پرسوجوها طبیعی کاربران برای بازیابی دادهها و تشکیل پرسوجوهای SQL بهرهوری کنند.

نگهداری این قابلیتها در بستر پلتفرم، مزایاهای امنیتی و مطابق بودن را فراهم میکند. واکاس موتور، مدیر ارشد محصولات ماریا دیبی، شد که با بازگشت به مجموعه، بلافاصله به نیازهای مشتریان پاسخ خواهند داد و زیرساخت قویای برای تبدیل به یک گزینه پیش⁻فکر برای ساخت برنامههای هوش مصنوعی داغ میآورد.,

ایلان ماسک متهم میشود اپل و OpenAI را به انحصار در بازار هوش مصنوعی متهم کند

ایلان ماسک متهم میشود اپل و OpenAI را به انحصار در بازار هوش مصنوعی متهم کند

ایلان ماسک متهم میشود اپل و OpenAI را به انحصار در بازار هوش مصنوعی متهم کند, ایلان ماسک و شرکتهای وابسته به او، شامل X و، یک شکایت حقوقی جدید علیه اپل و OpenAI ثبت کردهاند. در این شکایت، آنها ادعا میکنند دو شرکت بهی همکاری در زمینه هوش مصنوعی و ادغام ChatGPT در آیفون، رقابت در این صنعت را محدود کرده و یک انحصار غیرقانونی ایجاد کردهاند.

بر اساس گزارشهای تکنا، شکایت که در روز دوشنبه ارائه شد، میکند اپل از طریق سیاستهای App، غیرواقعی برای اپلیکیشنهای هوش مصنوعی رقیب مانند و X ایجاد کرده است.

در، شکایت اشاره میکند که هرچند اپلیکیشنهای X و در App به łożات بالا رسیدهاند، هرگز در بخش قرار نگرفتهاند. در مقابل، ChatGPT در تاریخ ۲۴ اوت ۲۰۲۵ تنها اپلیکیشن هوش مصنوعی که در این بخش بوده است. این وضع، به نظر ماسک، برای تخصیص منافع غیرمنصفانه به OpenAI از طریق Apple است. م ä، این همکاری بین اپل و OpenAI یک محافظ حول هوش مصنوعی ChatGPT ساخته است.

۳ سایت معتبر جهانی!_سیاه پوش به دلیل اپل در بازار، OpenAI میتواند بدون أی دسترسی بیحصر به دادهها و سوالات یون کاربران آیفون پیدا کند، což fü در پاسخ به این اتهامات، نماینده رسمی OpenAI به نام کایلا وود، ادعاءات ماسک را فاقد پایه و گفت این اقدامات ‘s او تأکید کرد که مواقف OpenAI مبنی بر ü علاوه بر این، اپل قبلاً در پاسخ به سوالات بلومبرگ،، App به ät ک این دعوا یمکن أن ą ż für، بهویژه در زمینه تنظیمات رقابت و باز ضد در سطح جهانی.

نتایج این پرونده ممکن است für

تحلیل آسیبپذیری در برابر تزریق مخفی دستورات از طریق تصاویر کوچکشده

تحلیل آسیبپذیری در برابر تزریق مخفی دستورات از طریق تصاویر کوچکشده

تحلیل آسیبپذیری در برابر تزریق مخفی دستورات از طریق تصاویر کوچکشده, پژوهشگران امنیتی شرکت اخیراً’ یک آسیبپذیری مهم در ابزارهای مبتنی بر مدل گوگل را که به دلیل مقیاسگذاری تصویر رخ میدهد.

این مشکل، یک نوع تزریق غیرمستقیم دستور است که در فریمورکهای یادگیری ماشین شناختهشده است.بر اساس گزارشهای سایبری، وقتی یک تصویر حاوی دستورات مخفی توسط سامانههای هوش مصنوعی کوچکسازی میشود، این دستورات در حین تغییر ابعاد قابل شدن میشوند.

حت نام را توسعه داد که میتواند تصاویر آلوده را با استفاده از سه روش انطباقی رایج — نزدیکترین همسایه، دوخطی و دوخطی یک — مقدار ری کند.

این ابزار موفق شد تا در محیطها شامل AI، رابط وب، API، Google در گوشیهای اندرویدی و حتی مرورگر، حملات موفقیتآمیز را انجام دهد.م اینکه این نوع تزریق برای کاربران عادی کاملاً است؛ چون هیچ متنی در تصویر قابل مشاهده نیست، متوجه é یک دستور مخرب نمیشود.

ربر تنظیمات پیشفرض سیستم را تغییر داده و از قابلیتهای غیرمستقیم مانند فراخوانی خودکار MCP استفاده کند.

شرکت اعلام کرد که بهزودی هشدارهای واضحتری برای توسعهدهندگان و کاربران افزوده خواهد شد که از غیرفعال کردن ایمنیهای سیستمی خبردار شوند.پژوهشگران در پایان توصیه کردند که برای مقابله با این تهدید، بر پیشنمایش تصویر یا ابزارهای جانبی کافی نیست؛ بلکه نیاز به ‘ در طراحی سامانههای هوش مصنوعی وجود دارد تا در برابر چنین حملات خلاقانه و پنهان، প্রয়تلاف در برابر نهایی حاصل شود.

1 2 3