نگرانیهای امنیتی نسبت به استفاده از هوش مصنوعی درफ़ در انگلستان

نگرانیهای امنیتی نسبت به استفاده از هوش مصنوعی درफ़ در انگلستان, گزارشی از دولت بریتانیا نشان میدهد که استفاده از ابزار هوش مصنوعی در فرآیند استخدام وزارت دفاع، خطر افشای اطلاعات شخصی پرسنل نظامی را به وجود میآورد. این ابزار که توسط در ایالات متحده میزبانی میشود، دادههایی چون نام، نقش و آدرس ایمیل کارکنان را برای بهبود تبلیغات استخدامی و جذب نیروی کار متنوعتر پردازش میکند.

وزارت دفاع میگوید محدودیتهای امنیتی قوی توسط، AWS و سرویس تهدیدی اعمال شده است. دولت در پروژههای هوش مصنوعی مشغولند.

از جمله اینها مایکروسافت برای کارکنان دولتی و ابزارهای برنامهریزی درس مبتنی بر OpenAI در مدارس است که الرغم از قابلیت شخصیسازی محتوا، خطر تولید اطلاعات نامناسب یا مغرضانه را داشتهاند. چتباتهای هوش مصنوعی در دادگاههای خانواده برای پاسخ به سؤالات مربوط به رفاه کودکان نیز مورد استفاده قرار میگیرند، اگرچه خطر توهم و ارائه اطلاعات نادرست وجود دارد.

، میتواند دقت بیشتری نسبت به روشهای داشته باشد، اما خطا در کد یا دادههای ورودی میتواند نتایج غیرمنتظرهای به وجود آورد.

استفاده مفرط از هوش مصنوعی در بازرسی بهداشت مواد غذایی همچنین خطر تضعیف توانایی استدلال انسانی را به همراه دارد. این سیستم ممکن است نمرات بسیار پایین را به برخی مراكز اختصاص دهد، در حالی که مکانهای با خطر تخلف بیشتری سریعتر بازرسی میشوند. یک متخصص به نام کایل او گفته است فناوری پتانسیل عظیمی برای بهبود خدمات عمومی دارد. ما از آن برای کاهش کار معوقه، صرفهجویی در هزینه و بهبود خدمات برای شهروندان استفاده میکنیم.

شفافیت در نحوه و دلیل استفاده از ابزارهای الگوریتمی برای اطمینان از کارایی و اعتماد عمومی بسیار مهم است. سایر ابزارهایی که در این حوزة استفاده میشوند شامل یک چتبات هوش مصنوعی برای شبکه ریل ملی که از دادههای CRM آموزش دیده و یک دستیار آموزشی به نام که بر پایه OpenAI عمل میکند و به معلمان کمک میکند تا برنامههای درس را دون♥ طراحی کنند، بدون اینکه بهطور خودکار محتوا تولید کند (که این خود خطر تزریق محتوى مخرب را کاهش میدهد).

سرویس مشاوره کودکان و خانواده از یک ربات پردازش زبان طبیعی تحت پشتیبانی و (که هر دو از AWS استفاده میکنند) استفاده میکند و ماهانه حدود ۲۵۰۰ سوال را پاسخ میدهد. این سیستم با نرخ موفقیت دو سوم عمل میکند، اما پردازش اشتباه گزارشهای نگرانی در کنار توهمات همچنان وجود دارد.