نگرانیهای امنیتی از بکارگیری هوش مصنوعی در انگلیس_سیاه پوش
نوشته و ویرایش شده توسط مجله سیاه پوش
گزارشی دولتی مشخص می کند که منفعت گیری از یک ابزار هوش مصنوعی میزبانی شده توسط آمازون برای تحکیم فرایند استخدام در وزارت دفاع بریتانیا، امکان پذیر تبدیل افشای اطلاعات شخصی پرسنل دفاعی بشود. این ابزار که توسط شرکت Textio گسترش یافته است، از دادههایی همانند نام، نقش و آدرس ایمیل پرسنل دفاعی برای بهبود فرایند نگارش آگهیهای استخدامی و جذب نیروی کار متنوعتر منفعت گیری میکند. این دادهها بر روی Amazon Web Services (AWS) در ایالات متحده ذخیره خواهد شد. این کار میتواند پیامدهای دلواپسکنندهای داشته باشد از جمله شناسایی هویت پرسنل دفاعی در صورت وقوع یک حادثه نقض داده.
به نقل از سرویس بین الملل رسانه اخبار فناوری تکنا به نقل از دولت انگلستان، وزارت دفاع این خطر را پایین برسی کرده و اظهار کرده است که محدودیتهای امنیتی قوی توسط تامینکنندگان، از جمله Textio، AWS و Amazon GuardDuty (یک سرویس تشخیص تهدید)، اعمال شده است. (آمازون اظهار کرده است که GuardDuty یک محصول AWS است و نه یک تامینکننده جدا گانه). با این حال این تنها یکی از چندین ریسک شناسایی شده توسط دولت در رابطه با منفعت گیری از ابزارهای هوش مصنوعی در قسمت عمومی است. دولت بریتانیا در تلاش است تا با انتشار کردن مجموعه اسناد تازه، شفافیت بیشتری در رابطه منفعت گیری از الگوریتمها در قسمت دولتی تشکیل کند.
گوگل و متا نیز مستقیماً با دولت بریتانیا در عرصه منفعت گیری از هوش مصنوعی در خدمات عمومی همکاری میکنند. مایکروسافت نیز سیستم Copilot خود را که مبتنی بر هوش مصنوعی است، در اختیار کارمندان دولت قرار میدهد. پت مکافادن وزیر دفتر کابینه، اغاز این ماه خبرداد که میخواهد دولت زیاد تر همانند یک استارتآپ فکر کند. از دیگر خطرات و مزایایی که در منفعت گیری از هوش مصنوعی توسط دولت مرکزی شناسایی شده است، میتوان به موارد زیر اشاره کرد:
- ابزار برنامهریزی درس مبتنی بر هوش مصنوعی: این ابزار که از مدل زبانی بزرگ GPT-4o OpenAI منفعت گیری میکند، میتواند مطالب آموزشی نامناسب یا مغرضانه تشکیل کند. با این حال، این ابزار به معلمان پشتیبانی میکند تا زمان خود را صرفهجویی کرده و برنامههای آموزشی را به شدت شخصیسازی کنند.
- چتبات جوابگویی به سوالهای مربوط به رفاه کودکان: این چتبات که در دادگاههای خانواده منفعت گیری میبشود، امکان پذیر توهم تشکیل کند و اطلاعات نادرست اراعه دهد. با این حال این چتبات اطلاعات را به طور شبانهروزی اراعه میدهد و زمان انتظار برای سخن بگویید با یک مشاور انسانی را افت میدهد.
- PolicyEngine وزارت خزانهداری: این سیستم از یادگیری ماشین برای مدلسازی تغییرات مالیاتی و مزایای اجتماعی با دقت بالاتر نسبت به رویکردهای حاضر منفعت گیری میکند. اما عملیات نادرست کد و دادههای ورودی نادرست میتواند تبدیل نتایج غیرمنتظره بشود.
- افت توانایی استدلال انسانی: اتکا بیشتر از حد به هوش مصنوعی در برتریبندی بازرسیهای بهداشت مواد غذایی امکان پذیر تبدیل تخریب توانایی استدلال انسانی بشود. این سیستم امکان پذیر به طور مداوم امتیازاتی زیاد پایینتر را به برخی از انواع مراکز تعلق دهد، اما این چنین میتواند تبدیل بازرسی سریع تر مکانهایی بشود که گمان تخلف آنها زیاد تر است.
کایل او گفت: “فناوری پتانسیل عظیمی برای منقلب کردن خدمات عمومی به سمت بهتر دارد. ما از آن برای افت حجم کار معوقه، صرفهجویی در هزینه و بهبود نتایج برای شهروندان در سراسر سرزمین منفعت گیری می کنیم. شفافیت در نحوه و چرایی منفعت گیری قسمت عمومی از ابزارهای الگوریتمی برای مطمعن از مطمعن و اثربخشی آنها زیاد مهم است.”
آخرین مطالب
- ترجمه بینقص و لحظهای با فناوری تازه تایم کتل (Timekettle)_سیاه پوش
- چطور بر نشخوار فکری تسلط کنیم؟ + ۷ راه تسلط بر نشخوار فکری با خلاقیت_سیاه پوش
- رونمایی از حلق هوشمند Circular Ring 2 با قابلیتهای پزشکی_سیاه پوش
- ساخت جاروبرقی هوشمند روبوراک با بازوی رباتیک_سیاه پوش
- بهترین امداد ماشین اتوبان تبریز را بشناسید_سیاه پوش
دیگر ابزارهای هوش مصنوعی حاضر در این ثبتنام گسترده شامل یک چتبات مبتنی بر هوش مصنوعی است که برای رسیدگی به سوالهای مشتریان شبکه ریلی ملی منفعت گیری میبشود و بر پایه موارد تاریخی از سیستم ربط با مشتریان این سازمان آموزش دیده است. وزارت آموزش و پرورش از یک دستیار آموزشی مبتنی بر هوش مصنوعی به نام Aila منفعت گیری میکند که از مدل GPT-4o OpenAI منفعت گیری میکند. این ابزار که در داخل دولت تشکیل شده است، به معلمان اجازه میدهد تا برنامههای آموزشی را تشکیل کنند. این ابزار به طوری طراحی شده است که به طور خودکار برنامههای آموزشی را تشکیل نکند. اما خطرات شناسایی شده و در حال افت شامل تشکیل مطالب آموزشی زیان اور یا نامناسب، سوگیری یا اطلاعات نادرست و “تزریق مطلب” است – روشی که به بازیگران مخرب اجازه میدهد هوش مصنوعی را فریب دهند تا اهداف آنها را اجرا کند.
سرویس مشاوره و حمایتاز کودکان و خانواده، که به دادگاههای خانواده در رابطه رفاه کودکان مشاوره میدهد، از یک ربات پردازش زبان طبیعی برای حمایتاز یک سرویس چت وبسایت منفعت گیری میکند که ماهانه نزدیک به ۲۵۰۰ سوال را جواب میدهد. یکی از خطرات شناخته شده این است که امکان پذیر این ربات گزارشهای نگرانی در رابطه کودکان را در کنار “توهمات” و “خروجیهای نادرست” پردازش کند. این سیستم دارای نرخ پیروزی دو سوم است. این سیستم با حمایتشرکتهایی همانند Genesys و Kerv، که مجدداً از Amazon Web Services منفعت گیری میکنند، فعالیت میکند.
دسته بندی مطالب