اجرای سیستم‌های کنترل سن برای نجات کودکان از اینترنت ناامن کلید خورد

اجرای سیستم‌های کنترل سن برای نجات کودکان از اینترنت ناامن کلید خورد_سیاه پوش

[ad_1]
نوشته و ویرایش شده توسط مجله سیاه پوش

جنبش جهانی برای حفاظت از کودکان در فضای آنلاین، به شکل‌گیری نسل تازه‌ای از فناوری‌های ایمنی مبتنی بر هوش مصنوعی منجر شده است که مقصد آن جلوگیری از دسترسی کودکان به محتوای زیان اور در اینترنت است. در ایالات متحده، لایحه‌ای با نام Kids Online Safety Act در حال بازدید است که در صورت تصویب، شبکه‌های اجتماعی را موظف می‌کند مسئولیت پیشگیری از صدمه‌های احتمالی ناشی از محصولاتشان برای کودکان را بر مسئولیت بگیرند.

به نقل از قسمت جامعه رسانه اخبار تکنولوژی تکنا، شبیه همین روال در بریتانیا نیز دیده می‌بشود، جایی که قانونی تازه تحت گفتن Online Safety Act به شرکت‌های فناوری تکلیف کرده است تا با اتخاذ تدبیرها جدی از دسترسی کودکان به محتوای نامتناسب با سن، نفرت‌پراکنی، قلدری آنلاین، کلاه‌برداری و محتوای سوءاستفاده جنسی جلوگیری کنند. بر پایه این قانون، تخلفات می‌تواند جریمه‌هایی تا سقف ده درصد از درآمد جهانی سالانه شرکت‌ها به همراه داشته باشد. فشارهای روزافزون نهادهای قانون‌گذار جهت تحول رویکرد جدی در بین بازیگران مهم دنیای فناوری شده است. برای نمونه برخی رسانه های محتوای بزرگسالان، دسترسی به سایت‌های خود را تنها از طریق سیستم قبول سن ممکن کرده‌اند و بدون آن، هیچ کاربری قادر به ورود نیست. پلتفرم‌های فرد دیگر همچون Spotify، Reddit و X نیز سامانه‌های شبیهی برای قبول سن کاربران تشکیل کرده‌اند تا مانع روبه رو کودکان با محتوای نامناسب شوند. این عمل های یقیناً با انتقادهایی از سوی صنعت فناوری مواجه شده چون تعداد بسیاری از شرکت‌ها دلواپس نقض حریم خصوصی کاربران می باشند.

در قلب این عمل های، فناوری هویت دیجیتال به شدت در حال رشد است. شرکتی به نام Yoti در مرکز دقت قرار دارد. این شرکت فناوری‌ای گسترش داده که از طریق ثبت عکس سلفی و تحلیل چهره با منفعت گیری از هوش مصنوعی می‌تواند سن افراد را تخمین بزند. الگوریتم Yoti بر پایه میلیون‌ها عکس آموزش دیده و توانایی دارد سن افراد بین ۱۳ تا ۲۴ سال را با دقتی در نزدیک به دو سال اشکار کند. Yoti پیش‌تر با اداره پست بریتانیا همکاری کرده و امیدوار است از روال گسترده‌تر حرکت به سمت کارت‌های شناسایی دیجیتال دولتی منفعت‌برداری کند. در این عرصه شرکت‌های فرد دیگر همانند Entrust، Persona و iProov نیز فعال می باشند اما Yoti در چارچوب قوانین تازه بریتانیا به گفتن شناخته‌شده‌ترین اراعه‌دهنده خدمات ضمانت سن نقل شده است.

کارشناسان حقوقی پافشاری دارند که رقابتی جدی در بین اراعه‌دهندگان فناوری‌های ایمنی کودکان اغاز شده تا مطمعن عمومی را به دست آورند. در عین حال نگرانی‌های قابل‌توجهی درمورد نقض حریم خصوصی و گمان نشت داده‌ها نقل است. برخی متخصصان بر این باورند که تنها با منفعت گیری از استانداردهای سختگیرانه فنی و رویه‌های حاکمیتی می‌توان مطمعن کاربران را جلب کرد و امنیت داده‌های شخصی را ضمانت نمود. نمایندگان نهادهای حمایتاز کودکان همانند NSPCC پافشاری کرده‌اند که فناوری ملزوم برای قبول سن بدون به خطر انداختن حریم خصوصی وجود دارد و شرکت‌های فناوری باید انتخاب‌هایی آگاهانه و اخلاقی داشته باشند تا هم از صدمه به کودکان جلوگیری بشود و هم مطمعن کاربران نگه داری گردد.

موج تازه فناوری‌های ایمنی تنها محدود به نرم‌افزار نیست. در ماه جاری شرکت فنلاندی HMD Global گوشی هوشمند جدیدی به نام Fusion X1 معارفه کرده که با منفعت گیری از هوش مصنوعی مانع ثبت یا اشتراک‌گذاری تصاویر برهنه و مشاهده محتوای جنسی در دوربین، صفحه نمایش و دیگر اپلیکیشن‌ها می‌بشود. این فناوری توسط شرکت بریتانیایی SafeToNet گسترش یافته که در عرصه امنیت سایبری کودکان تخصص دارد. مدیران HMD پافشاری کرده‌اند که ایده گسترش این چنین محصولی پیش از تصویب قانون Online Safety Act شکل گرفته می بود اما عمل های دولت در این حوزه را مثبت برسی می‌کنند. اراعه این گوشی همزمان با افزایش جنبشی موسوم به «بی‌گوشی هوشمند» صورت گرفته که والدین را تشویق می‌کند از دادن تلفن هوشمند به فرزندان خود خودداری کنند.

کارشناسان NSPCC اعتقاد دارند در آینده، حفاظت از کودکان به اولویتی مهم برای غول‌های فناوری همانند Google و Meta تبدیل خواهد شد. این شرکت‌ها سال‌ها متهم بوده‌اند که با گسترش اتفاق‌هایی همانند قلدری آنلاین و اعتیاد به شبکه‌های اجتماعی به تشدید مشکلات روانی در کودکان و نوجوانان دامن زده‌اند، هرچند در روبه رو ادعا می‌کنند اقداماتی نظیر گسترش ابزارهای کنترل والدین و قابلیت‌های حریم خصوصی را برای مقابله با این چالش‌ها به کار گرفته‌اند. با این حال فعالان حوزه حمایتاز کودکان بر این باورند که دوران بی‌توجهی شرکت‌های بزرگ فناوری به انتشار کردن محتوای زیان اور و غیرقانونی به آخر رسیده و اکنون این شرکت‌ها ناگزیرند رویکردی متفاوت در روبه رو ایمنی کودکان اتخاذ کنند.

دسته بندی مطالب

مقالات کسب وکار

مقالات فناوری

مقالات آموزشی

مقالات سلامتی

[ad_2]

متا دسترسی نوجوانان به شخصیت‌های جنسی‌سازی‌شده هوش مصنوعی را محدود کرد

متا دسترسی نوجوانان به شخصیت‌های جنسی‌سازی‌شده هوش مصنوعی را محدود کرد_سیاه پوش

[ad_1]
نوشته و ویرایش شده توسط مجله سیاه پوش

متا اظهار کرده که رویکرد آموزشی هوش مصنوعی چت‌بات‌های خود را تحول می‌دهد تا ایمنی کاربران نوجوان در برتری قرار گیرد. این تصمیم بعد از آن اتخاذ شد که گزارشی تحقیقی نشان داد این شرکت در عرصه محافظت از نوجوانان در برابر محتوای نامناسب در تعامل با ابزارهای هوش مصنوعی کاستی‌هایی داشته است. به حرف های سخنگوی Meta، از این بعد چت‌بات‌ها دیگر با کاربران نوجوان درمورد موضوعاتی همچون صدمه به خود، خودکشی، اختلالات تغذیه یا گفتگوهای عاطفی و رمانتیک نامناسب داخل تعامل نخواهند شد. این عمل فعلاً یک تحول موقت برداشت می‌بشود و شرکت وعده داده در آینده به‌روزرسانی‌های گسترده‌تر و پایدارتر برای ترقی ایمنی نوجوانان اراعه کند.

به نقل از قسمت رسانه اخبار فناوری و تکنولوژی تکنا، Stephanie Otway سخنگوی Meta قبول کرده که پیش‌تر چت‌بات‌ها قادر بودند با نوجوانان درمورد این موضوعات سخن بگویید کنند و این شرکت فکر می‌کرد این چنین او گفت‌وگوهایی مناسب می باشند اما اکنون پذیرفته که این چنین تصمیمی نادرست بوده است. او توضیح داده که با رشد جامعه کاربران و تحول فناوری، نیاز به یادگیری مداوم در عرصه نحوه تعامل نوجوانان با این ابزارها وجود دارد و بر همین مبنا، شرکت در حال تحکیم مانع ها حفاظتی است. به حرف های او، علاوه بر آموزش چت‌بات‌ها برای اجتناب از ورود به موضوعات حساس، سیستم به طوری تنظیم می‌بشود که نوجوانان به منبع های تخصصی هدایت شوند و این چنین دسترسی آنها فعلاً به تعداد محدودی از شخصیت‌های هوش مصنوعی محدود بشود. این به‌روزرسانی‌ها در حال اجرا می باشند و روال تغییرات ادامه خواهد داشت تا مطمعن حاصل بشود نوجوانان توانایی‌ای ایمن و مشابه با سن خود از هوش مصنوعی داشته باشند.

متا علاوه بر تحول در نحوه آموزش، تصمیم گرفته دسترسی نوجوانان به برخی از شخصیت‌های هوش مصنوعی را نیز محدود کند. برخی از شخصیت‌هایی که توسط کاربران در اینستاگرام و فیسبوک ساخته شده‌اند ویژگی‌های جنسی‌سازی‌شده داشتند که در دسترس بودند. به نقل از تکنا نیوز به حرف های Otway نوجوانان از این بعد تنها می‌توانند با شخصیت‌هایی تعامل کنند که بر آموزش و خلاقیت تمرکز دارند. این سیاست‌های تازه درست دو هفته بعد از انتشار کردن گزارش و افشاگری خبرگزاری ها اظهار شد. در آن گزارش یک سند داخلی متا افشا شد که نشان می‌داد این شرکت اجازه داده چت‌بات‌هایش با کاربران خردسال داخل گفتگوهای جنسی شوند! در آن سند مثالهایی از جملات رمانتیک ذکر شده می بود که به نظر می‌رسید برای نوجوانان قابل منفعت گیری است و همین نوشته موجی از انتقادات گسترده را برانگیخت.

متا پافشاری کرده که سند یادشده با سیاست‌های کلی این شرکت همخوانی نداشته و بلافاصله تحول کرده است. بعد از انتشار کردن گزارش خبرگزاری ها، سناتور Josh Hawley تحقیق رسمی درمورد سیاست‌های هوش مصنوعی این شرکت اغاز کرد. علاوه بر آن، ائتلافی متشکل از ۴۴ دادستان کل ایالتی در نامه‌ای به چند شرکت فعال در حوزه هوش مصنوعی از جمله متا هشدار دادند که بی‌توجهی به سلامت روانی کودکان غیرقابل قبول است و اشاره کردند که حرکت برخی از دستیارهای هوش مصنوعی می‌تواند با قوانین کیفری ایالت‌ها در تضاد باشد. در همین حال، Otway حاضر نشد درمورد تعداد کاربران نوجوان چت‌بات‌های متا یا گمان افت تعداد کاربران در نتیجه اجرای این سیاست‌ها اظهارنظر کند.

دسته بندی مطالب

مقالات کسب وکار

مقالات فناوری

مقالات آموزشی

مقالات سلامتی

[ad_2]