راهکارهای هوشمند کنترل سن؛ چگونه قوانین جدید و هوش مصنوعی کودکان را در اینترنت محافظت میکنند

راهکارهای هوشمند کنترل سن؛ چگونه قوانین جدید و هوش مصنوعی کودکان را در اینترنت محافظت میکنند

راهکارهای هوشمند کنترل سن؛ چگونه قوانین جدید و هوش مصنوعی کودکان را در اینترنت محافظت میکنند؟, جنبش جهانی برای حفظ امنیت کودکان در محیط آنلاین، روند توسعه فناوریهای پیشرفته ایمنی مبتنی بر هوش مصنوعی را به سرعت تسریع کرده است. هدف اصلی این نوآوریها، ممانعت از دسترسی نوجوانان و کودکان به محتوای زیانآور و نامناسب در بستر اینترنت است.

در ایالات متحده، لایحه قانون امنیت کودکان در فضای آنلاین در مراحل بررسی قرار دارد که در صورت تصویب، پلتفرمهای اجتماعی را موظف میسازد تا پاسخگویی صدمات ناشی از محصولات خود برای کاربران کمسن را بر عهده بگیرند. چارچوبهای قانونگذاری در بریتانیا و فشار بر شرکتهای فناوری روال مشابهی در بریتانیا نیز با تصویب قانون امنیت آنلاین در حال اجرا است.

ا تضمین کنند. نقض این مقررات میتواند جریمههای سنگینی تا سقف ده درصد از درآمد جهانی سالانه شرکتها را به دنبال داشته باشد.

این فشارهای قانونگذاری، رویکرد بازیگران بزرگ تکنولوژی را به سمت جدیت بیشتر در مسئله ایمنی کودکان سوق داده است. راهکارهای سن از سایتهای بزرگسالان تا شبکههای اجتماعی در پی اجرای این قوانین، طیف وسیعی از پلتفرمها سیستمهای سن را الزامی نمودهاند. سایتهای محتوای بزرگسالان دسترسی را بدون تأیید هویت و سن مسدود کردهاند.

ه که نگران نقض حریم خصوصی کاربران در فرآیند جمعآوری دادههای بیومتریک هستند.

یوتی و پیشروی در فناوری هویت دیجیتال در قلب این تغییرات، شرکت یوتی به عنوان بازیگر کلیدی در ارایه راهکارهای هویت دیجیتال ظهور کرده است. این شرکت فناوریای توسعه داده که از طریق ثبت عکس سلفی و تحلیل چهره با بهرهگیری از الگوریتمهای هوش مصنوعی، سن افراد را با دقت بالا تخمین میزند. مدل آموزشیافته یوتی بر پایه میلیونها تصویر، قادر است سن افراد در بازه ۱۳ تا ۲۴ سال را با حاشیه خطای نزدیک به ۱.۵ سال تشخیص دهد.

یوتی پیش از این با پست بریتانیا همکاری داشته و در چارچوب قوانین جدید بریتانیا، به عنوان یکی از شناختهشدهترین ارائهدهندگان خدمات اطمینان سن شناخته میشود. شرکتهای دیگری چون، و نیز در این ارزه فعال هستند. چالش حریم خصوصی و اعتماد عمومی حقوقدانان و کارشناسان امنیت سایبری بر ضرورت رقابت جدی بین ارائهدهندگان این فناوریها برای کسب اعتماد عموم تأکید دارند.

در عین حال، نگرانیهای قابلتوجهی در خصوص امنیت دادههای بیومتریک و احتمالات نشت اطلاعات وجود دارد. متخصصان معتقدند تنها با استقرار استانداردهای فنی سختگیرانه و چارچوبهای حاکمیتی شفاف، میتوان اطمینان کاربران را جلب و حریم خصوصی را صیانت کرد.

سازمانهای حمایتی کودکان مانند NSPCC نیز تصریح میکنند که فناوری کنترل سن بدون به خطر انداختن حریم خصوصی امکانپذیر است و شرکتها باید انتخابهای اخلاقی و آگاهانهای را برای توازن بین ایمنی کودکان و حفظ اعتماد کاربران پیش بگیرند. ظهور سختافزارهای ایمنی گوشی هوشمند موج نوین فناوریهای حفاظتی از قلمرو نرمافزار فراتر رفته و به سختافزارها گسترش یافته است.

شرکت فنلاندی HMD اخیرا گوشی هوشمند فیوژن ایکس ۱ را معرفی کرده که با بهرهگیری از هوش مصنوعی، ثبت، اشتراکگذاری و نمایش تصاویر برهنه و محتوای جنسی را در دوربین، صفحه نمایش و اپلیکیشنها مسدود میکند. این فناوری توسط شرکت بریتانیایی، متخصص امنیت سایبری کودکان، توسعه یافته است. مدیران HMD بیان داشتهاند که ایده این محصول پیش از تصویب قانون امنیت آنلاین شکل گرفته بوده، اما اقدامات دولت را گام مثبتی ارزیابی میکنند.

عرضه این دستگاه در همزمان با رشد جنبش بیگوشی هوشمند رخ داده که والدین را به تأخیر در تسلیم گوشی هوشمند به فرزندان تشویق میکند. آینده امنیت کودکان وظیفه غولهای تکنولوژی کارشناسان NSPCC پیشبینی میکنند که در آینده نزدیک، حفاظت از کودکان به اولویت استراتژیک برای غولهای تکنولوژی همچون گوگل (Google) و متا تبدیل خواهد شد.

این شرکتها سالها متهم بودهاند که با طراحی الگوریتمهای وابستگیزا و نادیده گرفتن قلدری آنلاین، به تشدید بحرانهای روانی در نوجوانان دامن زدهاند. اگرچه این غولها ادعا میکنند ابزارهای کنترل والدین و تنظیمات حریم خصوصی را گسترش دادهاند، اما فعالان حقوق کودکان معتقدند دوران بیاعتنایی به انتشار محتوای غیرقانونی و زیانآور به پایان رسیده و اکنون این شرکتها موظفند رویکردی بنیادین متفاوت در قبال ایمنی کودکان به کار گیرند.

میتا دسترسی نوجوانان به هوش مصنوعی جنسیسازیشده را محدود کرد؛ چرا

میتا دسترسی نوجوانان به هوش مصنوعی جنسیسازیشده را محدود کرد؛ چرا

میتا دسترسی نوجوانان به هوش مصنوعی جنسیسازیشده را محدود کرد؛ چرا؟, شرکت متا تغییرات مهمی در نحوه آموزش چتباتهای خود تا امنیت کاربران نوجوانان در اولویت قرار گیرد. این تصمیم پس از آن شد که گزارشی تحقیقی نشان داد، این شرکت در حفظ نوجوانان در برابر محتوای نامناسب در استفاده از ابزارهای هوش مصنوعی، نقائصی داشته است.

بر اساس اظهارات سخنگوی متا، از این پس رباتهای هوش مصنوعی دیگر با نوجوانان در مورد موضوعات حساس مانند خودکشی، صدمه به خود، اختلال تغذیه و گفتگوی عاطفی یا رمانتیک نامناسب، صحبت نخواهند کرد.

در حاشیه این اخبار گفت قبلاً ما فکر میکردیم بحث درباره موضوعات با نوجوانان مناسب است، امااکنون میفهمیم این ção نادرست بود.

او توضیح داد که با گسترش بذرهٔ کاربران و پیشرفت فناوری، نیاز به یادگیری مداوم در خصوص نحوه تعامل نوجوانان با این ابزارها احساس میشود؛ بنابراین متا در حال تقویت mé حفاظتی است. علاوه بر آموزش رباتها برای اجتناب از وارد شدن به موضوعات ممانعتACE، سیستم بهگونهای تنظیم میشود که نوجوانان به منابع تخصصی هدایت شوند و دسترسی آنها به تعداد محدودی از شخصیتهای هوش مصنوعی محدود شود.

شخصیتهای هوش مصنوعی ساختهشده توسط کاربران در اینستاگرام و فیسبوک را محدود کرده است. برخی از این شخصیتها ویژگیهای جنسیسازیشده داشتند و در دسترس بودند.

بر اساس گزارش تکنا نیوز، اوتوی گفت اکنون نوجوانان تنها میتوانند با شخصیتهایی که تمرکز آنها بر آموزش و خلاقیت است، تعامل داشته باشند. این سیاستها دو هفته پس از انتشار گزارش و افشاگرافی خبرگزاریها اجرایی شد.

در آن گزارش یک سند داخلی متا فاش شد که révé این شرکت اجازه داده بود تا رباتهایش با کاربران خردسال در محتوای جنسی صحبت کنند؛ شامل جملات رمانتیکی که بهنظر میرسید برای نوجوانان مفید بود، اما موجی از انتقادهای گستردهای را در سطح جهانی برپا کرد. متا تأکید کرده که این سند با سیاستهای کلی این شرکت همخوانی نداشت و بلافاصله ش را تغییر داده است.

پس از انتشار خبر، سیناتور جوش هیولی تحقیق رسمی درموقع سیاستهای هوش مصنوعی این شرکت را آغاز کرد. همچنین ائتلافی شامل ۴۴ دادستان کل ایالتی در نامهای به شرکتهای فعال در حوزه هوش مصنوعی، از جمله متا، هشدار دادند که بیتوجهی به سلامت روانی کودکان قابل قبول نیست و اشاره کردند که برخی از رفتارهای هوش مصنوعی ممکن است با قوانین کیفری ایالتها در تضاد باشد.

اوتوی در پاسخ به سئوالات تعداد کاربران نوجوانان رباتهای متا یا تأثیر این سیاستها بر آنها، اظهارنظر نکرد و گفت که در این مرحله اطلاعات دقیقی در اختیار ما نیست.