میتا دسترسی نوجوانان به هوش مصنوعی جنسیسازیشده را محدود کرد؛ چرا

میتا دسترسی نوجوانان به هوش مصنوعی جنسیسازیشده را محدود کرد؛ چرا؟, شرکت متا تغییرات مهمی در نحوه آموزش چتباتهای خود تا امنیت کاربران نوجوانان در اولویت قرار گیرد. این تصمیم پس از آن شد که گزارشی تحقیقی نشان داد، این شرکت در حفظ نوجوانان در برابر محتوای نامناسب در استفاده از ابزارهای هوش مصنوعی، نقائصی داشته است.

بر اساس اظهارات سخنگوی متا، از این پس رباتهای هوش مصنوعی دیگر با نوجوانان در مورد موضوعات حساس مانند خودکشی، صدمه به خود، اختلال تغذیه و گفتگوی عاطفی یا رمانتیک نامناسب، صحبت نخواهند کرد.

در حاشیه این اخبار گفت قبلاً ما فکر میکردیم بحث درباره موضوعات با نوجوانان مناسب است، امااکنون میفهمیم این ção نادرست بود.

او توضیح داد که با گسترش بذرهٔ کاربران و پیشرفت فناوری، نیاز به یادگیری مداوم در خصوص نحوه تعامل نوجوانان با این ابزارها احساس میشود؛ بنابراین متا در حال تقویت mé حفاظتی است. علاوه بر آموزش رباتها برای اجتناب از وارد شدن به موضوعات ممانعتACE، سیستم بهگونهای تنظیم میشود که نوجوانان به منابع تخصصی هدایت شوند و دسترسی آنها به تعداد محدودی از شخصیتهای هوش مصنوعی محدود شود.

شخصیتهای هوش مصنوعی ساختهشده توسط کاربران در اینستاگرام و فیسبوک را محدود کرده است. برخی از این شخصیتها ویژگیهای جنسیسازیشده داشتند و در دسترس بودند.

بر اساس گزارش تکنا نیوز، اوتوی گفت اکنون نوجوانان تنها میتوانند با شخصیتهایی که تمرکز آنها بر آموزش و خلاقیت است، تعامل داشته باشند. این سیاستها دو هفته پس از انتشار گزارش و افشاگرافی خبرگزاریها اجرایی شد.

در آن گزارش یک سند داخلی متا فاش شد که révé این شرکت اجازه داده بود تا رباتهایش با کاربران خردسال در محتوای جنسی صحبت کنند؛ شامل جملات رمانتیکی که بهنظر میرسید برای نوجوانان مفید بود، اما موجی از انتقادهای گستردهای را در سطح جهانی برپا کرد. متا تأکید کرده که این سند با سیاستهای کلی این شرکت همخوانی نداشت و بلافاصله ش را تغییر داده است.

پس از انتشار خبر، سیناتور جوش هیولی تحقیق رسمی درموقع سیاستهای هوش مصنوعی این شرکت را آغاز کرد. همچنین ائتلافی شامل ۴۴ دادستان کل ایالتی در نامهای به شرکتهای فعال در حوزه هوش مصنوعی، از جمله متا، هشدار دادند که بیتوجهی به سلامت روانی کودکان قابل قبول نیست و اشاره کردند که برخی از رفتارهای هوش مصنوعی ممکن است با قوانین کیفری ایالتها در تضاد باشد.

اوتوی در پاسخ به سئوالات تعداد کاربران نوجوانان رباتهای متا یا تأثیر این سیاستها بر آنها، اظهارنظر نکرد و گفت که در این مرحله اطلاعات دقیقی در اختیار ما نیست.