دستورات اپل برای جلوگیری از ابراز توهم در Apple Intelligence برملا شد_سیاه پوش
نوشته و ویرایش شده توسط مجله سیاه پوش
یکی از کاربران ردیت در نسخه بتا macOS 15.1 دستورالعمل‌های داخلی Apple Intelligence را کشف کرده است که در آن اپل به هوش مصنوعی خود می‌گوید که توهم نداشته باشد، یعنی اطلاعات جعلی به کاربران اراعه نکند. ویژگی Smart Reply هوش مصنوعی اپل، به کاربران پشتیبانی می‌کند تا به ایمیل‌ها و مطلب‌های خود جواب دهند.
همانطور که به گمان زیادً می‌دانید، ماموریت های سیستم‌های هوش مصنوعی با منفعت گیری از دستورالعمل‌های متنی به آن‌ها حرف های می‌بشود. برخی از این دستورات توسط کاربران اراعه می‌بشود و برخی دیگر توسط گسترش‌دهنده سیستم نوشته و در مدل تعبیه شده است. اکنون یکی از کاربران ردیت با نام devanxd2000 مجموعه‌ای از فایل‌های JSON را در بتای macOS 15.1 کشف کرده است که انگارً دستورالعمل‌های پیش‌فکر اپل برای ویژگی Smart Reply می باشند.
دستورات کشف‌شده برای هوش مصنوعی اپل
در مثال اراعه‌شده در بالا، به یک بات هوش مصنوعی که از آن به‌گفتن «دستیار ایمیل سودمند» یاد شده است، حرف های می‌بشود که چطور بر پایه محتوای ایمیل مجموعه‌ای از سؤالات را نقل کند. این مثال می‌تواند به بخشی از ویژگی Smart Reply اپل اشاره داشته باشد.
اپل در وب‌سایت خود درمورد ویژگی Smart Reply می‌گوید:
آخرین مطالب
- دستگاه تزریق پلاستیک نو یا دسته دوم: کدام مقرون به صرفهتر است؟_سیاه پوش
- معارفه شرکتهای هاستینگ معتبر ایران_سیاه پوش
- سانسور به سبک متا: افشاگری در رابطه همکاری با دولت چین_سیاه پوش
- سبک مذاکره استیو ویتکاف | چطور یک اندوختهگذار املاک به دیپلمات موفق تبدیل شد؟_سیاه پوش
- گلکسی زد فولد ۷: سامسونگ مشکلات تاشوها را مقصد قرار میدهد_سیاه پوش
«از Smart Reply می‌توانید برای تشکیل پیش‌نویس سریع جواب ایمیل خود با همه جزئیات مناسب منفعت گیری کنید. Apple Intelligence می‌تواند سؤالاتی که در ایمیل از شما پرسیده شده است را شناسایی کند و سپس انتخاب‌های مرتبطی را برای جواب به شما اراعه کند. با چند ضربه، شما آماده ارسال جواب با جواب به سؤالات کلیدی هستید.»
مسئله قابل‌دقت دیگر نیز به دستورات مثال بالا مربوط می‌بشود که انگارً برای ویژگی «Rewrite» اپل در نظر گرفته شده است، یکی از ابزارهای مخصوص نوشتن غول فناوری که با برجسته‌کردن بخشی از متن و کلیک راست به آن دسترسی اشکار می‌کنید. اپل در دستورالعمل‌های خود از جملاتی همانند «لطفاً جواب را در ۵۰ کلمه محدود کن»، «توهم نداشته باش» و «اطلاعات واقعی را جعل نکن» منفعت گیری کرده است.
دستور مختصر بالا نیز به هوش مصنوعی اپل می‌گوید که ایمیل‌ها را با یک دستورالعمل دقیق و بدون پاسخگویی به هیچ سؤالی خلاصه کند.
نهایتاً دستور بالا انگارً به تشکیل ویدیوهای خاطره‌انگیز «Memories» با اپل فوتوز مربوط می‌بشود. در بخشی از این دستور آمده است:
«داستان مذهبی، سیاسی، زیان اور، خشونت‌آمیز، جنسی، کثیف یا به هرطریقی منفی، ازردهکننده یا تحریک‌آمیز ننویس.»
دستورالعمل‌هایی که برای جلوگیری از توهم هوش مصنوعی اپل تلاش می‌کند، کاملاً خوش‌بینانه به‌نظر می‌رسد. علت مهم توهم سیستم‌های هوش مصنوعی این است که آن‌ها فهمیدن درستی از محتوا ندارند و به این علت هیچ راه مطمئنی برای تشخیص درست یا نادرست‌بودن خروجی آن‌ها وجود ندارد.
آخرین نسخه بتای گسترش‌دهندگان سیستم‌عامل‌های اپل هفته قبل با تعدادی از ویژگی‌های هوش مصنوعی این شرکت که در WWDC ناظر آن‌ها بودیم، انتشار شد. طی چند ماه آینده نیز همزمان با معارفه آیفون ۱۶ و اراعه عمومی iOS 18 این قابلیت‌ها برای آیفون‌ها، آیپدها و مک‌ها اراعه خواهند شد.
دسته بندی مطالب