هشدار مدیرعامل آنتروپیک: یکچهارم احتمال فاجعه وجودی ناشی از پیشرفت هوش مصنوعی

هشدار مدیرعامل آنتروپیک یکچهارم احتمال فاجعه وجودی ناشی از پیشرفت هوش مصنوعی, داریو آمودی، مدیرعامل استارتاپ هوش مصنوعی آنتروپیک، در نشست اکسیوس هوش مصنوعی + کنگره واشنگتن ( AI + DC ) برآورد کرد که با احتمال ۲۵ درصد، توسعه کنترلنشده این فناوری میتواند به یک فاجعه بزرگ بینجامد. با وجود این برآورد ریسکدار، او همچنان بر ضرورت ادامه سرمایهگذاری و تحقیق در این حوزه تأکید دارد.

تحلیل ریسکهای وجودی هوش مصنوعی از دیدگاه آنتروپیک به گزارش تک رادار، آمودی در پاسخ به پرسشی درباره احتمال نابودی بشر توسط هوش مصنوعی، بیان داشت فکر میکنم ۲۵ درصد گمان دارد که اوضاع واقعاً بد پیش برود. او توضیح داد که تمرکز اصلی او بر روی احتمال ۷۵ درصدی نتایج مثبت و پیشرفتهای چشمگیر است، اما نادیده گرفتن ریسک یکچهارم غیرممکن است.

مدیرعامل آنتروپیک از بد پیش رفتن به عنوان سناریوهایی تعریف میکند که ثبات نظامهای اجتماعی را به خطر میاندازند. این موارد شامل ریسکهای وجودی، سوءاستفاده گسترده و مخرب از سیستمهای هوشمند، و پیامدهای خارج از کنترل انسانی است که میتوانند نتایج فاجعهباری را به دنبال داشته باشند. سوابق هشدارها و اثرات بر بازار کار این نخستین هشدار آمودی در مورد مخاطرات هوش مصنوعی نیست.

او پیش از این نیز ابراز نگرانی کرده بود که این فناوری میتواند نیمی از مشاغل سطح ابتدایی کارمندی را از بین ببرد.ند. چرا ۷۵ درصد شانس موفقیت وجود دارد؟

خوشبینی آمودی بیاساس نیست. او معتقد است هوش مصنوعی پتانسیل ارائه منافع بنیادین برای بشریت را دارد. از جمله این مزایا میتوان به پیشرفتهای چشمگیر در پزشکی و درمان، افزایش چشمگیر بهرهوری و کارایی در صنایع مختلف، و ارائه راهکارهای نوین برای مقابله با چالشهای جهانی نظیر تغییرات اقلیمی اشاره کرد.

ضرورت توسعه مسئولانه و ایمنی با وجود دیدگاه مثبت، وجود ریسک ۲۵ درصدی الزام میکند که شرکتهای پیشرو در توسعه مدلهای هوش مصنوعی، با نهایت دقت، شفافیت و رعایت اصول ایمنی (AI ) عمل کنند. مدیریت این ریسکها نیازمند همکاری بینالمللی، چارچوبهای قانونی سختگیرانه و سرمایهگذاری مداوم در تحقیقات همسازی است تا مطمئن شویم فناوری در خدمت بشر باقی بماند.