دادگاه آمریکا شکایت خودکشی ناشی از هوش مصنوعی را پذیرفت_سیاه پوش

سال قبل دو شرکت Character.AI و شریک نزدیک آن، گوگل، در شکایتی به اراعه بی‌احتیاط چت‌بات‌های هوش مصنوعی که علتخودکشی یک نوجوان ۱۴ ساله شده، متهم شدند. اکنون قاضی فدرال ایالت فلوریدا خواست مربوط به لغو این شکایت را رد کرده است تا راه برای پیگیری قضایی یکی از اولین پرونده‌های مربوط به هوش مصنوعی هموار بشود.

در این شکایت که اکتبر سال قبل ثبت شده می بود، ادعا شده که چت‌بات‌های Character.AI با سوءاستفاده احساسی و جنسی از نوجوانی به نام «سوئل ستزر سوم»، جهت وابستگی شدید او به این پلتفرم، رنج روانی و درنهایت خودکشی او در فوریه ۲۰۲۴ شده‌اند.

در ژانویه ۲۰۲۵، متهمان این پرونده (شرکت Character.AI و دو بنیان‌گذار آن یعنی «نوام شازیر» و «دنیل دِ فریتاس» همراه با گوگل) با استناد به متمم اول قانون اساسی آمریکا (حق آزادی گفتن)، خواست رد شکایت را اراعه دادند. آنها استدلال کردند که محتوای تولیدشده توسط چت‌بات‌ها «سخن» محسوب می‌بشود و حتی اگر این سخن علتصدمه یا خودکشی بشود، باز هم تحت محافظت قانونی قرار دارد.

حکم قاضی برای خودکشی ناشی از تعامل با هوش مصنوعی

اما قاضی «آن کانوی» این استدلال را نپذیرفته است. در نظر حقوقی خود، او اظهار کرده که متهمان نتوانسته‌اند نشان بدهند که خروجی‌های تولیدشده توسط مدل‌های زبانی بزرگ (LLM) فراتر از فقطً کلمات اتفاقی می باشند و بتوان آنها را به‌گفتن «سخن» برداشت کرد.

یقیناً قاضی بخشی از شکایت، یعنی ادعای «تحمیل به عمد رنج روانی» را رد کرده است، چرا که اثبات این ادعا هنگامی فرد صدمه‌دیده دیگر در قید حیات نیست، زیاد دشوار است.

بااین‌حال، این رأی به زیان شرکت‌های بزرگ سیلیکون‌ولی همه شد که تصمیم داشتند این شکایت را به‌کلی کنار بزنند. مهم‌تر آن‌که قاضی کانوی به «مگان گارسیا» (شاکی پرونده) اجازه داده تا بر مبنای «مسئولیت تشکیل محصول» از شرکت Character.AI (و بنیانگذاران آن) و گوگل شکایت کند.

بعد از انتشار کردن این خبر، سخنگوی گوگل به رویترز او گفت که گوگل و Character.AI «کاملاً از هم جدا می باشند» و گوگل «هیچ‌گونه نقشی در طراحی، ساخت یا مدیریت اپلیکیشن Character.AI یا هیچ‌یک از اجزای آن نداشته است.» سخنگوی Character.AI نیز در بیانیه خود ضمن اشاره به عمل های ایمنی تازه بعد از شکایت گارسیا، پافشاری شد که شرکت از خود دفاع خواهد کرد:

«قانون مدام با تأخیر نسبت به فناوری‌های نوین عکس العمل مشخص می کند و این نوشته درمورد هوش مصنوعی نیز صادق است. در دستور امروز، دادگاه روشن کرد که تا این مدت آماده تصمیم‌گیری نهایی درمورد همه دلایلهای Character.AI نیست و ما به دفاع از خود ادامه خواهیم داد. علاوه‌براین، ما از فناوری‌هایی برای شناسایی و پیشگیری از گفتگوهای مرتبط با خودآزاری منفعت گیری می‌کنیم. در برخی موارد نیز مطلب‌های هشداردهنده‌ای نمایش داده می‌بشود که کاربر را به خطوط اضطراری ملی سلامت روان هدایت می‌کنند.»

یقیناً همه این تغییرات بعد از مرگ این نوجوان و ثبت شکایت اظهار شده‌اند و نقشی در تصمیم نهایی دادگاه نخواهند داشت.