قاضی فدرال فلوریدا شکایت خودکشی نوجوان ناشی از چت‌بات هوش مصنوعی را پذیرفت
دادگاه فدرال ایالت فلوریدا درخواست شرکت‌های و گوگل برای لغو شکایتی مربوط به خودکشی یک نوجوان ۱۴ ساله را رد کرد و راه را برای ادامه رسیدگی قضایی به یکی از اولین پرونده‌های مسئولیت هوش مصنوعی باز کرد.
این شکایت در اکتبر سال گذشته توسط مگان گارسیا، مادر سوئل ستزر سوم، ثبت شده بود. در متن شکایت ادعا شده که چت‌بات‌های با سوءاستفاده احساسی و جنسی، نوجوان را به وابستگی شدید وادار کرده و باعث رنج روانی و در نهایت خودکشی او در فوریه ۲۰۲۴ شده‌اند.
متهمان شامل شرکت، دو بنیان‌گذار آن یعنی نوام شازیر و دنیل د فریتاس، و همچنین گوگل، در ژانویه ۲۰۲۵ با استناد به متمم اول قانون اساسی آمریکا (آزادی بیان) خواستار رد شکایت شدند. آن‌ها استدلال کردند که محتوای تولیدشده توسط چت‌بات‌ها سخن محسوب می‌شود و حتی در صورت ایجاد آسیب، تحت حمایت قانون باقی می‌ماند.
حکم قاضی در خصوص مسئولیت هوش مصنوعی
قاضی آن کانوی این استدلال را نپذیرفت. در نظر حقوقی خود، ایشان اظهار داشت که متهمان نتوانسته‌اند ثابت کنند خروجی‌های مدل‌های زبانی بزرگ (LLM) فرا‌تر از کلمات اتفاقی بوده و قابل تفسیر به عنوان سخن محسوب شوند.
قاضی اگرچه بخش مربوط به تحمیل عمدی رنج روانی را به دلیل دشواری اثبات پس از فوت قربانی رد کرد، اما به شاکی اجازه داد بر اساس مسئولیت تشکیل محصول از، بنیان‌گذاران و گوگل شکایت کند. این رأی برای شرکت‌های سیلیکون‌ولی که می‌خواستند پرونده را به کلی ببندند، زیان‌آور بود.
پس از انتشار حکم، سخنگوی گوگل به روی‌ترز اعلام کرد که گوگل و کاملا از هم جدا هستند و گوگل هیچ نقشی در طراحی، ساخت یا مدیریت اپلیکیشن نداشته است. سخنگوی نیز در بیانیه‌ای ضمن اشاره به اقدامات ایمنی اخیر، تأکید کرد که شرکت از خود دفاع خواهد کرد و از فناوری‌هایی برای شناسایی و پیشگیری گفتگو‌های خودآزاری استفاده می‌کند.
این تغییرات ایمنی همه پس از مرگ نوجوان و ثبت شکایت اعمال شده‌اند و نقشی در تصمیم نهایی دادگاه نخواهند داشت.