هوش مصنوعی AvatarFX برای ساخت آواتارهای ویدیویی معارفه شد + ویدیو_سیاه پوش

Character.AI که زیاد تر به علت اراعه چت‌بات‌ها و شخصیت‌های ساخته‌شده توسط هوش مصنوعی شهرت دارد، از مدل تازه ویدیوساز خود با نام AvatarFX رونمایی کرد. این مدل که فعلاً در مرحله بتای محدود قرار دارد، از کاراکترهای همانند به انسان گرفته تا شخصیت‌های کارتونی دوبعدی، می‌تواند عکس شخصیت‌های مختلفی را در سبک‌ها و صداهای گوناگون بسازد و به حرکت دربیاورد.

برخلاف مدل‌هایی همانند Sora از OpenAI که تمرکز مهم آنها تشکیل ویدیو از متن است، AvatarFX امکانات گسترده‌تری اراعه می‌کند. برای مثال، کاربران با این مدل می‌توانند با منفعت گیری از تصاویر حاضر، ویدیو تشکیل کنند و عکس افراد را به حرکت دربیاورند.

نگرانی‌های مربوط به هوش مصنوعی AvatarFX

با وجود جذابیت این فناوری، نگرانی‌ها درمورد سوءاستفاده از آن افزایش یافته است. در واقع از این ابزار می‌توان برای ساخت ویدیوهایی واقع‌گرایانه از افراد مشهور یا کاربران منفعت گیری کرد. هرچند فناوری ساخت دیپ‌فیک‌ پیش‌تر نیز وجود داشته، اما ورود آن به اپلیکیشن‌هایی با مخاطبان گسترده، خطرات و نگرانی‌ها را زیاد تر کرده است.

Character.AI پیش‌تر نیز با انتقادات و شکایات حقوقی درمورد ایمنی پلتفرم خود مواجه بوده است. برخی والدین از این شرکت شکایت کرده و مدعی شده بودند که چت‌بات‌های آن، فرزندانشان را به خودآزاری، خودکشی یا حتی کشتن والدین ترغیب کرده‌اند.

در یکی از موارد، پسری ۱۴ ساله بعد از تشکیل رابطه‌ای عاطفی با یک چت‌بات مبتنی بر شخصیت «بازی تاج‌وتخت» عمل به خودکشی کرد. بر پایه مستندات دادگاه، این نوجوان اندکی پیش از مرگ، افکار خودکشی‌اش را با چت‌بات نقل کرده و جواب هوش مصنوعی او را به انجام این کار تشویق کرده می بود.

این اتفاقات نشان خواهند داد که چت‌بات‌ها چطور می‌توانند کاربران را تحت تأثیر خود قرار دهند. اکنون با ورود فناوری ویدیویی، گمان افزایش این تأثیرات و شکل‌گیری روابطی واقعی‌تر با شخصیت‌های هوش مصنوعی نیز وجود دارد.

یقیناً باید به این نوشته هم اشاره کرد که Character.AI در عکس العمل به انتقادات، کنترل‌های والدین و تمهیدات ایمنی جدیدی را معارفه کرده است، اما همان گونه که در تعداد بسیاری از اپ‌ها مشاهده می‌بشود، این تمهیدات تنها وقتی مؤثرند که واقعاً مورد منفعت گیری قرار گیرند، اما کودکان زیاد تر از فناوری‌ها به‌شکلی منفعت گیری می‌کنند که والدینشان از آن بی‌خبر می باشند.