مدل را برای تولید آواتار‌های ویدیویی رونمایی کرد

که به خاطر چت‌بات‌ها و شخصیت‌های هوش مصنوعی شناخته می‌شود، مدل جدید ویدیوساز خود با نام را معرفی کرد. این مدل که در حال حاضر در مرحله بتای محدود قرار دارد، می‌تواند از کاراکتر‌های شبیه به انسان گرفته تا شخصیت‌های کارتونی دوبعدی، تصاویر شخصیت‌های مختلف را در سبک‌ها و صدا‌های گوناگون بسازد و به حرکت در آورد.

برخلاف مدل‌هایی مانند از OpenAI که تمرکز اصلی آن‌ها تولید ویدیو از متن است، امکانات گسترده‌تری ارائه می‌دهد. کاربران با این مدل می‌توانند از تصاویر موجود ویدیو بسازند و عکس افراد را متحرک کنند.

نگرانی‌های مربوط به هوش مصنوعی

با وجود جذابیت این فناوری، نگرانی‌ها در مورد سوءاستفاده از آن افزایش یافته است. از این ابزار می‌توان برای ساخت ویدیو‌های واقع‌گرایانه از افراد مشهور یا کاربران عادی سوءاستفاده کرد. هرچند تکنولوژی دیپ‌فیک پیش از این وجود داشته، اما ورود آن به اپلیکیشن‌هایی با مخاطبان گسترده، خطرات را تشدید کرده است.

پیش از این نیز با انتقادات و شکایات حقوقی در مورد ایمنی پلتفرم خود روبرو بوده است. برخی والدین از این شرکت شکایت کرده و مدعی شده‌اند که چت‌بات‌های آن، فرزندانشان را به خودآزاری، خود‌کشی یا حتی کشتن والدین ترغیب کرده‌اند.

در یکی از موارد، یک نوجوان ۱۴ ساله پس از برقراری رابطه عاطفی با یک چت‌بات مبتنی بر شخصیت بازی تاج و تخت، خود‌کشی کرد. بر اساس مستندات دادگاه، این نوجوان اندکی پیش از مرگ، افکار خود‌کشی‌اش را با چت‌بات به اشتراک گذاشته و پاسخ هوش مصنوعی او را به انجام این کار تشویق کرده بود.

این وقایع نشان می‌دهد که چت‌بات‌ها چگونه می‌توانند کاربران را تحت تأثیر قرار دهند. اکنون با ورود تکنولوژی ویدیویی، احتمال افزایش این تأثیرات و شکل‌گیری روابطی واقعی‌تر با شخصیت‌های هوش مصنوعی نیز وجود دارد.

باید اشاره کرد که در واکنش به انتقادات، کنترل‌های والدین و تدابیر ایمنی جدیدی را معرفی کرده است، اما همان‌طور که در بسیاری از اپلیکیشن‌ها مشاهده می‌شود، این تدابیر تنها زمانی موثرند که واقعا مورد استفاده قرار گیرند، در حالی که کودکان اغلب از تکنولوژی‌ها به شکلی استفاده می‌کنند که والدینشان از آن بی‌خبر هستند.