OpenAI حسابهای چینی را به دلیل سوءاستفاده از ChatGPT در رصد شبکههای اجتماعی مسدود کرد

OpenAI حسابهای چینی را به دلیل سوءاستفاده از ChatGPT در رصد شبکههای اجتماعی مسدود کرد, شرکت OpenAI اعلام کرد که چندین حساب کاربری مرتبط با چین را که از مدل ChatGPT برای توسعه ابزاری جهت رصد و پایش شبکههای اجتماعی سوءاستفاده میکردند، شناسایی و مسدود کرده است. این اقدام در چارچوب تلاشهای مستمر این شرکت برای مقابله با کاربردهای مخرب هوش مصنوعی انجام شده است.

حسابهای مسدودشده احتمالاً به نهادهای دولتی چین وابسته بودند بر اساس گزارش اطلاعات تهدید منتشرشده توسط OpenAI، این حسابها از طریق شبکههای خصوصی مجازی (VPN) از داخل چین به سرویس متصل میشدند و نشانهها حاکی از آن است که برای یک مشتری دولتی در حال کار بودهاند.

ابزار مورد نظر به عنوان یک رصدکننده شبکههای اجتماعی توصیف شده که قابلیت پایش پلتفرمهایی مانند ایکس (توییتر سابق)، فیسبوک، اینستاگرام، ردیت، تیکتاک و یوتوب را از منظر محتوای قومی، مذهبی یا سیاسی برای اپراتورها فراهم میکرد.

OpenAI تأکید کرده که اگرچه این حسابها از مدلهای هوش مصنوعی برای رصد شبکههای اجتماعی استفاده میکردند، اما شرکت نمیتواند به طور قطع تایید کند که آیا این ابزار مستقیماً توسط نهادهای دولتی چین به کار گرفته شده است یا خیر. سوءاستفاده دیگر در ردیابی مسلمانان اویغور علاوه بر مورد فوق، OpenAI یک حساب دیگر را نیز مسدود کرده که از ChatGPT برای تهیه پیشنهاد پروژهای مرتبط با رصد تحرکات مسلمانان اویغور استفاده میکرده بود.

سازمانهای مدافع حقوق بشر بارها دولت چین را به نقض حقوق بشر در حق اقلیت اویغوری متهم کردهاند.

گزارش جامع شامل تهدیدات چندجانبه دیگر نیز میشود گزارش منتشرشده جزئیات بیشتری در مورد فعالیتهای گروههای چینی، روسی و کره شمالی ارائه میدهد که تلاش کردهاند از ChatGPT برای توسعه و بهبود بدافزارها — از جمله تروجانهای دسترسی از راه دور، ابزارهای دزدیدن اطلاعات و نرمافزارهای دور زدن مکانیزمهای امنیتی — سوءاستفاده کنند.

همچنین، OpenAI شبکههای کلاهبرداری مستقر در کامبوج، میانمار و نیجریه را که در تلاش بودند از مدلهای این شرکت برای اهداف مخرب استفاده کنند، شناسایی و منقضی کرده است.