دو مدل هوش مصنوعی جدید برای ارتقای ایمنی در فضای مجازی معرفی کرد
OpenAI امروز از دو مدل استدلالگر تازه رونمایی کرده که توسعهٔ‌دهندگان می‌توانند از آنها برای تشخیص و वर्गبندی انواع آسیب‌های آنلاین در پلتفرم‌های خود استفاده کنند.
به نقل از CNBC، این مدل‌ها با نام‌های gpt-oss-safeguard-120b و gpt-oss-safeguard-20b آشنایی کرده‌اند که اندازه آنها واضح است و نسخهٔ تنظیم‌شده و بهینه‌شدهٔ مدل‌های gpt-oss می‌باشند که OpenAI در ماه غشتПрезنت کرد.
معرفی مدل‌های جدید OpenAI
این مدل‌ها به‌عنوان مدل‌های وزن‑باز (open-weight) عرضه شده‌اند؛ به این معنی که پارامترهای مدل که کیفیت خروجی و دقت پیش‌بینی‌ها را تعیین می‌کنند، بصورت عمومی در دسترس قرار دارند. این نوع مدل‌ها امکان شفافیت و کنترل بیشتری را برای کاربران فراهم می‌آورند؛ کمی با مدل‌های متن‌باز که کد منبع آنها برای ویرایش و شخصی‌سازی قابل دسترسی است، تفاوت دارند.
🔗 بیشتر بخوانید: ایلان ماسک مجدد ایده ساخت ماشین پرنده توسط تسلا را نقل کرد_سیاه پوش
OpenAI اظهارات خود را چنین بیان کرده است که سازمان‌ها می‌توانند این مدل‌ها را بر پایهٔ سیاست‌ها و نیازهای خاص خود تنظیم کنند. از آنجا که این مدل‌ها قابلیت استدلال و شرح روند تصمیم‌گیری خود را دارند، توسعه‌دهندگان می‌توانند مستقیماً بایستند که مدل چگونه به یک نتیجه خاص رسیده است. به‌عنوان مثال، یک سامانه بررسی محصولات می‌تواند از این gpt-oss-safeguard برای شناسایی بازدیدهای جعلی استفاده کند یا یک انجمن بازی‌های ویدیویی می‌تواند پست‌های مربوط به تقلب و تخلفات را طبقه‌بندی کند.
آخرین مطالب
- تامین ۱۳ میلیون تراشه LPDDR۵X توسط سامسونگ برای آیفون ۱۸: قفزه در حافظههای هوشمند
- بررسی مدیریت حرارتی و مصرف انرژی در مکبوک پرو مجهز به تراشه M۵
- توکیو و واشینگتن؛ توافق تجاری جدیدی که تویوتا و نیسان را به سمت وارد خودروهای آمریکایی میکشد
- حسادت از موفقیت دیگران: ریشهها، پیامدها و راهکارهای تبدیل به انگیزه
- تفاوتهای فنی سامسونگ و TSMC در تولید تراشههای تسلا
این مدل‌ها در همکاری با دیسکورد، SafetyKit و ROOST — که اخیرین یک سازمان فعال در حوزهٔ ساخت زیرساخت‌های ایمنی برای هوش مصنوعی است — توسعه یافته‌اند. در حال حاضر مدل‌ها در حالت پیش‌نمایش پژوهشی عرضه شده‌اند و OpenAI نظرات پژوهشگران و متخصصان ایمنی را مورد انتظار قرار داده است.
معرفی این مدل‌ها می‌تواند به OpenAI کمک کند تا به برخی مورد انتقاد خود دربارهٔ پیشروی سریع تجاری‌سازی و رشد بی‌توجه به اخلاق و ایمنی هوش مصنوعی پاسخ دهد. ارزش فعلی OpenAI نزدیک به ۵۰۰ میلیارد دلار است و روبات گفتگوی ChatGPT بیش از ۸۰۰ میلیون کاربر فعال هفتگی دارد. در روز سه‌شنبه OpenAI اعلام کرد ساختار سازمانی خود را بازسازی کرده است.
🔗 بیشتر بخوانید: عکس العمل یک مخاطب به سکانس مشهور بازی تاج و تخت_سیاه پوش
کاربران می‌توانند پارامترهای مدل‌ها را از Hugging Face بارگیری کنند. «کامل فرنسو»، مدیرم.exec ROOST، در اظهارات خود گفت:
«با پیشرفت سریع هوش مصنوعی، ابزارهای ایمنی و تحقیقات بنیادین نیز باید همزمان پیشرفت کنند و برای همه قابل دسترس باشند.»