[ad_۱]
اوپنایآی مدل زبانی جدیدی به نام GPT Red را معرفی کرد که وظیفه دارد پیش از سوءاستفادهی مهاجمان، نقاط ضعف و حفرههای امنیتی را در سیستمهای هوش مصنوعی شناسایی کند. این مدل با هدف خودکارسازی فرآیند تست نفوذ و ارزیابی امنیتی در مقیاس بزرگ توسعه یافته است و تمرکز ویژهای بر کشف حملات تزریق دستور (Command Injection) دارد.
بر اساس بیانیهی مطبوعاتی اوپنایآی، جیپیتی رد از روش یادگیری تقویتی مبتنیبر رقابت استفاده میکند. در این روش، مدل مهاجم در برابر چندین مدل مدافع قرار میگیرد و با تلاش برای دور زدن لایههای امنیتی، راهکارهای جدیدی برای نفوذ مییابد. این فرآیند به بهبود امنیت مدلهای بعدی کمک شایانی میکند.
دادههای بهدستآمده از این ابزار در آموزش مدل جدید GPT ۵.۶ بهکار رفته و مقاومت آن را در برابر حملات تزریق دستور به شکل چشمگیری افزایش داده است. طبق اعلام توسعهدهندگان، میزان خطای مدل جدید در مواجهه با حملات مستقیم، حدود یکششم قویترین نسخهی تجاری پیشین است. این ارتقای امنیتی بدون کاهش کارایی کلی و تواناییهای پردازشی سیستم انجام میشود.
اوپنایآی اعلام کرده است که مدل امنیتی جدید در محیطهای واقعی نیز آزمایش شد و توانست آسیبپذیریهای متعددی را در سیستمهای مختلف شناسایی کند. این شرکت قصد دارد جزئیات فنی بیشتری را در روزهای آینده منتشر کند تا مسیر برای توسعهی سیستمهای هوش مصنوعی امنتر هموار شود.
