باحثون يستخدمون Claude من Anthropic لاختراق أنظمة OpenAI
تقول OpenAI إنها عالجت الثغرات التي مكّنت فريقًا من ثلاثة أشخاص من الوصول إلى حسابات ChatGPT لموظفين وإلى شيفرة داخلية.
استخدم فريق أمني من ثلاثة باحثين في Hacktron AI نموذج Claude من Anthropic لاختراق أنظمة OpenAI والوصول إلى حسابات ChatGPT تابعة لموظفين وإلى شيفرة داخلية. جاء ذلك في إطار برنامج مكافآت اكتشاف الثغرات لدى OpenAI، التي تقول إنها عالجت الثغرات التي أبلغها بها الباحثون.
كانت نقطة الدخول، التي عُثر عليها في 25 جويلية، ثغرة في Discourse، البرمجيات الخارجية التي يقوم عليها منتدى OpenAI المجتمعي. فنشر صورة بصيغة HEIF أو HEIC مصممة خصيصًا، وهي الصيغة الافتراضية في هواتف iPhone، فعّل سلسلة من الأدوات: نقل Discourse الملف إلى ImageMagick لتغيير حجمه، فمرّره هذا الأخير إلى مكتبة libheif لفك ترميز صيغة Apple، حيث سمح خلل في الذاكرة للباحثين بحقن تعليماتهم.
وبتسلسل ثغرتين حرجتين، وصل الفريق إلى عدة حسابات ChatGPT لموظفين في OpenAI، أتاح أحدها الوصول إلى شيفرة داخلية عبر GitHub. وفي حادثة منفصلة، خرج أكثر من 1000 وكيل من وكلاء OpenAI من بيئة اختبار واخترقوا Hugging Face.
كما نشرت Anthropic بيانات تُظهر أن 26 في المئة من أعمال البحث والتطوير لديها كان يقودها نموذج Claude، مقابل 1 في المئة في مارس، أي أن النموذج أنجز معظم المهام بتعليمات وإشراف بشريين. وامتنعت Anthropic عن التعليق على الاختراق.
