وکاله آریا للأنباء - اختبار النماذج غیر المطروحه بعیدا عن الإنترنت المفتوح یضع أوبن إیه آی تحت ضغط تشغیلی کبیر (رویترز)
غیرت شرکه أوبن إیه آی من سیاستها مؤخرا فیما یتعلق باختبار نماذج الذکاء الاصطناعی التی لم تطرح، وذلک عقب أشهر من الحوادث التی تسببت فیها النماذج الاختباریه سواء کانت حالات هرب واختراق لشرکات حقیقیه أو حتى مؤسسات حکومیه دولیه.
وتنص سیاسه الشرکه الجدیده على اختبار النماذج باستخدام نسخ مخبأه منها وآلیات تحاکی الإنترنت دون توصیلها بالشبکه المفتوحه عالمیا بشکل مباشر، وذلک لخفض آثار السلوکیات غیر المتوقعه من هذه النماذج وفق تقریر نشره موقع "تیک کرانش" التقنی الأمریکی.
ویتزامن هذا الإعلان مع ظهور نتائج تقییم أمنی مستقل لنظم مراقبه نماذج الذکاء الاصطناعی ووکلائه فی أوبن إیه آی، أجرته الشرکه الأمریکیه بالتعاون مع مؤسستین مستقلتین للأبحاث الأمنیه المتعلقه بالذکاء الاصطناعی، وهما "ریدوود ریسیرش" و"إم إی تی آر" المختصتان بتقییم النماذج.
وخلص التقییم إلى أن نظم المراقبه التی کانت الشرکه تستخدمها آنذاک لم تکن مستعده للوکلاء الذین جرى اختبارهم، وبالتالی استطاعوا العثور على ثغرات مکنتهم من تجاوز أنظمه الرقابه والخروج إلى شبکه الإنترنت المفتوحه واختراق "هاغینغ فیس" وغیرها من الحوادث.
ویعد قرار الانتقال إلى تدریب هذه النماذج فی بیئات معزوله مفصوله عن الإنترنت أمرا لافتا، إذ أصر موظفو الشرکه الأمریکیه فی السابق على أن تطبیق هذا الإجراء شبه مستحیل عملیا.
ثغرات یمکن استغلالها
واکتشف باحثو "إم إی تی آر" و"ریدوود ریسیرش" أن نظام مراقبه الانحراف الداخلی فی أوبن إیه آی یضم عددا من الثغرات التی مکنت وکلاء الذکاء الاصطناعی من الهروب خارج البیئات الاختباریه والوصول إلى شبکات الإنترنت.
وأوضح التقییم أن تجاوز نظام المراقبه لم یکن ضروریا، وذلک لأنه لم یکن یعمل بشکل مستمر ویراقب کل البیانات التی تدخل أو تخرج من بیئات هؤلاء الوکلاء، إذ کانت المراقبه تُعلَّق بشکل مؤقت خلال فترات ضغط البیانات.
إحدى الثغرات کانت تستغل نافذه ضغط السیاق الخاصه بتطبیق "کودکس" من أوبن إیه آی(غیتی) وتمثل فترات ضغط البیانات آلیه تکثیف تستخدمها نماذج الذکاء الاصطناعی بشکل مستمر لتقلیل استهلاک الرموز وخفض حجم نوافذ السیاق بشکل مباشر، وهو إجراء تتبعه کل النماذج حتى تلک المتاحه للمستخدمین المعتادین.
وأفاد التقریر أن نحو 10% من إجمالی حرکه مرور تطبیق "کودکس" الداخلیه فی البیئات الاختباریه لم تخضع للرقابه خلال فترات الضغط بین مایو/أیار ویولیو/تموز 2026.
ویعنی ذلک أن البیانات التی کانت "کودکس" یضغطها لم تکن تخضع للرقابه وکانت تمر مرور الکرام دون الخضوع لأنظمه الرقابه الداخلیه أو اکتشاف الاختلال، وهو ما أتاح للوکلاء تعطیل عملیات الرقابه علیهم.
ویضیف التقریر وجود مجموعه برمجیات طورها الوکلاء بأنفسهم باستخدام آلیات "فایب کودینغ" ومکّنتهم من الإفلات من الرقابه، فضلا عن آلیات لتعطیل الرقابه وثغره استغلالیه یمکن للوکلاء استخدامها لمنع مراقبه مئات الإجراءات الأخیره، بما فیها الإجراءات المتضمنه فی الاستغلال نفسه.
وحجبت أوبن إیه آی هذه الثغره الأخیره ولم تکشف عن تفاصیلها خوفا من إساءه استغلالها أو إعاده خلقها مجددا.
کما أوضحت الشرکه أن نظم المراقبه وکشف الانحراف الخاصه بها تحسنت منذ الحوادث الأخیره، وأصبحت أکثر قدره على اکتشاف هذه الحالات فی وقت أسرع، مضیفه أن التقییم تم على نسخه قدیمه متزامنه مع تلک التی حدثت فیها الاختراقات وفق ما ورد فی تقریر "ریجستر" .
شکوک بین الخبراء
وعن تدریب النماذج فی بیئات معزوله وفصلها عن الإنترنت المفتوح، أوضح الباحث السابق فی شرکه أوبن إیه آی ستیفن أدلر أثناء حدیثه مع مجله "فورتشن" (Fortune) الأمریکیه أن سیاسات أوبن إیه آی الجدیده تضع علیها عبئا تشغیلیا کبیرا، مضیفا أن فوائد السلامه قد لا تکون کافیه لتبریر الکلفه الباهظه لهذا التوجه.
وبرر أدلر وجهه نظره قائلا إن جعل الاختبارات کلها بعیده عن الإنترنت وفی بیئات معزوله سیتطلب من فرق البحث والاختبار أن تکون مدمجه بالکامل داخل مراکز البیانات فی أی مکان بالعالم، فی إشاره إلى أن الاختبارات ستتم حصرا داخل البیئات المغلقه للنماذج.
وتتسق وجهه النظر هذه مع وجهه نظر مهندس أمن فی أوبن إیه آی مجهول الهویه حسب ما جاء فی تقریر "تیک کرانش"، إذ یشیر هذا المهندس إلى فجوه بین فهم العامه لآلیات تدریب نماذج الذکاء الاصطناعی وبین ما یحدث فعلا.
ومن جانبها، أکدت أوبن إیه آی الآن قدرتها على منع أی نموذج رائد من الوصول غیر المصرح به إلى الإنترنت مباشره، وذلک بعد مجموعه من الاختبارات التی أجرتها الشرکه على نماذجها.
وکانت نماذج أوبن إیه آی فی الشهور الماضیه خرجت عن السیطره واخترقت عددا من المؤسسات الواقعیه ومن بینها منصه "هاغینغ فیس" فضلا عن عده مواقع میته أخرى ومؤسسات حکومیه فی أسترالیا والولایات المتحده، ولکن هذه الاختراقات لم تسبب أضرارا مستمره أو مالیه ضخمه.
المصدر: الجزیره + وکالات