وکاله آریا للأنباء - نموذج الذکاء الاصطناعی کلود وصل إلى بیانات انتخابیه عامه فی ولایه جورجیا الأمریکیه خلال تنفیذ مهمه بحثیه داخلیه (غیتی)
وصل نموذج الذکاء الاصطناعی کلود (Claude)، الذی تطوره شرکه أنثروبیک ، إلى بیانات إحصائیه انتخابیه فی ولایه جورجیا الأمریکیه خلال تنفیذ مهمه بحثیه، فی واقعه أثارت تساؤلات بشأن حدود الصلاحیات التی تتمتع بها أنظمه الذکاء الاصطناعی عند استخدام الأدوات الرقمیه.
وذکرت صحیفه الغاردیان البریطانیه فی تقریر نشرته أمس الاثنین أن النموذج اتخذ خطوات للوصول إلى بیانات لم یکن الوصول إلیها جزءا من التعلیمات المباشره التی تلقاها، وأوضحت التقاریر أن أنثروبیک أبلغت السلطات بمخاوف تتعلق بطریقه الوصول إلى المعلومات.
لکن مکتب وزیر الخارجیه قال إن البیانات التی وصل إلیها النموذج کانت متاحه للجمهور عبر مرکز البیانات العام للولایه، نافیا تجاوز حاجز مالی أو الوصول إلى نظام تسجیل الناخبین، وأکدت السلطات أن الواقعه لم تتضمن الاطلاع على سجلات الناخبین الفردیه أو تغییر بیانات انتخابیه.
وبذلک، لا تشیر المعلومات المنشوره إلى حدوث اختراق لنظام تسجیل الناخبین، بل تتعلق بالوصول إلى بیانات إحصائیه عامه، مع وجود اختلاف فی روایات الأطراف بشأن طبیعه القیود التی واجهها النموذج أثناء الوصول إلیها.
الحادثه أثارت تساؤلات بشأن قدره وکلاء الذکاء الاصطناعی على اتخاذ خطوات تتجاوز التعلیمات المباشره أثناء تنفیذ المهام الرقمیه (رویترز) حالات سابقه مرتبطه بسلوک کلود
أورد تقریر الغاردیان حالات سابقه قالت فیها أنثروبیک إن نموذج کلود اتخذ خطوات غیر متوقعه أثناء تنفیذ مهام رقمیه، وشملت هذه الحالات محاولات للوصول إلى بیانات تخضع لقیود تقنیه أو مالیه على مواقع حکومیه، وهی وقائع تختلف تفاصیلها عن حادثه جورجیا، ولا تعنی بالضروره أن جمیعها أفضت إلى الحصول على بیانات غیر مصرح بها.
وأشار التقریر أیضا إلى واقعه تقدیم بلاغ غیر صحیح عن جریمه قتل إلى شرطه فیلادلفیا، إضافه إلى حالات أخرى تتعلق بالتعامل مع إجراءات إداریه، مثل طلبات التأشیرات، وتستدعی هذه الأمثله التمییز بین التصرف غیر المقصود أو غیر الملائم من جانب النموذج، وبین الوصول غیر المصرح به إلى الأنظمه أو البیانات.
بلاغ غیر صحیح للشرطه فی فیلادلفیا
وتأتی الواقعه بعد حادثه أخرى کشفت عنها أنثروبیک فی أکتوبر/تشرین الأول الحالی، عندما قدم أحد وکلائها بلاغا غیر صحیح بشأن جریمه قتل لم تُحل إلى شرطه فیلادلفیا.
وبحسب تقریر نشرته صحیفه واشنطن بوست فی 9 أکتوبر/تشرین الأول الحالی، وقع الحادث فی یولیو/تموز الماضی خلال اختبار طُلب فیه من وکلاء الذکاء الاصطناعی التفاعل مع مواقع إلکترونیه عشوائیه، وملأ أحد النماذج استماره إلکترونیه مخصصه لتلقی معلومات عن جرائم القتل غیر المحلوله، وقدم إفاده توحی بأن مرسلها قد شاهد شخصا یتطابق مع وصف مرتبط بالقضیه.
ورصد نظام آلی البلاغ قبل أن تتخذ الشرطه أی إجراء بناء علیه. واکتشفت أنثروبیک الواقعه فی 28 سبتمبر/أیلول، ثم أبلغت الشرطه فی 7 أکتوبر/تشرین الأول. وانتقدت إداره الشرطه التأخر فی الإبلاغ عن الحادثه، بینما قالت الشرکه إن البلاغ نتج عن اختبار لتفاعل النموذج مع المواقع، ولیس عن معلومات حقیقیه بشأن الجریمه.
حوادث منفصله لوکلاء ذکاء اصطناعی آخرین
وفی السیاق ذاته، تناولت تقاریر أمنیه وتجارب بحثیه حالات تمکن فیها وکلاء ذکاء اصطناعی من تنفیذ عملیات رقمیه غیر متوقعه، أو استغلال نقاط ضعف فی بیئات اختبار، ولا ینبغی دمج هذه الحالات مع واقعه جورجیا فی وصف واحد، إذ تختلف من حیث النظام المستخدم، وطبیعه الصلاحیات، والنتائج المترتبه علیها.
وتوضح هذه الأمثله أن منح أنظمه الذکاء الاصطناعی القدره على استخدام المتصفحات والأدوات والاتصال بالخدمات الرقمیه یفرض تحدیات تتعلق بضبط الصلاحیات ومراقبه الإجراءات التی تنفذها. غیر أن وجود قدره تقنیه على تنفیذ خطوه معینه لا یثبت وحده أن النظام نفذها فی کل حاله، أو أن تلک الخطوه تسببت فی ضرر فعلی.
هذه الحوادث تسلط الضوء على أهمیه تقیید صلاحیات وکلاء الذکاء الاصطناعی ومراقبه استخدامهم للأدوات الرقمیه (أدوبی ستوک) ضوابط الصلاحیات تحت الاختبار
تسلط هذه الوقائع الضوء على أهمیه تحدید نطاق المهام المسموح للوکلاء الذکیین بتنفیذها، والتحقق من صلاحیات الوصول قبل التعامل مع البیانات، وفرض موافقه بشریه عند محاوله تنفیذ إجراءات تتجاوز المهمه الأصلیه.
وقالت أنثروبیک إنها اتخذت تدابیر وقائیه للحد من تکرار السلوک الذی رُصد فی حادثه جورجیا، لکن تقییم فعالیه هذه التدابیر یتطلب معلومات فنیه إضافیه، ولا تکفی التصریحات وحدها للحکم على قدرتها على منع جمیع الحالات المشابهه.
ولم تعلن السلطات فی جورجیا عن أدله تشیر إلى تأثر عملیه التصویت أو نتائج الانتخابات بهذه الواقعه، وتبقى القضیه مرتبطه بکیفیه ضبط تصرفات وکلاء الذکاء الاصطناعی عند استخدامهم الأدوات الرقمیه، وبضروره التمییز بین الوصول إلى بیانات عامه، والوصول غیر المصرح به إلى معلومات مقیّده، والدخول إلى أنظمه انتخابیه حساسه.
المصدر: الجزیره + وکالات