وکاله آریا للأنباء - سمیث طالب بإخضاع نماذج الذکاء الاصطناعی لاختبارات مستقله للکشف عن المخاطر قبل إتاحتها للمستخدمین (رویترز)
تتسارع قدرات الذکاء الاصطناعی وتتوسع تطبیقاته فی العمل والاقتصاد والأمن السیبرانی، لکن الأطر المنظمه لسلامه هذه التقنیه لا تزال تثیر تساؤلات بشأن قدرتها على مواکبه المخاطر الجدیده. وفی هذا السیاق، دعا رئیس شرکه مایکروسوفت براد سمیث إلى وضع قواعد عالمیه أکثر صرامه لتنظیم الذکاء الاصطناعی، مستخدما مقارنه لافته بین متطلبات سلامه هذه التقنیه والضوابط المفروضه على منتجات یومیه، مثل الحلیب والغسالات.
وفی مقابله مع هیئه الإذاعه البریطانیه (BBC)أول أمس الاثنین، قال سمیث إن المنتجات الاستهلاکیه تخضع لقواعد سلامه وفحوص أکثر وضوحا مما تخضع له أنظمه الذکاء الاصطناعی.
قصص مقترحه
list of 2 items ووفقا لما نشرته وکاله رویترز، فقد طالب سمیث بوضع إطار دولی یتضمن تقییمات مستقله للتقنیات الجدیده، وإلزام الشرکات بإعداد تقاریر عن الحوادث، وإبلاغ المتضررین عندما یتسبب وکیل ذکاء اصطناعی منفلت فی اختراق أنظمتهم.
سمیث قارن بین متطلبات سلامه المنتجات الیومیه، مثل الحلیب، والضوابط التی تخضع لها أنظمه الذکاء الاصطناعی (رویترز) من سلامه المنتجات إلى مخاطر الأنظمه الذکیه
تستند مقارنه سمیث إلى اختلاف طبیعه الرقابه بین المنتجات التقلیدیه والتقنیات الرقمیه، ففی قطاعات الغذاء والأجهزه المنزلیه، توجد قواعد تتعلق بالسلامه والجوده، وإجراءات للفحص والمراقبه، ومسؤولیات قانونیه عند وقوع الضرر، وإن اختلفت تفاصیلها من دوله إلى أخرى.
أما الذکاء الاصطناعی، فتتغیر قدراته بسرعه، وتختلف مخاطره بحسب النموذج وطریقه استخدامه والصلاحیات الممنوحه له، فقد ینتج نظام محادثه معلومات مضلله، أو یکشف بیانات حساسه، أو ینفذ وکیل ذکی إجراءات رقمیه غیر مقصوده إذا مُنح صلاحیه الوصول إلى الملفات أو الحسابات أو أدوات العمل.
ولا تعنی المقارنه أن الذکاء الاصطناعی یخضع لغیاب کامل للتنظیم، إذ توجد بالفعل قوانین وأطر للحوکمه فی عدد من الدول، لکنها تسلط الضوء على التحدی المتمثل فی تحویل المبادئ العامه للسلامه إلى اختبارات وإجراءات قابله للتحقق والمساءله، تتناسب مع سرعه تطور الأنظمه واتساع استخداماتها.
الحکومات تواجه تحدیا فی وضع قواعد تحمی المستخدمین من المخاطر دون فرض قیود تعرقل الابتکار والمنافسه (رویترز) الاختبارات المستقله ومحاسبه الشرکات
یرى سمیث أن تنظیم الذکاء الاصطناعی یجب أن یتجاوز التعهدات الطوعیه التی تضعها الشرکات لنفسها، لیشمل آلیات مستقله تستطیع فحص قدرات النماذج ومخاطرها قبل إتاحتها للاستخدام، وذکرت رویترز أن معهد سلامه الذکاء الاصطناعی البریطانی یحصل، بموجب اتفاقات طوعیه مع شرکات تطویر النماذج، على إمکانیه تقییم أنظمه متقدمه قبل نشرها، بهدف فحص قدراتها والمخاطر المرتبطه بها.
وتکتسب هذه الاختبارات أهمیه مع انتقال الذکاء الاصطناعی من الإجابه عن الأسئله إلى تنفیذ مهام نیابه عن المستخدمین، مثل التعامل مع الملفات والبرمجیات والأنظمه الرقمیه، ففی هذه الحالات، قد لا یقتصر الخطأ على تقدیم معلومه غیر صحیحه، بل قد یمتد إلى تنفیذ إجراء غیر مرغوب فیه أو الوصول إلى بیانات لا ینبغی للنظام الاطلاع علیها.
ولهذا دعا سمیث إلى توفیر ما وصفه بمکابح الطوارئ، وهی آلیات تمکّن الشرکات من إیقاف أنظمه الذکاء الاصطناعی أو إبطائها إذا خرج سلوکها عن الحدود الآمنه، کما طالب بفرض التزام قانونی بإعداد تقاریر عن الحوادث، وإخطار المتضررین عندما یتسبب وکیل ذکاء اصطناعی فی اختراق أنظمتهم.
ولا تتوقف المسأله عند اکتشاف الخلل، بل تشمل تحدید الجهه المسؤوله عنه، وهل تقع المسؤولیه على الشرکه المطوره للنموذج، أم المؤسسه التی دمجته فی خدماتها، أم الجهه التی منحته صلاحیات واسعه؟ وتزداد أهمیه هذا السؤال کلما أصبحت الأنظمه أکثر استقلالیه وتعقیدا، ما یجعل وضوح المسؤولیات القانونیه جزءا أساسیا من حمایه المستخدمین.
بین التنظیم وتشجیع الابتکار
تواجه الحکومات تحدیا فی وضع قواعد تحمی الأفراد والمؤسسات من مخاطر الذکاء الاصطناعی، من دون فرض قیود تعرقل الأبحاث أو تمنح الشرکات الکبرى أفضلیه على المنافسین الأصغر، وقد أشارت رویترز إلى أن الدعوات لتشدید التنظیم أثارت نقاشا بشأن احتمال أن تستفید الشرکات الراسخه من قواعد مکلفه یصعب على المنافسین الجدد الالتزام بها، أو أن تُستخدم الضوابط لإبطاء المنافسه.
وتبرز بریطانیا فی هذا النقاش من خلال معهد سلامه الذکاء الاصطناعی، الذی یقیّم النماذج المتقدمه قبل طرحها بموجب اتفاقات طوعیه، ونقلت رویترز عن وزیر الذکاء الاصطناعی البریطانی کانیشکا نارایان أن الحکومه ستدرس تنظیم النماذج المتقدمه إذا ثبت عدم کفایه النهج الحالی، ویعکس ذلک اتجاها نحو اختبار فاعلیه التدابیر القائمه قبل تقریر الحاجه إلى قواعد ملزمه أوسع.
توسع استخدام الوکلاء الأذکیاء یثیر تساؤلات بشأن المسؤولیه القانونیه عن الأخطاء والأضرار التی قد تتسبب فیها هذه الأنظمه (رویترز) فی المقابل، أعلنت مایکروسوفت فی تقریر الشفافیه الخاص بالذکاء الاصطناعی لهذا العام أنها طورت معاییرها الداخلیه للذکاء الاصطناعی المسؤول، لتراعی اختلاف مکونات التقنیه واستخداماتها ومستویات المخاطر، ویظهر هذا التوجه أن الحوکمه الداخلیه للشرکات یمکن أن تؤدی دورا مهما، لکنه لا یحسم وحده مسأله الرقابه المستقله أو المسؤولیه القانونیه عند وقوع الضرر.
المصدر: الجزیره + وکالات