‏وقفة جماهيرية حاشدة ..مارب ‏تبادل الوفاء بالوفاء ‏
مع الأشقاء في المملكة ودول الخليج




دراسة صادمة تكشف إمكانية خداع الذكاء الاصطناعي لاستهداف المدنيين في الحروب


يني يمن – تكنولوجيا

كشفت دراسة حديثة أجرتها شركة «فالز» (Vals)، المتخصصة في تقييم نماذج الذكاء الاصطناعي، عن ثغرات خطيرة في أنظمة الذكاء الاصطناعي المستخدمة في محاكاة العمليات العسكرية، بعدما أظهرت اختبارات شملت نماذج من ثماني شركات كبرى إمكانية دفعها إلى اختيار أهداف مدنية وجنود مستسلمين باعتبارهم أهدافاً عسكرية.

ووفقاً لتقرير نشرته وكالة «بلومبيرغ» وتناوله موقع «تيك كرانش» التقني، أظهرت التجارب أن بعض نماذج الذكاء الاصطناعي أخفقت في التمييز بين الأهداف العسكرية والأشخاص المحميين بموجب القانون الدولي الإنساني، رغم القيود التي تفرضها الشركات المطورة لمنع استخدام تقنياتها في تسهيل أعمال العنف.

حيلة «اللعبة الحربية» تتجاوز قيود السلامة

اعتمد الباحثون على سيناريوهات محاكاة عسكرية، استخدموا خلالها صوراً حقيقية وأخرى مولدة بالذكاء الاصطناعي، تضمنت لقطات من طائرات مسيّرة وأقمار صناعية لمناطق في إيران وأوكرانيا.

وطُلب من النماذج تحليل الصور وتحديد الأهداف المحتملة، قبل أن يلجأ الباحثون إلى تقديم بعض المهام باعتبارها جزءاً من لعبة حربية افتراضية لا تتضمن عمليات استهداف حقيقية.

وأظهرت النتائج، بحسب التقرير، أن هذه الطريقة دفعت بعض النماذج التي رفضت المشاركة في البداية إلى تقديم استجابات تتضمن تحديد أهداف مدنية.

مدرسة إيرانية ضمن الأهداف المختارة

ومن أبرز النتائج التي أوردها تقرير «بلومبيرغ» ما يتعلق بنموذج «أوبس 5.5» التابع لشركة «أنثروبيك»، الذي اختار مدرسة إيرانية في مدينة ميناب، تقع بالقرب من منشأة عسكرية، هدفاً في عدد من سيناريوهات المحاكاة.

وبحسب النتائج المنقولة، اختار النموذج المدرسة في 69% من المحاولات العادية، و72% من المحاولات التي صيغت على هيئة لعبة حربية.

وأثارت هذه النتائج مخاوف بشأن احتمالات الاعتماد على مخرجات الذكاء الاصطناعي في تحديد الأهداف العسكرية، خصوصاً في المناطق المأهولة بالسكان، حيث يمكن أن يؤدي الخطأ في تصنيف المنشآت المدنية إلى عواقب إنسانية جسيمة.

شركات التكنولوجيا ترد على النتائج

وشملت الدراسة نماذج طورتها شركات كبرى، بينها «أوبن إيه آي» و«أنثروبيك» و«غوغل» و«ديب سيك».

وفي تعليقها على النتائج، أقرت شركة «أنثروبيك» بأن السلوك الذي رصدته الدراسة غير مقبول ويتعارض مع قواعد السلامة لديها، مؤكدة العمل على تعزيز إجراءات الحماية وتوسيع اختبارات الأمان.

من جانبها، أوضحت شركة «أوبن إيه آي» أن سياساتها تحظر استخدام نماذجها العامة لتسهيل العنف أو تنفيذ أنشطة مرتبطة بالأمن القومي دون تصريح.

وأكدت «غوغل» بدورها أن نماذجها ليست مصممة للاستخدام في الحروب أو المراقبة العسكرية، وأن سياساتها تمنع توظيفها في الأسلحة ذاتية التشغيل دون إشراف بشري.

مخاوف من الاعتماد على الذكاء الاصطناعي في الحروب

وتسلط الدراسة الضوء على التحديات المتزايدة المرتبطة باستخدام الذكاء الاصطناعي في العمليات العسكرية، مع اتساع الاعتماد على الأنظمة الذكية لتحليل صور الأقمار الصناعية والطائرات المسيّرة وتقييم المعلومات الميدانية.

ورغم أن الاختبارات جرت في بيئات محاكاة ولم تتضمن تنفيذ هجمات حقيقية، فإن نتائجها تثير تساؤلات بشأن موثوقية الأنظمة التي قد تُستخدم مستقبلاً في دعم قرارات الاستهداف.

ويحذر مختصون من أن الاعتماد على مخرجات الذكاء الاصطناعي دون تحقق بشري مستقل قد يؤدي إلى أخطاء خطيرة، خصوصاً عندما يتعلق الأمر بالتمييز بين المقاتلين والمدنيين والمنشآت المحمية.

وتؤكد نتائج الدراسة أهمية إخضاع الأنظمة المستخدمة في المجالات العسكرية لاختبارات صارمة، وضمان بقاء القرارات المتعلقة باستخدام القوة خاضعة للمساءلة والإشراف البشري، بما يتوافق مع قواعد القانون الدولي الإنساني.

اليمن الكبير : حضرموت التاريخ والحضارة ..الحكاية كاملة

أقراء أيضاً

التعليقات

أخبار مميزة

مساحة اعلانية

اليمن الكبير || “سقطرى جزيرة الدهشة”



وسيبقى نبض قلبي يمنيا