حرب وقودها الذكاء الاصطناعي والتعلم الآلي

حرب وقودها الذكاء الاصطناعي والتعلم الآلي


الجمعة 2024/10/11
مختبر لحروب المستقبل

مع تدمير قطاع غزة أصبح السكان المصابون بصدمات نفسية وكأنهم يعيشون في القرون الوسطى. لكن الهجوم الإسرائيلي الذي دمّر منازلهم وقتل جيرانهم اعتمد تقنيات متطورة وأثار تساؤلات عميقة بشأن دور شركات التكنولوجيا الكبرى في الحرب.
• نزيه عسيران وآفي آشر شابيرو


بيروت- سلطت الحرب بين إسرائيل وحماس الضوء على كيفية استخدام الذكاء الاصطناعي والتعلم الآلي في ساحة المعركة بدرجة تتجاوز كل صراع كبير شهده القرن الحالي. وبذلك أثارت التساؤل عن المسؤولية التي يجب أن يتحملها صانعو هذه الأدوات.

قالت صوفيا غودفريند، زميلة ما بعد الدكتوراه في جامعة هارفارد التي تدرس استخدام إسرائيل الذكاء الاصطناعي والأتمتة في الحرب، “شهدنا منذ أيام الصراع الأولى تأطير الحملة بصفتها فرصة لاختبار وصقل كيفية استخدام الذكاء الاصطناعي في مجال الحرب”.

ويُنظر إلى غزة، مثل أوكرانيا، على أنها “مختبر لحرب المستقبل”. وأصبح الموظفون في أمازون ومايكروسوفت وشركة غوغل التابعة لشركة ألفابت قلقين مما إذا كانت شركاتهم تعمل على تمكين القوات العسكرية الإسرائيلية بعدد كبير من التقارير التي تذكر استخدام منتجات التكنولوجيا الكبرى في غزة. وبلغ عدد القتلى في غزة أكثر من 41600. ويُعتقد أن 10 آلاف على الأقل لا يزالون مفقودين تحت الأنقاض. وأسهم الغضب من سقوط ضحايا مدنيين في تأجيج نيران غضب الموظفين.


صوفيا غودفريند: فرصة لاختبار الذكاء الاصطناعي في الحروب


وانضم بعض موظفي التكنولوجيا إلى الاحتجاجات في مكان عملهم ما أدى إلى فصلهم. واستقال البعض بمحض إرادته، وعبر آخرون عن دعمهم للفلسطينيين في مجموعات داخلية.

وبلغ عدد عمال أمازون الذين انضموا إلى مجتمع افتراضي للموظفين الذين يدعمون الحقوق الفلسطينية حوالي 800 شخص خلال نفس الفترة من العام الماضي.

ونمت المجموعة اليوم خمسة أضعاف، وهو ما أكده أحد موظفي أمازون، وينتمي إلى المجموعة ولم يرغب في استخدام اسمه خوفا من التداعيات.

وقال الموظف لمؤسسة تومسون رويترز إن “معرفة كيفية استخدام خدمات أمازون ويب في غزة كافية لدفع الناس إلى المشاركة”. وقال متحدث باسم أمازون، ردا على طلب للتعليق على استخدام الجيش الإسرائيلي خدماتها، إن الشركة “تركز على جعل فوائد تقنيتنا السحابية الرائدة متاحة لجميع زبائننا، حيثما كانوا”. وأضاف المتحدث أن الشركة ملتزمة بضمان سلامة الموظفين ودعم المتضررين من الحرب.

وقالت غودفريند إن الصراع في غزة كشف عن تأثير تطبيق أنظمة التكنولوجيا الفائقة “المميت” في الحرب. وأضافت “صعّب حجم الدمار اعتبار هذه التكنولوجيا محايدة، ودفع الكثير من العاملين في صناعة التكنولوجيا إلى انتقاد تزويد الأنظمة التي تقود الحرب”.

وتابعت “لا توجد طريقة تمكّن إسرائيل من الحصول على البنية التحتية التقنية التي تتمتع بها دون دعم الشركات الخاصة، وبنية الحوسبة السحابية التحتية. ولن تكون قادرة على تشغيل أنظمة الذكاء الاصطناعي التي تعتمدها دون التكتلات التكنولوجية الكبرى”.

وركز التدقيق على مشروع نيمبوس، وهو عقد بقيمة 1.2 مليار دولار مُنح بشكل مشترك لشركة غوغل وخدمات أمازون ويب لتزويد الحكومة الإسرائيلية بالبنية التحتية للحوسبة السحابية وخدمات الذكاء الاصطناعي وغيرها من الخدمات التقنية. وقالت الحكومة الإسرائيلية عندما كشفت عن المشروع في مايو 2021 إنه يهدف إلى “إيجاد استجابة شاملة ودقيقة لتوفير الخدمات السحابية للحكومة والأجهزة الأمنية والكيانات الأخرى”.

وخلال السنة نفسها نشر موظفو غوغل وأمازون رسالة مفتوحة في صحيفة الغارديان، يدينون فيها المشروع. وقالوا آنذاك إنه “يسمح بالمزيد من المراقبة وجمع البيانات غير القانونية عن الفلسطينيين، ويسهّل توسيع المستوطنات الإسرائيلية غير القانونية على الأراضي الفلسطينية”.


محمد خاتمي: شركة غوغل أسكتت كل نقاش عام داخلها حول مشروع نيمبوس


وانتشرت منذ بداية الحرب في غزة أعداد كبيرة من التقارير الإعلامية التي تشير إلى استخدام الجيش الإسرائيلي لتكنولوجيا مشروع نيمبوس في القطاع المزدحم، الذي يضم 2.3 مليون شخص.

لكن مدى استخدام الجيش لمشروع نيمبوس لا يزال غير واضح.

وقالت ديبورا براون، الباحثة في مجال التكنولوجيا في هيومن رايتس ووتش، إن الحدود التي تضعها شركات التكنولوجيا ضبابية مثلها مثل العقود واستعمالات الجيش الإسرائيلي لها. ونشرت مجلة “تايم” في أبريل تقريرا قالت فيه إنها اطلعت على وثيقة لشركة غوغل. وأظهرت الوثيقة أن الشركة تقدم خدمات الحوسبة السحابية لوزارة الدفاع الإسرائيلية، وأن عملاق التكنولوجيا تفاوض على تعميق شراكته خلال الحرب في غزة.

ونشرت مجلة “+972” غير الربحية، التي يديرها صحافيون إسرائيليون وفلسطينيون، قصة في أغسطس، نقلا عن تسجيل مسرب قيل إنه لقائد كبير في الجيش الإسرائيلي يؤكد أن المؤسسة العسكرية تعتمد التخزين السحابي وخدمات الذكاء الاصطناعي من غوغل ومايكروسوفت وأمازون.

ونشرت المجلة في نوفمبر الماضي تقريرا يقول إن الجيش الإسرائيلي يستخدم الذكاء الاصطناعي لتحديد الأهداف في غزة.

وقالت مجموعة “لا تكنولوجيا للفصل العنصري” المكونة من العاملين في القطاع المعني بعد هذا التقرير إن شركات التكنولوجيا الأميركية التي تتعامل مع الجيش الإسرائيلي، بما في ذلك غوغل وأمازون، “تمكّن أول إبادة جماعية مدعومة من الذكاء الاصطناعي”. ولم ترد غوغل على طلب للتعليق. ورفضت وزارة الدفاع الإسرائيلية الرد على أسئلة حول اعتماد الجيش الإسرائيلي على البنية التحتية التي توفرها شركات التكنولوجيا الأميركية، أو ما جاء في تقرير “+972”.

وكان الجيش الإسرائيلي قد نفى في السابق استخدام الذكاء الاصطناعي لتحديد المشتبه بكونهم من المتطرفين.

وقال الجيش الإسرائيلي في بيان صادر خلال شهر أبريل “لا يستخدم الجيش الإسرائيلي نظام ذكاء اصطناعي يحدد هوية الإرهابيين أو يحاول التنبؤ بما إذا كان الشخص إرهابيا. لا تتجاوز نظم المعلومات مجرد كونها أدوات للمحللين في عملية تحديد الهدف”.

وتجمع عقود سحابية مايكروسوفت بالجيش الإسرائيلي حتى قبل نيمبوس. وتؤكد التقارير أنها لا تزال تقدم إليه خدمات الحوسبة السحابية.


ديبورا براون: الحدود التي تضعها شركات التكنولوجيا ضبابية


وأطلق موظفو مايكروسوفت في مايو حملة “لا أزور للفصل العنصري”، من أجل الضغط على الشركة لوقف تقديم خدمات حوسبة أزور السحابية إلى إسرائيل. ولم تستجب مايكروسوفت لطلبات متعددة للتعليق على ما إذا كانت تقنيتها تُستخدم في غزة وكيف ذلك.

وقال حسام نصر، وهو عامل في مايكروسوفت يشارك في حملة “لا أزور للفصل العنصري”، إن العاملين داخل مايكروسوفت أصبحوا غير مرتاحين بشكل متزايد لما تورده التقارير الصحفية عن اعتماد الجيش الإسرائيلي على الذكاء الاصطناعي في ساحة المعركة.

وأضاف “تتواصل تغذية بيانات البشر الحقيقيين في الآلات، ومعالجتهم بواسطة الخوارزميات، ثم تمكّن ضغطة زر واحدة من تحديد ما إذا كانوا سيعيشون يوما آخر”. وتتصاعد المعارضة مع ارتفاع عدد القتلى في غزة، وتنتشر بين الموظفين في عمالقة التكنولوجيا.

وقال موظفان سابقان في غوغل، كانا من بين 50 شخصا تقرر فصلهم في أبريل لاحتجاجهم على مشروع نيمبوس، لمؤسسة تومسون رويترز إن العديد من الموظفين في شركتهم أصبحوا يعتقدون أن عملهم يمتد إلى ما هو أبعد من التطبيقات المدنية. وشعروا بالإحباط بسبب رفض الشركة التحرك بعد تقارير حول كيفية استخدام تقنيتها. وقال محمد خاتمي، الذي تقرر فصله في أبريل أيضا، إن شركة غوغل أسكتت كل نقاش عام داخلها حول مشروع نيمبوس.

وأكد أنها “تمحو السؤال أو تحذفه أو تغلق سلاسل البريد الإلكتروني المرتبطة بأي نوع من المعارضة للمشروع”.

ووزع خاتمي عريضة داخلية للضغط على غوغل لإسقاط مشروع نيمبوس بعد أسابيع قليلة من 7 أكتوبر 2023. وكان الشخص الوحيد الذي استدعاه قسم الموارد البشرية لتوبيخه.

ولم ترد غوغل على طلب للتعليق على الحادث الذي رواه خاتمي.

وتعرض عمالقة التكنولوجيا لانتقادات بسبب الرقابة على المحتوى المؤيد للفلسطينيين على مواقع التواصل الاجتماعي التابعة لهم، وخاصة ميتا التي تمتلك فيسبوك وإنستغرام.

وقالت منظمة هيومن رايتس ووتش، في تقرير صدر العام الماضي، إن “الرقابة على المحتوى المتعلق بفلسطين على إنستغرام وفيسبوك ممنهجة وعالمية”.
وقالت ميتا، ردا على سؤال حول التقرير، “نهدف إلى تطبيق سياساتنا العالمية بشكل عادل. لكن تحقيق ذلك على نطاق واسع وخلال صراع سريع الحركة وشديد الاستقطاب ومكثف، يجلب تحديات. نعترف بأننا نرتكب أخطاء يمكن أن تكون محبطة للناس. لكن الإيحاء بأننا نقمع صوتا معينا عمدا وبشكل منهجي هو خاطئ”.

وأكدت ميتا أنها حاولت تعزيز ثقافة الشركة القائمة على “الاحترام المتبادل والشمولية” وأشارت إلى وجود العديد من القنوات التي يمكن للموظفين من خلالها إثارة المخاوف.

ولم تعلق عندما طُلب منها الرد على تعليقات أخطر تفيد بأنها طردت عمالا بسبب تحميل وثيقة.

وأكدت براون من هيومن رايتس ووتش، في حديثها عن تورط شركات التكنولوجيا الكبرى في الحرب، الحاجة إلى المزيد من التدقيق قبل أن تدخل الشركات في عقود عسكرية مربحة.