تويت
الخبراء يسعون إلى إيجاد طريقة لجعل الذكاء الاصطناعي ينسى ما تعلمه
جعل الذكاء الاصطناعي ينسى بعض ما تلقّنه سيكون أمراً بالغ الأهمية في السنوات المقبلة (أ.ف.ب)
نُشر: 15:05-9 ديسمبر 2023 م ـ 25 جمادي الأول 1445 هـ
TT
20عندما اكتشف براين هود أن «تشات جي بي تي» نسب إليه ماضياً إجرامياً، وجد هذا السياسي الأسترالي نفسه في مواجهة معضلة ينكبّ المهندسون جاهدين على محاولة حلّها، وتتمثل في كيفية تعليم الذكاء محوَ الأخطاء.
فالخيار القانوني المتمثل في تلويح براين هود في أبريل (نيسان) الفائت برفع دعوى تشهير على شركة «أوبن إيه آي» (منشئة «تشات جبي بي تي») لا يبدو حلاً مناسباً. كذلك لا يكمن الحلّ في إعادة ضبط معايير الذكاء الاصطناعي بالكامل، إذ إن تدريب النموذج مجدداً يستغرق وقتاً طويلاً وهو مكلف جداً.
ويرى المختصون أن مسألة «إلغاء التعلّم» أي جعل الذكاء الاصطناعي ينسى بعض ما تلقّنه، ستكون بالغة الأهمية في السنوات المقبلة، خصوصاً في ضوء التشريعات الأوروبية لحماية البيانات.
وتؤكد أستاذة علوم المعلومات في جامعة «آر إم آي تي» في ملبورن ليسا غيفن أن «القدرة على محو البيانات الموجودة في قواعد بيانات التعلّم هي موضوع مهم جداً». لكنها ترى أن جهداً كبيراً لا يزال مطلوباً في هذا المجال نظراً إلى النقص الحالي في المعرفة في شأن كيفية عمل الذكاء الاصطناعي، وفق ما ذكرته وكالة الصحافة الفرنسية.
ففي ظل الكم الهائل من البيانات التي يُدرَّب الذكاء الاصطناعي عليها، يسعى المهندسون إلى حلول تتيح تحديداً أكبر، بحيث تُزال المعلومات الخاطئة من مجال معرفة أنظمة الذكاء الاصطناعي بغية وقف انتشارها.
شعار شركة «أوبن إيه آي» منشئة «تشات جي بي تي» (أ.ب)
واكتسب الموضوع زخماً خلال السنوات الثلاث أو الأربع الأخيرة، على ما يوضح لوكالة الصحافة الفرنسية الباحث الخبير في هذا المجال مقداد كرمانجي من جامعة وارويك البريطانية.
وعملت «غوغل ديب مايند» المتخصصة في الذكاء الاصطناعي على معالجة هذه المشكلة، إذ نشر خبراء من الشركة الأميركية الشهر المنصرم مع كورمانجي، خوارزمية مخصصة لمحو البيانات في نماذج لغوية مهمة، كنموذجَي «تشات جي بي تي» و«بارد» (من «غوغل»).
تصحيح بعض التحيزات
وانكبّ أكثر من 1000 خبير شاركوا في مسابقة أطلقتها الشركة الأميركية على العمل ما بين يوليو (تموز) وسبتمبر (أيلول) لتحسين أساليب «إلغاء تعلّم» الذكاء الاصطناعي.
وتتمثل الطريقة المستخدمة المشابهة لما توصلت إليه أبحاث أخرى في هذا المجال، في إدخال خوارزمية تأمر الذكاء الاصطناعي بعدم أخذ بعض المعلومات المكتسبة في الاعتبار، ولا تتضمن تعديل قاعدة البيانات.
ويؤكد مقداد كرمانجي أن هذه العملية يمكن أن تكون «أداة مهمة جداً» لتمكين أدوات البحث من الاستجابة مثلاً لطلبات الحذف، عملاً بقواعد حماية البيانات الشخصية.
ويؤكد أن الخوارزمية التي جرى التوصل إليها أثبتت فاعليتها أيضاً في إزالة المحتوى المحميّ بموجب حقوق المؤلف أو في تصحيح بعض التحيزات.
لكنّ آخرين كمسؤول الذكاء الاصطناعي في «ميتا» (فيسبوك وإنستغرام) يان لوكان، يبدون أقل اقتناعاً بهذه الفاعلية.
ويوضح لوكان لوكالة الصحافة الفرنسية أنه لا يقول إن هذه الخوارزمية «غير مجدية أو غير مثيرة للاهتمام أو سيئة»، بل يرى أن «ثمة أولويات أخرى».
ويعد أستاذ الذكاء الاصطناعي في جامعة إدنبره مايكل روفاتسوس أن «الحل التقني ليس الحل الناجع».
ويشرح أن «إلغاء التعلم» لن يتيح طرح أسئلة أوسع، ككيفية جمع البيانات، ومن المستفيد منها، أو من يجب أن يكون مسؤولاً عن الضرر الذي يسببه الذكاء الاصطناعي.
ومع أن قضية براين هود عولجت، من دون تفسير، بعدما حظيت باهتمام إعلامي واسع أثمرَ تصحيح البيانات التي تعالجها «تشات جي بي تي»، فإنه يرى أن الأساليب التي ينبغي استخدامها في الوقت الحالي يجب أن تبقى يدوية.
ويقول الرجل الأسترالي: «ينبغي أن يتحقق المستخدمون من كل شيء، في الحالات التي تعطي فيها روبوتات الدردشة معلومات خاطئة».
جعل الذكاء الاصطناعي ينسى بعض ما تلقّنه سيكون أمراً بالغ الأهمية في السنوات المقبلة (أ.ف.ب)
- باريس: «الشرق الأوسط»
نُشر: 15:05-9 ديسمبر 2023 م ـ 25 جمادي الأول 1445 هـ
TT
20عندما اكتشف براين هود أن «تشات جي بي تي» نسب إليه ماضياً إجرامياً، وجد هذا السياسي الأسترالي نفسه في مواجهة معضلة ينكبّ المهندسون جاهدين على محاولة حلّها، وتتمثل في كيفية تعليم الذكاء محوَ الأخطاء.
فالخيار القانوني المتمثل في تلويح براين هود في أبريل (نيسان) الفائت برفع دعوى تشهير على شركة «أوبن إيه آي» (منشئة «تشات جبي بي تي») لا يبدو حلاً مناسباً. كذلك لا يكمن الحلّ في إعادة ضبط معايير الذكاء الاصطناعي بالكامل، إذ إن تدريب النموذج مجدداً يستغرق وقتاً طويلاً وهو مكلف جداً.
ويرى المختصون أن مسألة «إلغاء التعلّم» أي جعل الذكاء الاصطناعي ينسى بعض ما تلقّنه، ستكون بالغة الأهمية في السنوات المقبلة، خصوصاً في ضوء التشريعات الأوروبية لحماية البيانات.
وتؤكد أستاذة علوم المعلومات في جامعة «آر إم آي تي» في ملبورن ليسا غيفن أن «القدرة على محو البيانات الموجودة في قواعد بيانات التعلّم هي موضوع مهم جداً». لكنها ترى أن جهداً كبيراً لا يزال مطلوباً في هذا المجال نظراً إلى النقص الحالي في المعرفة في شأن كيفية عمل الذكاء الاصطناعي، وفق ما ذكرته وكالة الصحافة الفرنسية.
ففي ظل الكم الهائل من البيانات التي يُدرَّب الذكاء الاصطناعي عليها، يسعى المهندسون إلى حلول تتيح تحديداً أكبر، بحيث تُزال المعلومات الخاطئة من مجال معرفة أنظمة الذكاء الاصطناعي بغية وقف انتشارها.
شعار شركة «أوبن إيه آي» منشئة «تشات جي بي تي» (أ.ب)واكتسب الموضوع زخماً خلال السنوات الثلاث أو الأربع الأخيرة، على ما يوضح لوكالة الصحافة الفرنسية الباحث الخبير في هذا المجال مقداد كرمانجي من جامعة وارويك البريطانية.
وعملت «غوغل ديب مايند» المتخصصة في الذكاء الاصطناعي على معالجة هذه المشكلة، إذ نشر خبراء من الشركة الأميركية الشهر المنصرم مع كورمانجي، خوارزمية مخصصة لمحو البيانات في نماذج لغوية مهمة، كنموذجَي «تشات جي بي تي» و«بارد» (من «غوغل»).
تصحيح بعض التحيزات
وانكبّ أكثر من 1000 خبير شاركوا في مسابقة أطلقتها الشركة الأميركية على العمل ما بين يوليو (تموز) وسبتمبر (أيلول) لتحسين أساليب «إلغاء تعلّم» الذكاء الاصطناعي.
وتتمثل الطريقة المستخدمة المشابهة لما توصلت إليه أبحاث أخرى في هذا المجال، في إدخال خوارزمية تأمر الذكاء الاصطناعي بعدم أخذ بعض المعلومات المكتسبة في الاعتبار، ولا تتضمن تعديل قاعدة البيانات.
ويؤكد مقداد كرمانجي أن هذه العملية يمكن أن تكون «أداة مهمة جداً» لتمكين أدوات البحث من الاستجابة مثلاً لطلبات الحذف، عملاً بقواعد حماية البيانات الشخصية.
ويؤكد أن الخوارزمية التي جرى التوصل إليها أثبتت فاعليتها أيضاً في إزالة المحتوى المحميّ بموجب حقوق المؤلف أو في تصحيح بعض التحيزات.
لكنّ آخرين كمسؤول الذكاء الاصطناعي في «ميتا» (فيسبوك وإنستغرام) يان لوكان، يبدون أقل اقتناعاً بهذه الفاعلية.
ويوضح لوكان لوكالة الصحافة الفرنسية أنه لا يقول إن هذه الخوارزمية «غير مجدية أو غير مثيرة للاهتمام أو سيئة»، بل يرى أن «ثمة أولويات أخرى».
ويعد أستاذ الذكاء الاصطناعي في جامعة إدنبره مايكل روفاتسوس أن «الحل التقني ليس الحل الناجع».
ويشرح أن «إلغاء التعلم» لن يتيح طرح أسئلة أوسع، ككيفية جمع البيانات، ومن المستفيد منها، أو من يجب أن يكون مسؤولاً عن الضرر الذي يسببه الذكاء الاصطناعي.
ومع أن قضية براين هود عولجت، من دون تفسير، بعدما حظيت باهتمام إعلامي واسع أثمرَ تصحيح البيانات التي تعالجها «تشات جي بي تي»، فإنه يرى أن الأساليب التي ينبغي استخدامها في الوقت الحالي يجب أن تبقى يدوية.
ويقول الرجل الأسترالي: «ينبغي أن يتحقق المستخدمون من كل شيء، في الحالات التي تعطي فيها روبوتات الدردشة معلومات خاطئة».