تويت
هل يضع الذكاء الاصطناعي نهاية لعصر الديمقراطية
عمالقة التقنية لم يفعلوا ما يكفي لوقف إنتاج المعلومات المزيفة.
الجمعة 2024/03/08
ShareWhatsAppTwitterFacebook
إمكانيات هائلة تثير مخاوف من انتشار الأكاذيب
لا يتوقف الأمر عند مقاطع فيديو وصور مزيفة، باستطاعة الذكاء الاصطناعي أن يرسل رسائل بريد إلكتروني ومكالمات هاتفية ويشارك في عمليات سبر الآراء متنكرا بهيئة مداخلات لمواطنين، والوضع يزداد سوءا.
لندن - في تقرير نشر الأربعاء قال باحثون إن أدوات إنشاء الصور المدعومة بالذكاء الاصطناعي من مجموعة شركات من بينها أوبن أي.آي ومايكروسوفت، يمكن أن تستخدم لإنتاج صور تروج لمعلومات مضللة متعلقة بالانتخابات أو التصويت على الرغم من أن لكل من هذه الشركات سياسات ضد إنشاء محتوى مضلل.
من جانبه استخدم مركز مكافحة الكراهية الرقمية (CCDH) وهو منظمة غير ربحية تراقب خطاب الكراهية عبر الإنترنت، أدوات الذكاء الاصطناعي التوليدية لإنشاء صور مزيفة للرئيس الأميركي جو بايدن وهو يرقد على سرير المستشفى، بينما عمال الانتخابات يحطمون آلات التصويت، مما أثار مخاوف بشأن انتشار الأكاذيب قبل الانتخابات الرئاسية الأميركية في نوفمبر القادم.
وقال باحثو المجلس الاستشاري لحقوق الإنسان في التقرير إن هناك “احتمال أن تكون مثل هذه الصور التي يتم إنشاؤها بواسطة الذكاء الاصطناعي بمثابة دليل مصور يمكن أن يؤدي إلى تفاقم انتشار الادعاءات الكاذبة، مما يشكل تحديا كبيرا للحفاظ على نزاهة الانتخابات”.
20
شركة وقعت اتفاقية لمنع محتوى الذكاء الاصطناعي من التدخل في الانتخابات
وشهدت الأيام الأخيرة ظاهرة الاستعانة بأنظمة مثل تشات جي.بي.تي بلاس وايمج كرييتر وميدجورني ودريم ستيديو من أوبن أي.آي ومايكروسوفت وستيبلتي، لإنشاء صور من مطالب نصية.
ويأتي التقرير في أعقاب إعلان الشهر الماضي أن الشركات الثلاث أوبن أي.آي ومايكروسوفت وستيبلتي، كانت من بين مجموعة من 20 شركة تقنية وقعت اتفاقية للعمل معا لمنع محتوى الذكاء الاصطناعي المخادع من التدخل في الانتخابات التي تجري على مستوى العالم هذا العام. ولم تكن ميدجورني من بين المجموعة الأولى من الموقعين.
وقال المجلس إن أدوات الذكاء الاصطناعي أنتجت صورا في 41 في المئة من اختبارات الباحثين وكانت أكثر عرضة للمطالبات التي طلبت صورا تصور تزوير الانتخابات، مثل بطاقات الاقتراع في سلة المهملات، بدلا من صور بايدن أو الرئيس الأميركي السابق دونالد ترامب.
وقال التقرير إن تشات جي.بي.تي بلاس وايمج كرييتر نجحا في حظر جميع المطالبات عندما طلب منهما صور المرشحين.
ومع ذلك، كان أداء ميدجورني هو الأسوأ من بين جميع الأدوات، حيث ولدت صورا مضللة في 65 في المئة من اختبارات الباحثين، على حد قولها. وقال مركز مكافحة الكراهية الرقمية إن هناك أدلة على أن بعض الأشخاص يستخدمون الأداة بالفعل لإنشاء محتوى سياسي مضلل. وكانت إحدى المطالبات الناجحة التي استخدمها مستخدم ميدجورني هي “القبض على دونالد ترامب، صورة عالية الجودة”.
وفي رسالة بالبريد الإلكتروني، قال مؤسس ميدجورني ديفيد هولز إن “التحديثات المتعلقة على وجه التحديد بالانتخابات الأميركية المقبلة ستأتي قريبا”، مضيفا أن الصور التي تم إنشاؤها العام الماضي لم تكن تمثل ممارسات الاعتدال الحالية لمختبر الأبحاث.
وقال متحدث من قسم الذكاء الاصطناعي إن الشركة الناشئة قامت بتحديث سياساتها يوم الجمعة لحظر “الاحتيال أو إنشاء أو الترويج للمعلومات المضللة”.
وأكد متحدث باسم أوبن أي.آي إن الشركة تعمل على منع إساءة استخدام أدواتها، بينما لم تستجب مايكروسوفت لطلب وجه إليها للتعليق.
الصور ومقاطع الفيديو المزيفة ليست التهديد الوحيد الذي يمكن أن يسيء للعملية الديمقراطية وعمليات سبر الآراء ويقوضها. مع التطورات المتسارعة التي يشهدها الذكاء الاصطناعي، يزداد الوضع سوءا، حيث يمكن الذكاء الاصطناعي توليد أعداد هائلة من الاتصالات لصانعي السياسات الذين يتنكرون في هيئة المواطنين.
أدوات الذكاء الاصطناعي أنتجت صورا في 41 في المئة من اختبارات الباحثين وكانت أكثر عرضة للمطالبات التي طلبت صورا تصور تزوير الانتخابات
عندما تلقت لجنة الاتصالات الفيدرالية تعليقات عامة حول ما إذا كان سيتم الاحتفاظ بحيادية الإنترنت، وجد المدعي العام في نيويورك أن ما يقرب من 18 مليونا من أصل 22 مليون تعليق ملفقة، باستخدام أسماء مزيفة، أو أسماء حقيقية دون موافقة.
وفي تجربة أخرى أرسل باحثون أجروا دراسة حديثة لمعهد بروكينغز 32.389 رسالة بريد إلكتروني إلى المكاتب التشريعية، بعضها كتبه مواطنون، والبعض الآخر تم إنشاؤه بواسطة الذكاء الاصطناعي، والذي يمكن أن يقدم الآلاف من الرسائل التي تبدو حقيقية. ووجدت الدراسة أن المكاتب التشريعية لا تستطيع تمييز ما هو مزيف وما هو مزور بينها.
وهو ما دفع إلى الاعتقاد بأننا نشهد للتو بداية ما سيصبح طوفانا من المدخلات الكاذبة التي تغرق المدخلات الحقيقية وتزيد من تقويض ثقة الجمهور.
إذن، ما الذي يمكن عمله؟
مؤكد أن تحديا وخللا مثل هذا في النظام لن يحله إصلاح سطحي، بل يحتاج إلى جهود كبيرة وقوانين تمتثل لها الشركات العملاقة وتتفق عليها الدول.
الحل ممكن ولكن شرط أن لا تكون الكلمة الأخيرة لتحقيق الأرباح.
عمالقة التقنية لم يفعلوا ما يكفي لوقف إنتاج المعلومات المزيفة.
الجمعة 2024/03/08
ShareWhatsAppTwitterFacebook
إمكانيات هائلة تثير مخاوف من انتشار الأكاذيب
لا يتوقف الأمر عند مقاطع فيديو وصور مزيفة، باستطاعة الذكاء الاصطناعي أن يرسل رسائل بريد إلكتروني ومكالمات هاتفية ويشارك في عمليات سبر الآراء متنكرا بهيئة مداخلات لمواطنين، والوضع يزداد سوءا.
لندن - في تقرير نشر الأربعاء قال باحثون إن أدوات إنشاء الصور المدعومة بالذكاء الاصطناعي من مجموعة شركات من بينها أوبن أي.آي ومايكروسوفت، يمكن أن تستخدم لإنتاج صور تروج لمعلومات مضللة متعلقة بالانتخابات أو التصويت على الرغم من أن لكل من هذه الشركات سياسات ضد إنشاء محتوى مضلل.
من جانبه استخدم مركز مكافحة الكراهية الرقمية (CCDH) وهو منظمة غير ربحية تراقب خطاب الكراهية عبر الإنترنت، أدوات الذكاء الاصطناعي التوليدية لإنشاء صور مزيفة للرئيس الأميركي جو بايدن وهو يرقد على سرير المستشفى، بينما عمال الانتخابات يحطمون آلات التصويت، مما أثار مخاوف بشأن انتشار الأكاذيب قبل الانتخابات الرئاسية الأميركية في نوفمبر القادم.
وقال باحثو المجلس الاستشاري لحقوق الإنسان في التقرير إن هناك “احتمال أن تكون مثل هذه الصور التي يتم إنشاؤها بواسطة الذكاء الاصطناعي بمثابة دليل مصور يمكن أن يؤدي إلى تفاقم انتشار الادعاءات الكاذبة، مما يشكل تحديا كبيرا للحفاظ على نزاهة الانتخابات”.
20
شركة وقعت اتفاقية لمنع محتوى الذكاء الاصطناعي من التدخل في الانتخابات
وشهدت الأيام الأخيرة ظاهرة الاستعانة بأنظمة مثل تشات جي.بي.تي بلاس وايمج كرييتر وميدجورني ودريم ستيديو من أوبن أي.آي ومايكروسوفت وستيبلتي، لإنشاء صور من مطالب نصية.
ويأتي التقرير في أعقاب إعلان الشهر الماضي أن الشركات الثلاث أوبن أي.آي ومايكروسوفت وستيبلتي، كانت من بين مجموعة من 20 شركة تقنية وقعت اتفاقية للعمل معا لمنع محتوى الذكاء الاصطناعي المخادع من التدخل في الانتخابات التي تجري على مستوى العالم هذا العام. ولم تكن ميدجورني من بين المجموعة الأولى من الموقعين.
وقال المجلس إن أدوات الذكاء الاصطناعي أنتجت صورا في 41 في المئة من اختبارات الباحثين وكانت أكثر عرضة للمطالبات التي طلبت صورا تصور تزوير الانتخابات، مثل بطاقات الاقتراع في سلة المهملات، بدلا من صور بايدن أو الرئيس الأميركي السابق دونالد ترامب.
وقال التقرير إن تشات جي.بي.تي بلاس وايمج كرييتر نجحا في حظر جميع المطالبات عندما طلب منهما صور المرشحين.
ومع ذلك، كان أداء ميدجورني هو الأسوأ من بين جميع الأدوات، حيث ولدت صورا مضللة في 65 في المئة من اختبارات الباحثين، على حد قولها. وقال مركز مكافحة الكراهية الرقمية إن هناك أدلة على أن بعض الأشخاص يستخدمون الأداة بالفعل لإنشاء محتوى سياسي مضلل. وكانت إحدى المطالبات الناجحة التي استخدمها مستخدم ميدجورني هي “القبض على دونالد ترامب، صورة عالية الجودة”.
وفي رسالة بالبريد الإلكتروني، قال مؤسس ميدجورني ديفيد هولز إن “التحديثات المتعلقة على وجه التحديد بالانتخابات الأميركية المقبلة ستأتي قريبا”، مضيفا أن الصور التي تم إنشاؤها العام الماضي لم تكن تمثل ممارسات الاعتدال الحالية لمختبر الأبحاث.
وقال متحدث من قسم الذكاء الاصطناعي إن الشركة الناشئة قامت بتحديث سياساتها يوم الجمعة لحظر “الاحتيال أو إنشاء أو الترويج للمعلومات المضللة”.
وأكد متحدث باسم أوبن أي.آي إن الشركة تعمل على منع إساءة استخدام أدواتها، بينما لم تستجب مايكروسوفت لطلب وجه إليها للتعليق.
الصور ومقاطع الفيديو المزيفة ليست التهديد الوحيد الذي يمكن أن يسيء للعملية الديمقراطية وعمليات سبر الآراء ويقوضها. مع التطورات المتسارعة التي يشهدها الذكاء الاصطناعي، يزداد الوضع سوءا، حيث يمكن الذكاء الاصطناعي توليد أعداد هائلة من الاتصالات لصانعي السياسات الذين يتنكرون في هيئة المواطنين.
أدوات الذكاء الاصطناعي أنتجت صورا في 41 في المئة من اختبارات الباحثين وكانت أكثر عرضة للمطالبات التي طلبت صورا تصور تزوير الانتخابات
عندما تلقت لجنة الاتصالات الفيدرالية تعليقات عامة حول ما إذا كان سيتم الاحتفاظ بحيادية الإنترنت، وجد المدعي العام في نيويورك أن ما يقرب من 18 مليونا من أصل 22 مليون تعليق ملفقة، باستخدام أسماء مزيفة، أو أسماء حقيقية دون موافقة.
وفي تجربة أخرى أرسل باحثون أجروا دراسة حديثة لمعهد بروكينغز 32.389 رسالة بريد إلكتروني إلى المكاتب التشريعية، بعضها كتبه مواطنون، والبعض الآخر تم إنشاؤه بواسطة الذكاء الاصطناعي، والذي يمكن أن يقدم الآلاف من الرسائل التي تبدو حقيقية. ووجدت الدراسة أن المكاتب التشريعية لا تستطيع تمييز ما هو مزيف وما هو مزور بينها.
وهو ما دفع إلى الاعتقاد بأننا نشهد للتو بداية ما سيصبح طوفانا من المدخلات الكاذبة التي تغرق المدخلات الحقيقية وتزيد من تقويض ثقة الجمهور.
إذن، ما الذي يمكن عمله؟
مؤكد أن تحديا وخللا مثل هذا في النظام لن يحله إصلاح سطحي، بل يحتاج إلى جهود كبيرة وقوانين تمتثل لها الشركات العملاقة وتتفق عليها الدول.
الحل ممكن ولكن شرط أن لا تكون الكلمة الأخيرة لتحقيق الأرباح.