ما هي خوارزميات التوصية؟

ما هي خوارزميات التوصية؟.

تعمل أنظمة التوصية الرقمية ، مثل تلك التي يستخدمها Netflix و Spotify ، على رفع مستوى خبرتنا عبر الإنترنت من خلال اقتراح أنواع الموسيقى والأفلام التي يعتقدون أنها قد تنال إعجابنا. بحث جديد

تبين أن هذه الأنظمة يمكن أن تؤثر أيضًا على اهتماماتنا وتفضيلاتنا الثقافية ، بل وتساهم في عدم المساواة. يحذر فريق المتخصصين في ورشة عمل الذكاء الاصطناعي والتوصيات والحفاظ على الثقافة لبرنامج CIFAR’s AI and Society من أن هذه الخوارزميات يمكن أن يكون لها عواقب على كيفية وصولنا إلى المحتوى الثقافي وما يتم تقديمه لنا.

تحدثت CIFAR مع أعضاء فريق ورشة العمل لفهم أفضل لكيفية تأثير أنظمة الذكاء الاصطناعي والتوصية على الثقافة.

سيفار: من أين أتى اهتمامك بأنظمة التوصية؟

أشتون أندرسون: لقد أصبحت مهتمًا بهذا الموضوع منذ بضع سنوات عندما بدأت العمل في Spotify. إذا نظرنا إلى الوراء ، فإن المشكلات واضحة جدًا ، لكن الخوارزميات ليست في الحقيقة أشياء يعرفها الناس أو يفكرون فيها.

فرناندو دياز: أنا باحث في Google Research في مونتريال. حقلي هو استرجاع المعلومات ، والذي يتضمن بحث الويب أو البحث النصي ، ولكن أيضًا أنظمة التوصية. أعمل في هذا المجال منذ حوالي 20 عامًا في سياق بحث صناعي في Yahoo و Microsoft و Spotify.

نيكول كلاسين: عملت في قطاع الإعلام والاتصالات منذ ما يقرب من 20 عامًا. واحدة من أفضل خبراتي المهنية هي عندما علمت بأنظمة التوصية عندما كنت جزءًا من شركة تكنولوجية شابة للمبدعين الأفارقة.

سيفار: ما هي العواقب الرئيسية لأنظمة التوصية على الثقافة ، خاصة بالنسبة للموسيقى؟

أشتون أندرسون: في أغلب الأحيان ، لا يقوم علماء الكمبيوتر الذين يطورون أنظمة وخوارزميات التوصية بتصميمها خصيصًا للموسيقى. أحد التحديات التي تواجه مجتمع تكنولوجيا المعلومات هو البدء في معالجة هذه المشكلات. تعتمد أنظمة التوصية الأكثر شيوعًا على خوارزمية تم تصميمها في الأصل للنص ، ولكن تم تحويلها بالكامل لمنصات بث الموسيقى الثقافية.

فرناندو دياز: أنظمة التوصية التقليدية بدائية عندما تنظر إلى الطريقة التي تقدم بها التوصيات. تركز العديد من النماذج البسيطة على متوسط ​​الأداء ، مما يعني أن التوصيات الموجهة للأشخاص من المجموعات الممثلة تمثيلا ناقصا معرضة بشكل خاص للخطأ. تعمل أنظمة مثل Spotify أو Netflix جيدًا للأشخاص في مجموعات كبيرة نسبيًا ، ولكن ليس لأعضاء المجموعات الأصغر. لا يؤثر هذا على مستهلكي المحتوى فحسب ، بل يؤثر أيضًا على المنتجين ، لأنه يؤثر على إنشاء المحتوى. على سبيل المثال ، إذا كنت أقوم بإنشاء موسيقى وأريد إصدارها في سياق نظام توصية ، فسوف أقوم بإنشاء هذا النظام في الاعتبار.

لاريسا مان: يصنع الناس الموسيقى للتحدث عن مجتمعهم وتقوية شعورهم بالانتماء بطريقتهم الخاصة. عندما يتم بث هذه الموسيقى لأشخاص آخرين في ظل ظروف مختلفة ، فإنها لا تحمل نفس المعنى. يتم إنشاء المعاني جزئيًا بواسطة الجمهور المهتم بها. إذا قمت ببث الموسيقى من مجموعة عرقية معينة أو مجتمع مهاجرين أو مجتمع كوير ، وقمت بإتاحتها للأشخاص الذين ليس لديهم التزام أو اتصال بهذا المجتمع ، فقد يضر ذلك بفهم ومحو الرابط الأولي مع هذه الموسيقى.

على سبيل المثال ، هناك نوع موسيقي في نيو أورلينز يُدعى “ترتد” ، وبعض الأسماء الكبيرة في هذا النوع من الموسيقى هي كوير أو متحولة. عندما دخلت هذه الموسيقى إلى عالم الرقص ، أطلق عليها البعض “ارتداد سيسي” [un terme à connotation homophobe]. في نيو أورلينز ، كثير من الناس الذين يصنعون هذه الموسيقى لا يتعرفون على أنهم شاذون أو متحولين ؛ البعض يفعل ، لكنهم يجدون مصطلح التحقير. إذا تمت التوصية بالموسيقى الخاصة بك في نوع يمنحك هوية لا تريدها ، أو يمكن أن تكون ضارة لك ، فهذه مشكلة.

نيكول كلاسين: أنظمة التوصية المستخدمة عادة في المجال الثقافي هي خوارزميات مصممة لتحقيق هدف عمل محدد ، ويتم تحديد هذا الهدف من قبل أسواق الأوراق المالية والمستثمرين. يمكننا أن نفعل الكثير بالتكنولوجيا إذا وضعنا أهدافًا ومعايير مختلفة.

جيريمي موريس: تتكون أنظمة الذكاء الاصطناعي والخوارزمية من مجموعة من التقنيات والأدوات المحددة التي لها تأثيرات واقعية ، مثل نوع الأغاني التي توصي بها منظمة العفو الدولية ، والتي بدورها تولد متابعين وتستمع وتبث على منصات مثل Spotify. يمكن للفنانين أيضًا تعديل الأغاني والأصوات والبيانات الوصفية للعناوين لتظهر أعلى في نتائج البحث وتهيئة “النظام الأساسي” للموسيقى الخاصة بهم. بالنسبة لي ، فإن التفكير في التأثير المستقبلي للذكاء الاصطناعي على الموسيقى والثقافة يعني التفكير في التكنولوجيا ، ولكن أيضًا فيما يمكن أن تفعله هذه التكنولوجيا وما ينبغي أن تفعله.

سيفار: هل تغير أنظمة التوصية تفضيلاتنا الثقافية؟

لاريسا مان: هناك تفاوتات هائلة في السلطة عندما يتعلق الأمر بالثقافة. لماذا تُعزف الموسيقى الكلاسيكية في محطات القطار وليس موسيقى ميتال؟ إن أهمية هذين الجنسين جزء من هيكل السلطة الذي يقرر أن أحدهما مقبول ومحترم والآخر يمثل تهديدًا. إذا قمنا بإحضار أنظمة التوصية إلى العالم دون النظر إلى هياكل السلطة الموجودة بالفعل ، فمن المحتمل جدًا أن تجعلها أسوأ.

نيكول كلاسين: يعمل تايلور سويفت على الراديو في كثير من الأحيان في قارتنا أكثر من معظم الفنانين المحليين. ما لم تفرض البلدان حصة محتوى محلية ، فإن الراديو مخصص لشركات التسجيل أو لمن يملكون المال. يدفع المذيعون الجنوب أفريقيون والعديد من المذيعين الأفارقة الآخرين رسوم البث. يجمع الفنانون والعلامات التجارية الدولية الإتاوات من مذيعينا ، لذا فهم يميلون إلى السيطرة على الفضاء. يحصل الفنانون والثقافة المحلية على قدر أقل من التعرض والإتاوات بسبب العلامات والفنانين الذين لديهم ميزانية للتأثير على المنصات. هذا الوضع مدمر لقارة غنية ثقافيا مثل إفريقيا. بدلاً من مساعدة الثقافة ، تعمل الخوارزميات على تسريع الانقسام بين المواهب الإبداعية.

فرناندو دياز: إنها تقدم رؤية مشوهة لما يريده الناس. المشكلة هي أن الخوارزميات نموذج لما يريده الناس الآن أو ما أرادوه في الماضي.

أشتون أندرسون: تتم برمجة أنظمة التوصية على أساس افتراض أنه ، في سياق ثقافي ، يكاد يكون خاطئًا. تستخدم العديد من المنصات أنظمة تفترض أن كل شخص يرى نفس التشابه بين أي أغنيتين.

سيفار: ما هي الأفكار والتوصيات الرئيسية التي خرجت بها ورشة العمل؟

لاريسا مان: يجب أن تشارك المجتمعات بأكبر قدر ممكن في تصميم الأنظمة المستخدمة في ثقافتهم. لا يقتصر الأمر على تضمين كل المحتوى الذي يمثل أشخاصًا مختلفين فحسب ، بل يشمل أيضًا منشئي هذا المحتوى. بالطبع ، يجب أن يكون هناك أيضًا المزيد من الأموال التي تعود إلى المجتمعات ومبدعي الموسيقى.

نيكول كلاسين: بشكل جماعي ، لدينا الكثير من الأفكار حول كيفية اتصال الأشخاص بالموسيقى والأنظمة أكثر مما كانت عليه عندما تم إطلاق منصات التوصية الأولى. كيف يوجد مشهد ثقافي أو موسيقي على المنصة؟ هل يجب أن تكون مغلقة أم مفتوحة؟ كيف يعرف منسق الموسيقى المباشر متى يختار المسار التالي للحفاظ على تفاعل جمهوره؟ سيكون من المثير للاهتمام تجربة نظام لا يحتاج إلى إرضاء المستثمرين ، وله أهداف ومعايير مختلفة.

فريق ورشة العمل يجمع الذكاء الاصطناعي والتوصيات والحفاظ على ثقافة الذكاء الاصطناعي والمجتمع معًا أشتون أندرسون ، جامعة تورنتو ، كندا ؛ جورجينا بورن ، جامعة أكسفورد ، المملكة المتحدة ؛ فرناندو دياز ، Google Research في مونتريال ، كندا ؛ جيريمي موريس ، جامعة ويسكونسن ماديسون ، الولايات المتحدة الأمريكية.

تعد ورشة عمل الذكاء الاصطناعي والتوصيات والحفاظ على الثقافة جزءًا من سلسلة ورش عمل حول الذكاء الاصطناعي والمجتمع التي تنظمها CIFAR بالشراكة مع المركز الوطني للبحث العلمي (CNRS) والهيئة البريطانية للبحوث والابتكار (UKRI).

تقرير

تم نشره من قبل معهد شوارتز ريزمان للتكنولوجيا والمجتمع (SRI) في جامعة تورنتو. SRI هو مركز بحث وحلول متعدد التخصصات يدرس الآثار الاجتماعية للتقنيات الناشئة القوية مثل الذكاء الاصطناعي.

يطور برنامج الذكاء الاصطناعي والمجتمع ، وهو أحد الركائز الرئيسية لاستراتيجية CIFAR’s Pan-Canadian AI ، القيادة العالمية في التفكير في الآثار الاقتصادية والأخلاقية والسياسية والقانونية للتقدم في الذكاء الاصطناعي. تهدف ورش العمل الخاصة ببرنامج الذكاء الاصطناعي والمجتمع إلى فهم تأثيرات الذكاء الاصطناعي على المجتمع بشكل أفضل والتوصية بأساليب اجتماعية وتقنية لدعم الذكاء الاصطناعي المسؤول.

هل كان المقال مفيداً؟شاركه مع أصدقائك ولا تنسى لايك والتعليق