ويقول المراقبون والباحثون إن ظهور أدوات الذكاء الاصطناعي التوليدية التي تسمح للناس بإنتاج تقييمات جديدة ومفصلة عبر الإنترنت بكفاءة دون أي جهد تقريبًا قد وضع التجار ومقدمي الخدمات والمستهلكين في المجهول.
لقد ابتليت العديد من المواقع الإلكترونية الشهيرة للمستهلكين، مثل أمازون وييلب، بالمراجعات الزائفة منذ فترة طويلة . وعادة ما يتم تداولها على مجموعات خاصة على وسائل التواصل الاجتماعي بين وسطاء المراجعات الزائفة والشركات الراغبة في الدفع. وفي بعض الأحيان، يتم البدء في مثل هذه المراجعات من قبل الشركات التي تقدم للعملاء حوافز مثل بطاقات الهدايا مقابل ردود الفعل الإيجابية.
لكن أدوات إنشاء النصوص المدعومة بالذكاء الاصطناعي، والتي روجت لها شركة OpenAI من خلال ChatGPT ، تمكن المحتالين من إنتاج المراجعات بشكل أسرع وبكميات أكبر، وفقًا لخبراء صناعة التكنولوجيا.
وتُمارس هذه الممارسة الخادعة، التي تعد غير قانونية في الولايات المتحدة ، على مدار العام، ولكنها تصبح مشكلة أكبر بالنسبة للمستهلكين خلال موسم التسوق في العطلات ، عندما يعتمد العديد من الأشخاص على المراجعات لمساعدتهم في شراء الهدايا.
أين تظهر المراجعات التي تم إنشاؤها بواسطة الذكاء الاصطناعي؟
تم العثور على التقييمات المزيفة في مجموعة واسعة من الصناعات، بدءًا من التجارة الإلكترونية والإقامة والمطاعم، إلى الخدمات مثل إصلاحات المنازل والرعاية الطبية ودروس البيانو.
قالت شركة Transparency Company، وهي شركة تكنولوجيا ومجموعة مراقبة تستخدم برامج للكشف عن التقييمات المزيفة، إنها بدأت في رؤية التقييمات التي تم إنشاؤها بواسطة الذكاء الاصطناعي تظهر بأعداد كبيرة في منتصف عام 2023 وقد تضاعفت منذ ذلك الحين.
في تقرير صدر هذا الشهر، قامت شركة The Transparency Company بتحليل 73 مليون تقييم في ثلاثة قطاعات: الخدمات المنزلية والقانونية والطبية. وكان ما يقرب من 14% من التقييمات مزيفة على الأرجح، وأعربت الشركة عن “درجة عالية من الثقة” في أن 2.3 مليون تقييم تم إنشاؤها جزئيًا أو كليًا بواسطة الذكاء الاصطناعي.
قال موري بلاكمان، وهو مستثمر ومستشار لشركات التكنولوجيا الناشئة، والذي قام بمراجعة عمل شركة الشفافية ومن المقرر أن يقود المنظمة بدءًا من الأول من يناير: “إنها أداة جيدة حقًا لمحتالي المراجعة”.
في أغسطس/آب، قالت شركة البرمجيات DoubleVerify إنها لاحظت “زيادة كبيرة” في تطبيقات الهواتف المحمولة والتلفزيونات الذكية مع مراجعات تم إعدادها بواسطة الذكاء الاصطناعي. وقالت الشركة إن المراجعات كانت تُستخدم غالبًا لخداع العملاء لتثبيت تطبيقات يمكنها اختطاف الأجهزة أو تشغيل الإعلانات باستمرار.
في الشهر التالي، رفعت لجنة التجارة الفيدرالية دعوى قضائية ضد الشركة التي تقف وراء أداة الكتابة بالذكاء الاصطناعي ومولد المحتوى المسمى Rytr، متهمة إياها بتقديم خدمة يمكن أن تلوث السوق بمراجعات احتيالية.
وقالت لجنة التجارة الفيدرالية، التي حظرت هذا العام بيع أو شراء التقييمات المزيفة، إن بعض مشتركي Rytr استخدموا الأداة لإنتاج مئات وربما آلاف التقييمات لشركات إصلاح أبواب المرآب، وبائعي حقائب اليد المصممة “المقلدة” وغيرها من الشركات.
من المحتمل أن يكون موجودًا على المواقع البارزة على الإنترنت أيضًا
قال ماكس سبيرو، الرئيس التنفيذي لشركة Pangram Labs المتخصصة في الكشف عن الذكاء الاصطناعي، إن البرنامج الذي تستخدمه شركته اكتشف بشكل شبه مؤكد أن بعض التقييمات التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتي تم نشرها على أمازون ظهرت في أعلى نتائج البحث عن المراجعات لأنها كانت مفصلة للغاية ويبدو أنها مدروسة جيدًا.
ولكن تحديد ما هو مزيف وما هو غير حقيقي قد يكون صعبًا. فقد تفشل الأطراف الخارجية لأنها لا تتمتع “بالوصول إلى إشارات البيانات التي تشير إلى أنماط الإساءة”، وفقًا لما ذكرته أمازون.
قامت Pangram Labs بفحص بعض المواقع الإلكترونية البارزة، والتي رفض Spero ذكرها بسبب اتفاقيات عدم الإفصاح. وقال إنه قام بتقييم Amazon وYelp بشكل مستقل.
وقال سبيرو إن العديد من التعليقات التي تم إنشاؤها بواسطة الذكاء الاصطناعي على Yelp يبدو أنها نُشرت من قبل أفراد كانوا يحاولون نشر عدد كافٍ من المراجعات لكسب شارة “Elite”، والتي تهدف إلى إعلام المستخدمين بضرورة الثقة في المحتوى.
تتيح الشارة الوصول إلى أحداث حصرية مع أصحاب الأعمال المحليين. كما يريد المحتالون الحصول عليها حتى تبدو ملفاتهم الشخصية على Yelp أكثر واقعية، كما قالت كاي دين، المحققة الجنائية الفيدرالية السابقة التي تدير مجموعة مراقبة تسمى Fake Review Watch.
من المؤكد أن كون التقييم مُنشأً بواسطة الذكاء الاصطناعي لا يعني بالضرورة أنه مزيف. قد يجرب بعض المستهلكين أدوات الذكاء الاصطناعي لإنشاء محتوى يعكس مشاعرهم الحقيقية. يقول بعض المتحدثين غير الأصليين باللغة الإنجليزية إنهم يلجأون إلى الذكاء الاصطناعي للتأكد من استخدامهم للغة دقيقة في التقييمات التي يكتبونها.
قالت شيري هي، أستاذة التسويق بجامعة ولاية ميشيغان، والتي أجرت أبحاثًا حول المراجعات المزيفة: “يمكن أن يساعد ذلك في المراجعات ويجعلها أكثر إفادة إذا كانت نابعة من نوايا حسنة”. وتقول إن منصات التكنولوجيا يجب أن تركز على الأنماط السلوكية للجهات السيئة، وهو ما تفعله المنصات البارزة بالفعل، بدلاً من تثبيط عزيمة المستخدمين الشرعيين عن اللجوء إلى أدوات الذكاء الاصطناعي.
ماذا تفعل الشركات
وتعمل شركات بارزة على تطوير سياسات لكيفية دمج المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي في أنظمتها لإزالة المراجعات الزائفة أو المسيئة. وتستخدم بعض الشركات بالفعل خوارزميات وفرق تحقيق للكشف عن المراجعات المزيفة وإزالتها، ولكنها تمنح المستخدمين بعض المرونة لاستخدام الذكاء الاصطناعي.
على سبيل المثال، قال المتحدثون باسم أمازون وترست بايلوت إنهما سيسمحان للعملاء بنشر تقييمات بمساعدة الذكاء الاصطناعي طالما أنها تعكس تجربتهم الحقيقية. واتخذت شركة يلب نهجًا أكثر حذرًا، قائلة إن إرشاداتها تتطلب من المراجعين كتابة نسختهم الخاصة.
وقالت الشركة في بيان: “مع الارتفاع الأخير في اعتماد المستهلكين لأدوات الذكاء الاصطناعي، استثمرت Yelp بشكل كبير في طرق الكشف بشكل أفضل عن مثل هذا المحتوى وتخفيفه على منصتنا”.
وقالت منظمة “تحالف المراجعات الموثوقة”، التي أطلقتها أمازون وترست بايلوت وموقع مراجعات التوظيف جلاسدور ومواقع السفر تريب أدفايزر وإكسبيديا وبوكينج.كوم العام الماضي، إنه على الرغم من أن المخادعين قد يستخدمون الذكاء الاصطناعي لأغراض غير مشروعة، فإن التكنولوجيا تقدم أيضًا “فرصة للرد على أولئك الذين يسعون إلى استخدام المراجعات لتضليل الآخرين”.
وقالت المجموعة: “من خلال مشاركة أفضل الممارسات ورفع المعايير، بما في ذلك تطوير أنظمة الكشف المتقدمة بالذكاء الاصطناعي، يمكننا حماية المستهلكين والحفاظ على نزاهة المراجعات عبر الإنترنت”.
إن قانون لجنة التجارة الفيدرالية الذي يحظر المراجعات المزيفة، والذي دخل حيز التنفيذ في أكتوبر/تشرين الأول، يسمح للوكالة بفرض غرامات على الشركات والأفراد الذين يمارسون هذه الممارسة. وتتمتع شركات التكنولوجيا التي تستضيف مثل هذه المراجعات بالحماية من العقوبة لأنها غير مسؤولة قانونًا بموجب القانون الأمريكي عن المحتوى الذي ينشره الغرباء على منصاتها.
رفعت شركات التكنولوجيا، بما في ذلك أمازون وييلب وجوجل، دعاوى قضائية ضد وسطاء المراجعات المزيفة التي تتهمهم ببيع مراجعات مزيفة على مواقعها. وتقول الشركات إن تكنولوجيتها حجبت أو أزالت عددًا كبيرًا من المراجعات والحسابات المشبوهة. ومع ذلك، يقول بعض الخبراء إنهم قد يفعلون المزيد.
قال دين من منظمة Fake Review Watch: “إن جهودهم حتى الآن ليست كافية على الإطلاق. إذا كانت شركات التكنولوجيا هذه ملتزمة جدًا بالقضاء على الاحتيال في المراجعات على منصاتها، فلماذا يمكنني، كفرد واحد يعمل بدون أتمتة، العثور على مئات أو حتى آلاف المراجعات المزيفة في أي يوم؟”
اكتشاف المراجعات المزيفة التي تم إنشاؤها بواسطة الذكاء الاصطناعي
وفقًا للباحثين، يمكن للمستهلكين محاولة اكتشاف التقييمات المزيفة من خلال الانتباه إلى بعض علامات التحذير المحتملة . تعد التقييمات المبالغ فيها أو السلبية بمثابة إشارات تحذيرية. كما تعد المصطلحات المتخصصة التي تكرر الاسم الكامل للمنتج أو رقم الطراز مؤشرًا محتملًا آخر.
عندما يتعلق الأمر بالذكاء الاصطناعي، فقد أظهرت الأبحاث التي أجراها بالاز كوفاكس، أستاذ سلوك المنظمات في جامعة ييل، أن الناس لا يستطيعون التمييز بين المراجعات التي ينتجها الذكاء الاصطناعي وتلك التي يكتبها البشر. وذكرت الدراسة أن بعض أجهزة الكشف عن الذكاء الاصطناعي قد تنخدع أيضًا بالنصوص القصيرة، وهو أمر شائع في المراجعات عبر الإنترنت.
ومع ذلك، هناك بعض “المؤشرات” التي يجب على المتسوقين عبر الإنترنت والباحثين عن الخدمات أن يضعوها في اعتبارهم. تقول شركة Panagram Labs إن المراجعات المكتوبة باستخدام الذكاء الاصطناعي تكون أطول عادةً ومنظمة للغاية وتتضمن “أوصافًا فارغة”، مثل العبارات والصفات العامة. كما تميل الكتابة إلى تضمين عبارات مبتذلة مثل “أول شيء لفت انتباهي” و”مغير لقواعد اللعبة”.
ماهر حمصي