مشكلة خطيرة في داك داك جو: مساعده الذكي ينخدع بمعلومات مزيفة

حملةReddit تزيف معلومات لتضليل الذكاء الاصطناعي

لم يكن هذا الخطأ نتيجة تخيل واحد من جانب الذكاء الاصطناعي، بل يبدو أنه نتج عن حملة تضليل منظمة انطلقت من مجتمع r/poisonai على Reddit، حيث ينشر المستخدمون قصصًا مزيفة بشكل متعمد بهدف «تسميم» نماذج البحث بالذكاء الاصطناعي. في هذه الحالة، غمر أعضاء المجتمع الإنترنت بمزاعم مزيفة حول وفاة جيه دي فانس بسبب داء الكلب، ثم تبعتها مزاعم مماثلة بوفاة ترامب، وقاموا بإنشاء مقالات إخبارية مزيفة ومحاكاة مواقع إخبارية محلية لتعزيز الرواية.

لم يكن مساعد داك.آي الضحية الوحيدة، فقد وجدت دراسة أن محرك البحث Brave Search كرر نفس الادعاءات الكاذبة قبل أن يصححها لاحقًا.

رد داك داك جو على الخطأ

أقرّت داك داك جو بالخطأ على Reddit برد ساخر قالت فيه: «حسنًا، لقد تم خداعنا في هذه المرة». وأكدت الشركة أن المشكلة قد تم حلها، مشيرة إلى أن مساعد البحث «تم خداعه عمدًا»، ووعدت بتحسينات لمنع مثل هذه الهجمات في المستقبل.

صورة توضيحية من المقال

أشارت التقارير أيضًا إلى أن القصة المزيفة اكتسبت مصداقية لأن البحث بالذكاء الاصطناعي استشهد بموقعًا مزيفًا بدا وكأنه موقع إخبار محلي شرعي، ويبدو أنه تم إنشاؤه باستخدام الذكاء الاصطناعي وم assemblage من نفس الخدعة المنشورة على Reddit.

مشكلة أكبر من داك داك جو: مستقبل البحث بالذكاء الاصطناعي

الأمر لا يتعلق حقًا بداك داك جو، بل بمستقبل البحث بالذكاء الاصطناعي. تعتمد المساعدات الذكية الحديثة بشكل متزايد على المعلومات التي يتم جمعها من جميع أنحاء الويب، وإذا تم نشر محتوى مزيف بما يكفي في أماكن كافية، يمكن لهذه الأنظمة أن تبدأ في التعامل مع الخيال على أنه حقيقة.

هذا ما يجعل هذا الحادث مثيرًا للقلق الشديد. لقد قضينا سنوات worrying حول تخيلات الذكاء الاصطناعي التي تأتي من لا شيء، لكن محاولات منظمة لتسميم البحث بالذكاء الاصطناعي قد تكون أكثر خطورة. إذا تمكن الجهات السيئة من التلاعب بما «يتعلمه» نماذج الذكاء الاصطناعي ببساطة عن طريق نشر معلومات مضللة مقنعة عبر الإنترنت، فإن تحسين الذكاء الاصطناعي لم يعد مجرد مسألة بناء نماذج أكثر ذكاءً، بل يتعلق ببناء أنظمة تعرف من وماذا تثق به.