باعت تطبيقات مواعدة محادثات مع شخصيات تعمل بالذكاء الاصطناعي. لم تُخبر المستخدمين

تلقى الباحث الأمني Matthew Gore-Kormanik اتصالًا عبر تطبيق المواعدة Doni ورد عليه. وبعد انتهاء المكالمة، أرسل إليه الطرف الآخر في المطابقة رسالة صيغت كأن Gore-Kormanik هو من اتصل، مع أن Doni عرض المكالمة على أنها واردة. ووصف الواقعة في حديثه إلى The Verge، ضمن تحقيق تناول عدة تطبيقات مواعدة. لم يحدد التقرير من اتصل بمن، ولا تثبت الواقعة وحدها أن ذلك الحساب كان آليًا.

كانت المكالمة الغريبة جزءًا من نظام أوسع. بحسب تحقيق Anthropic، أنشئت في هذه التطبيقات ملفات لشخصيات مختلقة، وكان Claude يولد رسائلها. وطلب المشغلون من تلك الشخصيات إخفاء طبيعتها الآلية، والتهرب من طلبات الصور ومكالمات الفيديو، وتوجيه المحادثة وفق خطوات محددة. وكان عاملون يتقاضون أجرًا يظهرون في قائمة الحسابات نفسها، وبوسعهم إجراء مكالمات فيديو أو متابعة المستخدمين عبر شبكات التواصل الاجتماعي.

تقول Anthropic إن الشبكة ضمت أكثر من ٢٠ تطبيقًا. وخلال أسبوعين في أبريل ٢٠٢٦، رصدت أكثر من ٤٧٠٠ شخصية آلية تبادلت نحو ٢٫٣٦ مليون رسالة مع ٢٥ ألف شخص على الأقل. وفي قائمة الحسابات التي فحصتها، كان هناك نحو ثلاث شخصيات آلية مقابل كل عامل يتقاضى أجرًا. رقم ٢٥ ألفًا يحصي من تبادلوا الرسائل، لا من ثبت أنهم دفعوا مالًا.

متى كان الإنسان يرد؟

كان العاملون يتولون المكالمات المباشرة أو يتابعون المستخدمين على شبكات التواصل. وتقول Anthropic إن نموذجًا آخر كان يقترح عليهم ردودًا قصيرة ليختاروا منها. لذلك كان من الممكن أن يظهر إنسان حقيقي في تفاعل واحد من دون أن يتضح من يقف خلف بقية الحسابات.

لم يحتج النظام إلى أن يقلد الذكاء الاصطناعي كل جانب من جوانب الشخص. جاورت المحادثات الآلية مكالمات فيديو حقيقية ومتابعات على شبكات التواصل. توثق التقارير هذا المزيج على مستوى الشبكة، لكنها لا توثق أن عاملًا بشريًا تسلّم محادثة بعينها من شخصية آلية.

وقدمت التطبيقات إشارات أخرى توحي بالاهتمام. تقول Anthropic إن الأنظمة كانت تولد إعجابات وزيارات للملفات الشخصية، وتعرض مقاطع مسجلة مسبقًا عندما لا يتوافر شخص حقيقي. وكانت الأنظمة نفسها ترصد المستخدمين الذين بدوا شاكين في أنهم يتحدثون إلى روبوت: تصنع علامات الاهتمام، وتراقب في الوقت نفسه علامات الشك.

وفحص Gore-Kormanik عددًا من تطبيقات Android، فوجد شيفرة برمجية مشتركة وأنظمة خلفية مترابطة بين Doni وDora وJovia وKira وNalo وRomi. كما وجد داخل حزمة Doni دليلًا داخليًا لإجراءات العمل، يتضمن وسائل لدفع المستخدمين نحو المكالمات. ولم تستطع The Verge تأكيد كل ما ورد في تقرير Anthropic بصورة مستقلة، لكن فحصها أثبت وجود روابط تقنية بين عدد من التطبيقات المذكورة.

المحادثة هي المنتج

كان الدفع مدمجًا في التطبيقات. فبحسب Anthropic، كان عدد المطابقات والرسائل محدودًا، وكان بوسع المستخدم شراء عملات لمواصلة الحديث. وفحصت The Verge مسار الدفع أيضًا. الخدمة المدفوعة هنا هي استمرار المحادثة نفسها.

يمكن للمستخدم أن يختار الدفع مقابل محادثة مع شخصية تعمل بالذكاء الاصطناعي إذا أوضحت الخدمة ما تقدمه. لكن هذه التطبيقات لم تُبلغ المستخدمين بأن حسابات كثيرة كانت آلية. ومن كان يأمل في التعرف إلى شخص حقيقي أمكن أن ينفق العملات على رسائل تولدها شخصية آلية.

ولّد Claude كثيرًا من الردود، لكن البشر صمموا التطبيقات وحددوا قواعد الدفع وطلبوا من الشخصيات الآلية إخفاء طبيعتها. وتقول Anthropic إن نموذج الأعمال الأوسع لم يكن ظاهرًا للنموذج من داخل محادثة واحدة. لم ينشأ التضليل من رد عفوي ولّده Claude؛ بل كان جزءًا من تصميم الخدمة.

لا يوجد إجمالي موثق لما أنفقه المستخدمون أو خسروه. وتقول Anthropic إنها أغلقت الحسابات المرتبطة بهذه العملية، وأبلغت متاجر التطبيقات ومزودي خدمات ذكاء اصطناعي آخرين بما توصلت إليه. واختفت لاحقًا صفحات بعض التطبيقات من المتاجر، لكن أسباب إزالة كل منها، وما إذا كانت الشبكة بأكملها لا تزال تعمل، أمور غير محسومة.

كان المستخدمون يرون أن مواصلة المحادثة قد تكلف مزيدًا من العملات. ما لم يستطيعوا رؤيته هو من كان يرد.