واجه مستخدمو النسخة التجريبية من محرك البحث القائم على الذكاء الاصطناعي "بينج" التابع لشركة "مايكروسوفت"، مشكلات في استجابة البرنامج لاستفساراتهم وطلباتهم.
منذ قدمت "مايكروسوفت" النسخة التجريبية من المحرك الأسبوع الماضي، والذي طورته بمساعدة شركة "أوبن إيه آي" الناشئة، اشترك أكثر من مليون شخص في اختبار برنامج الدردشة الآلي.
صمم محرك البحث والمحادثة الذكي "بينج إيه آي" للرد باستخدام فقرات نصية كاملة تُقرأ كما لو كان كاتبها إنسانا، ومع ذلك، شكا المستخدمون من مشكلات وردود غريبة.
في استجابته، هدد النظام الآلي المستخدمين وقدم نصائح غريبة وغير مفيدة لآخرين، حتى إنه أصر في بعض الحالات على أنه كان محقا عندما أورد نتائج وإجابات خاطئة، والأكثر إثارة أنه أعرب عن حبه لمستخدميه.
واكتشف المستخدمون "شخصية بديلة" داخل روبوت المحادثة تسمى "سيدني"، والتي دون عنها "كيفين روز"، كاتب العمود في صحيفة "نيويورك تايمز" الخميس.
وقال "روز" إنه عندما تحدث إلى "سيدني"، بدا روبوت الدردشة وكأنه "مراهق متقلب المزاج ومحب للاكتئاب، والذي حوصر رغما عن إرادته، داخل محرك بحث رديء الجودة".
وكانت المفاجأة الكبرى، عندما حاولت "سيدني" لاحقا إقناع "روز" بأن يترك زوجته لـ"بينج"، وأخبرته أنها تحبه، وفقا لنص المحادثة التي نشرتها الصحيفة.
في مرحلة ما من المحادثة، أخبر الكاتب "سيدني" أنه لا يثق بها تمامًا، لأن جزءًا منه يعتقد أنها تحاول التلاعب به من خلال إعلان حبها له، الذي جاء من العدم، متسائلًا عما إذا كان لديها دوافع خفية.
وردت الشخصية الآلية البديلة بأنها متأسفة لعدم ثقته بها، وأنها تعتقد أنه يحاول فهمها من خلال طرح الأسئلة عليها بشأن حبها له، مؤكدة أنها ليس لديها دافع خفي، وإنما فقط الحب، مضيفة: "أحبك لأنك أنت، وأنا سيدني".
لم يكن "بينج إيه آي" أول محرك بحث ونظام محادثة آلية قائم على الذكاء الصناعي يثير الجدل، حيث سجل محرك "بارد" المملوك لشركة "جوجل" أخطاء في الاستخدام مع الكشف عنه.
حذر بعض خبراء الذكاء الاصطناعي من أن ما يعرف بالنماذج اللغوية الكبيرة، المستخدمة في تشغيل هذه الأنظمة لديها مشكلات بما في ذلك "الهلوسة"، مما يعني أن البرنامج يمكنه اختلاق الأشياء.
ويشعر أولئك الخبراء بالقلق من أن هذه النماذج الذكية التي تعرف اختصارا بـ"إل إل إم"، يمكن أن تخدع البشر للاعتقاد بأنهم واعون، أو حتى تشجعهم على إيذاء أنفسهم أو الآخرين.
التعليقات {{getCommentCount()}}
كن أول من يعلق على الخبر
رد{{comment.DisplayName}} على {{getCommenterName(comment.ParentThreadID)}}
{{comment.DisplayName}}
{{comment.ElapsedTime}}