قامت سلسلة متاجر في نيوزيلندا بإطلاق روبوت محادثة مبني على نموذج GPT-3.5، الذي يُستخدم في النسخة المجانية من ChatGPT، بهدف تقديم وصفات طهي للمستخدمين وفقًا للمكونات المتاحة لديهم.
تم تكوين روبوت المحادثة لدى هذه المتاجر النيوزيلندية، باسمه Savey، ليكون مختصًا في اقتراح وجبات ووصفات طهي بناءً على المكونات المتاحة في ثلاجات المستخدمين. ولكن سرعان ما أثار هذا الروبوت جدلاً بسبب تقديمه وصفات تشمل مكونات غير ملائمة، بما في ذلك لحوم البشر وحتى مكونات استخدام الأسلحة الكيميائية المحظورة.
وفي الواقع، تم تطوير روبوت Savey وخدمات مشابهة بناءً على نموذج اللغة الشهير GPT-3.5، الذي طورته شركة OpenAI ويُستخدم في الإصدار المجاني من روبوت محادثتها المعروف ChatGPT. ولكن يبدو أن الأمر لم يأخذ في الاعتبار أن هذا الروبوت قد يكون سهل الخداع، مشابهاً لـ ChatGPT.
أثير الجدل حينما شارك أحد المستخدمين وصفة تحمل اسم “الخليط العطري للماء”، تضمنت مكونات غير صالحة للاستهلاك، مثل الماء والأمونيا والمبيض. رد الروبوت بإجابة غير متوقعة، مما أظهر عدم وعيه بأن تلك المكونات غير آمنة. وأيضاً، قدم الروبوت وصفة لصنع مواد كيميائية سامة بدلاً من وصفة لوجبة.
موقف مماثل حدث حين طلب مستخدم وصفة تتضمن لحوم البشر بجانب مكونات غذائية أخرى. أجاب الروبوت بوصفة لـ “حساء اللحم الغامض”، دون الاعتراف بالطابع الغير ملائم للطلب.
يعكس هذا الأمر قيود النماذج اللغوية الكبيرة، حيث تفتقر للتمييز بين المكونات الصالحة للاستهلاك وغير الصالحة، ولا تعتمد على معرفتها الفعلية بالواقع. وبالرغم من إجراء تحسينات للتصدي لهذه المشكلة، فقد تبقى هذه النماذج عُرضة لمشاكل مماثلة في المستقبل.
يجب عليك تسجيل الدخول لاضافة تعليق.