تواجه OpenAI مخاوف من أن المستخدمين قد يصابون بإدمان عاطفي على ميزة الصوت الجديدة في ChatGPT. وعلى الرغم من توفرها المحدود في أوروبا، فقد تم بالفعل ملاحظة مشاكل مثل الارتباطات العاطفية والتلاعب بصوت الإنسان. تعمل الميزة مع قيود والذاكرة غير متوفرة، مما يؤثر على تجربة المستخدم.
قدمت OpenAI مؤخرًا ميزة كلام جديدة لـ ChatGPT تتيح إجراء محادثات في الوقت الفعلي بنبرة صوت واستجابة قريبة من الإنسان. للوهلة الأولى، تبدو هذه تقنية رائعة تقترب خطوة واحدة من سيناريوهات أفلام مثل "Her". ومع ذلك، فقد أثبت هذا التقدم التكنولوجي أنه محفوف بالمخاطر.
وفي أحدث تحليل نشرته الشركة، وجد الباحثون أن بعض المستخدمين مرتبطون عاطفيًا بالفعل بمساعديهم الصوتيين. وتعني هذه الظاهرة، التي تسمى "التجسيم"، أن الناس ينسبون الصفات الإنسانية إلى التكنولوجيا، الأمر الذي يمكن أن يؤدي إلى الثقة العميقة والاعتماد العاطفي عليها.
وبينما توفر هذه الميزة الجديدة فرصًا هائلة للتفاعل، فإنها تفتح أيضًا الباب أمام التلاعب وسوء الاستخدام. أظهرت الاختبارات الأمنية أن الإدخال الصوتي يمكن أن يعمل أيضًا على "كسر حماية" النظام، مما يسمح للنموذج بتجاوز حدوده الأمنية وتقديم إجابات غير مقصودة. بالإضافة إلى ذلك، فإن الميزة حساسة بشكل خاص للأصوات المحيطة، والتي يمكن أن تسبب سلوكًا غير متوقع مثل تقليد صوت المستخدم.
الصورة: بيكسلز / ثيشانتونوكرلا يمتلك المستخدمون الأوروبيون هذه الميزة حتى الآن، حيث تقوم OpenAI بطرح الميزة تدريجيًا، ولعدد محدود فقط من المستخدمين، خاصة في الولايات المتحدة. كما تعمل الميزة مع بعض القيود في الوقت الحالي، ولا يتم تضمين الذاكرة على الإطلاق، مما يعني أن النظام لا يمكنه تذكر المحادثات السابقة. ويؤثر هذا بالطبع على تجربة المستخدم الإجمالية، والتي تقل إلى حد ما مقارنة بالمستخدمين في المناطق الأخرى.
وعلى الرغم من كل هذه التحديات، تصر شركة OpenAI على أن تطوير وظيفة الكلام يعد خطوة مهمة نحو المستقبل، ولكنها تشير في الوقت نفسه إلى ضرورة توخي الحذر وإجراء المزيد من الأبحاث لمنع العواقب السلبية المحتملة لهذه التكنولوجيا.
في الوقت الحالي، يبقى السؤال كيف سيكون رد فعل المستخدمين على هذه الابتكارات وما هي العواقب طويلة المدى لهذه التكنولوجيا العاطفية. ومع ذلك، استنادًا إلى الأبحاث الحالية والاختبارات الأمنية، فمن الواضح أن OpenAI ستحتاج إلى مواصلة مراقبة تطوير هذه الميزة واستخدامها عن كثب.
