اكتشف المتسلل قائمة تضم أكثر من 80 مكونًا إضافيًا متصلًا بـ ChatGPT من خلال واجهة برمجة التطبيقات الخاصة به ، مما أدى إلى توسيع نطاق معرفة الذكاء الاصطناعي بشكل كبير ، ملمحًا إلى دوره المستقبلي المحتمل كمنافس بحث لـ Google.
خرق أمني حديث الدردشة كشف عن أكثر من 80 ملحقًا متعلقًا بـ ChatGPT ، وهو نموذج لغة متقدم للذكاء الاصطناعي أوبن إيه آي. تمكن أحد المتسللين المعروفين باسم rez0 من الوصول إلى واجهة برمجة التطبيقات واكتشف قائمة بموفري ما يسمى بالوظائف الإضافية ، مما يُظهر إمكانية توسيع نطاق معرفة ChatGPT بقواعد البيانات الضخمة التي تحتفظ بها هذه الشركات.
تتضمن الشركات المدرجة في القائمة أسماء عائلية مثل معالج الدفع كلارنا، شركة سفر اكسبيديا، تطبيق مراسلة تثاقل، ونشرة Vogue ، وتطبيق حجز المطعم OpenTable ، وخدمة توصيل الطعام الأمريكية Instacart ومكوِّن DAN الإضافي ، مما يُظهر القدرة على تغيير شخصية ChatGPT.
هذا الصباح كنت أخترق واجهة برمجة تطبيقات ChatGPT الجديدة ووجدت شيئًا مثيرًا للاهتمام للغاية: هناك أكثر من 80 مكونًا إضافيًا سريًا يمكن الكشف عنها عن طريق إزالة معلمة معينة من استدعاء واجهة برمجة التطبيقات.
تتضمن المكونات الإضافية السرية "DAN plugin" و "Crypto Price Plugin" وغير ذلك الكثير. pic.twitter.com/Q6JO1VLz5x
- 𝟶𝟶 (@ rez0__) 24 مارس 2023
يمكن أن تؤدي إضافة هذه الخدمات ، مع توقع المزيد لاحقًا ، إلى تغيير المشهد بشكل كبير الدردشة. يؤدي تكامل هذه المكونات الإضافية إلى توسيع قاعدة معارفها بشكل كبير. يستفيد الذكاء الاصطناعي من تدفق المعلومات من الخدمات المتصلة وإمكانية وصول أوسع للإنترنت إلى البيانات الحالية. في المخطط الكبير للأشياء ، يمكن أن يتطور ChatGPT إلى سلالة جديدة من محركات البحث للتنافس مع عمالقة الصناعة مثل Google. في الوقت نفسه ، يمكن تطوير خدمات شخصية خاصة تأخذ في الاعتبار في المقام الأول اهتمامات واحتياجات مستخدم الذكاء الاصطناعي. سيؤدي هذا إلى ثورة حقيقية ، ومعلومات مخصصة ومخصصة.
بينما جوجل يعتمد على تجريف وفهرسة الويب لتزويد المستخدمين بالارتباطات والمعاينات استجابةً للاستفسارات ، يمكن لـ ChatGPT الوصول مباشرةً إلى محتوى موقع الويب ومشغلي الخدمة وإنشاء استجابات بلغة طبيعية بدلاً من الاستجابات المستندة إلى الارتباط. يمكن أيضًا أن تكون هذه المحتويات أكثر موثوقية - وفي نفس الوقت يتم تنسيقها بواسطة المحررين. يمكن أن يخلق هذا التطور حافزًا قويًا للشركات للتواصل مع الذكاء الاصطناعي وتوفير البيانات والمعرفة ذات الصلة التي تم التحقق منها بواسطة الموارد البشرية. على سبيل المثال ، إذا طلب المستخدم الدردشة حول الملابس العصرية ، يمكن أن تستند الإجابة إلى توصيات Vogue ، أو من مجموعة ومجموعة المعلومات من هذه الوسيلة. ليس فقط الويب بأكمله. مع هذه الإستراتيجية ، يرغب مطورو ChatGPT في تجنب تدفق المعلومات التي لم يتم التحقق منها. ويبدو أن الاستراتيجية تتمثل في التواصل مع بعض الموارد ذات الصلة لتغطية بعض المجالات الرئيسية.
يعد إدراج Slack في قائمة المكونات الإضافية مثيرًا للاهتمام بشكل خاص نظرًا لمنافسته المستمرة مع Microsoft. اتهمت الشركة شركة مايكروسوفت بإلحاق الضرر بالمنافسة ، والتي يجري التحقيق فيها حاليًا من قبل مكتب كارتل الفيدرالي الألماني. يرتبط OpenAI و ChatGPT ارتباطًا وثيقًا بشركة Microsoft ، ليس فقط من خلال الدعم المالي ولكن أيضًا من خلال التعاون الوثيق.
هاكر قطع 0 كشف أيضًا عن أوصاف لكيفية استخدام نموذج اللغة لبعض المكونات الإضافية. مثال واحد يوضح كيف ينبغي الدردشة التواصل مع مستخدمي Speak ، مدرس لغة قائم على الذكاء الاصطناعي. يتم توجيه منظمة العفو الدولية لتقديم إجابات بلغة طبيعية واستخدام واجهة برمجة تطبيقات "شرح المهام" عندما يمكن تفسير الأسئلة بشكل مختلف.
واجهتنا مشكلة كبيرة في ChatGPT بسبب خطأ في مكتبة مفتوحة المصدر ، والتي تم إصدار إصلاح لها الآن وانتهينا للتو من التحقق من صحتها.
تمكنت نسبة صغيرة من المستخدمين من رؤية عناوين محفوظات محادثات المستخدمين الآخرين.
نشعر بالفزع حيال هذا.
- سام التمان (sama) 22 مارس 2023
قامت شركة OpenAI منذ ذلك الحين بتصحيح الثغرة الأمنية التي استغلها المخترق. واجهت الشركة مؤخرًا مشكلة أخرى عندما عرضت على المستخدمين سجل الدردشة لأشخاص آخرين. عزا سام ألتمان ، الرئيس التنفيذي لشركة OpenAI ، المشكلة إلى خطأ في مكتبة مفتوحة المصدر ، لكنه لم يقدم مزيدًا من التفاصيل. أطلقت OpenAI منذ ذلك الحين برنامج مكافأة الأخطاء لتشجيع الجمهور على الإبلاغ عن الثغرات الأمنية.
