الذكاء الاصطناعي كتهديد عالمي: يحذر العلماء والصناعة من احتمال انقراض الإنسان

مركز أمن الذكاء الاصطناعي، وهي منظمة غير ربحية مقرها في سان فرانسيسكو، صدر البيان في دعم مشترك للعديد من اللاعبين المهمين في في مجال الذكاء الاصطناعي. لا يقدم البيان أي حلول ملموسة ، لكنه يقدم وجهة نظر موحدة حول الحاجة إلى مزيد من التركيز على أمن الذكاء الاصطناعي.

الذكاء الاصطناعي كتهديد عالمي

هذه ليست المرة الأولى التي يتخذ فيها هؤلاء الخبراء الشجاعة للتعبير عن قلقهم. كان بعضهم من الموقعين على خطاب مفتوح هذا العام ، دعوا فيه إلى "توقف" لمدة ستة أشهر في التنمية منظمة العفو الدولية. أثارت الرسالة انتقادات ، حيث قال البعض إنها تضخم المخاطر التي يشكلها الذكاء الاصطناعي ، بينما يتفق آخرون مع المخاطر ولكن ليس مع كيفية معالجتها.

يشكك المشككون في هذه التوقعات ، مشيرين إلى أن أنظمة الذكاء الاصطناعي لا يمكنها التعامل حتى مع المهام البسيطة نسبيًا مثل قيادة السيارة. على الرغم من سنوات من الجهد والمليارات من الاستثمارات في هذا المجال البحثي ، لا تزال السيارات ذاتية القيادة بالكامل بعيدة عن الواقع. إذا لم يستطع الذكاء الاصطناعي إتقان هذه المهمة ، فما هي فرصته في تحقيق جميع الإنجازات البشرية الأخرى في السنوات القادمة؟ الذكاء الاصطناعي كتهديد عالمي ؟!

ومع ذلك ، فإن دعاة و المتشككون في الذكاء الاصطناعي توافق على أن أنظمة الذكاء الاصطناعي تمثل بالفعل بعض التهديدات - من تمكين المراقبة الجماعية إلى تشغيل خوارزميات "الشرطة التنبؤية" وإنشاء معلومات مضللة ومعلومات خاطئة.

"هناك مفهوم خاطئ شائع جدًا ، حتى في مجتمع الذكاء الاصطناعي ، عن وجوده فقط عدد قليل من "المناظر السوداء"،" هو ل اوقات نيويورك قال دان هندريكس ، الرئيس التنفيذي مراكز أمان الذكاء الاصطناعي. "لكن في الواقع ، قد يثير الكثير من الناس مخاوف بشأن هذه الأشياء على انفراد."

نقاش أمن الذكاء الاصطناعي معقد ومثير للجدل ، وغالبًا ما يصعب فهم التفاصيل. الافتراض الأساسي هو أن أنظمة الذكاء الاصطناعي يمكنها التقدم بسرعة وتجاوز آليات الأمان. على سبيل المثال ، غالبًا ما يُستشهد بالتقدم السريع للنماذج اللغوية الكبيرة على أنه يشير إلى إمكانية اكتساب الذكاء في المستقبل. يحذر الخبراء من أنه بمستوى معين من التطور ، يمكن أن يصبح من المستحيل السيطرة على عملياتهم.

مسألة أمنية يعتبر الذكاء الاصطناعي مهمًا بشكل خاص بالنسبة لأوروبا ، التي أرست المبادئ التوجيهية الأخلاقية للذكاء الاصطناعي الموثوق به في سياستها وتشريعاتها. في أوروبا ، رأينا بالفعل العديد من الأمثلة على استخدام أنظمة الذكاء الاصطناعي بطرق تتعارض مع قيمنا - مثل استخدام خوارزميات التعرف الآلي على الوجه في الأماكن العامة. السؤال هو ما إذا كانت اللوائح التنظيمية فعالة بما فيه الكفاية ، أو ما إذا كان علينا التفكير في تدابير أكثر صرامة ، مثل تعليق تطوير الذكاء الاصطناعي مؤقتًا.

هذا تذكير آخر بضرورة توخي الحذر لأن "ومهدت الطريق إلى الجحيم بالنوايا الحسنة". يجب أن نتذكر أن التكنولوجيا ليست جيدة أو سيئة بطبيعتها - فالأهم هو كيفية استخدامها. في الوقت الحالي ، لا يبدو أن الذكاء الاصطناعي يهددنا اليوم ، ولكن من المهم أن نظل يقظين وأن نستعد لجميع الاحتمالات. بعد كل شيء ، من الأفضل أن تكون آمنًا من أن تكون آسفًا.