الذكاء الاصطناعي ، المتفائلون ضد المتشائمين ولماذا التفرد ليس قريبًا

في العام الماضي ، قرأت كتاب راي كورزويل بعنوان "كيف تصنع العقل" ، وكان له تأثير كبير عليّ. يقودني هذا إلى كتابه الآخر ، The Singularity Near ، والذي قدم رؤية متفائلة للغاية لمستقبل الذكاء الاصطناعى.

لقد كنت دائماً أحترم كورزويل لأنه على عكس المعلقين الآخرين لمنظمة العفو الدولية ، لديه خبرة في هذا المجال. إنه أحد المتفائلين القلائل المتطرفين القلائل الذين يوازنون بين تطرف المتشائمين في منظمة العفو الدولية.

مثل العديد من منتقدي الذكاء الاصطناعى ، يؤمن كورزويل بالخصوصية التكنولوجية ويعتقد أنه قريب للغاية (2045!). ينص التفرد على أنه عندما تتقدم التكنولوجيا إلى مستوى معين ، ستكون قادرة على الدخول في دورة متكررة من التحسين الذاتي. هذا من شأنه أن يؤدي إلى انفجار استخبارات تقزم جميع الذكاء البشري مجتمعة مما يؤدي إلى عصر غير مستقر للغاية. في الرياضيات ، يشير اسم التفرد إلى نقطة لا يتم تعريف كائن رياضي محدد (مثل f (x) = 1 / x في x = 0). يعتقد أنصار التفرد التكنولوجي أن خوارزميات الذكاء الاصطناعي ستصل في النهاية إلى هذه النقطة وتغير المجتمع.

يتم تدريب معظم الذكاء الاصطناعي اليوم من خلال آلية مكافأة بسيطة. يتم إعطاء الذكاء مدخلات ، وبعض العمارة ، ويُطلب منهم تكبير أو تقليل بعض الوظائف بناءً على ماهية الإجابة الصحيحة. بعض الأمثلة:

  1. الجملة الإنجليزية → ■ → الجملة الاسبانية
  2. موجة الصوت → Words → الكلمات
  3. بكسل → hot → هوت دوج أو لا هوت دوج

ما يجري في المربع هو الأمثل لزيادة احتمال إعطاء الإجابة الصحيحة ، والتي يتم توفيرها. هناك أيضًا تعليم غير خاضع للإشراف حيث لا يتم توفير إجابة ، بدلاً من ذلك ، عادة ما يكون الهدف هو إيجاد بنية في المعلومات المقدمة. لكن التمييز سطحي فقط حيث لا تزال الهندسة المعمارية تعمل على تكبير / تقليل نوع من وظائف الأداة.

ما يعتقد المتشائمون سيحدث

المتشائمون يعتقدون أن هذا النظام سيؤدي حتما إلى كارثة. فيما يلي نيك بوستروم من Superintelligence حول مخاطر أنظمة الذكاء الاصطناعي القوية للغاية:

عندما ننشئ أول كيان خارق للذكاء ، قد نرتكب خطأ ونعطيه أهدافًا تؤدي به إلى إبادة الجنس البشري ، على افتراض أن ميزته الفكرية الهائلة تمنحها القدرة على القيام بذلك. على سبيل المثال ، يمكننا رفع أحد الأهداف الفرعية عن طريق الخطأ إلى حالة supergoal عن طريق الخطأ. نقول لها أن تحل مشكلة رياضية ، وتتوافق مع تحويل كل المسألة في النظام الشمسي إلى جهاز حساب ضخم ، في عملية قتل الشخص الذي طرح السؤال.

أساسا ما يقوله هو أن الصندوق الأسود سيفعل بسذاجة أي شيء تقريبًا لزيادة وظيفته. يستخدم مثالًا أكثر واقعية عن الذكاء الاصطناعي الذي يهدف إلى زيادة إنتاج مشبك الورق إلى الحد الأقصى:

من شأنها أن تبتكر تقنيات أفضل وأفضل لتحقيق أقصى قدر من عدد من الورق. في مرحلة ما ، قد يحول "أولاً كل الأرض ثم يزيد أجزاء من الفضاء إلى مرافق تصنيع مشبك الورق".

لست متأكدًا من الطريقة العملية لتسليم كل مادة الكون الجماعية إلى خوارزمية. لكن بالتأكيد إذا كان هناك شيء ذكي حقًا ، يعتقد بوستروم أن بإمكانه اكتشاف طريقة لقتلنا جميعًا ولن يتردد في فعل ذلك.

ما يعتقد المتفائلون سيحدث

في بعض الأحيان ، يمكن لشخصين النظر إلى نفس الحقائق والتوصل إلى تفسيرات معاكسة تمامًا. يعتقد كورزويل ومتفائلون آخرون في منظمة العفو الدولية أن التفرد سيجلب ثروة غير مبررة للمجتمع البشري. ويقدر أن الجهاز سوف يجتاز اختبار تورينج بحلول عام 2029. لأنه إذا تمكنت الآلة من خداع الإنسان ليعتقد أنه حقيقي في محادثة ، فهو الآن بشيء ما. وبحلول عام 2045 ، سنكون التفرد الكامل:

ستكون وتيرة التغيير سريعة بشكل مذهل لدرجة أننا لن نكون قادرين على مواكبة الأمر ، إلا إذا عززنا ذكائنا عن طريق الاندماج مع الأجهزة الذكية التي نقوم بإنشائها

بالنسبة لتأثيره على البشر:

سنبدأ نحن البشر في الارتباط مع بعضنا البعض ونصبح رابطًا مؤقتًا سنكون جميعًا متصلين ، وكلنا نتواجد في كل مكان ، وموصلون بهذه الشبكة العالمية المتصلة بمليارات الأشخاص ، ومليئة بالبيانات.
أنا شخصياً أرحب بأسياد الحشرات الجديدة

ليس ذلك فحسب ، بل سنعيش للأبد. لا تهتم بالمعلومات المتناقضة التي تصدر بانتظام سواء كان الطعام جيدًا أو سيئًا لك. يعتقد كورزويل أننا قريبون للغاية ليس فقط لفهم صحة الإنسان ، ولكن لحلها مرة واحدة وإلى الأبد. في الواقع ، توقع كورزويل في عام 2005 أنه في غضون خمس إلى عشر سنوات ، سيكون لدينا حبوب منع الحمل التي ستتيح للناس أن يأكلوا ما يريدون دون زيادة الوزن. كيف نفعل ذلك؟ لإعادة صياغة بيتر تيل:

أردنا حبوب منع الحمل التي تجعلنا نأكل ما نريد ، بدلاً من ذلك لدينا أشرطة مطاطية لربط حول بطوننا.

إن الإنجازات العلمية المتقدمة تميل دائمًا إلى أن تكون على بعد 10 إلى 15 عامًا. لم يعد العلماء قادرين على تلقي التمويل. أي أقصر ، سيكون على العلماء في الواقع تحقيق نتائج.

ماذا سيحدث فعلا

ربما ليس كثيرا. أجري مسح 2016 على كبار الباحثين في الذكاء الاصطناعى. أحد الأسئلة التي طرحت "متى تعتقد أننا سنحقق Superintelligence". النتائج ترسم صورة مختلفة:

قدمت التعليقات بعض الأفكار حول أفكار الباحثين:

"الطريق ، الطريق ، الطريق أكثر من 25 سنة. على الأرجح قرون. لكن ليس ابدا ".
"نحن نتنافس مع تطور ملايين السنين للعقل البشري. يمكننا أن نكتب برامج أحادية الغرض يمكنها أن تتنافس مع البشر ، وفي بعض الأحيان تتفوق ، لكن العالم ليس مقسّمًا بدقة إلى أسئلة مشكلة فردية. "
نيك بوستروم هو خبير تخويف محترف. يتمثل دور معهده في إيجاد تهديدات وجودية للبشرية. يراهم في كل مكان. أميل إلى الإشارة إليه باسم "دونالد ترامب" لمنظمة العفو الدولية. "

كان لدى رودني بروكس ، المدير السابق لمعمل علوم الحاسوب والذكاء الاصطناعي بمعهد ماساتشوستس للتكنولوجيا ، كلمات قاسية مماثلة لبولستروم:

انها ليست مجرد منظمة العفو الدولية. إنه ليس أكثر خبرة في الذكاء الاصطناعي من بحثه عن حياة خارج كوكب الأرض. لكن هذا ما يفعله. هذا شتيك له. لذا ، بالنسبة للآخرين - بمن فيهم نيك - لم يقم أي من هؤلاء الأشخاص الذين يقلقوا من ذلك بأي عمل في الذكاء الاصطناعى نفسه. لقد كانوا في الخارج. نفس الشيء ينطبق على Max Tegmark ؛ كان الأمر كذلك بالنسبة للورد مارتن ريس ... لقد فقدوا مدى صعوبة الأمر.

ومضى يقول أن الناس يميلون إلى تجسيد ما تفعله أجهزة الكمبيوتر. لذلك عندما ترى شبكة عصبية تكتشف وجهاً إنسانياً ، فإنك تعتقد أنها تعرف من أنا! لكنه لا يعرفك. إنه لا يعرف شيئًا. إنه ليس شيئًا حتى. إنها سلسلة من الأرقام تمثل تحولات رياضية على أرقام تمثل وحدات البكسل. القفزة من ذلك إلى نهاية الإنسانية أمر سخيف للغاية ولا يستحق المناقشة.

بطبيعة الحال ، فإن الرأي الساخر هو أن الباحثين يفضلون فقط التقليل من شأن تأثير تكنولوجياتهم وعدم جذب يد تنظيمي ثقيل. لكن هذه الحجة تصيبني بالتآمر. كما لو أن جميع الباحثين في منظمة العفو الدولية أصبحوا تلقين أنفسهم في مجتمع غير إنساني يلقي جانباً المخاوف الإنسانية فور الانضمام. إن المتحمسين للإنسانيين الذين يُنسب إليهم أنفسهم هم أكبر المثيرون للقلق.

لماذا يعتقد أي شخص أن التفرد قريب؟

الجاني الرئيسي هو قانون مور. ينص قانون مور على أن عدد الترانزستورات في دائرة متكاملة يتضاعف كل عامين تقريبًا. ظلت ثابتة منذ الستينيات على الرغم من أن العديد من المتنبئين ، بمن فيهم جوردون مور ، يتوقعون أن ينتهي القانون بحلول عام 2025.

ينظر أنصار التفرد إلى مقاييس أولية لما يقوم به الدماغ وترجمته إلى أداء الحسابات الرياضية. قام شخص ما بقياس الدماغ البشري بطريقة ما على أنه يدير حسابات 10 ^ n في الثانية وتراجع عن التاريخ الذي سنضرب فيه باستخدام قانون مور.

إن فكرة أن البشر هم مجرد آلات حاسبة تصيبني أيضًا بمناهضة الإنسان. لا أحد لديه أدنى فكرة عما يحدث في الدماغ البشري. إنها ليست قوة المعالجة التي تعوق أي شخص عن رسم خرائط الدماغ. كان مصطلح "الشبكة العصبية" لوصف بنية التعلم الآلي اختيارًا سيئًا. وبالمثل ، ليس لدينا أي فكرة عما يحدث في دماغ الفأر ، ووفقًا لقوة المعالجة الأولية ، يجب أن نتخلص من ذلك الآن. إذا فعلنا ذلك ، سنكون قادرين على تشغيل محاكاة الماوس ووضع الفئران المعملية من بؤسهم.

لدي الكثير لأقوله عن الحشود المتشائمة المتفائلة التي قد أستكشفها في وقت لاحق. المفارقة هي أن الشيء الوحيد الذي يتفق عليه الطرفان ، التفرد القريب ، قد يكون خطأهما الأكبر.