هذا النص ليس نتيجة بحث علمي، بل هو أحد الآراء العديدة المتعلقة بتطورنا التكنولوجي الفوري. وفي نفس الوقت دعوة للمناقشة.
يعتقد غاري ماركوس، الأستاذ في جامعة نيويورك، أن التعلم العميق يلعب دورًا مهمًا في تطوير الذكاء الاصطناعي. لكنه يعتقد أيضًا أن الحماس المفرط لهذه التقنية يمكن أن يؤدي إلى تشويه سمعتها.
في كتابه إعادة تشغيل الذكاء الاصطناعي: بناء ذكاء اصطناعي يمكننا الوثوق به ماركوس، عالم أعصاب من خلال التدريب الذي بنى حياته المهنية في أبحاث الذكاء الاصطناعي المتطورة، يتناول الجوانب الفنية والأخلاقية. من منظور تكنولوجي، يمكن للتعلم العميق أن يقلد بنجاح المهام الإدراكية التي تؤديها أدمغتنا، مثل التعرف على الصور أو الكلام. ولكن بالنسبة للمهام الأخرى، مثل فهم المحادثات أو تحديد العلاقات بين السبب والنتيجة، فإن التعلم العميق ليس مناسبًا. لإنشاء آلات ذكية أكثر تقدمًا يمكنها حل مجموعة واسعة من المشكلات - والتي تسمى غالبًا الذكاء العام الاصطناعي - يجب دمج التعلم العميق مع تقنيات أخرى.
إذا لم يفهم نظام الذكاء الاصطناعي مهامه أو العالم من حوله حقًا، فقد يؤدي ذلك إلى عواقب خطيرة. حتى أدنى التغييرات غير المتوقعة في بيئة النظام يمكن أن تؤدي إلى سلوك خاطئ. وهناك بالفعل العديد من هذه الأمثلة: محددات التعبيرات غير المناسبة التي يسهل خداعها؛ أنظمة البحث عن الوظائف التي تميز باستمرار؛ السيارات ذاتية القيادة التي تصطدم وتقتل في بعض الأحيان السائق أو المشاة. لا يعد إنشاء الذكاء العام الاصطناعي مجرد مشكلة بحثية مثيرة للاهتمام، بل له العديد من التطبيقات العملية تمامًا.
في كتابهم، يجادل ماركوس ومؤلفه المشارك إرنست ديفيس عن مسار مختلف. إنهم يعتقدون أننا ما زلنا بعيدين عن إنشاء ذكاء اصطناعي عام، لكنهم واثقون من أنه سيكون من الممكن إنشاءه عاجلاً أم آجلاً.
لماذا نحتاج إلى الذكاء الاصطناعي العام؟ لقد تم بالفعل إنشاء إصدارات متخصصة وتجلب الكثير من الفوائد.
هذا صحيح، وسيكون هناك المزيد من الفوائد. ولكن هناك العديد من المشاكل التي لا يستطيع الذكاء الاصطناعي المتخصص حلها. على سبيل المثال، فهم الكلام العادي، أو المساعدة العامة في العالم الافتراضي، أو الروبوت الذي يساعد في التنظيف والطهي. مثل هذه المهام تتجاوز قدرات الذكاء الاصطناعي المتخصص. سؤال عملي آخر مثير للاهتمام: هل من الممكن إنشاء سيارة آمنة ذاتية القيادة باستخدام الذكاء الاصطناعي المتخصص؟ تظهر التجربة أن مثل هذا الذكاء الاصطناعي لا يزال يعاني من العديد من المشكلات المتعلقة بالسلوك في المواقف غير الطبيعية، حتى عند القيادة، مما يعقد الوضع بشكل كبير.
أعتقد أننا جميعًا نرغب في الحصول على الذكاء الاصطناعي الذي يمكن أن يساعدنا في تحقيق اكتشافات جديدة كبيرة في الطب. ومن غير الواضح ما إذا كانت التقنيات الحالية مناسبة لهذا، لأن علم الأحياء مجال معقد. يجب أن تكون مستعدًا لقراءة الكثير من الكتب. يفهم العلماء العلاقات بين السبب والنتيجة في تفاعل الشبكات والجزيئات، ويمكنهم تطوير نظريات حول الكواكب، وما إلى ذلك. ومع ذلك، مع الذكاء الاصطناعي المتخصص، لا يمكننا إنشاء آلات قادرة على مثل هذه الاكتشافات. ومع الذكاء الاصطناعي العام، يمكننا إحداث ثورة في العلوم والتكنولوجيا والطب. في رأيي، من المهم جدًا مواصلة العمل نحو إنشاء ذكاء اصطناعي عام.
يبدو أنك تقصد بكلمة "عام" الذكاء الاصطناعي القوي؟
أعني بكلمة "عام" أن الذكاء الاصطناعي سيكون قادرًا على التفكير في المشكلات الجديدة وحلها بسرعة. على عكس Go، على سبيل المثال، حيث لم تتغير المشكلة منذ 2000 عام.
يجب أن يكون الذكاء الاصطناعي العام قادرًا على اتخاذ القرارات في كل من السياسة والطب. وهذا مشابه لقدرة الإنسان. يمكن لأي شخص عاقل أن يفعل الكثير. أنت تأخذ طلابًا عديمي الخبرة، وفي غضون أيام قليلة تجعلهم يعملون على أي شيء تقريبًا، بدءًا من مشكلة قانونية وحتى مشكلة طبية. وذلك لأن لديهم فهمًا عامًا للعالم ويمكنهم القراءة، وبالتالي يمكنهم المساهمة في مجموعة واسعة جدًا من الأنشطة.
والعلاقة بين هذا الذكاء والذكاء القوي هي أن الذكاء غير القوي ربما لن يتمكن من حل المشكلات العامة. لإنشاء شيء قوي بما يكفي للتعامل مع عالم دائم التغير، قد تحتاج على الأقل إلى التعامل مع الذكاء العام.
لكننا الآن بعيدون جدًا عن هذا. يستطيع AlphaGo اللعب بشكل جيد على لوحة مقاس 19x19، لكنه يحتاج إلى إعادة تدريبه للعب على لوحة مستطيلة. أو خذ نظام التعلم العميق المتوسط: يمكنه التعرف على الفيل إذا كانت مضاءة جيدًا وكان نسيج جلده مرئيًا. وإذا كانت الصورة الظلية للفيل مرئية فقط، فمن المحتمل ألا يتمكن النظام من التعرف عليها.
ذكرت في كتابك أن التعلم العميق لا يمكنه تحقيق قدرات الذكاء الاصطناعي العام لأنه غير قادر على الفهم العميق.
في العلوم المعرفية يتحدثون عن تشكيل النماذج المعرفية المختلفة. أنا جالس في غرفة فندق وأدركت أن هناك خزانة، وهناك سرير، وهناك جهاز تلفزيون معلق بطريقة غير عادية. أنا أعرف كل هذه الأشياء، ولا أتعرف عليها فقط. وأفهم أيضًا مدى ترابطهم مع بعضهم البعض. لدي أفكار حول عمل العالم من حولي. إنهم ليسوا مثاليين. قد يكونون مخطئين، لكنهم جيدون جدًا. وبناءً عليها، أتوصل إلى الكثير من الاستنتاجات التي تصبح مبادئ توجيهية لأفعالي اليومية.
وكان الطرف الآخر يشبه نظام ألعاب أتاري الذي صممته شركة ديب مايند، والذي يتذكر فيه ما يجب عليه فعله عندما يرى وحدات البكسل في أماكن معينة على الشاشة. إذا حصلت على ما يكفي من البيانات، قد تعتقد أن لديك فهمًا، لكن في الواقع الأمر سطحي للغاية. والدليل على ذلك هو أنه إذا قمت بتحريك الكائنات بمقدار ثلاث بكسلات، فإن الذكاء الاصطناعي يعمل بشكل أسوأ بكثير. التغييرات تحيره. وهذا عكس الفهم العميق.
لحل هذه المشكلة، تقترح العودة إلى الذكاء الاصطناعي الكلاسيكي. ما هي المزايا التي يجب أن نحاول استخدامها؟
هناك العديد من المزايا.
أولا، الذكاء الاصطناعي الكلاسيكي هو في الواقع إطار عمل لإنشاء نماذج معرفية للعالم، والتي يمكن على أساسها استخلاص النتائج.
ثانيًا، الذكاء الاصطناعي الكلاسيكي متوافق تمامًا مع القواعد. هناك اتجاه غريب في التعلم العميق في الوقت الحالي حيث يحاول الخبراء تجنب القواعد. إنهم يريدون القيام بكل شيء على الشبكات العصبية وعدم القيام بأي شيء يشبه البرمجة الكلاسيكية. لكن هناك مشاكل تم حلها بهدوء بهذه الطريقة، ولم ينتبه إليها أحد. على سبيل المثال، بناء الطرق في خرائط جوجل.
في الواقع، نحن بحاجة إلى كلا النهجين. يعد التعلم الآلي جيدًا في التعلم من البيانات، ولكنه ضعيف جدًا في تمثيل التجريد الذي يمثل برنامج كمبيوتر. يعمل الذكاء الاصطناعي الكلاسيكي بشكل جيد مع التجريدات، ولكن يجب برمجته يدويًا بالكامل، وهناك الكثير من المعرفة في العالم بحيث لا يمكن برمجتها جميعًا. ومن الواضح أننا بحاجة إلى الجمع بين كلا النهجين.
يرتبط هذا بالفصل الذي تتحدث فيه عما يمكن أن نتعلمه من العقل البشري. أولا وقبل كل شيء، حول المفهوم المبني على الفكرة المذكورة أعلاه بأن وعينا يتكون من العديد من الأنظمة المختلفة التي تعمل بطرق مختلفة.
أعتقد أن هناك طريقة أخرى لشرح ذلك وهي أن كل نظام معرفي لدينا يحل مشكلة مختلفة. ويجب تصميم أجزاء مماثلة من الذكاء الاصطناعي لحل المشكلات المختلفة التي لها خصائص مختلفة.
نحاول الآن استخدام بعض التقنيات المتكاملة لحل المشكلات التي تختلف جذريًا عن بعضها البعض. إن فهم الجملة لا يعني على الإطلاق التعرف على شيء ما. لكن الناس يحاولون استخدام التعلم العميق في كلتا الحالتين. من وجهة نظر معرفية، هذه مهام مختلفة نوعيا. أنا ببساطة مندهش من قلة التقدير للذكاء الاصطناعي الكلاسيكي في مجتمع التعلم العميق. لماذا ننتظر ظهور الرصاصة الفضية؟ إنه أمر بعيد المنال، وعمليات البحث غير المثمرة لا تسمح لنا بفهم التعقيد الكامل لمهمة إنشاء الذكاء الاصطناعي.
لقد ذكرت أيضًا أن أنظمة الذكاء الاصطناعي ضرورية لفهم العلاقات بين السبب والنتيجة. هل تعتقد أن التعلم العميق أو الذكاء الاصطناعي الكلاسيكي أو أي شيء جديد تمامًا سيساعدنا في ذلك؟
وهذا مجال آخر لا يكون فيه التعلم العميق مناسبًا تمامًا. وهو لا يفسر أسباب أحداث معينة، ولكنه يحسب احتمالية وقوع حدث ما في ظل ظروف معينة.
عن ماذا نتحدث؟ تشاهد سيناريوهات معينة، وتفهم سبب حدوث ذلك وماذا يمكن أن يحدث إذا تغيرت بعض الظروف. أستطيع أن أنظر إلى الحامل الذي يوضع عليه التلفزيون وأتخيل أنه إذا قطعت إحدى أرجله، فسوف ينقلب الحامل ويسقط التلفزيون. هذه علاقة سبب ونتيجة.
يوفر لنا الذكاء الاصطناعي الكلاسيكي بعض الأدوات للقيام بذلك. يمكنه أن يتخيل، على سبيل المثال، ما هو الدعم وما هو السقوط. لكنني لن أبالغ في الثناء. المشكلة هي أن الذكاء الاصطناعي الكلاسيكي يعتمد إلى حد كبير على معلومات كاملة حول ما يحدث، وقد توصلت إلى نتيجة بمجرد النظر إلى المنصة. يمكنني بطريقة أو بأخرى تعميم، تخيل أجزاء من الموقف غير مرئية بالنسبة لي. ليس لدينا بعد الأدوات اللازمة لتنفيذ هذه الخاصية.
أنت تقول أيضًا أن الناس لديهم معرفة فطرية. كيف يمكن تنفيذ ذلك في الذكاء الاصطناعي؟
في لحظة الولادة، يكون دماغنا بالفعل نظامًا معقدًا للغاية. الأمر ليس ثابتًا، فالطبيعة هي التي خلقت المسودة الأولى. ومن ثم يساعدنا التعلم على مراجعة تلك المسودة طوال حياتنا.
تتمتع المسودة التقريبية للدماغ بالفعل بقدرات معينة. يستطيع الماعز الجبلي حديث الولادة النزول إلى سفح الجبل دون خطأ في غضون ساعات قليلة. من الواضح أن لديه بالفعل فهمًا للفضاء ثلاثي الأبعاد وجسده والعلاقة بينهما. نظام معقد للغاية.
وهذا هو السبب جزئيًا في اعتقادي أننا بحاجة إلى الهجينة. ومن الصعب أن نتخيل كيف يمكن للمرء أن يصنع روبوتاً قادراً على أداء وظائفه بشكل جيد في عالم يفتقر إلى معرفة مماثلة من أين يبدأ، بدلاً من البدء بصفحة بيضاء والتعلم من خبرة طويلة وواسعة.
أما بالنسبة للبشر، فإن معرفتنا الفطرية تأتي من الجينوم الخاص بنا، والذي تطور على مدى فترة طويلة. ولكن مع أنظمة الذكاء الاصطناعي، سيتعين علينا أن نسير في طريق مختلف. قد يكون جزء من هذا هو قواعد بناء خوارزمياتنا. قد يكون جزء من هذا هو قواعد إنشاء هياكل البيانات التي تعالجها هذه الخوارزميات. وقد يكون جزء من هذا هو المعرفة التي سنستثمرها بشكل مباشر في الآلات.
ومن المثير للاهتمام أنك تطرح في الكتاب فكرة الثقة وإنشاء أنظمة الثقة. لماذا اخترت هذا المعيار بالذات؟
أعتقد أن كل هذا اليوم هو لعبة كرة. يبدو لي أننا نعيش لحظة غريبة في التاريخ، حيث نثق في الكثير من البرامج غير الجديرة بالثقة. أعتقد أن المخاوف التي لدينا اليوم لن تدوم إلى الأبد. وفي غضون مائة عام، سوف يبرر الذكاء الاصطناعي ثقتنا، وربما قبل ذلك.
لكن الذكاء الاصطناعي اليوم خطير. ليس بالمعنى الذي يخشاه إيلون ماسك، ولكن بمعنى أن أنظمة مقابلات العمل تميز ضد المرأة، بغض النظر عما يفعله المبرمجون، لأن أدواتهم بسيطة للغاية.
أتمنى أن يكون لدينا ذكاء اصطناعي أفضل. لا أريد أن أرى "شتاء الذكاء الاصطناعي" حيث يدرك الناس أن الذكاء الاصطناعي لا يعمل وأنه مجرد خطر ولا يريدون إصلاحه.
في بعض النواحي، يبدو كتابك متفائلًا للغاية. أنت تفترض أنه من الممكن بناء ذكاء اصطناعي جدير بالثقة. علينا فقط أن ننظر في اتجاه مختلف.
هذا صحيح، الكتاب متشائم جدًا على المدى القصير ومتفائل جدًا على المدى الطويل. نحن نعتقد أن جميع المشكلات التي وصفناها يمكن حلها من خلال إلقاء نظرة أوسع على الإجابات الصحيحة. ونعتقد أنه إذا حدث هذا، فإن العالم سيكون مكانًا أفضل.
المصدر: www.habr.com