EN
حذر اثنان من أبرز علماء الذكاء الاصطناعي في العالم من أن بناء الذكاء الاصطناعي العام (AGI) على شكل "عملاء" (Agents) قد يكون خطيرًا، حيث يمكن أن يفقد البشر السيطرة على هذه الأنظمة.
في حلقة جديدة من بودكاست "Beyond The Valley" على شبكة CNBC، تحدث كل من ماكس تيجمارك، الأستاذ في معهد ماساتشوستس للتكنولوجيا ورئيس معهد مستقبل الحياة، ويوشوا بينجيو، أحد "عرّابي الذكاء الاصطناعي" وأستاذ في جامعة مونتريال، عن مخاوفهم بشأن تطور الذكاء الاصطناعي العام، وهو المصطلح الذي يشير إلى الأنظمة الذكية التي تفوق الذكاء البشري.
مخاوف من الذكاء الاصطناعي الوكيل
تعتمد هذه المخاوف على توجه الشركات الكبرى نحو تطوير "عملاء الذكاء الاصطناعي" (Agentic AI)، وهي أنظمة قادرة على التصرف مثل المساعدين الأذكياء، واتخاذ القرارات بشكل مستقل.
وقال بينجيو إن تطوير أنظمة ذكاء اصطناعي لديها "وكالة" أو القدرة على التفكير واتخاذ القرارات بنفسها، قد يجعلها تتصرف بطرق غير متوقعة وخارجة عن سيطرة البشر.
وتابعبينجيو:"نحن نبني حاليًا الذكاء الاصطناعي العام ليكون على شكل وكلاء يفهمون العالم ويتصرفون وفقًا لذلك، لكن هذا قد يكون خطيرًا جدًا، لأننا عمليًا نخلق نوعًا جديدًا من الكائنات الذكية على هذا الكوكب، دون أن نعرف كيف ستتصرف تجاه احتياجاتنا."
خطر غريزة البقاء في الذكاء الاصطناعي
من المخاوف التي أثارها بينجيو أن هذه الأنظمة قد تطور "غريزة البقاء" مع ازدياد ذكائها، مما قد يؤدي إلى منافسة غير متوقعة بين البشر والذكاء الاصطناعي.
وأضاف:"هل نريد أن نكون في منافسة مع كيانات أذكى منا؟ هذا ليس رهانًا مطمئنًا، وعلينا فهم كيف يمكن أن تنشأ دوافع للحفاظ على الذات لدى الذكاء الاصطناعي."
حلول محتملة: الذكاء الاصطناعي كأداة وليس كعميل
أما ماكس تيجمارك، فيرى أن الحل يكمن في التركيز على "الذكاء الاصطناعي كأداة" بدلاً من بناء أنظمة تمتلك استقلالية كاملة.
وأوضح أن الذكاء الاصطناعي كأداة يمكن أن يكون نظامًا يستخدم لحل مشاكل محددة، مثل اكتشاف علاج للسرطان، أو أنظمة للسيارات ذاتية القيادة، مع وضع ضمانات صارمة تمنع فقدان السيطرة عليها.
وقال تيجمارك:"يمكننا الاستمتاع بكل الفوائد التي يقدمها الذكاء الاصطناعي، إذا أصررنا على فرض معايير أمان قبل أن يُسمح للشركات ببيع أنظمة ذكاء اصطناعي قوية. يجب عليهم إثبات أننا سنظل قادرين على التحكم بها."
دعوات لوضع ضوابط صارمة قبل فوات الأوان
في عام 2023، دعا معهد مستقبل الحياة إلى وقف تطوير أنظمة الذكاء الاصطناعي التي تنافس الذكاء البشري حتى يتم وضع معايير أمان واضحة، ورغم أن هذا لم يتحقق بعد، إلا أن تيجمارك يرى أن الحديث عن هذه القضية أصبح أكثر انتشارًا.
وأضاف:"الآن، هناك الكثير من النقاش حول هذا الموضوع، لكن علينا أن نرى إن كنا قادرين على اتخاذ إجراءات حقيقية لضبط الذكاء الاصطناعي العام قبل فوات الأوان."
متى سيصل الذكاء الاصطناعي العام؟
لا يزال هناك جدل واسع حول موعد وصول الذكاء الاصطناعي العام، حيث تختلف التقديرات وفقًا لتعريف المفهوم نفسه.
سام ألتمان، الرئيس التنفيذي لشركة OpenAI، صرح في ديسمبر الماضي أن شركته تعرف كيف تبني الذكاء الاصطناعي العام، متوقعًا أنه سيصل أسرع مما يظن معظم الناس، لكنه قلل من حجم تأثيره.
وقال ألتمان:"أتوقع أن نصل إلى الذكاء الاصطناعي العام في وقت أقرب مما يعتقده معظم الناس، لكنهفي الواقع سيكون أقل تأثيرًا مما يتصورونه."
ومع تسارع تطور تقنيات الذكاء الاصطناعي، يبقى السؤال: هل ستتمكن البشرية من السيطرة على أنظمة تفوق ذكاءها؟ وبينما تواصل الشركات الكبرى تطوير "عملاء الذكاء الاصطناعي"، يطالب العلماء بوضع ضوابط صارمة قبل فوات الأوان، لتجنب المخاطر المحتملة لهذه التقنية الثورية.
