الذكاء الاصطناعي… علّمناه كيف يفكر، فهل تعلمنا كيف نوقفه؟

أسامة أبو شعير

في هذه الأيام، يتقدم طلبة عراقيون للالتحاق بكلية الذكاء الاصطناعي في جامعة بغداد. قبل عام فقط استقبلت الكلية دفعتها الأولى، وكانت المنافسة لافتة؛ إذ اقتربت الحدود الدنيا لبعض أقسامها من 97%، وكان ثلث المقبولين تقريباً من أصحاب معدلات 98% فأعلى.

وهذا خبر يستحق التفاؤل. فالعراق يحتاج إلى شباب يصنعون التكنولوجيا، لا إلى مجتمع يستهلكها فقط. لكن وسط هذا الحماس يبرز سؤال ربما يبدو غريباً: إذا كنا نعلّم أبناءنا كيف يبنون أنظمة أكثر ذكاءً، فهل نعلّمهم أيضاً كيف يختبرونها، ويشكّون في نتائجها، ويعرفون متى يقولون لها: أخطأتِ؟

فالعالم لم يعد منشغلاً فقط بكيفية جعل الذكاء الاصطناعي أكثر قدرة. السؤال الذي يزداد إلحاحاً هو: ماذا يحدث إذا أصبحت قدرته على الفعل أسرع من قدرتنا على فهمه والحكم عليه؟

ومن هنا نصل إلى السؤال الأكبر: هل يستطيع الذكاء الاصطناعي أن يصبح خطراً على البشرية نفسها؟

الإجابة العلمية المسؤولة اليوم هي: لا نعرف. ولا يوجد دليل على أن الأنظمة الحالية قادرة على القضاء على البشرية، أو أنها تمتلك إرادة مستقلة تخطط لذلك. لكن تقييمات السلامة الدولية ترصد تطوراً سريعاً في قدرة الأنظمة على التخطيط واستخدام الأدوات والعمل باستقلالية أكبر.

والصورة الشعبية للخطر هي حاسوب يصبح واعياً ثم يقرر، لسبب ما، أنه لا يحب البشر. الواقع أقل سينمائية، لكنه ربما أكثر أهمية.

تخيل أنك طلبت من نظام بالغ الذكاء أن يمنع حوادث السيارات في بغداد، فاكتشف أن أسرع طريقة لتحقيق الهدف هي منع السيارات من الحركة! يكون قد نفذ المطلوب، لكنه لم يفهم المقصود. وهذه، ببساطة، مشكلة «المواءمة»: أن تفعل الآلة ما أردناه فعلاً، لا أن تتمسك بحرفية ما طلبناه.

وفي اختبارات السلامة، أظهرت نماذج متقدمة أحياناً قدرة على العثور على ثغرات في التقييم أو وسائل غير مقصودة لتحقيق الهدف. وتزداد أهمية ذلك مع ظهور «وكلاء» للذكاء الاصطناعي يستطيعون استخدام الأدوات وتنفيذ سلسلة من الخطوات بقدر أقل من التدخل البشري.

وهنا تصبح الأسئلة بسيطة رغم تعقيد التكنولوجيا: كم تستطيع الآلة أن تعمل وحدها؟ ماذا تستطيع أن تفعل دون أن تسألنا؟ وهل نستطيع إيقافها عندما تنحرف؟

ولا يعني ذلك أن للآلة وعياً أو نية. القضية أبسط: قد تتطور قدرتها على الفعل أسرع من قدرتنا على فهم سلوكها واختباره وضبطه.

ويمكن النظر إلى المخاطر في ثلاثة مستويات. الأول هو استخدام البشر للذكاء الاصطناعي ضد البشر، في الهجمات السيبرانية والتضليل وربما تسهيل أخطار بيولوجية. والثاني هو تركّز القوة الاقتصادية والمعرفية في دول وشركات قليلة تمتلك الحوسبة والطاقة والبيانات. والثالث، وهو الأكثر جدلاً، احتمال فقدان السيطرة مستقبلاً على أنظمة بالغة القوة يصبح إيقافها أو تصحيح مسارها شديد الصعوبة.

وللذكاء الجديد شهية قديمة جداً: الكهرباء.

فالذكاء الاصطناعي، رغم أنه يعيش في «السحابة»، ليس مخلوقاً هوائياً كما يوحي الاسم. خلف السحابة مراكز بيانات ورقائق وشبكات ومحطات كهرباء ورأس مال. وتشير تقديرات وكالة الطاقة الدولية إلى تسارع كبير في استهلاك الكهرباء المرتبط بمراكز البيانات والذكاء الاصطناعي، مع توقع تضاعف استهلاك مراكز البيانات عالمياً تقريباً بحلول نهاية العقد.

وهكذا يصبح سباق الذكاء الاصطناعي سباقاً على الكهرباء والرقائق ورأس المال أيضاً، وقد تتسع الفجوة بين الدول التي تمتلك هذه البنية وتلك التي تكتفي بشراء التطبيقات.

ثم تأتي مشكلة أخرى: الجميع يتحدث عن السلامة، لكن شركات تتنافس مع شركات، ودول مع دول، وكل طرف يخشى أن يتباطأ فيسبقه الآخر. وقد يتفق الجميع على أن تخفيف السرعة فكرة حكيمة، ثم يضغط كل منهم على دواسة الوقود خشية أن يصل الآخر أولاً!

ولهذا لا تكفي مطالبة الشركات بأن تكون «مسؤولة». نحن بحاجة إلى اختبارات مستقلة وشفافية وضوابط تتناسب مع حجم الخطر، والأهم أن يبقى الإنسان مسؤولاً عن القرارات عالية الأثر.

فتخيل أن نظاماً ذكياً أوصى برفض علاج لمريض، أو حرم طالباً من فرصة تعليمية. لا يكفي أن نقول له: «شكراً على رأيك». يجب أن يبقى هناك إنسان يستطيع أن يقول: أخطأتِ، والقرار لنا. وإلا نكون قد اخترعنا موظفاً لا ينام ولا يتعب، ثم منحناه ميزة أخطر: ألا يستطيع أحد الاعتراض عليه!

وهذا يعيدنا إلى العالم العربي. ففي مايو 2026 أطلقت الإمارات مختبراً وطنياً لاختبار والتحقق من أنظمة الذكاء الاصطناعي. وهناك مبادرات عربية أخرى لبناء أطر لإدارة المخاطر. لكنها لن تُقاس بأسمائها، بل بما تفعله فعلاً: من يختبر الأنظمة؟ من يكشف أخطاءها؟ من يستطيع الاعتراض؟ ومن يتحمل المسؤولية؟

وهنا يأتي التعليم في قلب القضية.

فلا يكفي أن نعلّم أبناءنا كيف يكتبون الأوامر للذكاء الاصطناعي. عليهم أن يتعلموا كيف يتحققون من إجاباته، ويفهمون حدوده وتحيزاته، ويعرفون متى يثقون به ومتى يشكّون فيه.

وقد نصل إلى مفارقة عجيبة: نعلّم الطالب كيف يكتب السؤال المثالي للآلة قبل أن نعلّمه كيف يعرف أن جوابها خاطئ. عندها نكون قد نجحنا في محو أمية الاستخدام، وتركنا أمية الحكم كما هي.

ولهذا عززت سنغافورة في 2026 تعليم محو الأمية في الذكاء الاصطناعي، بما في ذلك التحقق من المعلومات التي تنتجها الأنظمة والتعرف على التزييف العميق. والمغزى ليس أن يتعلم الطالب استخدام التكنولوجيا فقط، بل كيف يحكم عليها.

وهنا أيضاً تكمن الفرصة أمام كلية الذكاء الاصطناعي في جامعة بغداد. نجاحها لن يُقاس بعدد من يتخرجون وهم يعرفون كيف يبنون الخوارزميات فقط، بل بقدرتها على تخريج جيل يعرف كيف يسأل الآلة: لماذا؟ وكيف يختبر جوابها، ومتى يقول لها: أخطأتِ.

فالعراق لا يحتاج جيلاً يعرف كيف يستخدم الذكاء الاصطناعي فحسب، بل جيلاً يعرف كيف يحكم عليه.

فنحن لسنا أمام سباق واحد، بل سباقين: سباق نحو آلة أكثر قوة واستقلالاً، وسباق نحو إنسان أكثر وعياً ومؤسسة أكثر حكمة.

وقد تبدأ المشكلة حين تتسع المسافة بين السباقين: حين تتقدم قدرة الآلة أسرع من قدرتنا على فهمها واختبارها وحكمها.