مقابلة الجزيرة نت مع الفيلسوف نيك بوستروم.. "الذكاء الفائق: المسارات والمخاطر والإستراتيجيات"

يمتلك دماغ الإنسان بعض القدرات التي تفتقر إليها أدمغة الحيوانات الأخرى، ويقول العلماء إن الحيوانات الأخرى لديها عضلات أقوى أو مخالب أكثر حدّة ، ولكن لدينا أدمغة أكثر ذكاء.

وإذا تجاوزت أدمغة الآلة في يوم من الأيام أدمغة الإنسان في الذكاء العام، فإن هذا الذكاء الخارق الجديد يمكن أن يصبح قويا جدا، وقد يعني ذلك أن مصير جنسنا البشري ربما يعتمد على أفعال آلة الذكاء الفائق.

يعمل الفيلسوف نيك بوستروم في جامعة أكسفورد في مجال المخاطر الوجودية وارتباطاتها بالتقنية، وأثرها في الأخلاقيات البشرية في ظل جدل دائر بشأن مخاطر الذكاء الاصطناعي على الإنسانية.

وأسس بوستروم في هذا الصدد عام 2011 برنامج أكسفورد مارتن لتأثيرات تكنولوجيا المستقبل، كما يشغل منصب المدير المؤسس لمعهد مستقبل الإنسانية في جامعة أكسفورد. وفي ظل ما يقدمه من أرضية معرفية قوية تتفاعل مع أسئلة الذكاء الاصطناعي وتأثيرها في الإنسانية أدرجته المجلة الشهيرة "فورين بوليسي" (Foreign Policy) ضمن لائحة أفضل 100 مفكر عالمي في عامي 2009 و2015.

وقد نلمس أهمية ما قدمه نيك بوستروم في كونه أثر تأثيرا كبيرا في ظهور القلق العلمي والعالمي بشأن الذكاء الاصطناعي في العالم، إذ يرى الأكاديمي السويدي أن أدمغة الآلة إذا تفوقت على أدمغة الإنسان في الذكاء العام، فإن هذا الذكاء الخارق الجديد يمكن أن يحل محل البشر باعتباره الشكل المهيمن للحياة على الأرض.

وربما يتجلى بعض هذا الأثر في كتابه الذي أحدث نقاشا عالميا كبيرا والمعنون بـ"الذكاء الفائق: المسارات والمخاطر والإستراتيجيات" (Superintelligence: Paths, Dangers, Strategies). هذا الكتاب كان من أكثر الكتب مبيعا حسب "نيويورك تايمز" (New York Times)، وأوصى بقراءته مشاهير مثل إيلون ماسك وبيل غيتس وغيرهم، كما أن أهمية الكتاب تكمن في إثارته نقاشا كبيرا لدى النخب العالمية.

تميز طرح بوستروم برؤيته أن الذكاء الفائق -الذي يعرفه أنه "ذكاء يتجاوز بدرجة كبيرة الأداء المعرفي للإنسان في جميع مجالات الاهتمام"- هو واقع محتمل للتقدم الذي يشهده الذكاء الاصطناعي. ووفق هذا المنطلق فإن الذكاء الفائق يحمل بين طياته إمكانية تحوله إلى خطر كبير على البشر، ولكنه مع ذلك يرفض فكرة أن البشر عاجزون عن وقف آثار الذكاء الاصطناعي السلبية.

وما يشير إليه نيك بوستروم في كتابه هو الخشية من أن يتحول "مصير جنسنا البشري إلى الاعتماد على أفعال الذكاء الفائق"، كما حدث للغوريلا التي بات مصيرها مرتبطا بالإنسان وتصرفاته أكثر من ارتباطها بنفسها، وفي هذا الصدد يرى نيك بوستروم ضرورة التحكم في تطور التقنية وربطها بالقيم، وذلك لتجنيب البشرية إمكانية بلوغها مستوى الآلة التي تمتلك ذكاء فائقا مفرغا من القيم والأخلاق، فهذا سيجعل مصير الإنسان متجها إلى الهاوية والتهلكة، ولذلك فهو يقدم في كتابه "الذكاء الفائق: المسارات والمخاطر والإستراتيجيات "محاولة لفهم التحدي الذي يمثله احتمال تحقق الذكاء الفائق، وكيف يمكن للبشرية التفاعل مع تحققه".

الكتاب لا يسعى إلى التحقق من اقتراب تحقيق الإنسان اختراقا كبيرا في الذكاء الاصطناعي، رغم أنه يرى وجود احتمال كبير أن يحدث ذلك الاختراق العلمي في القرن الحالي، فرغم أن الفصلين الأوليين يناقشان المسارات المحتملة المرتبطة بتوقيت حدوث الاختراق العلمي في الذكاء الاصطناعي، فإن الجزء الأكبر من الكتاب يحوم حول الإمكانات التي يمكن أن تحدث بعد تحقق الذكاء الفائق؛ إذ يدرس بوستروم حركية انفجار الذكاء، وأشكال الذكاء الفائق وقواه، والخيارات الإستراتيجية المتاحة، ثم يناقش معضلة التحكم ويسأل عما يمكن فعله لتشكيل الظروف الأولية لتحقيق نتيجة مفيدة للبشرية.

وفي فصول الكتاب الأخيرة يسعى بوستروم إلى تقديم بعض الاقتراحات لما يجب القيام به لتجنب كارثة وجودية قد تقع على الإنسان، وفي ضوء ما ذُكر سابقا أجرت الجزيرة نت حوارا حصريا مع الفيلسوف نيك بوستروم لاستكشاف تصوره لآثار الذكاء الفائق في مجالات الإنسان ومستقبله، نترككم مع الحوار:

• قبل بلوغ الإنسان تحقيق الذكاء الاصطناعي العام، بدأت التكنولوجيا والذكاء الاصطناعي (الضعيف) بالفعل إحداث تغيير في الحياة المعاصرة، سواء أكان اجتماعيا أم سياسيا. وفي هذا الصدد، يعتقد يوفال نوح حراري أن الذكاء الاصطناعي هو نظام مركزي يشبه في ذلك أنظمة الاستبداد أكثر من أنظمة الديمقراطية، فهل هذا يعني أن الذكاء الفائق سيكون أداة للاستبداد؟

إنه سؤال مثير للاهتمام. أعتقد أنه قد تكون هناك طريقة ما يمكن من خلالها أن يكون ما قلته صحيحا، وتجدر الإشارة إلى أن أنظمة الذكاء الاصطناعي المعاصرة تستفيد من مجموعات البيانات الضخمة وكمية كبيرة من الحوسبة، فيمكن لبعض الحكومات أن تكون في وضع جيد في هذا الصدد، على الرغم من أن ما يتبوأ الصدارة في عملية توظيف التقنية هو عدد قليل من شركات التكنولوجيا الكبيرة في الوقت الحالي.

وسيمكن الذكاء الاصطناعي أيضا من ظهور أشكال أكثر كفاءة من المراقبة مما كان محققا في الماضي سواء في الفضاء المادي أو عبر الكاميرات التي تغزو كل مكان بغية التعرف على الوجوه، وكذا في الفضاء الإلكتروني مثل تحليل المشاعر على الشبكات الاجتماعية والتحليل الآلي للمحادثات الهاتفية أو المعاملات المالية. وهذا سيجعل من السهل على النظام الاستبدادي ممارسة سيطرة دقيقة على سكانه.

وقد يعتقد المرء أيضا أن القوى التي أطلقتها التطورات في الذكاء الاصطناعي ستكون كبيرة جدا، وسيكون هناك دور متزايد للحكومات في الإشراف على هذا القطاع، سواء لتنظيم أنشطة الشركات ذات القوة الاحتكارية أو لأسباب جيوسياسية أو أمنية.

ومع ذلك، من الممكن أيضا تخيل وسائل يمكن لتقنية الذكاء الاصطناعي بها تعزيز الأنظمة الديمقراطية، على سبيل المثال يمكن السماح للأفراد بالحصول على معلومات أفضل من أجل اتخاذ قرارهم.

•  هل بسبب الذكاء الاصطناعي العام سنشهد دولة رقمية تهيمن فيها التكنولوجيا على الإنسان أم سنشهد دولة يهيمن فيها الإنسان على الإنسان من خلال التقنية؟

في الحقيقة كلا الاحتمالين ممكن، وهنا أود أن أضيف احتمالا ثالثا يبعث على القلق كذلك، إلى جانب الذكاء الاصطناعي الذي يؤذي البشرية إيذاء مباشرا، أو الذكاء الاصطناعي الذي يستخدمه الإنسان لإلحاق الضرر بأطياف معينة من البشرية.

هناك أمر ثالث مهم كذلك؛ إذ إن علينا أيضا أن نهتم بكيفية تعاملنا مع الذكاء الاصطناعي، في حين نطور عقولا رقمية متطورة على نحو متزايد، قد يبلغ بعضها درجات مختلفة من الرتبة الأخلاقية ربما تقارب في البداية الحيوانات البسيطة، ثم تدريجيا تكبر أكثر فأكثر. وهو ما قد يجعل هذه العقول واعية، وقد تكون لديها اهتمامات مختلفة يجب أن نسعى لاحترامها، بخاصة إذا كنت تعتقد أن العقول الرقمية ستصبح يوما ما أقوى من العقول البشرية، فقد يكون من الحكمة وكذلك من الحس الأخلاقي أن نحاول أن نكون لطفاء مع التقنية.

ولم تتضح بعد كيفية القيام بذلك عمليا بنحو منضبط (بحكم أنه أمر يتطلب مزيدا من التفكير والبحث) ولكن يسعدني أن أرى على الأقل وجود بعض الخطوات المهمة الصغيرة التي تتخذ في هذا الاتجاه.

• قلت إن تضمين الذكاء الخارق من شأنه أن يخلف خطرا وجوديا كبيرا لكنه سيقلل العديد من المخاطر الوجودية الأخرى، فيمكن للذكاء الفائق أن ينشر تدابير مضادة ضد معظم هذه المخاطر، ما قيمة هذا في ضوء أطروحتك القائلة إن الذكاء الفائق قد يدمر البشرية؟

بوجه عام، أعتقد أن علينا تطويره، ولكن يجب أن نعمل بجد للقيام بذلك بأقصى درجة من الحذر والتعاون العالمي بشكل يوازي سعينا نحو تحقيقه. وهو ما يجعل هذا المسار اختبارا حقيقيا للبشرية سيظهر مدى براعة تعاملنا مع هذا التحول. لا أعتقد أننا مستعدون جيدا لهذا الاختبار، لكنه قادم على أي حال ويجب أن نبذل قصارى جهدنا، من أجل أن تتخطى البشرية هذه المخاطر الوجودية.

• قال لاعب الشطرنج الشهير غاري كاسباروف في كتابه "التفكير العميق" إن هزيمته أمام ديب بلو (لاعب آلي عبارة عن حاسوب فائق) هو انتصار عظيم للتكنولوجيا والذكاء الاصطناعي، ولكن في الوقت نفسه أتاح هذا التطور الذي شهدته التقنية عموما للبشر فرصة لتنمية قدراتهم العقلية وتجاوز الحدود المعتادة لهم، هل هذا صحيح؟

هناك تقدم كبير في أحدث تقنيات الذكاء الاصطناعي، وهو ما يتجسد لنا في التكنولوجيا الأساسية المعتمدة لدى غوغل في مجال الألعاب، وهو ما يتيح لنا بالتأكيد التعلم من أنظمة الذكاء الاصطناعي. لقد تعلم الأساتذة الكبار (Grandmaster) في الشطرنج وكذا في لعبة "غو" كثيرا سواء من "ديب بلو" (Deep Blue) وكذا "ألفا غو" (AlphaGo)؛ إذ أصبح هؤلاء اللاعبون أفضل بشكل ملحوظ نتيجة لاحتكاكهم بالتقنية. ولكن رغم هذا التطور لم يتجاوز البشر جودة أفضل أنظمة الشطرنج "ألفا زيرو" (AlphaZero) أو "ألفا غو" الحالية التي تعمل بالذكاء الاصطناعي.

• هل الذكاء الاصطناعي العام مؤهل لامتلاك العاطفة؟ وإذا امتلك الذكاء الاصطناعي العام حسا عاطفيا، فهل هذا سيجعل البشرية تواجه مخاطر وجودية جديدة؟

لا أعتقد أن هذا ضروري أو كاف لكي يجعل من الذكاء الاصطناعي العام خطرا وجوديا، كما لا أعتقد أنه سيكون الإجراء الرئيس المرجو تحقيقه. ومع ذلك، فإن امتلاك فهم متطور للعواطف البشرية يمكن أن يكون مفيدا في العديد من التطبيقات مثل تقديم إعلانات أكثر إقناعا، أو في تطبيقات المساعدين الشخصيين، أو في مجال التعليم، أو إحداث ألعاب حاسوب أكثر جاذبية، أو توفير أدوات قادرة على استنتاج رأي الشخص على أساس سلوكه عبر الإنترنت.

• قلت "قبل احتمال حدوث انفجار معلوماتي، فالبشر مثل الأطفال الصغار الذين يلعبون بقنبلة"، ثم أضفت أنه "ربما لا يزال أمامنا عقود عدة في المستقبل لحدوث الانفجار المعلوماتي (..) فالتحدي الذي نواجهه هو التمسك بإنسانيتنا"، كيف يمكننا الحفاظ على إنسانيتنا في وقت جعلتنا فيه التكنولوجيا أقل إنسانية حتى قبل تحقيق الذكاء الاصطناعي العام؟

في الحقيقة هناك ميل إلى التركيز على الجوانب السلبية، ولكن خلال العقدين الماضيين، ساعدت التكنولوجيا على انتشال أكثر من مليار شخص من براثن الفقر المدقع ومنحت عدة مليارات من الأشخاص وصولا غير مسبوق إلى المعلومات والترفيه والتواصل. توفر هذه التطورات لكثير من الناس فرصة لتحقيق إنسانيتهم بشكل كامل أكثر مما كان لهم أن يفعلوه لو كانوا يعيشون حياة محفوفة بالمخاطر كحياة المزارعين.

أعتقد أننا بحاجة إلى تنمية مزايا معينة لمساعدتنا على التعامل الأفضل مع كل هذه التكنولوجيا الرقمية، مثل الاهتمام بما هو مرتبط بالكرامة الشخصية. ويبدو أنه من المهين لأنفسنا أن نقضي هذه الحياة الثمينة التي وهبناها في الصراخ على الناس في مواقع التواصل الاجتماعي، أو الانضمام إلى حملة من المضايقات عبر الإنترنت، أو مشاهدة كميات هائلة من الإعلانات.

على المرء أن يعتاد طرح السؤال الآتي على نفسه وهو في خضم استعماله لتطبيق أو موقع ما باستمرار: هل هذا التطبيق أو الموقع يجعل حياتي أفضل؟ هل يجعلني شخصا أفضل؟ إذا كانت الإجابة لا، فعلى المرء أن يتجنبه ويبتعد عنه ورأسه مرفوع.