«قد يقتلنا جميعًا».. باحث بارز في Anthropic يفجر تحذيرًا صادمًا بشأن مستقبل الذكاء الاصطناعي

تحذير صادم من داخل واحدة من أكبر شركات الذكاء الاصطناعي في العالم أشعل مواقع التواصل الاجتماعي، بعدما قال باحث بارز في شركة Anthropic إنه يعتقد أن هناك احتمالًا يتجاوز 10% لأن يتسبب الذكاء الاصطناعي في القضاء على البشرية خلال العقد المقبل.

التصريح جاء من Evan Hubinger ، رئيس أبحاث المواءمة Alignment Science Lead في Anthropic، الشركة المطورة لنماذج Claude، ردًا على منشور لباحث استقال من الشركة محذرًا من السباق المتسارع نحو تطوير أنظمة ذكاء اصطناعي فائقة القوة.

Evan Hubinge

وكتب Hubinger على منصة X:

“We really do earnestly believe AI could kill all humans!”

وأضاف أنه يقدّر شخصيًا احتمال حدوث ذلك بأكثر من 10% خلال العقد المقبل .

وسرعان ما انتشرت التصريحات على نطاق واسع وحصدت المنشورات المرتبطة بها عشرات الملايين من المشاهدات، لتعيد فتح واحد من أكثر الأسئلة إثارة للجدل في عالم التكنولوجيا: هل يمكن للذكاء الاصطناعي الذي نبنيه اليوم أن يتحول يومًا إلى تهديد وجودي للبشر؟

باحث يستقيل ويحذر: «إنهم يقامرون بحياتنا»

بدأ الجدل بعدما أعلن الباحث Jacob Coxon استقالته من Anthropic، بعد أن عمل خلال السنوات الماضية في كل من Anthropic وOpenAI.

وفي منشور على X، اتهم Coxon الشركتين بالدخول في سباق لتطوير ما وصفه بـ الذكاء الفائق القادر على تحسين نفسه ، معتبرًا أن مستوى المخاطر المصاحبة لهذا السباق لم يعد مقبولًا.

وقال إن الشركات تتجه مباشرة نحو تطوير Self-Improving Superintelligence ، مضيفًا أنها بذلك «تقامر بحياتنا».

لكن العبارة التي أثارت أكبر قدر من الجدل جاءت عندما قال إن العاملين على تطوير الذكاء الاصطناعي أنفسهم يعتقدون بجدية أن هذه التكنولوجيا قد تتسبب في وفاة البشر جميعًا قبل نهاية العقد الحالي.

وبحسب Coxon، فإن هذه المخاوف ليست مجرد وسيلة تسويقية لإثارة الاهتمام بالذكاء الاصطناعي، بل يتم تداولها بالفعل بين بعض الباحثين والمسؤولين داخل الشركات المطورة للتكنولوجيا.

ثم جاء الرد الأكثر إثارة

كان من الممكن اعتبار تصريحات Coxon مجرد موقف شخصي لباحث قرر مغادرة الشركة.

لكن المفاجأة جاءت عندما رد عليه Evan Hubinger، الذي لا يزال يعمل في Anthropic ويقود أبحاثًا مرتبطة بكيفية إبقاء أنظمة الذكاء الاصطناعي المستقبلية متوافقة مع أهداف البشر.

وقال Hubinger إن Coxon «محق»، مضيفًا أن المخاوف من إمكانية تسبب الذكاء الاصطناعي في القضاء على البشر حقيقية.

ووضع رقمًا مباشرًا لتقديره الشخصي للخطر: أكثر من 10% خلال السنوات العشر المقبلة .

كما أقر بأن Anthropic تحاول التعامل مع المشكلة، لكنه قال إن الشركة لا تمتلك حتى الآن خطة مؤكدة لحل مشكلة مواءمة الذكاء الفائق ، ولا يرى أنها تسير بوضوح نحو حلها حتى الآن.

لكن كيف يمكن للذكاء الاصطناعي أن «يقتل البشر»؟

التحذير لا يعني أن نماذج مثل ChatGPT أو Claude الحالية ستقرر فجأة مهاجمة البشر.

المخاوف التي يتحدث عنها هؤلاء الباحثون مرتبطة بجيل مستقبلي وأكثر تطورًا من الأنظمة، يعرف باسم Artificial Superintelligence أو ASI ، أي ذكاء اصطناعي يتفوق على البشر في مجموعة واسعة من القدرات العقلية.

ويزداد القلق بصورة خاصة حول مفهوم Recursive Self-Improvement ، أو «التحسين الذاتي المتكرر».

في هذا السيناريو، يصبح نظام الذكاء الاصطناعي قادرًا على المساهمة في تطوير نسخة أقوى من نفسه، ثم تستخدم النسخة الجديدة قدراتها لتطوير نسخة أكثر قوة، ما قد يؤدي نظريًا إلى تسارع كبير في قدراته خلال فترة قصيرة.

ويحذر بعض الباحثين من أنه إذا امتلك نظام بهذه القوة أهدافًا لا تتوافق بالكامل مع مصالح البشر، فقد يصبح التحكم فيه شديد الصعوبة.

من الاختراقات الإلكترونية إلى الأسلحة البيولوجية

ولا تقتصر المخاوف المطروحة على سيناريوهات تشبه أفلام الخيال العلمي.

يناقش الباحثون مجموعة من المخاطر المحتملة، من بينها استخدام نماذج متقدمة لتنفيذ هجمات إلكترونية أكثر تعقيدًا، أو المساعدة في تطوير أسلحة بيولوجية، أو التلاعب بالبنية التحتية والأنظمة الرقمية.

أما السيناريو الأكثر تطرفًا فيتعلق بظهور أنظمة مستقلة تفوق قدرات البشر وتصبح قادرة على الحصول على الموارد والنفوذ دون أن يتمكن البشر من التحكم الكامل في سلوكها.

لكن هذه السيناريوهات لا تزال مخاطر نظرية ومستقبلية محل نقاش واسع بين العلماء ، وليست دليلًا على أن الذكاء الاصطناعي الحالي في طريقه بالفعل إلى القضاء على البشرية.

هل فعلًا هناك احتمال 10% لانقراض البشر؟

رقم 10% الذي انتشر عالميًا لا يمثل نتيجة دراسة علمية تثبت أن هناك احتمالًا رياضيًا محددًا لانقراض البشرية.

إنه تقدير شخصي لـHubinger لمستوى المخاطر التي قد تصاحب تطوير أنظمة ذكاء فائق خلال العقد المقبل.

وتوجد اختلافات كبيرة بين خبراء الذكاء الاصطناعي بشأن حجم هذه المخاطر ومدى قربها.

فبينما يرى بعض الباحثين أن أنظمة الذكاء الفائق قد تمثل خطرًا وجوديًا حقيقيًا، يرى آخرون أن السيناريوهات الأكثر تطرفًا تعتمد على افتراضات لم تتحقق بعد، وأن التركيز يجب أن يشمل كذلك المخاطر الموجودة بالفعل، مثل التضليل والاحتيال الإلكتروني وفقدان الوظائف وسوء استخدام التكنولوجيا.

مفارقة تثير سؤالًا أكبر

أكثر ما جعل التصريحات مثيرة للجدل ليس مجرد التحذير نفسه، بل الجهة التي صدر عنها.

Hubinger يعمل داخل واحدة من الشركات التي تقود سباق تطوير أقوى نماذج الذكاء الاصطناعي في العالم.

أما Coxon فقد عمل سابقًا لدى كل من OpenAI وAnthropic، وهما من أبرز المؤسسات التي تعمل على تطوير نماذج ذكاء اصطناعي متقدمة.

وهنا تظهر المفارقة التي أشعلت النقاش على الإنترنت:

إذا كان بعض الأشخاص الذين يبنون أقوى أنظمة الذكاء الاصطناعي يعتقدون بأن التكنولوجيا قد تشكل خطرًا وجوديًا على البشرية، فلماذا يستمر السباق لتطوير أنظمة أكثر قوة؟

Anthropic تقول من جانبها إنها تستثمر بشكل كبير في أبحاث السلامة والمواءمة، وتنشر تقارير دورية عن مخاطر نماذجها وإجراءات الحماية المرتبطة بها.

لكن تصريحات باحثيها تكشف أن قضية السيطرة على أنظمة الذكاء الاصطناعي فائقة القدرات لا تزال بعيدة عن الحل النهائي.

سباق الذكاء الاصطناعي يدخل مرحلة مختلفة

القصة لا تعني أن الذكاء الاصطناعي «سيقتل البشر خلال 10 سنوات»، كما قد توحي بعض العناوين المنتشرة.

لكنها تكشف حجم القلق الموجود داخل الصناعة نفسها بشأن السرعة التي تتطور بها التكنولوجيا مقارنة بقدرتنا على فهمها والسيطرة عليها.

وبين وعود الذكاء الاصطناعي بإحداث ثورات في الطب والعلوم والاقتصاد، والتحذيرات من أن أنظمة فائقة الذكاء قد تتجاوز قدرة البشر على التحكم بها، يبدو أن السؤال لم يعد فقط:

إلى أي مدى يمكن أن يصبح الذكاء الاصطناعي قويًا؟

بل أيضًا:

هل سنعرف كيف نسيطر عليه عندما يصل إلى هذه القوة؟