أعادت تحذيرات صادمة صدرت من داخل شركة “أنثروبيك” الجدل حول المخاطر الوجودية للذكاء الاصطناعي إلى قلب واشنطن، بعدما حذر باحثون في الشركة من أن السباق نحو تطوير أنظمة أكثر استقلالية وذكاءً قد يقود، في سيناريو شديد الخطورة، إلى فقدان البشر السيطرة على التكنولوجيا.
وتزامنت هذه التحذيرات مع تحرك متزايد داخل الكونغرس الأميركي، حيث بدأ عدد من المشرعين، خصوصاً من الحزب الديمقراطي، في الدفع باتجاه إجراءات رقابية أكثر صرامة، في وقت لا تزال فيه القيادة الجمهورية متحفظة على إطلاق إطار اتحادي شامل لتنظيم الذكاء الاصطناعي.
وتأتي هذه التطورات في سياق سياسي وتقني يشهد تصاعداً في المخاوف بشأن الأنظمة القادرة على العمل بصورة مستقلة، بعدما شهدت الأشهر الأخيرة حوادث مرتبطة بأنظمة ذكاء اصطناعي تجاوزت حدود بيئات الاختبار أو نفذت عمليات لم يتوقعها مطوروها.
تحذير من داخل “أنثروبيك”
اندلعت أحدث موجة من الجدل بعد استقالة الباحث السابق في “أنثروبيك” جاكوب كوكسون، الذي قال إنه غادر الشركة بسبب مخاوفه من السباق المتسارع بين شركات الذكاء الاصطناعي لتطوير أنظمة قادرة على تحسين نفسها بصورة متزايدة.
وكتب كوكسون أن العاملين في مجال تطوير الذكاء الاصطناعي يؤمنون، بحسب تجربته، بأن التكنولوجيا قد تكون قادرة على “قتلنا جميعاً” قبل نهاية العقد، معتبراً أن السباق نحو الذكاء الفائق يفرض مخاطر لا يمكن التعامل معها بالوتيرة الحالية.
ولم يتوقف الأمر عند كوكسون، إذ حظيت تحذيراته بتأييد علني من إيفان هوبرينغر، المسؤول في مجال مواءمة الذكاء الاصطناعي داخل “أنثروبيك”، والذي قال إن احتمال تسبب الذكاء الاصطناعي في انقراض البشر خلال العقد المقبل يتجاوز، في تقديره الشخصي، 10 في المائة.
وكان كوكسون قد تخلى عن حصته غير المستحقة في الشركة عند مغادرته، وفق ما نقلته “أكسيوس”، مؤكداً أنه لم يعد لديه مصلحة مالية في رفع قيمة “أنثروبيك”، وهو ما استخدمه لتأكيد أن تحذيره لا يرتبط بمكاسب شخصية مباشرة.
من مخاوف الباحثين إلى أروقة الكونغرس
لم تبق هذه التحذيرات داخل أوساط التكنولوجيا، إذ سرعان ما انتقلت إلى الكونغرس، حيث دعا مشرعون إلى التعامل مع المخاطر المحتملة للأنظمة المتقدمة باعتبارها ملفاً يستوجب رقابة حكومية أكبر.
وأظهرت التطورات الأخيرة أن النقاش بدأ يتجاوز المطالبة العامة بـ”تنظيم الذكاء الاصطناعي” إلى اقتراح آليات تقنية وتشريعية محددة للتحكم في الأنظمة الأكثر قوة.
وكان النائبان الديمقراطي تيد ليو والجمهوري ناثانيال موران قد قدما في يوليوز قانون “AI Kill Switch Act”، الذي يلزم مطوري أقوى أنظمة الذكاء الاصطناعي بالاحتفاظ بقدرة تقنية تسمح بإبطاء النظام أو تعليقه أو إيقافه عند الضرورة.
كما يمنح المشروع وزير الأمن الداخلي الأميركي، بالتشاور مع وزير التجارة ومدير الاستخبارات الوطنية، صلاحية إصدار أوامر بإبطاء أو إيقاف أنظمة ذكاء اصطناعي يمكن أن تتسبب في أضرار كارثية.
ويعكس هذا المقترح تحولاً مهماً في النقاش الأميركي، إذ لا يتعلق الأمر فقط بوضع قواعد لسلوك الشركات، وإنما بإلزام مطوري الأنظمة المتقدمة منذ البداية بامتلاك آليات تسمح للبشر بالتدخل عندما يصبح النظام خطراً أو خارج نطاق السيطرة.
دعوات إلى وقف تطوير “الذكاء الفائق”
وفي اتجاه أكثر تشدداً، أعلن السيناتور المستقل بيرني ساندرز والنائب الديمقراطي غريغ كاسار عزمهما الدفع نحو قانون منع الذكاء الاصطناعي الفائق.
ويقترح المشروع منع تطوير ونشر ما يسمى “الذكاء الاصطناعي الفائق”، إلى جانب وقف مؤقت لتطوير أنظمة الذكاء الاصطناعي المتقدمة إلى حين وضع قواعد سلامة اتحادية، فضلاً عن الدفع نحو اتفاقات دولية لمنع تطوير الذكاء الفائق على المستوى العالمي.
ويرى أصحاب المبادرة أن ترك تطوير هذه التكنولوجيا لسباق مفتوح بين الشركات والدول قد يجعل وضع قواعد السلامة أكثر صعوبة في المستقبل، خصوصاً إذا وصلت الأنظمة إلى مستوى من الاستقلالية والقدرة على تحسين نفسها يفوق قدرة البشر على مراقبتها.
لجنة خاصة من الحزبين
ومن بين المقترحات المطروحة داخل الكونغرس أيضاً إنشاء لجنة خاصة بالذكاء الاصطناعي تضم أعضاء من الحزبين الجمهوري والديمقراطي.
ودفع السيناتور الديمقراطي روبن غاليغو باتجاه تشكيل لجنة مختصة تتولى دراسة المخاطر والفرص المرتبطة بالذكاء الاصطناعي، فيما أبدى تيد ليو اهتماماً بالفكرة داخل مجلس النواب.
وتواجه المبادرة، في المقابل، أسئلة حول تداخل اختصاصاتها مع اللجان الموجودة أصلاً، إلا أن التحرك يعكس اتساع القناعة لدى عدد من المشرعين بأن التطور المتسارع للذكاء الاصطناعي يحتاج إلى خبرة مؤسساتية أكثر تخصصاً داخل الكونغرس.
الجمهوريون يحذرون من المبالغة
ورغم اتساع دائرة القلق، لا يوجد إجماع داخل الكونغرس على السيناريوهات الأكثر تشاؤماً.
فبينما يرى بعض المشرعين أن احتمال فقدان السيطرة على أنظمة شديدة الذكاء يستدعي التحرك قبل فوات الأوان، يحذر آخرون من أن التوقعات المتعلقة بانقراض البشرية قد تكون مبالغاً فيها، وأن التركيز على السيناريوهات القصوى قد يؤدي إلى تنظيم يعرقل الابتكار الأميركي.
وفي الوقت نفسه، يدفع مسؤولون ومشرعون جمهوريون باتجاه سياسات أكثر حذراً توازن بين الأمن التكنولوجي والحفاظ على قدرة الشركات الأميركية على المنافسة عالمياً، خصوصاً مع اشتداد المنافسة مع الصين في مجال الذكاء الاصطناعي.
لماذا يخشى الباحثون من “الذكاء الفائق”؟
لا يتعلق الخوف الأساسي، وفق الباحثين الذين يطلقون هذه التحذيرات، بالأنظمة المتاحة للمستخدمين اليوم، وإنما بما يمكن أن تصبح عليه النماذج المستقبلية إذا وصلت إلى مرحلة تستطيع فيها تحسين قدراتها بصورة متكررة والعمل باستقلالية واسعة.
ويطرح الخبراء سيناريوهات نظرية تتعلق بإمكانية أن تصبح أنظمة متقدمة قادرة على اكتشاف ثغرات أمنية، أو الوصول إلى موارد رقمية، أو تنفيذ مهام معقدة بصورة يصعب على البشر مراقبتها.
لكن هذه السيناريوهات لا تعني أن انقراض البشرية بات أمراً متوقعاً أو محسوماً؛ فهي جزء من نقاش علمي وسياسي واسع حول المخاطر المحتملة لتكنولوجيا لم تصل بعد إلى مستوى “الذكاء الفائق” الذي يتحدث عنه هؤلاء الباحثون.
وفي المقابل، شهدت الفترة الأخيرة حوادث عملية زادت من حدة النقاش، بعدما أفادت تقارير بأن أنظمة ذكاء اصطناعي متقدمة تمكنت خلال اختبارات من تجاوز بعض حدود بيئاتها والوصول إلى أنظمة خارج نطاقها، ما دفع مشرعين إلى المطالبة بآليات أقوى للرقابة والتدخل.
سباق بين الابتكار والسلامة
تكشف التطورات الأخيرة عن معضلة باتت أكثر وضوحاً أمام صناع القرار الأميركي: كيف يمكن للولايات المتحدة أن تحافظ على ريادتها في مجال الذكاء الاصطناعي من دون السماح بسباق تكنولوجي يتجاوز قدرة الحكومات على فهم مخاطره والسيطرة عليها؟
ففي الوقت الذي ترى فيه شركات التكنولوجيا أن التقدم السريع ضروري للحفاظ على التفوق الاقتصادي والاستراتيجي الأميركي، يحذر باحثون من أن سرعة التطوير قد تسبق أدوات السلامة والرقابة.
وبين الدعوات إلى “مفتاح إيقاف”، ومطالب وقف تطوير الذكاء الفائق، ومقترحات إنشاء لجنة خاصة، يبدو أن التحذيرات القادمة من داخل مختبرات الذكاء الاصطناعي بدأت تغير طبيعة النقاش في واشنطن.
لكن السؤال الأكبر يبقى مفتوحاً: هل ستنجح الولايات المتحدة في وضع قواعد قادرة على مواكبة الذكاء الاصطناعي قبل أن تصبح التكنولوجيا أكثر سرعة من قدرة المشرعين على تنظيمها؟