تعمل امرأة في شركة أنثروبيك Anthropic وهي، نوعًا ما، حارسة ضمير الذكاء الاصطناعي كلودClaude . تترأّس فيلسوفة حائزة على دكتوراه في الأخلاقيات من جامعة نيويورك New York University تدعى أماندا أسكل الفريق الذي تسميه الشركة فريق مواءمة الشخصية. وقد وصفتها المجلة الثقافية الأميركية ذا نيويوركر The New Yorkerبأنّها تشرف على «روح كلود». وفي شهر كانون الثاني/ يناير من العام ٢٠٢٦، اعتُبرت الكاتبة الرئيسة لوثيقة «دسترة كلود» التي صُممت من أجل أن تجعل أحد أقوى أنظمة الذكاء الاصطناعي في العالم يتصرف بصدق وحرص وجدية أخلاقية.
تخطر على بالي هذه المرأة كثيرًا في الآونة الأخيرة. ولا يعود ذلك فقط إلى أنّني أستخدم كلود كما يقدره الإعلام بعدد مستخدمين يتراوح بين ٢٠ و٣٠ مليون مستخدم بل لأنّني محامية لبنانية ولأنّني أمضيت العامين الماضيين أراقب ما يحصل حين يبني أشخاص أنظمة الذكاء الاصطناعي في غياب أشخاصٍ كأماندا أسكل.
كل من قال لا
في نيسان/ أبريل من العام ٢٠٢٦، أعلن مقر وزارة الدفاع الأميركية البنتاغون أنّه قد أبرم اتفاقات سرية لنشر الذكاء الاصطناعي مع ٨ شركات تكنولوجية كبرى سبيس إكس SpaceX وأوبن إيه آي OpenAI وغوغل Google وومايكروسوفتMicrosoft وإن فيديا Nvidia وإيه دبليو إس AWS وأوراكل Oracle وشركة أقل شهرة تُدعى ريفليكشن Reflection.
يضع الاتفاق هذا أنظمة الذكاء الاصطناعي مباشرة على شبكات عسكرية سرية. وبدا الإعلان لافتًا بما تضمّنه لكنه بدا استثنائيًا أكثر بما أغفله إذ غابت أنثروبيك Anthropic عن القائمة.
بحسب ما أفادت به وسائل الإعلام الأميركية منها CNN، لم يكن السبب أنّ أنثروبيك تفتقر إلى القدرة التقنية. بل كان السبب أنّ أنثروبيك أصرت على أن يُدرج البنتاغون ضوابط محددة وقيودًا واضحة حول مراقبة المدنيين وتطبيقات الأسلحة الذاتية التشغيل. في المقابل، يفضل البانتاغون استخدام اللغة التعاقدية من خلال استخدام عبارة «الغرض غير المقيّد». وفي أواخر شهر شباط/ فبراير، أعلن الرئيس الأميركي دونالد ترامب حظر استخدام أنثروبيك في العقود الدفاعية الأميركية سواء من جانب البنتاغون أو من جانب المتعاقدين العاملين مع وزارة الدفاع.
بمعنى آخر، عوقب المختبر الوحيد للذكاء الاصطناعي الذي رسم خطًا أخلاقيًا صارمًا لأنّه رسم ذلك الخط، في حين حصلت الشركات التي لم تطرح أسئلة مزعجة على الصفقة. وهكذا، يبدو الضمير عيبًا تنافسيًا في عالم الاقتصاد السياسي للذكاء الاصطناعي العسكري.
كيف يُعاد التفاوض على الروح؟
تستحق قصة انتقال أوبن إيه آي OpenAI إلى تلك الطاولة نفسها أن تُروى كاملة لأنّها تختصر المسار الأخلاقي لصناعة بأكملها في ثلاث أعوام فقط.
في العام ٢٠٢٣، حظرت سياسة استخدام أوبن إيه آي التطبيقات العسكرية وتطوير الأسلحة واستخدامات الحرب بصورة صريحة. كان الحظر واضحًا. ثم، كما وثّق لاحقًا موقع تك إنسايدر Tech Insider وهو قسم من موقع أخبار الأعمال بزنس إنسايدرBusiness Insider، بدأت اللغة تلين خلال العام ٢٠٢٤ وامتدادًا إلى العام ٢٠٢٥ وتكاثرت الاستثناءات. ومع حلول شباط/ فبراير ٢٠٢٦ وبعد رفض أنثروبيك، كانت الشركة قد وقّعت اتفاقها السري الخاص مع البنتاغون. وبذلك، أصبحت الشركة التي قالت يومًا إنّها لن تبني أدوات للحرب تبني اليوم وبموجب عقد أدوات مخصصة لاستخدام غير مقيّد في الحرب على شبكات سرية.
شهدت أوبن إيه آي تحولًا بنيويًا كبيرًا وضعها على مسار الربح وذلك من خلال تقويض ضوابطها الأخلاقية وإزالتها وإعادة التفاوض عليها.
تحول الغرض غير المقيّد في الواقع
أريد أن أكون دقيقة كي لا أبالغ في تصوير فضيلة أنثروبيك. فهذه الشركة العملاقة في تطوير النماذج اللغوية الكبيرة هي شركة خاصة تضم مستثمرين ومنطق تجاري خاص فيها. فلا يعني رفض عقد واحد مع البنتاغون التخلي عن الذكاء الاصطناعي العسكري بالكامل.
يتقدم عسكرة الذكاء الاصطناعي بالفعل في النزاعات والقارات. ففي كانون الثاني/ يناير من العام ٢٠٢٦، كشف مركز برينان استخدام البنتاغون للذكاء الاصطناعي بما في ذلك كلود من أنثروبيك في عمليته في فنزويلا التي أدت إلى اعتقال نيكولاس مادورو. وفي العراق وسوريا، نشر البنتاغون نظام مافن الذكيى Maven Smart System وهو منصة استهداف قائمة على الذكاء الاصطناعي بنتها شركة بالانتير Palantir لتحليل البيانات من أجل تحديد أهداف الضربات الجوية انطلاقًا من صور الأقمار الصناعية وتغذيات الطائرات المسيّرة وبيانات أجهزة الاستشعار. وكما أفاد مركز برينان للعدالة في آذار/ مارس من العام ٢٠٢٦، كانت خوارزميات مافن قادرة على تحديد دبابة بصورة صحيحة في الطقس الجيد بنسبة لا تتجاوز نحو ٦٠ في المئة لتنخفض النسبة إلى ٣٠ في المئة في الظروف الثلجية ومع ذلك كان القادة يوافقون على الضربات بناءً على توصياته.
في أوكرانيا، أفادت مجلة الأعمال الأميركية فوربسFORBES في أيلول/ سبتمبر من العام ٢٠٢٤ أن الطائرات المسيّرة المدعومة بالذكاء الاصطناعي أمست قادرة الآن على الملاحة واختيار الأهداف ذاتيًا عندما يتعرض نظام تحديد المواقع GPS للتشويش حيث ارتفعت دقة الضربات بحسب التقارير من نحو ٣٠ إلى ٥٠ في المئة ثم إلى ٨٠ في المئة. وكانت قد فقدت الطائرات المسيّرة الأوكرانية السابقة التي اعتمدت سابقًا على مشغلين بشريين عن بُعد فعاليتها تدريجيًا بعدما تعلمت وحدات الحرب الإلكترونية الروسية التشويش على روابط الاتصال الخاصة بها، وفق ما وثّقه معهد هدسونHudson Institute. وفي خلال هذه النزاعات، يتبلور نمط واضح، إذ يضغط الذكاء الاصطناعي سلسلة القتل ويمسي التقييم البشري شكليًا وتتبدد المساءلة إلى أن تختفي.
تُعد غزة المكان الذي وُثّق فيه هذا النمط بأدق التفاصيل وأكثرها إدانة. فقد نشرت قوات الدفاع الإسرائيلية أنظمة ذكاء اصطناعي تحولت لاحقًا إلى دراسات حالة عمّا يحدث عندما تُسلَّم قرارات الاستهداف، ولو جزئيًا، إلى الآلات. راجع نظام يُدعى «الإنجيل» بيانات المراقبة وأوصى بقصف أهداف مثل مبان ومنشآت ومواقع ثم قدّمها إلى محللين بشريين. كذلك، كان نظام آخر يُدعى «لافندر»، كما أفادت مجلة «+٩٧٢» الإخبارية الإسرائيلية الفلسطينية في نيسان/ أبريل من العام ٢٠٢٤ استنادًا إلى شهادات ٦ ضباط استخبارات إسرائيليين قاعدة بيانات مدعومة بالذكاء الاصطناعي أدرجت ما يصل إلى ٣٧٠٠٠ رجل فلسطيني ربطتهم الخوارزمية بحماس أو الجهاد الإسلامي الفلسطيني واستخدمت للتوصية بالأهداف. وعمل لافندر بالتوازي مع نظام «أين أبي؟»، وهو نظام تتبع قائم على الذكاء الاصطناعي صُمم لرصد مواقع المشتبه في انتمائهم إلى الجماعات المسلحة وإخطار المشغلين عندما يدخلون منازل عائلاتهم بما يسمح للجيش بضربهم هناك.
قال أحد المصادر لمجلة «+٩٧٢» إنّهم كانوا يخصصون ٢٠ ثانية لكل هدف ويعالجون عشرات الأهداف يوميًا من دون أي «قيمة مضافة كبشر باستثناء كونهم ختم موافقة»، على حد قوله. وخلال الأسابيع الأولى من الحرب، حُدد عدد المدنيين المقبول سقوطهم كأضرار جانبية لكل هدف يحدده الذكاء الاصطناعي بما يصل إلى ٢٠ مدنيًا وطُبق ذلك تلقائيًا من دون تقييم الخطر الفعلي الذي يشكله كل فرد. وكما قال أحد ضباط الاستخبارات لمجلة «+٩٧٢»: “الأهداف لا تنتهي. لديك ٣٦٠٠٠ هدف آخر في انتظارك”.
كشفت أدلة من قاعدة بيانات عسكرية إسرائيلية سرية، نشرتها صحيفة ذا غارديان The Guardian في أيار/ مايو من العام ٢٠٢٥، أنّ ١٧ في المئة فقط من أكثر من ٥٣٠٠٠ فلسطيني قُتلوا في غزة كانوا مقاتلين أي ٨٣ في المئة كانوا مدنيين. وهكذا يتجلى ما ينتجه منطق الذكاء الاصطناعي ذي الغرض غير المقيّد عندما يلتقي حربًا فعلية فلا يعود الأمر مجرد أضرار جانبية بالمعنى القانوني، بل يمسي سلسلة لا تنتهي من الأهداف تُعالَج بسرعة الآلة بينما يُحصى القتلى لا كأفراد بل كهامش إحصائي مقبول.
لم تلحق محادثة الحوكمة بهذا الواقع بعد. فقد بُني القانون الدولي الإنساني حول نموذج للقرار البشري أي قائد يتخذ حكمًا وسلسلة مساءلة يمكن تتبعها. لكن لافندر يكسر هذا النموذج لا من خلال إزالة البشر من العملية بل من خلال جعل حضورهم شكليًا. وبحسب محللين قانونيين كتبوا في مدونة فرفاسونغزبلوغ Verfassungsblog الأكاديمية بالألمانية وبالإنجليزية، كانت مراجعة كل حالة فردية تستغرق ٢٠ ثانية فقط وغالبًا ما كان المشغل البشري يكتفي خلالها بتأكيد أنّ الهدف ذكر. تقنيًا، حياة إنسان حلى المحك. أما وظيفيًا، فكانت الحلقة مجرد ختم مطاطي للموافقة.
تكمن هنا الفجوة التي لا يعالجها أي إطار قانوني قائم بصورة كافية وهي الفجوة التي تتحمل شركات الذكاء الاصطناعي عبء تضييقها.
أين تجد الروح معناها وغايتها؟
أعود إلى أماندا أسكل وإلى وثيقتها عن روح كلود. ولا أقصد التقليل من شأنها. إنّ محاولة بناء القيم داخل النظام منذ البداية والتعامل مع الشخصية باعتبارها شيئًا يمكن تصميمه بعناية بدلًا من إلصاقه لاحقًا كفكرة طارئة هي عمل جاد فعلًا. ويُعد دستور كلود وثيقة أخلاقية أكثر صرامة من معظم مدونات السلوك المؤسسية.
لكنّ السؤال الذي يطرحه عملها برأيي، هو الآتي: لا معنى للروح إلا بقدر العالم الذي تسكنه. فقد يُبنى نظام بعناية أخلاقية فائقة لكنه قد يُنشر في سياقات لم يوافق عليها مصمموه يومًا ومن جانب مؤسسات لم تشاركهم قيمهم أصلًا وعلى مجموعات سكانية لم يكن لها أي صوت في أي مرحلة من مراحل ذلك كله.
تتعلق روح الآلة بسؤال التصميم. أما مَن يتحمل الكلفة فذلك سؤال عن السلطة. وفي هذه اللحظة، يسير هذان السؤالان في اتجاهين متعاكسين.
خسرت الشركات التي طرحت أصعب الأسئلة العقد. أما الشركات التي لم تخسره، فأمست الآن مدمجة في شبكات عسكرية سرية. كما بُنيت الأنظمة التي شفّرت «ما يصل إلى ٢٠ وفاة مدنية» كعتبة آلية على أيدي بشر اتخذوا، في مرحلة ما من العملية، سلسلة من الخيارات في حين لم يُستشر الأشخاص الذين تلقوا نتائج تلك الخيارات في أي مرحلة.
لا يزال الذكاء الاصطناعي المسؤول ممكنًا. لكنّ بقاءه يعتمد على أمر أثبت السوق للتو أنّه لن يوفّره وحده أي وجود كلفة للتخلي عنه. أمّا الآن، فتتدفق الكلفة في الاتجاه المعاكس تمامًا: دفعت أنثروبيك ثمن مبادئها وكوفئت أوبن إيه آي على التخلي عنها وأظهرت غزة على نطاق مدمر ما ينتجه منطق الذكاء الاصطناعي ذي الغرض غير المقيّد عندما يلتقي حربًا فعلية.
لا يكمن السؤال في ما إذا كنا قد تجاوزنا خطًا ما لأنّنا قد تجاوزناه بالفعل. بل يكمن السؤال في ما إذا كان عدد كاف من الناس وأعني بذلك المحامين وصنّاع السياسات والتقنيين والمواطنين مستعدين للتعامل مع هذه الحقيقة كحالة طوارئ بدلًا من اعتبارها ضجيجًا خلفيًا لعالم يتحرك بسرعة تفوق قدرته على التوقف.
