هل الذكاء الاصطناعي خطير على الإنسان؟ لا توجد اليوم إجابة مؤكدة بنعم أو لا، لأن القدرة على التحقق من أمان أي نموذج تبقى أساسًا بيد الشركة التي بنته.
أقرب شيء إلى اختبار حقيقي لهذا السؤال ظهر يوم 15 أكتوبر 2026، حين كتبت Anthropic أنها منحت ستة موظفين من منظمة METR صلاحيات دخول شبيهة بصلاحيات موظفيها، ليراقبوا Claude من الداخل.
الجديد هنا حق هؤلاء المراقبين في نشر ما يجدونه عن مخاطر النموذج وحوادثه دون أن تستطيع الشركة منع النشر، وإن بقي لها حق طلب حجب فئات محددة سلفًا من المعلومات.
هذا لا يحسم خطورة الذكاء الاصطناعي من عدمها، لكنه أول اختبار عملي لسؤال أسبق منه: هل تقبل شركة ذكاء اصطناعي بمراقب حقيقي لا تملك حق الاعتراض على ما يقوله عنها؟
ماذا أعلنت أنثروبيك بالضبط يوم 15 أكتوبر؟
كتبت الشركة في منشور بعنوان «تحديث عن المراقبين المستقلين» أنها «استضافت ستة موظفين من METR بأجهزة الشركة ومساحة مكتبية ووصول إلى أدواتها وأنظمتها الداخلية»، أي وصول يشبه ما يحصل عليه موظف جديد في فريقها، لا زائر بموعد محدد. هذا تنفيذ فعلي لوعد أطلقه الرئيس التنفيذي داريو أمودي في مقال نشره في الثاني عشر من سبتمبر، حين التزمت الشركة من طرف واحد باستضافة مراجعين خارجيين بصلاحيات شبيهة بصلاحية الموظف. بين الوعد والتنفيذ شهر وثلاثة أيام، وهي المدة التي تفصل بين كلام عام في مقال رأي وخطوة قابلة للقياس داخل الشركة نفسها.
الجزء الأهم في الإعلان ليس منح المكاتب والأجهزة، بل حق النشر. تكتب أنثروبيك بالنص: «ستنشر METR تحليلها لمستويات الخطر لدينا، أو الحوادث، أو الممارسات. لا تملك أنثروبيك حق الاعتراض على النشر، لكن يمكننا أن نطلب منها حجب معلومات إن وقعت ضمن فئات ضيقة محددة سلفًا». وتضيف أن METR تبقى حرة في أن تصف علنًا الأجزاء المحجوبة ذاتها وتقول رأيها في مدى وجاهة طلب الحجب، طالما لم تكشف المعلومة المحجوبة نفسها. هذا الشرط هو الفارق بين «شفافية» تتحكم فيها الشركة بالكامل وبين مراجعة تملك فيها جهة خارجية كلمة فعلية، ولو محدودة.
ما مستويات الوصول الثلاثة التي حددتها الشركة للمراقبين؟
لم تترك أنثروبيك العلاقة مع المراقبين الخارجيين غامضة، بل وضعت لها ثلاثة مستويات متدرجة، تصف كل واحد منها بدقة في المنشور نفسه. المستوى الأول تحقيقات محدودة النطاق في خطر واحد بعينه، تحتاج موافقة الشركة قبل أن يُنشر أي شيء عنها. المستوى الثاني يمنح المراقب حق النشر دون موافقة الشركة مسبقًا، مع وصول أوسع إلى المعلومات، وتبقى سلطة الشركة فيه محصورة في طلب حذف فئات محددة من المعلومات لا أكثر. أما المستوى الثالث فهو الترتيب الذي وصفته الشركة بالضبط مع METR: وصول دائم شبيه بصلاحية الموظف، مقترنًا بحقوق النشر نفسها الموجودة في المستوى الثاني.
الفكرة من هذا التدرج، كما تشرحها الشركة، أنها لا تمنح كل مراقب خارجي المستوى نفسه من الوصول فور توقيع اتفاق عام. المراجعات الأضيق نطاقًا والأقل خطورة على أسرار الشركة تبدأ من المستوى الأول، وتتدرج الثقة والوصول مع الوقت ومع نوع العمل المطلوب. METR وحدها، حتى تاريخ كتابة هذا المقال، من وصل إلى المستوى الثالث الكامل.
من SecureBio و Accenture، وماذا يفعلان فعليًا؟
METR ليست الطرف الوحيد المذكور في الإعلان. تكتب أنثروبيك أن منظمة SecureBio «في طور مراجعة فصل أسلحة الكيمياء والأحياء من تقرير المخاطر الذي نشرته الشركة في أغسطس»، وهو عمل أضيق نطاقًا بطبيعته لأنه يمس معلومات حساسة بالضرورة في مجال الأسلحة البيولوجية. أما مع Accenture وشركة Faculty، فتصف الشركة العلاقة بأنها «شراكة طموحة نعمل نحوها» تشمل تقييم النماذج واختبارها العدائي (red-teaming)، وتقييمات المواءمة (alignment)، واختبار الضمانات الأمنية المطبقة على النماذج. لاحظ الفارق في صيغة الفعل بين الحالتين: SecureBio «في طور» مراجعة فعلية جارية الآن، بينما Accenture وFaculty «نعمل نحوها»، أي شراكة لم تكتمل تفاصيلها بعد. ولذلك لا أراجع هنا تفاصيل شراكة Accenture وFaculty، لأن أنثروبيك وصفتها بأنها لا تزال قيد العمل لا اتفاقًا نهائيًا.
تذكر أنثروبيك أيضًا محادثات مبكرة مع Hugging Face وجهات أخرى لم تسمها، دون أي التزام محدد بعد. هذا تفصيل يستحق الانتباه له تحديدًا لأن سهل الخلط بينه وبين الاتفاقات الفعلية: محادثة مبكرة لا تعني شراكة موقعة، ولا وصولًا من أي مستوى.
هل المراقب نفسه مستقل حقًا؟ الجدل حول تمويل METR
هنا يكمن أضعف حلقة في القصة، وهي حلقة لم تنشأ مع إعلان 15 أكتوبر بل سبقته. في الخامس عشر من سبتمبر، نقل موقع OfficeChai أن باحثًا مستقلًا يدعى كيفن باس كتب أن METR تقع ضمن ما سمّاه «شبكة أنثروبيك»، مستندًا إلى أن دستن موسكوفيتز، أحد مستثمري أنثروبيك الأوائل، يملك أسهمًا فيها عبر مؤسسة Good Ventures، وأن أموال هذه المؤسسة تتدفق عبر Open Philanthropy وقنوات متصلة بها إلى منظمات أوسع تعمل في سلامة الذكاء الاصطناعي. خلاصة حجة باس أن هذه الشبكة «تملك مصلحة مالية في نجاح أنثروبيك ولا يمكنها أن تكون مراجعًا خارجيًا محايدًا بمصداقية». يذكر الموقع نفسه أن ادعاءات باس الأكثر تحديدًا مبنية على بحثه الذي نشره بنفسه، لا على سجلات منح مُفصح عنها رسميًا، ولم تُتحقق منها جهة مستقلة أخرى حتى تاريخ ذلك التقرير.
METR نفسها ردّت على هذا النوع من الأسئلة قبل الجدل الأخير بشهر، في منشور عن تمويلها نشرته في الرابع عشر من أغسطس. تكتب المنظمة بالنص: «نعمل على الحفاظ على استقلالنا عن شركات الذكاء الاصطناعي الرائدة، خاصة مع تزايد أهمية تقييمات المخاطر التي نجريها»، وتضيف أنها «لم تقبل تمويلًا من هذه الشركات» ولا «تبرعات تُقدَّم بتوجيه من موظفيها». لكن المنظمة تقر في المنشور نفسه بأن «شركات ذكاء اصطناعي رائدة تقدّم حاليًا كمية كبيرة من الرموز (tokens) المجانية لتقييماتنا وأبحاثنا وهندستنا»، وأن التمويل المالي الفعلي، نحو واحد وسبعين مليون دولار جُمعت خلال ستة أشهر، جاء من جهات مثل The Audacious Project ومؤسسة Pew ومؤسسة Packard وداعمين أفراد. الفارق الذي تصرّ المنظمة عليه دقيق: لا تمويل نقدي من شركات الذكاء الاصطناعي أو موظفيها، لكن اعتماد فعلي على موارد حوسبة تقدّمها هذه الشركات نفسها.
ولا أحسم هنا مسألة استقلال METR، فهي ممولة جزئيًا بموارد حوسبة من شركات الذكاء الاصطناعي، والادعاءات المتبادلة حول هذه النقطة لم تُحسم من جهة ثالثة محايدة حتى تاريخ كتابة هذا المقال، فيبقى سؤال استقلالها مفتوحًا.
ما علاقة هذا باتفاق البيت الأبيض بشأن الذكاء الخارق؟
تضع أنثروبيك خطوتها هذه داخل إطار أوسع، فتكتب أنها وقّعت على «اتفاق البيت الأبيض بشأن الذكاء الخارق» (White House Accord on Super Intelligence)، التزمت فيه شركات بالشراكة مع مراجعين أو مقيّمين خارجيين مستقلين. الإعلان لا يذكر تفاصيل إضافية عن الاتفاق نفسه أو بقية أطرافه أو تاريخ توقيعه، ويكتفي بربط خطوة METR به كجزء من التزام أوسع وقّعت عليه الشركة. ما يمكن قوله بثقة هو أن هذا يضع ما فعلته أنثروبيك مع METR في سياق التزام رسمي موقّع، لا مبادرة فردية معزولة عن أي إطار خارجي. ولهذا لا أشرح تفاصيل الاتفاق نفسه، لأن إعلان أنثروبيك لم ينشر عنه غير ذكر توقيعها عليه.
ما الذي يتغيّر فعليًا لمن يستخدم Claude اليوم؟
لا شيء مباشر وملموس في تجربة الاستخدام اليومي. لم يتغيّر سلوك النموذج، ولم تُضف ميزة، ولم يُسحب شيء. ما تغيّر هو أن جهة من خارج الشركة باتت تملك، لأول مرة بهذا الوضوح، القدرة على أن تكتب عن أنثروبيك ما لا تريد أنثروبيك أن يُكتب، وتنشره دون أن تستطيع الشركة منعه، في حدود فئات حجب ضيقة محددة مسبقًا. هذا فارق نوعي عن بيان صحفي أو تقرير سلامة تكتبه الشركة عن نفسها، وهو النمط الذي اعتمدت عليه كل الإعلانات المشابهة حتى الآن. والإعلان يتحدث عن أنثروبيك وحدها، فلا أقيّم هنا إن كانت شركات أخرى، مثل OpenAI أو Google DeepMind، قد منحت مراقبين خارجيين وصولًا مماثلًا.
رأيي الشخصي أن قيمة هذه الخطوة لا تُقاس بالثقة في METR نفسها، بل بالسابقة التي تُرسيها: شركة ذكاء اصطناعي كبرى قبلت، ولو جزئيًا، أن تفقد حق الكلمة الأخيرة على ما يُقال عنها علنًا. سؤال الاستقلال المالي لـ METR سؤال مشروع ويستحق أن يُطرح في كل مرة، لكنه لا يلغي أن آلية الحجب المحدود وحق النشر بلا موافقة أصعب بكثير على أي شركة من نشر تقرير سلامة داخلي تكتبه عن نفسها وتراجعه بنفسها قبل أن يراه أحد. المقياس الحقيقي القادم ليس هذا الإعلان، بل أول تقرير تنشره METR يحمل خلافًا فعليًا مع أنثروبيك حول ما يجب حجبه. ولم تنشر METR حتى تاريخ كتابة هذا المقال أي تقرير مبني على وصولها الجديد، فلا أعرف ما ستجده فعليًا داخل أنثروبيك.
أربعة أسئلة عن حدود دور METR
هل هذا يعني أن METR ستراقب كل شيء يفعله Claude؟
لا. المنشور يتحدث عن مراجعة مستويات الخطر والحوادث والممارسات على مستوى الشركة، لا مراقبة محادثات المستخدمين الفردية. الوصول الممنوح لـ METR وصول إلى أدوات الشركة الداخلية وأنظمتها، لا إلى بيانات استخدام شخصية.
هل تستطيع أنثروبيك منع METR من نشر شيء لا يعجبها؟
لا تملك حق الاعتراض على النشر نفسه، بحسب نص الإعلان، لكنها تملك حق طلب حجب معلومات تقع ضمن فئات ضيقة محددة سلفًا، مع بقاء حق METR في أن تقول علنًا إنها طُلب منها حجب شيء وما رأيها في وجاهة الطلب. وهذا ما يفرّق المراجعة الخارجية عن تقرير سلامة تكتبه الشركة عن نفسها.
هل METR جهة حكومية؟
لا. METR منظمة غير ربحية مستقلة عن أي حكومة، تمولها جهات خيرية ومؤسسات بحثية، وهذا ما يجعل سؤال تمويلها من مستثمرين مرتبطين بأنثروبيك محل جدل من الأساس، لأنها ليست جهة رقابة رسمية بل منظمة تختار الشركات التعامل معها طوعًا.
هل غيّرت شركات أخرى موقفها بعد هذا الإعلان؟
لا يذكر إعلان 15 أكتوبر أي رد فعل من شركات منافسة. سبق أن أعلن الرئيس التنفيذي لـ OpenAI، سام ألتمان، في سبتمبر أن شركته ستمنح هي أيضًا مراقبين مستقلين صلاحيات شبيهة بصلاحية الموظف، لكن لا تفاصيل تنفيذية منشورة عن ذلك حتى تاريخ كتابة هذا المقال.
المصدر
تحديث أنثروبيك عن المراقبين المستقلين وصلاحيات METR — Anthropic
منشور METR عن مصادر تمويلها واستقلالها عن شركات الذكاء الاصطناعي — METR
