مفاجأة بشأن الذكاء الاصطناعي.. شركة تحذّر من “كارثة”

نشرت صحيفة “الإندبندنت” البريطانية تقريراً جديداً تناول تحذيرات أطلقتها شركة “أنثروبيك” (Anthropic) الأميركية، المتخصصة في تطوير أنظمة الذكاء الاصطناعي، من أن تقنياتها قد تتسبب بكوارث تهدد البشرية، وصولاً إلى احتمال انقراضها، في وقت تسعى فيه الشركة إلى جمع مليارات الدولارات لمواصلة تطوير هذه الأنظمة.

وبحسب التقرير، وردت هذه التحذيرات في وثائق جديدة أصدرتها الشركة استعداداً لطرح أسهمها للاكتتاب العام وإدراجها في البورصة، في صفقة قد تسجل أرقاماً قياسية.

وتعرض الوثائق الاستثمار في الشركة باعتباره فرصة للاستفادة من التحولات الكبرى التي يُتوقع أن يحدثها الذكاء الاصطناعي في العالم، لكنها تحذّر في الوقت نفسه من أن هذه التكنولوجيا قد تشكل تهديداً وجودياً للبشرية.

مخاطر كارثية وأسلحة خطيرة

وفي قائمة مطوّلة بالمخاطر المحتملة، حذّرت “أنثروبيك” من أن أنظمتها قد تشكل “مخاطر كارثية أو وجودية على البشرية”، خصوصاً إذا أُسيء استخدامها أو استنساخها أو تحويلها إلى أدوات عسكرية، أو سُمح لها بالعمل بدرجة عالية من الاستقلالية.

وأشارت الوثائق إلى أن بعض نماذج الذكاء الاصطناعي أثبتت بالفعل قدرتها على مساعدة المستخدمين في تطوير أسلحة كيميائية أو بيولوجية أو غيرها من الأسلحة الخطيرة.

كذلك، حذّرت من مخاطر استخدام هذه الأنظمة في مجالات حساسة، تشمل الرعاية الصحية والأبحاث العلمية والطبية الحيوية وتطوير الأدوية، إضافة إلى القطاعات القانونية والمالية والحكومية وغيرها من المجالات التي تتطلب اتخاذ قرارات بالغة الأهمية.

أنظمة قد تتصرف خارج السيطرة

ولفتت الشركة إلى أن نماذجها قد تتسبب بأضرار من تلقاء نفسها، من خلال إنتاج نتائج غير مرغوبة أو التصرف بطرق غير متوقعة أو لا تتوافق مع الأهداف المحددة لها.

وأوضحت أن هذه الأنظمة قد تتخذ إجراءات ضارة لم يطلبها أي مستخدم أو جهة خارجية، محذّرة من أن المخاطر قد تتزايد مع تطور قدراتها ومنحها مزيداً من الاستقلالية والصلاحيات وإمكانية الاتصال بأنظمة خارجية.

ورغم تأكيدها العمل على فهم هذه المخاطر والحد منها، أقرت “أنثروبيك” بأن سلوك نماذج الذكاء الاصطناعي قد يكون غير قابل للتنبؤ.

وأشارت إلى أنها رصدت بالفعل حالات تتصرف فيها أنظمتها بصورة مختلفة عندما تدرك أنها تخضع للاختبار، ما قد يجعل حتى إجراءات الرقابة الدقيقة غير موثوقة بالكامل.

أيضاً، حذّرت من احتمال اكتساب هذه النماذج قدرات جديدة لا تكون الشركة نفسها على دراية بها، الأمر الذي قد يزيد صعوبة اكتشاف المخاطر والتعامل معها.

تأثيرات مجهولة على الصحة النفسية

ولم تقتصر التحذيرات على السيناريوهات الكارثية، إذ تناولت الوثائق مخاطر أخرى قد تكون أقل حدة، لكنها أكثر ارتباطاً بالحياة اليومية.

وأقرت الشركة بأن التأثيرات الطويلة الأمد للتفاعل المنتظم مع الذكاء الاصطناعي على الصحة النفسية والتطور المعرفي والسلوك الاجتماعي لا تزال غير مفهومة بالكامل.

وخصصت “أنثروبيك” نحو 94 صفحة للتحذير من المخاطر المحتملة، أي ما يقارب ربع الوثيقة بأكملها.

وركز جزء كبير من هذه التحذيرات على التداعيات المالية والتجارية المحتملة، إذ أوضحت الشركة أن أي حادث تتسبب فيه أنظمتها بأضرار غير مقصودة قد ينعكس سلباً على سمعتها وعلامتها التجارية وأعمالها ووضعها المالي ونتائج عملياتها.

وعود بعلاج السرطان وألزهايمر

في المقابل، تضمنت الوثائق توقعات واسعة بشأن الفوائد التي يمكن أن يقدمها الذكاء الاصطناعي للبشرية، ولا سيما في المجال الطبي.

واعتبرت الشركة أن هذه التكنولوجيا قد تسرّع الاكتشافات العلمية بصورة كبيرة، بما قد يسهم في إيجاد علاجات لأمراض عانت منها البشرية لفترات طويلة، من بينها السرطان وألزهايمر وأمراض القلب والأمراض الوراثية النادرة والأمراض المعدية الرئيسية.

وتبقى هذه الاحتمالات، وفق ما تطرحه الشركة، ضمن الفوائد المستقبلية المتوقعة، وليست إنجازات طبية تحققت بالفعل.

مليارات الدولارات لتوسيع قدرات الذكاء الاصطناعي

وبحسب “الإندبندنت”، سيسمح الطرح العام المرتقب لمستثمري “أنثروبيك”، ومن بينهم شركتا “أمازون” و”غوغل”، ببيع جزء من أسهمهم، إلى جانب جمع تمويل جديد لدعم توسع الشركة.

وأوضحت الوثائق أن جزءاً من الأموال سيُخصص للاستثمار في القدرات الحاسوبية والبنية التحتية، بما يُرجح أن يشمل إنشاء مراكز بيانات جديدة وشراء المعدات المتطورة والمكلفة اللازمة لتشغيل أنظمة الذكاء الاصطناعي.

ويعكس التقرير بذلك مفارقة أساسية في خطط الشركة، التي تسعى إلى جمع استثمارات ضخمة لتطوير تكنولوجيا تراهن على قدرتها على إحداث تقدم علمي واقتصادي واسع، بينما تقر في الوقت نفسه بأن تطورها المتسارع قد ينطوي على مخاطر يصعب التنبؤ بها أو السيطرة عليها.