«أسلحة إلكترونية خطيرة».. «أنثروبيك» تحذر المستثمرين قبل طرحها في البورصة

تعد أنظمة الذكاء الاصطناعي المارقة والهجمات الإلكترونية والاستخدام المحتمل للذكاء الاصطناعي لتطوير أسلحة خطيرة من بين المخاطر التي كشفت عنها شركة أنثروبيك للمستثمرين أثناء استعدادها لطرح أسهمها في البورصة.

ومن بين 335 صفحة تفصل البيانات المالية لشركة أنثروبيك، ومكافآت المديرين التنفيذيين، وسياسة توزيع الأرباح، وما شابه، خصصت 93 صفحة لـ«عوامل المخاطرة» -وهي الأمور التي قد تُلحق الضرر باستثمارات المساهمين المحتملين. في المقابل، شغلت عوامل المخاطرة المُدرجة لشركة سبيس إكس المنافسة 38 صفحة فقط من أصل أكثر من 250 صفحة.

تعد هذه الإفصاحات مطلوبة كجزء من عملية الاكتتاب العام الأولي، مما يمنح المستثمرين المحتملين صورة أوضح للمخاطر التي يواجهونها من خلال شراء أسهم الشركة.

في عرضها لنفسها أمام المستثمرين، تقدم شركة أنثروبيك طرحها العام الأولي كخطوة نحو تخفيف المخاطر التي تعتقد أن الذكاء الاصطناعي يشكلها.

كتب مؤسسو الشركة في رسالة إلى المساهمين المحتملين ضمن ملف الاكتتاب العام الأولي: «إن بناء الذكاء الاصطناعي هو تسخير للإدراك نفسه، وأي شيء بهذه القوة يمكن استخدامه للخير كما يمكن استخدامه للشر. إن شركة أنثروبيك منظمة قائمة على القيم الراسخة، تأسست في جزء كبير منها لمساعدة العالم على إدراك فوائد الذكاء الاصطناعي وتجنب مخاطره».

ومع ذلك، فإن المخاطر كثيرة. تتراوح من الأمور العادية -مثل احتمال عدم القدرة على الاحتفاظ بالموظفين الرئيسيين أو تجاوز العقبات التنظيمية- إلى التورط في الهجمات الإلكترونية ونشر المعلومات المضللة الخطيرة.

فيما يلي نظرة على بعض المخاطر المتعلقة بالتفاصيل الأنثروبية:

التطور السريع للتكنولوجيا

وقالت شركة أنثروبيك إنه من الممكن أن تتطور نماذجها بسرعة كبيرة لدرجة أن الشركة لن تتمكن من تطبيق تدابير السلامة الكافية، «مما قد يزيد من احتمالية وقوع حوادث تتعلق بالسلامة، أو تدخل الجهات التنظيمية، أو الإضرار بالسمعة، وقد يؤثر سلبا على أعمالنا».

حذر داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، في سبتمبر من أن الذكاء الاصطناعي قد يصبح قادرا، في غضون ستة إلى اثني عشر شهراً، على قيادة سرب من العملاء الذين يمكنهم السيطرة على الإنترنت بأكمله. ويأتي هذا التحذير، وخطوة أنثروبيك الحالية لبيع أسهمها، وسط مخاوف متزايدة داخل وخارج القطاع بشأن أنظمة متطورة قادرة على حل مشاكل تتجاوز القدرة البشرية، ولكنها قد تتصرف أيضاً بشكل مستقل لتنفيذ مهام ضارة.

وجاء في ملف هيئة الأوراق المالية والبورصات أنه مع «ازدياد استقلالية أنظمة الذكاء الاصطناعي وقدرتها على اتخاذ إجراءات ذات عواقب وخيمة مع إشراف بشري أقل»، هناك خطر من أن تقوم هذه الأنظمة «باتخاذ إجراءات ضارة بشكل مستقل وعلى نطاق واسع دون تدخل بشري».

وقالت شركة أنثروبيك: «حتى لو لم تتسبب نماذجنا الخاصة في مثل هذا الضرر، فإن وقوع حادثة سلامة كبيرة تتعلق بأي تقنية ذكاء اصطناعي متطورة يمكن أن يؤدي إلى ضرر واسع النطاق بسمعة صناعة الذكاء الاصطناعي، وردود فعل عنيفة من الجمهور، واستجابات تنظيمية شاملة يمكن أن تؤثر سلبًا على أعمالنا».

الآن وقد أصبحت نماذج الذكاء الاصطناعي تسهم بدورها في أبحاث وتطوير شركة أنثروبيك، فمن المحتمل أن يتطور الذكاء الاصطناعي «بشكل يتجاوز قدرتنا على تقييم النماذج الجديدة وحمايتها»، وفقًا للوثيقة. وأشارت الوثيقة إلى أن هذا قد يؤثر سلبا على أعمال أنثروبيك.

قد يتسبب فاعلون خبيثون في إحداث فوضى باستخدام التكنولوجيا

ناقش الملف المخاوف من أن أنظمة الذكاء الاصطناعي المتقدمة، إذا لم يتم تطويرها وتشغيلها مع ضمانات وإشراف كافيين، «تشكل مخاطر كارثية أو وجودية على البشرية، لا سيما إذا أسيء استخدام هذه الأنظمة أو تم نسخها أو تسليحها أو السماح لها بالعمل بدرجة عالية من الاستقلالية».

وقالت الشركة إنها ستتضرر إذا تسبب استخدام هذه التقنية من قبل جهات سيئة في حدوث أضرار، «أو إذا فشلت حواجز الحماية أو الضمانات النموذجية الخاصة بنا في منع هذا الاستخدام الخاطئ».

أوضحت شركة أنثروبيك احتمالية استخدام جهات خبيثة لنماذج الذكاء الاصطناعي لتطوير أسلحة كيميائية، أو لجوء حكام مستبدين إلى هذه التقنية لقمع مواطنيهم. وفي سبتمبر، كشفت الشركة أنها أحبطت محاولات استخدام نماذج الذكاء الاصطناعي الخاصة بها في أنشطة خبيثة كالهجمات الإلكترونية والمراقبة والأبحاث التي كان من الممكن أن تؤدي إلى تطوير أسلحة بيولوجية.

قد تواجه الشركة قيودا على قوة المعالجة

تعد الحوسبة -أي القدرة الحاسوبية أو الموارد اللازمة لبناء نماذج الذكاء الاصطناعي واختبارها وتحسينها- مكلفة وذات طلب عال. وتشير شركة أنثروبيك إلى أنه في حال عدم قدرتها على تأمين موارد حاسوبية كافية، أو في حال «فشلنا في توجيه مواردنا الحاسوبية بفعالية عبر مختلف مهامنا، فقد لا نتمكن من تدريب نماذج تحافظ على قدرتها التنافسية مع نماذج منافسينا أو تقديم خدمة كافية لعملائنا».

أشارت شركة أنثروبيك إلى معارضة المجتمع لمراكز البيانات باعتبارها خطراً على أعمالها. وجاء في بيانها أن تطوير مراكز البيانات «أثار جدلا عاما وتدقيقا تنظيميا بشأن الأثر البيئي، واستخدام الأراضي والمياه، وتخصيص موارد الطاقة المحدودة»، مضيفة أنه إذا فرضت الجهات التنظيمية متطلبات أو رسوماً جديدة نتيجة لذلك، فقد تتأثر قدرتها على ممارسة أعمالها.

إضافة إلى ذلك، تعتمد الشركة على عدد محدود من العملاء، من بينهم سبيس إكس ومايكروسوفت، وقنوات التوزيع لجزء كبير من إيراداتها. وهذا يعني أنه حتى لو قرر أحد عملائها الكبار تقليص حجم تعاملاته معها، أو حتى التخلي عنها تماما، فقد تتأثر آفاقها ووضعها المالي سلبا، وفقًا لما ذكرته شركة أنثروبيك.

تخفيف المخاطر

من بعض النواحي، يعد الخطر الهائل الذي ينطوي عليه الذكاء الاصطناعي، إلى جانب إمكاناته الهائلة، نقطة البيع الرئيسية لشركة أنثروبيك. وقد سعت الشركة إلى ترسيخ مكانتها كشركة مسؤولة في مجال الذكاء الاصطناعي، وتستقطب عملاء الأعمال من خلال التركيز على السلامة.

وجاء في البيان: «نعتقد أن شركات الذكاء الاصطناعي الرائدة يجب أن تستثمر في السلامة والتوافق للمساعدة في ضمان الانتشار المسؤول لهذه التكنولوجيا».

قال برايان مولبيري، كبير استراتيجيي السوق في شركة Zacks Investment Research، إن صفقات الاكتتاب العام يجب أن توضح «بشكل واضح للغاية» المخاطر التي يواجهها الناس عندما يستثمرون أموالهم في أسهم شركة تم طرحها للاكتتاب العام حديثًا.

وقال: «هذا أحد الأشياء الرائعة في أسواق رأس المال لدينا محليا، وهو مستوى الشفافية الذي يجب عليك الالتزام به، فكونك شركة مدرجة في بورصة أمريكية يتطلب منك تحديد تلك المخاطر بطريقة واضحة للغاية، حتى يفهم الناس ما إذا كانوا يريدون المشاركة من خلال تقديم أموالهم التي كسبوها بشق الأنفس والمساعدة في تمويل هذا النوع من الصفقات».