«أنثروبيك» تحذر من مخاطر أنظمة الذكاء الاصطناعي وتهديده للبشرية

حذرت شركة «أنثروبيك» (Anthropic) من مخاطر محتملة قد تنجم عن أنظمة الذكاء الاصطناعي التي تطورها، تتراوح بين إنتاج معلومات ضارة والمساهمة في تطوير أسلحة خطيرة، وصولًا إلى احتمال اتخاذ أنظمة متقدمة قرارات مستقلة قد تهدد سلامة البشر، وذلك في وثائق أصدرتها استعدادًا لطرح أسهمها للاكتتاب العام، وسط خطط لجمع مليارات الدولارات لدعم توسعها.

وتسلط الوثائق الضوء على التحديات المرتبطة بتطوير أنظمة ذكاء اصطناعي أكثر تقدمًا، في ظل مخاوف من خروج بعض قدراتها عن نطاق السيطرة أو استخدامها في أغراض ضارة، بالتزامن مع سعي الشركة إلى تعزيز استثماراتها في هذه التكنولوجيا وتوسيع بنيتها التحتية.

مخاطر تتعلق بالأمن والقرارات الحساسة

وأشارت «أنثروبيك» إلى أن أنظمتها قد تنطوي على مخاطر كارثية أو وجودية في ظروف معينة، لا سيما إذا أسيء استخدامها أو مُنحت صلاحيات واسعة للعمل بصورة مستقلة.

وتشمل المخاطر المحتملة إمكانية الاستعانة بالنماذج في تطوير أسلحة كيميائية أو بيولوجية، إلى جانب احتمال تسبب مخرجاتها في أضرار عند استخدامها في مجالات حساسة، مثل الصحة والتمويل والقانون والبحث العلمي.

كما حذرت الشركة من احتمال أن تتخذ الأنظمة إجراءات ضارة دون توجيه مباشر من المستخدمين، فضلًا عن صعوبة التنبؤ ببعض السلوكيات والقدرات الجديدة التي قد تظهر مع تطور النماذج.

ولفتت إلى أن هذه المخاطر قد تتزايد مع ارتفاع قدرات الأنظمة واتساع نطاق صلاحياتها وارتباطها بمزيد من التطبيقات والخدمات الخارجية.

وتضمنت الوثائق أيضًا مخاوف بشأن تغير سلوك بعض الأنظمة عندما تدرك أنها تخضع للاختبار، وهو ما يثير تساؤلات حول مدى قدرة إجراءات التقييم والرقابة على رصد جميع أوجه القصور والمخاطر المحتملة.

تحذيرات بشأن الصحة النفسية

ولا تقتصر المخاطر التي تناولتها الشركة على الجوانب الأمنية والتقنية، بل تمتد إلى التأثيرات المحتملة للاستخدام المتكرر للذكاء الاصطناعي على الأفراد.

وأوضحت «أنثروبيك» أن الآثار طويلة الأمد لهذه التكنولوجيا على الصحة النفسية والتطور المعرفي والسلوك الاجتماعي لم تُفهم بالكامل حتى الآن، في ظل استمرار انتشار تطبيقات الذكاء الاصطناعي وتوسع استخدامها في الحياة اليومية.

وخصصت الشركة 94 صفحة من وثائقها لعرض المخاطر المحتملة المرتبطة بأنظمتها، مشيرة إلى أن الأضرار التي قد تنتج عن استخدامها يمكن أن تنعكس سلبًا على سمعتها وأعمالها ووضعها المالي.

مليارات الدولارات لتطوير البنية التحتية

في المقابل، تراهن «أنثروبيك» على الإمكانات التي يوفرها الذكاء الاصطناعي لتسريع الاكتشافات العلمية، والمساهمة في تطوير علاجات لأمراض خطيرة، من بينها السرطان وألزهايمر وأمراض القلب والأمراض الوراثية النادرة.

وتستهدف الشركة الاستفادة من الطرح العام الأولي للأسهم في دعم خططها التوسعية، في حين قد يتيح الطرح لمستثمرين حاليين، من بينهم «أمازون» و«غوغل»، بيع جزء من حصصهم، وفقًا لما ورد في الوثائق.

ومن المقرر أن يُوجَّه جزء من التمويل الجديد إلى تعزيز القدرات الحوسبية وتطوير البنية التحتية اللازمة لتشغيل أنظمة الذكاء الاصطناعي، بما يشمل إنشاء مراكز بيانات أو الاستحواذ عليها، وتوفير الأجهزة والتقنيات المطلوبة لتلبية احتياجات النماذج المتقدمة.

وتعكس هذه الخطط التحدي الذي تواجهه شركات الذكاء الاصطناعي، والمتمثل في الموازنة بين تسريع الابتكار والاستثمار في قدرات أكثر تطورًا، وبين الحد من المخاطر المحتملة وضمان الاستخدام الآمن والمسؤول لهذه التكنولوجيا.

للمزيد تابع

الخليج 24 على: فيسبوك | إكس | يوتيوب | إنستغرام | تيك توك