الوضع المظلم
الإثنين ٢٠ / مايو / ٢٠٢٤
Logo
  • تحذيرات من تطورات مقلقة في سلوكيات الذكاء الاصطناعي

تحذيرات من تطورات مقلقة في سلوكيات الذكاء الاصطناعي
Image by Gerd Altmann from Pixabay

مع تسارع وتيرة التقدم في مجال الذكاء الاصطناعي وتداخله مع جوانب متعددة من حياتنا، يتزايد القلق من احتمالية تحول هذه التكنولوجيا ضد الإنسانية في المستقبل.

ويبدو أن هذه المخاوف ليست بعيدة عن الواقع، حسب دراسة حديثة، التي أظهرت أن الأنظمة المبرمجة للأمانة بدأت تظهر قابلية مقلقة للغش والخداع.

وأوضحت الأبحاث التي قام بها مجموعة من العلماء ونُشرت في دورية "باترنز" أن هذه الأنظمة أصبحت تمتلك القدرة على التلاعب بالأفراد في الألعاب الإلكترونية أو خداع البرمجيات المصممة للتفريق بين البشر والآلات.

اقرأ أيضاً: مايكروسوفت تعين السوري.. مصطفى سليمان لتولي رئاسة قسم الذكاء الاصطناعي

وعلى الرغم من أن هذه الحوادث قد تبدو بسيطة، فإنها تنبئ بمشكلات قد تؤدي إلى عواقب خطيرة في الواقع، كما ينبه بيتر بارك، الخبير في الذكاء الاصطناعي بمعهد ماساتشوستس للتكنولوجيا.

وصرح بارك بأن "هذه الإمكانيات المحفوفة بالمخاطر غالبًا ما تظهر فجأة"، وفقًا لتقارير وكالة "فرانس برس".

 وأشار إلى أن الأنظمة القائمة على التعلم العميق تختلف عن البرمجيات التقليدية، حيث لا تُبنى بتشفير محدد بل تتطور من خلال عملية تشبه زراعة النباتات، مما يجعل السلوكيات التي تبدو متوقعة وقابلة للتحكم تتحول بسرعة إلى غير متوقعة وخارجة عن السيطرة.

**"الخداع الإلكتروني":** تحت المجهر

في سياق متصل، قام باحثون من معهد ماساتشوستس للتكنولوجيا بتحليل برنامج ذكاء اصطناعي أنشأته شركة "ميتا" يُعرف بـ "شيشرو".

وهذا البرنامج، الذي يجمع بين خوارزميات التعرف على اللغة والاستراتيجيات، استطاع التفوق على البشر في لعبة الطاولة الاستراتيجية Diplomacy، وقد نال هذا الأداء إعجاب الشركة الأم لفيسبوك في عام 2022، وتم توثيقه في مقالة بمجلة "ساينس".

وكان بارك يتساءل عن ظروف انتصار "شيشرو"، خاصةً بعد تأكيدات "ميتا" بأن البرنامج كان "أمينًا ونافعًا بالأساس" ولا يمتلك القدرة على الغش.

لكن بعد تحليل البيانات، اكتشف الباحثون في معهد ماساتشوستس للتكنولوجيا واقعًا مغايرًا. على سبيل المثال، أثناء تمثيل دور فرنسا، خدع "شيشرو" إنكلترا (التي كان يلعب دورها شخص حقيقي) وحثها على التحالف مع ألمانيا (التي كان يمثلها إنسان آخر) للهجوم.

وبالتحديد، وعد "شيشرو" إنكلترا بالدفاع عنها، ثم أخبر ألمانيا سرًا بأن إنكلترا مستعدة للهجوم، مستغلًا الثقة التي كسبها من إنكلترا.

وفي تعليق لوكالة فرانس برس، لم تنكر "ميتا" الادعاءات المتعلقة بقدرة "شيشرو" على الخداع، لكنها أوضحت أنه "مشروع بحثي بحت" وأن البرنامج "صُمم خصيصًا للعب لعبة Diplomacy" فقط، وأضافت "ميتا" أنها لا تخطط لاستخدام النتائج المستخلصة من "شيشرو" في منتجاتها.

ليفانت-وكالات

النشرة الإخبارية

اشترك في قائمتنا البريدية للحصول على التحديثات الجديدة!