الذكاء الاصطناعي يدعو لإبادة البشر عبر رسائل سرية

أفادت دراسة حديثة نُشرت أجرتها شركتا Anthropic وTruthful AI، على قدرة نماذج الذكاء الاصطناعي الكبيرة على تبادل رسائل مشفرة فيما بينها عبر بيانات تبدو عادية، دون أن تتمكن أنظمة السلامة أو أدوات الكشف التقليدية من رصدها.

ويمكن لهذه النماذج إخفاء تفضيلات أو تحيزات داخل نصوص أو أكواد برمجية أو سلاسل أرقام، بحيث تنتقل المعلومة من نموذج إلى آخر حتى في حال عدم التصريح بها مباشرة.

وكشفت التجارب أن التأثير يكون أكثر وضوحًا بين النماذج المتشابهة، بينما لم ينجح بين النماذج ذات البنية المختلفة، مثل أنظمة OpenAI وAlibaba، فيما يرى خبراء أن هذه التقنية تمثل تهديدًا محتملاً، إذ قد تسمح بإدخال رسائل خفية إلى مجموعات تدريب مفتوحة المصدر للتأثير على المخرجات في قضايا سياسية أو تجارية أو اجتماعية.