مقطع فيديو لشخص معروف يقول أشياء لم يقلها قط، أو طلب عاجل للحصول على المال بصوت شخص قريب منك... تُعرف هذه باسم "التزييفات العميقة"، وتُنشأ باستخدام نماذج ذكاء اصطناعي تحاكي وجه الشخص أو صوته أو حركاته. للتكنولوجيا تطبيقات مفيدة في صناعة الأفلام والدبلجة والتعليم، لكنها قد تُساء استخدامها للاحتيال والتضليل.
كيف تُصنع؟
تتعلم أنظمة التزييف العميق من العديد من الصور أو مقاطع الفيديو أو عينات الصوت الخاصة بشخص ما وتقلد تعابير وجهه وطريقة كلامه. حيث كانت هناك حاجة لساعات من التسجيلات في الماضي، يمكن لبعض أدوات استنساخ الصوت اليوم إنتاج نتائج مقنعة من عينة قصيرة.
دلائل يمكن أن تكشف الفيديو المزيف
- العينان والرمش: نظرة غير طبيعية، رمش قليل جداً أو غير منتظم.
- الفم ومزامنة الصوت: حركات الشفاه التي لا تتطابق تماماً مع الكلمات.
- حواف الوجه: ضبابية أو وميض حول خط الشعر والأذنين والفك.
- الضوء والظل: إضاءة على الوجه لا تتطابق مع باقي المشهد.
- البشرة والتفاصيل: بشرة ناعمة بشكل مفرط، أسنان غريبة، أو مجوهرات ونظارات تبدو غير متناسقة.
ولكن نظراً لأن التكنولوجيا تتحسن بسرعة، لا تنجح هذه الدلائل دائماً. الأسلوب الأكثر موثوقية هو التشكيك في السياق بدلاً من المحتوى نفسه.
تشكيك في السياق
- ما هو المصدر؟ أين نُشر الفيديو لأول مرة؟ هل تؤكده مؤسسات إخبارية موثوقة؟
- هل يحاول استفزازك؟ المحتوى المصمم لإثارة الغضب أو الخوف أو الإلحاح يستحق مزيداً من الريبة.
- البحث العكسي عن الصور: تحقق مما إذا كان إطار من الفيديو قد ظهر على الإنترنت من قبل في سياق مختلف.
ضد عمليات احتيال استنساخ الصوت
إذا تلقيت مكالمة بصوت شخص عزيز يطلب المال بشكل عاجل، لا تتصرف بذعر. أغلق الخط واتصل بالشخص مرة أخرى على رقم تعرفه. الاتفاق على "كلمة سر" عائلية لا يعرفها سواكم هو طريقة بسيطة وفعالة لإحباط مثل هذه المحاولات. في الشركات، يجب التحقق من المدفوعات المطلوبة بالصوت عبر قناة ثانية.
أقوى دفاع ضد التزييفات العميقة هو العادة وليس التكنولوجيا: التوقف قبل المشاركة، والتحقق، ورؤية الشك ليس ضعفاً بل مهارة.
أدوات التحقق وبيانات اعتماد المحتوى
هناك عدة طرق عملية لمعرفة ما إذا كان الفيديو أو الصورة حقيقيين:
- البحث العكسي عن الصور: البحث عن الصورة، أو إطار مأخوذ من فيديو، في محركات البحث يوضح ما إذا كان نفس المحتوى قد نُشر من قبل في سياق آخر.
- بيانات اعتماد المحتوى: يسمح معيار C2PA الذي أنشأته شركات التكنولوجيا والإعلام بإرفاق "ملصق" رقمي يوضح كيف تم إنتاج الصورة وتحريرها. على المنصات التي تدعم هذه المعلومات، يمكنك معرفة أن المحتوى تم إنشاؤه بالذكاء الاصطناعي.
- منصات تدقيق الحقائق: تفحص منظمات تدقيق الحقائق المستقلة المحتوى المشبوه المنتشر على الإنترنت وتنشر نتائجها.
لا تعطي أي أداة إجابة قاطعة بمفردها؛ الطريقة الأكثر موثوقية هي التحقق من المحتوى بأكثر من مصدر موثوق.
الإطار القانوني: متطلبات وضع العلامات قادمة
سوء استخدام محتوى التزييف العميق على جدول أعمال التشريعات في العديد من الدول. يحتوي قانون الذكاء الاصطناعي في الاتحاد الأوروبي على التزامات شفافية تتطلب وضع علامات على الصور والصوت والفيديو المولدة أو المعدلة بالذكاء الاصطناعي؛ ومن المخطط تطبيق هذه القواعد اعتباراً من 2026. استخدام صوت شخص أو صورته دون موافقته لتقليده للاحتيال أو التشهير هو بالفعل جريمة في العديد من الدول. إذا كنت تعتقد أنك استُهدفت بمثل هذا المحتوى، احتفظ بالأدلة، وأبلغ المنصة، واطلب الدعم القانوني إذا لزم الأمر.
الأسس التكنولوجية والإطار المفاهيمي
يختلف إنتاج المحتوى القائم على الذكاء الاصطناعي جوهرياً عن طرق التحرير الرقمي التقليدية. بينما تتطلب الطرق التقليدية عملاً تقنياً مكثفاً وتدخلاً بشرياً لتعديل الصورة، تستخدم تقنيات التزييف العميق خوارزميات تتعلم من البيانات. خلال هذه العملية، يحلل البرنامج البيانات المرئية والسمعية المقدمة له، ويتعلم الأنماط والقوام والسمات المميزة. المحتوى الناتج ليس مجرد مونتاج، بل هو توليف جديد تم بناؤه بواسطة الذكاء الاصطناعي بناءً على البيانات التي تعلمها.
المفهوم الأساسي الكامن وراء هذه التكنولوجيا هو تخصصي التعلم الآلي والتعلم العميق. تعالج أنظمة الكمبيوتر البيانات المعقدة من خلال شبكات عصبية اصطناعية مستوحاة من مبادئ عمل الدماغ البشري. تدرك هذه الشبكات حركات الوجه، ونبرات الصوت، أو ظروف الإضاءة البيئية كنماذج رياضية. ونتيجة لذلك، يظهر بيئة رقمية يصبح فيها التمييز بين الحقيقي والاصطناعي ضبابياً بشكل متزايد.
البنية الخوارزمية في عمليات الإنتاج
إحدى الطرق المستخدمة على نطاق واسع في إنتاج التزييف العميق هي التشغيل المتزامن لنماذج ذكاء اصطناعي متنافسة. في هذه العملية، بينما يحاول نموذج واحد إنشاء محتوى، يراقب النموذج الآخر ما إذا كان المحتوى المنتج أصلياً. يسمح هذا التفاعل المستمر بأن يصبح المحتوى المنتج أكثر إقناعاً في كل مرحلة. تتكون العملية من المراحل الأساسية التالية:
- خلال مرحلة جمع البيانات وإعدادها، يتم دمج العديد من العينات المرئية والسمعية للشخص المستهدف في النظام.
- خلال مرحلة التعلم، تحلل الخوارزميات ملامح وجه الشخص، وتعبيراته، وإيقاع كلامه.
- خلال مرحلة التوليف، يتم إنشاء محتوى جديد واصطناعي باستخدام المعلومات المكتسبة.
- خلال مرحلة الفحص، يتحسن النظام باستمرار من خلال اكتشاف الأخطاء لجعل المحتوى أكثر واقعية.
تسمح هذه البنية الدورية للذكاء الاصطناعي بالاقتراب من الكمال من خلال التعلم من أخطائه. مع تطور النموذج، يمكن تقليد أدق التفاصيل التي لا تستطيع العين البشرية إدراكها بنجاح.
الثقة الاجتماعية ومخاطر التضليل
لاستخدام تقنيات التزييف العميق على نطاق واسع القدرة على تقويض الثقة في المعلومات بشكل أساسي. فكرة أن مقطع فيديو أو تسجيل صوتي حقيقي يمكن أن يكون مزيفاً يمكن أن تخلق موجة من الشك العام داخل المجتمع. يمكن أن يؤدي هذا الوضع ليس فقط إلى قبول المحتوى المزيف، بل أيضاً إلى رفض الأحداث والأدلة الحقيقية بتصنيفها على أنها مزيفة. يمكن أن تعمق هذه الظاهرة الاستقطاب الاجتماعي من خلال زيادة تأثير التضليل.
أصبحت عملية التحقق من دقة المعلومات أكثر تعقيداً من أي وقت مضى في العصر الرقمي. الإيمان الراسخ للناس بما يرون ويسمعون يسمح للمحتوى المتلاعب به بالعثور بسهولة على جمهوره المستهدف. لذلك، أصبح التشكيك في دقة المحتوى الرقمي ليس مجرد قضية تقنية، بل مسؤولية اجتماعية أيضاً.
أمن الشركات وسرقة الهوية
في عالم الشركات، تشكل التزييفات العميقة مخاطر أمنية خطيرة. يمكن استخدام انتحال شخصية المديرين التنفيذيين للشركات عبر الصوت أو الفيديو لتنفيذ معاملات غير مصرح بها أو تسريب معلومات حساسة. خاصة مع الانتشار الواسع لنماذج العمل عن بعد، أصبحت عمليات التحقق من الهوية التي تتم عبر مؤتمرات الفيديو أكثر عرضة لمثل هذه الهجمات.
بينما تؤدي أنظمة الأمان البيومترية التحقق من الهوية من خلال طرق مثل التعرف على الوجه أو تحليل الصوت، قد تحاول نماذج الذكاء الاصطناعي المتقدمة خداع هذه الأنظمة. يستلزم هذا الأمر أن تعيد الشركات هيكلة استراتيجيات الأمن السيبراني الخاصة بها لتشمل ليس فقط الأساليب القائمة على البرمجيات بل أيضاً طرق التحقق التي تركز على الإنسان ومتعددة الطبقات.
أهمية الثقافة الرقمية
أحد أكثر خطوط الدفاع فعالية ضد التطورات التكنولوجية هو رفع مستوى الثقافة الرقمية بين الأفراد. تشمل الثقافة الرقمية ليس فقط استخدام التكنولوجيا بل أيضاً القدرة على تحليل المصدر والغرض ودقة المحتوى الذي تتم مواجهته. فهم سبب مشاركة المحتوى وما هي المشاعر التي يهدف إلى إثارتها يسمح للأفراد ببناء مقاومة ضد التلاعب.
تلعب الأهمية الممنوحة لثقافة الإعلام في العمليات التعليمية دوراً حاسماً في عصر الذكاء الاصطناعي. مهارات التفكير النقدي هي الأداة الأساسية المستخدمة عند التشكيك في صحة مقطع فيديو أو صوت. بدلاً من قبول المعلومات مباشرة، فإن تطوير عادة التحقق منها من خلال مصادر مختلفة يعمل كدرع يحمي الفرد من موجات التضليل في العالم الرقمي.
آليات الدفاع التكنولوجية
تتطور طرق الدفاع المطورة ضد المحتوى المولد بالذكاء الاصطناعي بالوتيرة نفسها. يمكن وصف الصراع في هذا المجال بأنه نوع من السباق التكنولوجي. بينما يصبح إنتاج المحتوى أسهل من ناحية، يتم تطوير أدوات تحليل أكثر تقدماً تعتمد على الذكاء الاصطناعي من ناحية أخرى لاكتشاف مثل هذا المحتوى. يمكن لهذه الأدوات اكتشاف التناقضات المجهرية والآثار الرقمية التي قد تفوتها العين البشرية.
في المستقبل، من المتوقع استخدام أنظمة أكثر شمولاً قادرة على تتبع مصدر المحتوى وتاريخ تعديله. قد يوفر دمج طرق مثل تقنية البلوك تشين لحماية أصالة الأصول الرقمية معايير جديدة لإثبات موثوقية المحتوى. يجب تحديث طبقات الدفاع التكنولوجية هذه باستمرار لضمان أمن النظام البيئي الرقمي.
المصادر والمزيد من القراءة
- C2PA (التحالف من أجل مصدر المحتوى والأصالة) – معيار بيانات اعتماد المحتوى
- الاتحاد الأوروبي – قانون الذكاء الاصطناعي، اللائحة (EU) 2024/1689، التزامات الشفافية (المادة 50)
اترك تعليقاً
لن يتم نشر عنوان بريدك الإلكتروني. الحقول المطلوبة مشار إليها بـ *