किसी जाने-माने व्यक्ति का ऐसा वीडियो जिसमें वे ऐसी बातें कह रहे हैं जो उन्होंने कभी कही ही नहीं, या आपके किसी करीबी की आवाज़ में पैसों की तत्काल मांग... "डीपफेक" के रूप में जाने जाने वाले ये वीडियो ऐसे AI मॉडल्स से बनाए जाते हैं जो किसी व्यक्ति के चेहरे, आवाज़ या हरकतों की नकल करते हैं। इस तकनीक के फिल्म निर्माण, डबिंग और शिक्षा में उपयोगी अनुप्रयोग हैं, लेकिन इसका दुरुपयोग धोखाधड़ी और दुष्प्रचार के लिए भी किया जा सकता है।
ये कैसे बनाए जाते हैं?
डीपफेक सिस्टम किसी व्यक्ति की कई तस्वीरों, वीडियो या आवाज़ के नमूनों से सीखते हैं और उनके चेहरे के भावों और बोलने के तरीके की नकल करते हैं। जहाँ कभी घंटों की रिकॉर्डिंग की ज़रूरत होती थी, वहीं आज कुछ वॉयस-क्लोनिंग टूल एक छोटे से नमूने से ही सटीक परिणाम दे सकते हैं।
वे संकेत जो किसी नकली वीडियो की पोल खोल सकते हैं
- आँखें और पलक झपकना: अप्राकृतिक टकटकी, बहुत कम या अनियमित रूप से पलक झपकना।
- मुँह और ऑडियो सिंक: होंठों की हरकतें जो शब्दों से पूरी तरह मेल नहीं खातीं।
- चेहरे के किनारे: हेयरलाइन, कानों और जबड़े के आसपास धुंधलापन या झिलमिलाहट।
- प्रकाश और परछਾਈ: चेहरे पर रोशनी जो दृश्य के बाकी हिस्सों से मेल नहीं खाती।
- त्वचा और विवरण: अत्यधिक चिकनी त्वचा, अजीब दांत, या आभूषण और चश्मा जो असंगत दिखते हैं।
लेकिन चूंकि तकनीक तेज़ी से सुधार कर रही है, ये संकेत हमेशा काम नहीं करते हैं। सबसे भरोसेमंद तरीका सामग्री के बजाय संदर्भ पर सवाल उठाना है।
संदर्भ पर सवाल उठाएं
- स्रोत क्या है? वीडियो सबसे पहले कहाँ प्रकाशित किया गया था? क्या भरोसेमंद समाचार संगठन इसकी पुष्टि करते हैं?
- क्या यह आपको भड़काने की कोशिश कर रहा है? गुस्सा, डर या तात्कालिकता पैदा करने के लिए डिज़ाइन की गई सामग्री पर अधिक संदेह किया जाना चाहिए।
- रिवर्स इमेज सर्च: जांच करें कि क्या वीडियो का कोई फ्रेम पहले किसी अलग संदर्भ में ऑनलाइन आया है।
वॉयस-क्लोनिंग स्कैम के खिलाफ
यदि आपको किसी प्रियजन की आवाज़ में कोई कॉल आती है जो तुरंत पैसे मांग रही है, तो घबराकर कोई कदम न उठਾएं। फोन काट दें और उस व्यक्ति को उस नंबर पर वापस कॉल करें जिसे आप जानते हैं। परिवार का कोई "सुरक्षित शब्द" तय करना जिसे केवल आप जानते हैं, ऐसे प्रयासों को विफल करने का एक सरल, प्रभावी तरीका है। व्यवसायों में, आवाज़ द्वारा दिए गए भुगतानों को दूसरे चैनल के माध्यम से सत्यापित किया जाना चाहिए।
डीपफेक के खिलाफ सबसे मजबूत बचाव तकनीक के बजाय आदत है: शेयर करने से पहले रुकना, सत्यापन करना और संदेह को कमजोरी के बजाय एक कौशल के रूप में देखना।
सत्यापन उपकरण और सामग्री क्रेडेंशियल
यह पता लगाने के कई व्यावहारिक तरीके हैं कि कोई वीडियो या फोटो असली है या नहीं:
- रिवर्स इमेज सर्च: सर्च इंजन में छवि, या वीडियो से लिए गए फ्रेम को खोजने से यह पता चलता है कि क्या वही सामग्री पहले किसी अन्य संदर्भ में प्रकाशित की गई है।
- सामग्री क्रेडेंशियल (Content credentials): प्रौद्योगिकी और मीडिया कंपनियों द्वारा बनाया गया C2PA मानक एक डिजिटल "लेबल" संलग्न करने की अनुमति देता है जो यह दिखाता है कि छवि कैसे तैयार और संपादित की गई थी। इस जानकारी का समर्थन करने वाले प्लेटफार्मों पर, आप देख सकते हैं कि सामग्री AI के साथ उत्पन्न की गई थी।
- तथ्य-जांच प्लेटफॉर्म: स्वतंत्र तथ्य-जांच संगठन ऑनलाइन फैल रही संदिग्ध सामग्री की जांच करते हैं और अपने निष्कर्ष प्रकाशित करते हैं।
कोई भी उपकरण अपने आप में कोई निश्चित उत्तर नहीं देता है; सबसे विश्वसनीय तरीका एक से अधिक भरोसेमंद स्रोतों से सामग्री को सत्यापित करना है।
कानूनी ढांचा: लेबलिंग की आवश्यकताएं आ रही हैं
डीपफेक सामग्री का दुरुपयोग कई देशों में कानून के एजेंडे में है। यूरोपीय संघ के AI अधिनियम में पारदर्शिता के दायित्व शामिल हैं जिनके तहत AI के साथ उत्पन्न या परिवर्तित छवियों, ऑडियो और वीडियो को इस रूप में लेबल किया जाना आवश्यक है; इन नियमों को 2026 से लागू करने की योजना है। धोखाधड़ी या मानहानि के लिए किसी व्यक्ति की सहमति के बिना उसकी आवाज़ या छवि का उपयोग करके उसकी नकल करना कई देशों में पहले से ही एक अपराध है। यदि आपको लगता है कि आप ऐसी सामग्री के शिकार हुए हैं, तो साक्ष्य सुरक्षित रखें, इसकी रिपोर्ट प्लेटफॉर्म पर करें और यदि आवश्यक हो तो कानूनी सहायता लें।
स्रोत और आगे की पठन सामग्री
- C2PA (Coalition for Content Provenance and Authenticity) – Content Credentials standard
- European Union – AI Act, Regulation (EU) 2024/1689, transparency obligations (Article 50)
एक टिप्पणी छोड़ें
आपका ईमेल पता प्रकाशित नहीं किया जाएगा। आवश्यक फ़ील्ड * से चिह्नित हैं