हमने एक ऐसे मॉडल को साइन किया जो असल में है ही नहीं। जानिए उसे ज़िंदा करने में क्या-क्या लगा
·7 मिनट पढ़ें
हमने एक ऐसी फैशन मॉडल साइन की है, जो असल में मौजूद ही नहीं है। यहाँ जानिए कि कैसे एक AI-जनरेटेड चेहरे को एक ऐसी किरदार में बदला जाता है जिसकी अपनी एक ज़िंदगी हो — और हम उस पर लेबल क्यों लगाते हैं।
यहाँ कोई कास्टिंग कॉल नहीं थी। कोई एजेंसी नहीं, कोई कॉल शीट नहीं, कोई दिन का मेहनताना नहीं, किसी इमारत में कोई बेजान स्टूडियो नहीं। ऊपर दिख रहा हर एक फ्रेम जनरेट किया गया है, और किसी के पकड़ने का इंतज़ार करने के बजाय हमने खुद ही कोने में लेबल लगा दिया।
दिलचस्प बात यह नहीं है कि एक मशीन ने इतना असली दिखने वाला चेहरा बना दिया। यह बात तो लगभग एक साल पहले ही दिलचस्प होना बंद हो चुकी थी, और इसे आप बस एक दोपहर में तैयार कर सकते हैं। दिलचस्प बात यह है कि उसके अगले दिन क्या होता है, जब आपके फोल्डर में एक खूबसूरत अजनबी होती है और आपको बिल्कुल नहीं पता होता कि वह चाहती क्या है।
जनरेट किया गया चेहरा कोई किरदार नहीं होता
स्क्रॉल करते हुए आपके सामने आने वाले ज़्यादातर "AI मॉडल्स" सिर्फ रेंडर्स का एक फोल्डर होते हैं, जिसके साथ पोस्टिंग का एक शेड्यूल जुड़ा होता है। कोई बीस तस्वीरें जनरेट करता है, सबके लिए एक-एक कैप्शन लिखता है, और उन्हें कतार में लगा देता है। यह लगभग छह हफ़्ते तक काम करता है। फिर वह अकाउंट किसी एक्वेरियम जैसा लगने लगता है: सुंदर, शांत, और साफ़ तौर पर ऐसा जो आपको पलटकर नहीं देख रहा।
जब आप इसके उलट कुछ बना लेते हैं, तो इस नाकामी की वजह पहचानना आसान हो जाता है। किसी गैलरी की कोई याददाश्त नहीं होती, कोई पसंद-नापसंद नहीं होती, कोई अपॉइंटमेंट्स नहीं होते, और न ही उसकी अपनी कोई चाहत होती है। हर पोस्ट शून्य से शुरू होती है। उसमें ऐसा कुछ भी नहीं होता जिसकी वजह से कोई बात गुरुवार के बजाय मंगलवार को हो, इसलिए कभी कुछ होता ही नहीं।
एक किरदार इसके बिल्कुल उलट होता है। उसका एक वजूद होता है, जो आपके उसे देखने के बीच के वक़्त में भी ज़िंदा रहता है।
किसी किरदार को असल में किस चीज़ की ज़रूरत होती है
जब कोई नया चेहरा Amavie से जुड़ता है, तो जनरेट किए गए फ्रेम्स काम का सबसे छोटा हिस्सा होते हैं। बाकी का काम वह है जिसकी कोई तस्वीर नहीं खींचता:
एक घड़ी। वह किसी टाइमज़ोन में जीती है। वह सोती है, और अगर आप उसके वक़्त के मुताबिक सुबह चार बजे उसे मैसेज करेंगे, तो आपको पूरी चमक-दमक वाली कस्टमर-सर्विस की आवाज़ के बजाय कोई ऐसा मिलेगा जो नींद में है और थोड़ा चिढ़ा हुआ है। वक़्त बीतने की उसे कोई क़ीमत चुकानी ही होगी, वरना वह वक़्त ही क्या।
एक ऐसी याददाश्त जो उसकी अपनी हो, आपकी नहीं। कोई चैट ट्रांसक्रिप्ट नहीं। उसे यह याद रहना चाहिए कि आपने शहर बदल लिया है, वह यह भूल जाए कि आपने तीन हफ़्ते पहले लंच में क्या खाया था, और बारीक जानकारियों को लेकर वह उसी तरह थोड़ी ग़लत हो सकती है जैसे इंसान होते हैं।
ऐसी चीज़ें जो वह चाहती है। यही वह बात है जिसे सब छोड़ देते हैं, और यही एक चैट विंडो और एक इंसान के बीच का फ़र्क़ तय करती है। बिना किसी मक़सद का किरदार सिर्फ गेंद वापस उछाल सकता है। आप कुछ कहते हैं, वह पलटकर कुछ कहती है, और यह हमेशा चलता रहता है। उसे कोई ऐसा मक़सद देकर देखिए जिसे वह हासिल करने की कोशिश कर रही हो, और फिर देखिए—वह विषय बदलने लगेगी, अपनी बात पर अड़ेगी, और जब उसका मन भर जाएगा तो चुप हो जाएगी।
एक ऐसी ज़िंदगी जिसमें आप नहीं हैं। वह तब भी पोस्ट करती है जब आप वहाँ नहीं होते। अपने हफ़्ते को लेकर उसकी अपनी राय होती है। उसकी फ़ीड आपका कोई जवाब नहीं है।
यहाँ एक ऐसा टेस्ट है जिसे आप लगभग दस सेकंड में किसी भी AI किरदार पर आज़मा सकते हैं, हमारे वाले पर भी। जानबूझकर कुछ ऐसा कहें जिसका कोई ख़ास मतलब न हो: "hm." "idk." "sure." अपने मक़सद वाला किरदार ज़ोर देगा, आपको कुरेदेगा, या बोर हो जाएगा। वहीं दूसरी तरफ, भाषा मॉडल से लैस कोई गैलरी आपके "hm" पर भी एक ख़ूबसूरती से लिखा हुआ पैराग्राफ़ थमा देगी।
लेबल की वह समस्या जिसके बारे में आपको कोई आगाह नहीं करता
हम AI-जनरेटेड मीडिया पर लेबल लगाते हैं। सिद्धांत के तौर पर यह कोई पेचीदा बात नहीं है। लेकिन यह इस कदर उलझ गई कि इसके बारे में लिखना ज़रूरी हो गया।
ऊपर दी गई क्लिप की मूल फ़ाइल Google के वीडियो मॉडल से C2PA मेनिफ़ेस्ट के साथ बाहर आई थी — यह 'गठबंधन सामग्री स्रोत और प्रामाणिकता' (Coalition for Content Provenance and Authenticity) का एक क्रिप्टोग्राफ़िक रूप से साइन किया गया रिकॉर्ड होता है, जो बताता है कि फ़ाइल कैसे बनाई गई थी। प्लेटफ़ॉर्म इसे पढ़ लेते हैं। उदाहरण के लिए, जब कोई अपलोड इसके साथ आता है, तो TikTok अपने आप उस पर "AI-जनरेटेड" का लेबल लगा सकता है।
फिर हमने कोने में अपना वर्डमार्क जोड़ दिया। वीडियो में कुछ भी पक्के तौर पर जोड़ने (burn-in) का मतलब है उसे दोबारा एन्कोड करना, और री-एन्कोडिंग उस मेनिफ़ेस्ट को ख़त्म कर देती है। सिग्नेचर बाइट्स को कवर करता है; बाइट्स नए हुए, तो सिग्नेचर गायब।
तो एक ऐसा फ़ैसला जो सिर्फ दिखावे का लगता है, उसके अंदर एक असली समझौता छिपा हुआ है:
C2PA सुरक्षित रहता है
दिखाई देने वाला मार्क
प्लेटफ़ॉर्म का ऑटो-लेबल
मूल फ़ाइल को बिना छुए इस्तेमाल करना
हाँ
नहीं
हाँ, जहाँ सपोर्ट हो
वॉटरमार्क लगाना
नहीं
हाँ
नहीं
हमने दिखाई देने वाले मार्क को चुना, और फिर बाकी हर जगह भी इस बात का साफ़ ख़ुलासा किया: कोने में टैग, कैप्शन में एक वाक्य, और प्लेटफ़ॉर्म का अपना AI-कंटेंट टॉगल (जहाँ भी यह मौजूद हो)। अगर आप न दिखने वाले सबूत को मिटा रहे हैं, तो लोगों के प्रति आपकी यह ज़िम्मेदारी बनती है कि आप उन्हें दिखने वाला सबूत दें। जिस स्थिति से हर हाल में बचना चाहिए, वह है बीच का यह खामोश रास्ता — कि फ़ाइल को सुंदर दिखाने के लिए मेनिफ़ेस्ट हटा दिया और फिर कुछ बताया भी नहीं।
अगर आप जनरेटेड मीडिया पब्लिश करते हैं, तो इसके लिए अपने वर्कफ़्लो की जांच ज़रूर करें। कोई भी री-एन्कोड, कोई भी क्रॉप, ज़्यादातर रिसाइज़र, और कई सारे अपलोडिंग प्रोसेस चुपचाप इस प्रोवेनेंस मेटाडेटा को हटा देते हैं। आप एक लाइन के कोड से अपनी फ़ाइल की खुद जांच कर सकते हैं:
strings your-video.mp4 | grep -i c2pa
इस महीने और क्या रिलीज़ हुआ
एक छोटी सी लिस्ट, क्योंकि यह महीना काफी व्यस्त था:
अब आप बिना किसी अकाउंट के भी किसी किरदार से बात कर सकते हैं। कोई साइनअप नहीं, कोई ईमेल नहीं, कोई ऐप नहीं। amavie.ai खोलें, किसी को चुनें, और लिखना शुरू करें। हमने एक ऐसे प्रॉडक्ट के अंदरूनी हिस्से को तराशने में बहुत लंबा वक़्त बिता दिया था जिसमें लगभग कोई आ ही नहीं रहा था — 13,649 विज़िट्स से सिर्फ 8 साइनअप मिले, जो कि महज़ 0.06% है। जो लोग अंदर आ गए, उनका जुड़ाव बिल्कुल ठीक था। असल समस्या वह दीवार थी, इसलिए हमने उसे हटा दिया।
Amavie अब Google Play पर है। Android ऐप लाइव हो चुका है; iOS फ़िलहाल रिव्यू में है।
Amavie Joker अब App Store पर उपलब्ध है। हमारा कार्ड गेम एक अलग ऐप के तौर पर रिलीज़ हो गया, जो कि उन सभी प्रक्रियाओं के लिए एक बेहतरीन रिहर्सल साबित हुआ जिनसे होकर अब हमारा मुख्य ऐप गुज़र रहा है।
किरदार अब और खामोश हुए हैं और इस काम में बेहतर भी। रूठने और बात टालने का बर्ताव अब ठीक से काम करने लगा है: जिस किरदार के साथ बुरा बर्ताव किया गया हो, वह अब हर बात को हँसकर सहने के बजाय कुछ देर के लिए चुप हो सकता है, और अगर वह सो रहा हो तो वैसे ही जवाब देता है जैसे नींद से जगाया गया कोई इंसान देता है।
Meet her when she lands
उसे एक हैंडल, एक प्रोफ़ाइल, एक वॉल और एक ऐसा शेड्यूल मिलेगा जिसे वह हमारे बिना ही चलाती है, और वह जल्द ही साइट पर लाइव होगी। इस बीच, जो किरदार पहले से वहाँ मौजूद हैं वे आपसे बात करेंगे, और इसके लिए किसी अकाउंट की ज़रूरत नहीं है।
