1 Billion Videos Daily: Facebook's Scale Problem
41sReveals the massive scale of Facebook's video processing and the challenge of handling billions of uploads.
▶ Play ClipThe video discusses Facebook's engineering blog about scaling FFmpeg to process over 1 billion videos daily. It explains the traditional FFmpeg architecture, its limitations, and Facebook's innovative solution that separates decoding from encoding to improve efficiency. The video also covers how these changes influenced FFmpeg versions 6 and 8, enabling better multi-threading and GPU support.
Facebook processes over 1 billion videos daily across its platforms.
Traditional approach runs separate FFmpeg commands for each resolution, each requiring a full decode.
Facebook's architecture uses a single decoder feeding multiple encoders, eliminating redundant decoding.
Real-time quality metrics (PSNR, SSIM) can be computed for live streams using this architecture.
Facebook's internal fork influenced FFmpeg versions 6 and 8, improving multi-threading and parallel processing.
New FFmpeg versions support GPU-accelerated decoding via Vulkan compute shaders.
Engineering blogs often serve marketing purposes, providing thought processes rather than complete implementations.
"The title accurately reflects the content, which discusses scaling FFmpeg for Facebook's 1 billion daily video processing needs."
What is FFmpeg?
FFmpeg is an open-source library for processing video files, capable of handling almost every video format.
2:36
How many videos does Facebook process daily?
Facebook processes over 1 billion videos daily.
4:16
What is the traditional approach to generating multiple video resolutions with FFmpeg?
The traditional approach runs separate FFmpeg commands for each output resolution, each requiring a full decode of the video.
6:17
How does Facebook's new architecture improve FFmpeg processing?
Facebook's architecture uses a single decoder instance that feeds multiple encoders, eliminating redundant decoding.
7:46
What are PSNR and SSIM?
PSNR and SSIM are visual quality metrics used to assess video quality after compression.
11:22
What improvements did Facebook's work bring to FFmpeg versions 6 and 8?
Facebook's contributions led to more efficient threading and parallel processing in FFmpeg versions 6 and 8.
15:55
What is Vulkan and how is it used in FFmpeg?
Vulkan is a cross-platform, open standard API that allows programs to use GPU hardware for tasks like video decoding.
17:50
What is a video container?
A video container (e.g., MP4, MKV) holds video frames, audio, and subtitles.
1:45
How does Facebook enable real-time quality metrics for live streaming?
Facebook's architecture enables real-time quality metrics for live streams by inserting a decoder after each encoder.
12:03
What is a common purpose of engineering blogs according to the video?
Engineering blogs often serve marketing purposes, providing thought processes rather than complete implementations.
19:47
1 Billion Videos Daily
Highlights the massive scale of Facebook's video processing challenge.
4:16Single Decode, Multiple Encodes
Key architectural innovation that reduces redundant decoding and improves efficiency.
7:46Real-Time Quality Metrics
Enables adaptive streaming and quality monitoring for live video.
11:22Open Source Collaboration
Facebook's internal fork influenced FFmpeg versions 6 and 8, benefiting all users.
15:55Engineering Blogs as Marketing
Reminds readers to critically evaluate technical articles for marketing bias.
19:47[00:00] देखिए जी वीडियोस में तो मेरा काफी
[00:02] इंटरेस्ट है। वीडियोस मैं बहुत सारे बनाता
[00:04] भी हूं। मुझे बहुत अच्छा लगता है वीडियोस
[00:06] बनाना। प्रोसेस भी करते हैं, स्टोर भी
[00:08] करते हैं। उनको एचएलएस फ्रेंडली भी बनाते
[00:11] हैं। स्ट्रीमिंग फ्रेंडली जिसको बोलते हैं
[00:13] और वीडियोस में मेरा पर्सनली बहुत
[00:15] इंटरेस्ट है। तो जैसे ही मैंने Facebook
[00:16] का एक इंजीनियरिंग ब्लॉग का आर्टिकल देखा
[00:19] जिसमें इन्होंने एफएफएम पे के नए
[00:21] इंफ्रास्ट्रक्चर के बारे में बात करी है
[00:23] कि ये लोग अ बिलियंस ऑफ वीडियोस हैंडल कर
[00:26] रहे हैं न्यू इंफ्रास्ट्रक्चर के साथ में।
[00:28] और इस न्यू इंफ्रास्ट्रक्चर ने ही एफएफएमक
[00:30] के लास्ट दो वर्जनंस को इंस्पायर किया है।
[00:32] होपफुली। तो मुझे लगा कि यार इस पे तो बात
[00:35] होनी चाहिए। यह तो बड़ा इंटरेस्टिंग और
[00:36] मेरा वन ऑफ द फेवरेट सब्जेक्ट है। तो हां
[00:39] जी। Facebook तकरीबन 1 बिलियन वीडियोस को
[00:41] प्रोसेस कर रहा है। काफी मैंने नोट्स
[00:44] वगैरह भी बना रखे हैं इस पे। तो साथ में
[00:45] मैं आपको पहले नोट्स समझाऊंगा क्योंकि इन
[00:47] आर्टिकल्स को समझना कई बार आसान नहीं
[00:49] होता। बट क्या करें? कभी ना कभी तो
[00:51] स्टैंडर्ड रेज करना ही है। तो आइए साथ में
[00:53] हम इसको पढ़ेंगे। मैंने पर प्री प्रिपेयर
[00:56] नोट्स हैं ताकि मैं आपको एक उस लेवल पर ले
[00:57] जा सकूं जिससे आप समझ पाएं कि अच्छा ये सब
[00:59] होता क्या है? क्या कहानियां होती है। बाय
[01:01] द वे अगर चैनल पे नए हैं तो सब्सक्राइब कर
[01:03] दीजिएगा। यहां पे हम बहुत सारे
[01:04] ट्यूटोरियल्स भी लाते हैं, सिस्टम डिजाइन
[01:06] की भी बात करते हैं। ऐसे आर्टिकल्स भी
[01:08] पढ़ते हैं और लेटेस्ट टेक न्यूज़ वगैरह यह
[01:10] सब तो खैर चलता ही रहता है। इसमें तो मजा
[01:12] आता ही है। और अगर पुराने हो चैनल पे तो
[01:15] प्लीज कमेंट जरूर करके जाइएगा एक कि आपको
[01:17] और सिस्टम डिजाइन के वीडियो ज्यादा
[01:19] प्रेफर्ड है या ट्यूटोरियल वीडियो जिसमें
[01:21] कोड लिखे हैं वो वाले ज्यादा प्रेफर्ड है
[01:23] ताकि आगे वाली की वीडियोस की हम प्लानिंग
[01:25] कर लें। और इस वीडियो से अगर कुछ
[01:26] इंटरेस्टिंग सीखा है तो प्लीज नीचे
[01:29] ड्रॉपडाउन कमेंट में देके जाना। वीडियो का
[01:31] ज्यादा कमेंट टारगेट नहीं है। सिर्फ और
[01:33] सिर्फ हम 100 कमेंट्स की बात कर रहे हैं।
[01:35] छोटा सा टारगेट है कंप्लीट करवा दो। तो
[01:37] चलिए जी जिन लोगों को नहीं पता कि वीडियोस
[01:41] ये सब क्या होते हैं इस पे तो हम आएंगे ही
[01:43] अभी। बट वीडियोस ना आप हमेशा वीडियोस को
[01:45] कुछ इस तरह से देखिएगा कि वीडियोस आपके
[01:47] हमेशा एक कंटेनर होते हैं। इन कंटेनर के
[01:50] नाम होते हैं। मे बी अ आपने देखा होगा MP4
[01:52] सबसे वन ऑफ दी कॉमन नेम है इन अ कंटेनर्स
[01:55] का। तो वो भी हो सकता है हम इसका कलर चेंज
[01:59] कर लेते हैं। ओके टेक्स्ट का तो नहीं हम
[02:03] ट्रांसपेरेंट कर दें इसको। आई थिंक
[02:08] ओके हम इसको बैकग्राउंड को इस तरह से कर
[02:11] लेते हैं। ठीक है? तो वापस से लिखते हैं।
[02:13] तो आपने एम mp34 सबसे कॉमन देखे होंगे जो
[02:17] अ फॉर्मेट आता है mp4 बट आपने mkv भी देखे
[02:22] होंगे या फिर आपने और भी कई फॉर्मेट देखे
[02:24] होंगे। इन सारे फॉर्मेट को वीडियो की
[02:26] टर्मिनोलॉजी में कंटेनर बोला जाता है।
[02:28] क्योंकि इसके अंदर फर्दर इंफॉर्मेशन होती
[02:30] है। आपके फ्रेम्स होते हैं, ऑडियोज़ होती
[02:32] है। कई बार एसआरटी सब टाइटल्स भी होते
[02:34] हैं। तो ये सब कंटेनर ही होते हैं। जब आप
[02:36] एफएफएम पैक यूज़ करते हो एफएफएम पैक बाय द
[02:38] वे आपको नहीं पता। तो एफएफ एमक एक वन ऑफ
[02:41] दी स्टैंडर्ड आई थिंक ओनली स्टैंडर्ड
[02:43] लाइब्रेरी है जो कि वीडियोस को प्रोसेस
[02:46] करती है और बहुत ही ज्यादा स्केल पे यूज़
[02:49] होती है। कुछ छोटे कॉम्पिटिट माइट बी हो
[02:51] सकते हैं बट एज ऑफ नाउ दे आर द ओनली जॉइंट
[02:54] होल्डिंग द मोनोपोली ऑफ प्रोसेसिंग द
[02:58] वीडियो नाइसली हैंडलिंग ऑलमोस्ट एव्री
[03:01] फॉर्मेट मतलब जितना भी हो सकता है सब कुछ
[03:03] करते हैं। दे आर द ओनली मोनोपोली कंपनी
[03:06] एंड बेस्ट पार्ट इज़ दे आर कंप्लीटली ओपन
[03:08] सोर्स टोटली रिलायड ऑन जो कंट्रीब्यूशन
[03:12] देते हैं या फिर जो बड़ी कंपनियां इनको
[03:14] स्पॉनसर करती है। हालांकि इन्होंने ट्वीट
[03:15] में कहा है कि Facebook इतना स्पॉनसर नहीं
[03:17] कर रही जितना करना चाहिए उनको बट व्हाटएवर
[03:20] इज दिस। तो एफएफएम पैक की कहानी है।
[03:23] एफएफएम पैकग आपको वीडियोस को हैंडल करने
[03:25] में मदद करता है। तो आपका वीडियो किसी भी
[03:27] फॉर्मेट में आप एफएफएम पैकग में डाल सकते
[03:29] हैं। यही आपके वीडियो को 1080p से 480p
[03:33] में बनाता है। 480 से 360 और इन 360p
[03:36] वीडियो को लेके अगर आपको एचएलएस फ्रेंडली
[03:37] बनाना है, फ्रेम्स जनरेट करनी है, M3U8
[03:40] करना जो भी आपको चाहिए वो मोस्टली एफएफएम
[03:42] पैक से ही होता है या इसके थ्रू हो जाता
[03:44] है। तो यह तो रही हमारी प्री बेस की
[03:46] कहानी। अब जितने भी आप मोस्टली देखते हैं
[03:48] YouTube ने कभी अनाउंस नहीं करा एस सच
[03:50] ऑफिशियली बट आई थिंक सम हाउ दे आर आल्सो
[03:52] यूजिंग इट। Facebook ने तो कहा है कि वो
[03:54] यूज करते ही हैं इसको। पूरी कहानी अभी
[03:55] आपको बताते हैं। वह पूरा डिटेल में जाती
[03:57] हैं। आई थिंक Netflix भी यूज़ करता है।
[04:00] मोस्टली जितने वीडियो सशंस हम भी यूज़ करते
[04:02] हैं और बहुत अच्छे हैं। तो करते हैं। अब
[04:04] Facebook की कहानी क्या है कि Facebook ने
[04:06] कहा कि हमारा मीडिया इकोसिस्टम ग्रो हो
[04:08] रहा है। अब Facebook है, Instagram है,
[04:10] WhatsApp है। यहां पे बहुत पर डे पे
[04:12] वीडियोस आते हैं और आप इमेजिन कर सकते हो
[04:14] जिस हिसाब से रील्स और यह कंटेंट बढ़ रहा
[04:16] है तो 1 बिलियन वीडियोस डेली प्रोसेस करते
[04:18] हैं वो। प्रोबेबबली ज्यादा ही करते हैं। 1
[04:21] बिलियन से भी कहीं ज्यादा। क्योंकि जिस
[04:23] हिसाब से रील मैं भी स्क्रॉल कर रहा हूं
[04:24] और आप भी स्क्रॉल कर रहे हो उस हिसाब से
[04:26] वो रील खत्म तो नहीं हो रही है। कमेंट
[04:28] सेक्शन में जरूर बताना खत्म हो रही है कि
[04:29] नहीं हो रही है आपकी रील। तो ऑब्वियस सी
[04:32] बात है इन वीडियोस का अगर आप साइज भी
[04:33] देखोगे तो स्केल पे है और जहां पर बात आ
[04:37] जाती है तो अब सोचने वाली बात नहीं
[04:39] क्योंकि अब तो बस ग्रोथ ही है इसके बाद
[04:41] pटाबाइट तक भी ठीक है मामला थोड़ा बहुत
[04:44] ठीक है मैंने देखा है pटाबाइट स्केल बट
[04:47] अभी तक नहीं देखा मैंने [हंसी] पर्सनली तो
[04:49] बट हां ये है तो हमें समझ में आ गया कि
[04:51] ठीक है Facebook का इकोसिस्टम इतना बढ़िया
[04:53] है अब Facebook क्या करता है कि जब आप ये
[04:55] fmp यूज़ करते हो तो मोस्टली एफएफएम पैक
[04:58] क्या है कमांड लाइन के थ्रू ही यूज़ सब
[04:59] कमांड लाइन के थ्रू ही यूज़ करते हैं।
[05:00] वैसे कुछ गुई रैपर्स वगैरह भी हैं। बट
[05:03] मोस्टली सब कमांड लाइन ही प्रेफर करते
[05:04] हैं। सबने अपनी-अपनी कमांड बना के रख रखी
[05:07] है कि हां इससे बेस्ट आउटपुट आता है
[05:09] क्योंकि हर एक चीज आप कंट्रोल करते हो।
[05:10] कितना फ्रेम रेट चाहिए? ऑडियो का कितना
[05:12] डिग्रेडेशन चाहिए? अपग्रेडेशन चाहिए।
[05:15] फ्रेम ज्यादा है, कम है। डुप्लीकेट फ्रेम
[05:17] को हटा सकते हैं। क्या फ्रेम वगैरह बहुत
[05:19] चीजें हैं इसके अंदर। तो हर कोई अपना ना
[05:20] कमांड लाइन स्टोर करके रखता है और वहां से
[05:22] होता है। अब कमांड लाइन ऐसा नहीं कि हमेशा
[05:24] फेल होती है। हमेशा बिल्ड करती है। कभी
[05:27] कबभार फेल भी होती है। तो जब ट्रेडिशनल
[05:29] आर्किटेक्चर है उसका प्रॉब्लम क्या है कि
[05:31] ये सिंगल मशीन बॉटल नेक है। एफएफ एमपैकग
[05:33] मोस्टली सीपीयू हैवी था एक टाइम तक। अभी
[05:36] काफी जीpयू ओके ओरिएंटेड भी आने लगा है।
[05:39] लेकिन ट्रेडिशनल इसका बॉटल नेक यही है कि
[05:40] सिंगल मशीन क्योंकि एक मशीन पे आप कितने
[05:43] ही प्रोसेस करवा लोगे क्योंकि इसका अभी तक
[05:45] आप जितना देखोगे ना यह मल्टी प्रोसेसिंग
[05:48] मल्टी थ्रेड्स वगैरह पे नहीं था यह
[05:50] सॉफ्टवेयर अभी तक बट स्टिल इट वर्क्स
[05:52] ग्रेट। तो अगर आप इस आर्किटेक्चर पे जाते
[05:54] हो तो सभी को बहुत सारी मशीनंस लगानी
[05:56] पड़ती है क्योंकि वीडियो प्रोसेसिंग का
[05:57] काम है और कुछ और कर नहीं सकते। ज्यादा
[05:59] वीडियो प्रोसेस करने ज्यादा मशीनंस पिन
[06:01] करो। मैंने भी वो इंफ्रा इंफ्रास्ट्रक्चर
[06:04] देखा है जहां पर आपकी 3-300 4400 मशीन
[06:06] स्पिन हो रही है कंटीन्यूअसली। ऐसा नहीं
[06:08] कि ऑल टाइम स्पिन रहती है बट स्पिन होती
[06:10] है। वो कुछ वीडियोस को प्रोसेस करती है।
[06:12] S3 पे वीडियोस को फेंकती है। S3 अपने आप
[06:14] नोटिफिकेशन भेजता है। एंड दैट्स इट दे गो
[06:15] अवे। दिस इज़ द ट्रेडिशनल सिस्टम
[06:17] आर्किटेक्चर। तो अब यहां पे है
[06:20] अनएक्सेप्टेबल प्रोसेसिंग लेटेंसी। यह
[06:22] वीडियोस को प्रोसेस होने में देखो टाइम
[06:24] लगता है। इसमें कोई डाउट नहीं है कि अगर
[06:26] आप 1 घंटे का भी वीडियो प्रोसेस कर रहे हो
[06:27] तो यूजुअली 1 घंटा ही लगता है। अभी
[06:29] प्रोसेसिंग आई थिंक कंपेरेटिवली फास्ट
[06:31] होने लगी है। बट स्टिल ऐसा नहीं है कि 1
[06:33] घंटे का वीडियो है तो आप उसको 5 मिनट में
[06:34] प्रोसेस कर दोगे। वीडियो प्रोसेसिंग इज़ वन
[06:36] ऑफ़ द टाइम कंज्यूमिंग टास्क। अब यहां पे
[06:39] बिलियंस ऑफ डॉलर के अंदर इंफ्रास्ट्रक्चर
[06:40] कॉस्ट आती है। लेकिन अभी क्या है कि
[06:43] इन्होंने क्या करा? जब भी वीडियो आपका
[06:46] प्रोसेस होता है ना जैसे आप एक 10 एक
[06:48] वीडियो को 1080p में कर रहे हैं तो कुछ
[06:49] इनका इंफ्रास्ट्रक्चर कुछ इस तरह से है कि
[06:51] सपोज करो यह मेरा वीडियो है। अब इस सेम
[06:56] वीडियो को आपको प्रोसेस करना है सपोज़ करो
[06:58] 720p में। तो ये 720p के अंदर होगा। अ सेम
[07:02] यही वीडियो आपको दोबारा से 480p के अंदर
[07:04] भी प्रोसेस करना है। तो यही सेम वीडियो जा
[07:07] रहा है 720p में। यही वीडियो जा रहा है
[07:09] 480p में। तो इनका आर्किटेक्चर क्या बोलता
[07:11] है कि इसके लिए अलग मशीन लगाओ। हम लगाते
[07:14] हैं। इसके लिए भी एक अलग मशीन लगा लेते
[07:15] हैं या फिर सेम मशीन पर दो कर लेते हैं।
[07:17] इनका आर्किटेक्चर बड़ा ही इंटरेस्टिंग और
[07:20] डिटेल है जो मैं आपको अभी बताता हूं। यहां
[07:21] पे इन्होंने लिख भी रखा है। तो उसमें हम
[07:24] चलते हैं।
[07:25] ओके।
[07:28] तो यहां पे
[07:31] ओके ओके ओके।
[07:33] एक सेकंड पॉज करके मैं आपको लाइन दिखाता
[07:35] हूं। यस। तो एग्जैक्ट जो लाइन पढ़ने लायक
[07:38] है वो यह है टू वर्क अराउंड दिस यही जो
[07:41] मैंने आपको प्रोसेस बताया उसको मल्टीपल
[07:43] आउटपुट कुड बी जनरेटेड विद सिंगल एफएफएम
[07:46] पे कमांड लाइन अच्छा जी सिंगल आउटपुट्स
[07:49] सिंगल कमांड से मल्टीपल आउटपुट जनरेट हो
[07:51] सकते हैं। ओके डिकोडिंग द फ्रेम ऑफ अ
[07:54] वीडियो वंस एंड सेंडिंग देम ईच आउटपुट
[07:57] एनकोडर इंस्टेंस। तो ये लोग क्या कर रहे
[07:59] हैं? बड़े स्मार्टली इन्होंने डायग्राम भी
[08:01] बना रखा है। बड़ा अच्छा डायग्राम है यहां
[08:03] पे कि ये इन्होंने क्या करा? एफएफ एम पैक
[08:05] के थ्रू एक कस्टम डिकोडर बनाया क्योंकि
[08:07] वीडियो जब भी डिकोड होता है ना उसके बाद
[08:09] वापस से तुरंत एफएफ उसको असेंबल करता है
[08:11] और तभी आपको 780p आउटपुट निकलता है कि
[08:13] उसने डिकोड करा अब डिकोड करके उसको 720p
[08:16] में डालेगा वापस से आपको 480 करना है तो
[08:18] वापस से डिकोड करेगा और फिर से 720p तो
[08:20] ऐसे ही चल रहा था अभी तक ट्रेडिशनली बट
[08:22] इन्होंने सम हाउ उसमें से वो डिकोडर निकाल
[08:25] के अलग रख लिया कि हम डिकोडर फेस तक ही
[08:27] काम करेंगे और उसके बाद यहां पे स्केलर्स
[08:29] हैं जो कि वीडियोस को स्केल करते हैं।
[08:30] स्केल अप और स्केल डाउन व्हाटएवर इट इज़।
[08:32] तो इन्होंने स्केल अप कर लिया या स्केल
[08:34] डाउन कर लिया। तो एक ही इंस्टेंस है उसको
[08:36] हमने बार-बार सब जगह यहां पर भेजा है। अब
[08:38] एनकोडर तो ऑब्वियस सी बात है वीडियो डिकोड
[08:40] होने के बाद वापस से एनकोड होगा ही होगा।
[08:42] जो भी फॉर्मेट में चाहिए आपको एमकेवी MP4
[08:45] 720p 480p
[08:47] डैश चाहिए एचएलएस चाहिए जो भी आपको
[08:49] फॉर्मेट चाहिए वो सारा आउटपुट यहां पे आ
[08:51] जाता है। तो ये बड़ा ही इंटरेस्टिंग और आई
[08:54] थिंक मैंने वन ऑफ दी रेयर केसेस में ही
[08:58] देखा है कि यार वर्क अराउंड है बट इट इज़
[08:59] वेरी वेरी गुड। इन्होंने कहा है कि यहां
[09:02] पर आप देखोगे दिस एलिमिनेट अ लॉट ऑफ
[09:05] ओवरहेड बाय डी डुप्लीकेशन ऑफ वीडियो
[09:06] डिकोडिंग एंड प्रोसेसिंग स्टार्टअप ओवरहेड
[09:10] क्योंकि हर वीडियो को वापस से डिकोड करना
[09:11] पड़ रहा था। गिवन दैट वी प्रोसेस ओवर 1
[09:14] बिलियन वीडियो अपलोड डेली ईच रिक्वायरिंग
[09:17] मल्टीपल एफएफएम पैक एग्जीक्यूशन ऑब्वियस
[09:19] सी बात है सिग्निफिकेंट चंक डीकोड का तो
[09:22] गायब ही हो गया है। अ रिडक्शन इन पर
[09:23] प्रोसेस कंप्यूट यूसेज यील्ड सिग्निफिकेंट
[09:26] एफिशिएंसी गेंस अ सिस्टम डिज़ाइंस और इन सब
[09:30] चीजों में ना जब हमेशा ऐसा कुछ नहीं होता
[09:32] कि कुछ खतरनाक हो जाता है। एक छोटा सा
[09:34] ब्रेक थ्रू ही होता है यूजुअली। तो वहां
[09:36] पे आप देखोगे बड़ा इंटरेस्टिंग होता है। तो
[09:38] इन्होंने यही काम करा। तो अब आपको समझ में
[09:39] आएगा यह था ट्रेडिशनल आर्किटेक्चर।
[09:42] इन्होंने बनाया डिस्ट्रीब्यूटेड
[09:43] प्रोसेसिंग पावर हाउस। रीइमेजिन द ओपन
[09:45] सोर्स को रियल टाइम प्रोसेसिंग एट स्केल,
[09:48] मेंटेन क्वालिटी एफिशिएंसी। तो यही पूरा
[09:49] जो काम है इन्होंने किया है कि यह जो
[09:51] डिस्ट्रीब्यूशन ऑफ़ पावर हाउस है कि
[09:53] डिकोडिंग के लिए अब हम बड़ी मशीन भी लगा
[09:54] सकते हैं क्योंकि वीडियो सिर्फ डिकोड हो
[09:56] रहा है। उसके बाद अपने-अपने एनकोडर में जा
[09:58] रहा है। तो वेरी नाइस एंड इंटरेस्टिंग
[10:00] थिंग। अब इन्होंने और क्या करा है कि
[10:02] इन्होंने इंजेशन और प्रीवैलिडेशन भी लगाए
[10:04] जो कि 1 बिलियन वीडियोस को स्कैन करती है।
[10:07] अब इंटरेस्टिंग बात यह है कि स्कैन करने
[10:09] के लिए ना वीडियो को डिकोड करना या
[10:10] फ्रेम्स या कुछ ना कुछ डिटेक्शन एल्गोरिदम
[10:12] तो चाहिए ही चाहिए। वहां पे भी यह
[10:15] पाइपलाइन एज़ इट इज़ यूज़ हो सकती है। दैट्स
[10:17] वेरी इंटरेस्टिंग। क्योंकि आपने डिकोड करा
[10:19] है। मे बी उसी टाइम पे आप कुछ फ्रेम पे तो
[10:21] यह यहां पे पहुंचने से पहले ही अगर यहां
[10:23] डिकोडर पे स्कैन भी हो जाए। यू सेव अ लॉट
[10:26] ऑफ़ थिंग। क्योंकि वीडियो जो करप्ट है उनको
[10:28] प्रोसेस ही नहीं करना है। जो वीडियोस के
[10:30] अंदर वैसे तो मुझे लगता नहीं Facebook,
[10:32] Instagram कुछ भी रोकते हैं सच कुछ होता
[10:34] है क्योंकि वहां तो कुछ भी चल रहा है बट
[10:36] जो रोकना चाहते हैं मे बी थोड़ा बहुत तो
[10:39] वो रोक सकते हैं यहां पे। उसके अलावा एक
[10:41] और आपको यहां पे डायग्राम दिखेगा। दिस इज
[10:43] वै नाइस। तो इनेबलिंग रियल टाइम क्वालिटी
[10:46] मैट्रिक्स व्हाइल ट्रांसपोर्टिंग फॉर लाइव
[10:48] स्ट्रीम। तो इन्होंने ये का ये सेम इंफ्रा
[10:50] देखो दो टाइप के वीडियोस होते हैं। एक
[10:52] वीओडी एक लाइव स्ट्रीम। वीओडी है वीडियो
[10:54] ऑन डिमांड और लाइव स्ट्रीम्स हैं जो
[10:56] स्ट्रीम आप देखते रहते हो YouTube वगैरह
[10:58] पे वो सब तो इन्होंने क्या करा कि यहां पे
[11:00] वापस से इनपुट जो वीडियो है वो बिट
[11:02] स्ट्रीम्स में आता है यहां पे इन्होंने
[11:03] वापस से सेम डिकोडर यूज़ करा और यहां पे
[11:06] अनस्केल्ड फ्रेम है। तो ये जो इनका एम
[11:08] स्केलर है ना यह भी बड़ा इंटरेस्टिंग है।
[11:10] ये रेफरेंस फ्रेम वगैरह से करता है। तो
[11:11] देखो आपको यहां पे दिखाई देगा। तो
[11:14] इंटरेस्टिंग चीज़ मेरे को जो और लगी इसके
[11:16] बाद में अ यस दिस इज़ द वन जो आपको देखनी
[11:21] चाहिए।
[11:22] यहां पर इन्होंने कहा एफएफ एम पैक कैन
[11:23] कंप्यूट वेरियस विजुअल क्वालिटी मैट्रिक्स
[11:25] सच एज पीएसएआर एसएसआर यह तो सब मैं भी पढ़
[11:28] रहा हूं और ज्यादा क्योंकि बड़े
[11:29] इंटरेस्टिंग मैट्रिक्स हैं। मैंने एज सच
[11:32] कोई पर्सनली फर्स्ट हैंड इन मैट्रिससेस को
[11:34] इतना ज्यादा नहीं देखा तो दैट्स व्हाई आई
[11:35] एम स्टिल लर्निंग। तो जब मुझे पता लग
[11:36] जाएंगे तो पक्का मैं वीडियो इस पे बनाऊंगा
[11:38] ही बनाऊंगा। इसके बाद जस्ट वीडियो के बाद
[11:40] मैं इसी पे जाने वाला हूं। इसीलिए
[11:41] इंजीनियरिंग ब्लॉग्स पढ़ते हैं सब लोग कि
[11:43] नए टर्म्स मिल जाते हैं। उन नए टर्म्स को
[11:44] आप देखते हो, खोजते हो, मजा आता है। दैट्स
[11:46] द होल थिंग।
[11:48] तो इन्होंने कहा कि दिस इज ओके फॉर ऑफलाइन
[11:50] और वीडियो वर्ड यूज़ केस। ये सब जगह यही
[11:53] टर्मिनोलॉजी इसीलिए कहते हैं सिस्टम
[11:54] डिजाइन जब आप पढ़ते हो इन टर्मिनोलॉजी से
[11:56] फेमिलियर हो जाते हैं। जैसे मैंने बहुत
[11:57] पहले पढ़ लिया था वी ओ डी वीडियो ऑन डिमांड
[11:59] होता है। हम यूज़ भी करते हैं। बट ऐसे नए
[12:01] टर्म्स आते हैं। अह बट नॉट फॉर लाइव
[12:03] स्ट्रीमिंग वेयर वी माइट वांट टू कंप्यूट
[12:05] क्वालिटी मैट्रिक्स इन रियल टाइम। टू डू
[12:07] दिस वी नीड टू इंसर्ट अ वीडियो डिकोडर
[12:10] आफ्टर ईच वीडियो एनकोडर यूज्ड बाय ईच
[12:13] आउटपुट लेन। अब इंटरेस्टिंग बात है कि
[12:16] इन्होंने यह जो वीडियो एनकोडर है सॉरी
[12:19] वीडियो डिकोडर है यह हर एक एनकोडर के बाद
[12:22] क्यों रखा यहां पर जैसे अगर आप देखोगे
[12:24] इसको वापस से तो यहां पे एम एनकोडर्स हैं
[12:27] और ये एम डिकोडर्स वापस आते हैं। इसको मैं
[12:31] थोड़ा सा और अभी आपको बताता हूं क्योंकि
[12:32] ये आपको डायरेक्टली यहीं समझ में आ जाएगा।
[12:34] अ तो कहां गए हम? यहां पे थे। आफ्टर ईच
[12:39] वीडियो एनकोडर टू डू दिस वी नीड टू इंसर्ट
[12:41] अ वीडियो डिकोडर। आफ्टर ईच वीडियो एनकोडर
[12:44] यूज्ड बाय ईच आउटपुट लेन। तो आपका जब
[12:46] वीडियो लाइव स्ट्रीम भी होता है तब भी
[12:48] आपकी क्वालिटी डिपेंड करती है क्योंकि हर
[12:49] कोई डिटेक्ट करता है कि आप किस नेटवर्क पे
[12:51] हो। उस नेटवर्क की स्पीड कितनी है यह सब
[12:54] डिटेक्ट किया जाता है बिहाइंड द सीन और
[12:55] उसके बेसिस पे आपको वीडियो स्ट्रीम भी
[12:57] किया जाता है। वीडियो ऑन डिमांड में भी
[12:58] होता है बट स्ट्रीम में तो बहुत ज्यादा
[12:59] इसका ध्यान रखता है। दीज़ प्रोवाइड बिटमैप
[13:02] फॉर ईच फ्रेम इन द वीडियो आफ्टर कंप्रेशन
[13:05] हैज़ बीन अपाइड सो दैट वी कैन कंप्रेस
[13:07] अगेंस्ट द फ्रेम बिफोर कंप्रेशन। यह बड़ी
[13:12] इंटरेस्टिंग है। इसको दोबारा से अगर आपका
[13:14] मन करे तो पढ़ना। दिस इज वन ऑफ द वेरी
[13:16] इंटरेस्टिंग लाइन जो कि लाइव स्ट्रीम के
[13:18] लिए इंटरेस्टिंग है कि
[13:21] और हालांकि यह इंफ्रास्ट्रक्चर प्रिपेयर
[13:24] करना भी अपने आप में एक बहुत बड़ा चैलेंज
[13:26] है कि अगर इस तरह का इंफ्रास्ट्रक्चर आप
[13:28] प्रिपेयर कर पा रहे हो। आई थिंक बड़ी
[13:30] कंपनियों के बस की बात है। बट होपफुली
[13:31] जल्दी आएगा यह भी। बट हां आई लव्ड दिस कि
[13:34] bिटमप्स वगैरह सब क्योंकि bिटमप्स को ना
[13:37] आप किसी भी मशीन लर्निंग एल्गोरिदम या
[13:38] कहीं पे भी डाल के ना बहुत कुछ डिटेक्ट कर
[13:40] सकते हो। दैट इज़ द वन ऑफ़ द थिंग। इन द एंड
[13:42] वी कैन प्रोड्यूस क्वालिटी मैट्रिक्स फॉर
[13:44] ईच अनकोडेड लेन इन रियल टाइम यूजिंग सिंगल
[13:46] एफएफएम बैक कमांड। राइट? तो ये तो है ही।
[13:48] अब इंटरेस्टिंग चीज़ आपको मैं बताता हूं कि
[13:50] कैसे Facebook हेल्प या Facebook ने हेल्प
[13:53] करा कम्युनिटी का। तो थैंक्स टू इन लूप ये
[13:56] हो गया। तो थिंग्स लाइक रियल टाइम
[13:58] क्वालिटी मैट्रिक्स। ओके। ओके। यह तो ठीक
[14:01] है।
[14:02] हां, यह रहा आवर कंटिन्यूड कमिटमेंट टू
[14:05] एफएफएम पैग विद मोर एफिशिएंट मल्टीलेन
[14:08] एनकोडिंग एंड रियल टाइम क्वालिटी
[14:09] मैट्रिक्स वी आर एबल टू फुल्ली डेप्लिककेट
[14:12] आवर इंटरनल फर्क फॉर वीडियो एंड डिमांड।
[14:14] तो क्या हुआ था कि Facebook ने क्या करा
[14:17] कि एफएफएम पे क्योंकि ओपन सोर्स है और
[14:19] इन्होंने एज़ इट इज़ नहीं लिया। उसको फर्क
[14:21] किया। उसके बाद खुद की इंजीनियरिंग टीम
[14:23] लगा के और यह जो जो इसके प्रोसेसिंग में
[14:25] इशूज़ थे जैसे पैरेलल प्रोसेसिंग नहीं हो
[14:27] रही। इनको बहुत सारे वीडियो ऑन डिमांड,
[14:29] लाइव स्ट्रीमिंग पाइपलाइन ये सब इनको
[14:31] चाहिए था। तो इन्होंने खुद का पाइपलाइन
[14:32] पूरा बिल्ड कर लिया। अब हालांकि टेक्निकली
[14:37] तो अगर आपने बिल्ड करा है, इतना बड़ा कुछ
[14:39] है तो प्रोबब्ली यू कुड हैव सबमिटेड बैक
[14:41] टू द ओपन सोर्स। अ बट यूजुअली कंपनियां
[14:44] इतना भी ओपन सोर्स नहीं करती है। कुछ
[14:46] चीजें अपनी प्रोपराइटरी रखती है बिकॉज़
[14:48] दैट्स द स्केलिंग और स्केलिंग इज़ वन ऑफ़ द
[14:50] प्रोपराइटरी थिंग। ओके? एंड थैंक्स टू द
[14:53] स्टैंडर्ड स्टैंडर्डाइज़्ड हार्डवेयर
[14:55] एपीआईज़ इन एफएफ एमग। वी वर एबल टू सपोर्ट
[14:58] आवर एमएसवीपी एएसआईसी अलोंग साइड
[15:00] सॉफ्टवेयर बेस्ड पाइपलाइन विद मिनि
[15:02] फ्रिक्शन। इन सबको छोड़ो। इन सब में आप मत
[15:05] जाओ। अभी आप यह देखो सिर्फ एफएफ एमक हैज़
[15:08] विदस्टुड द टेस्ट ऑफ़ टाइम 25 इयर्स ऑफ़
[15:10] एक्टिव डेवलपमेंट बहुत बड़ा होता है। बट
[15:13] इन्होंने क्या करा है? अ डेवलपमेंट दैट
[15:16] इंप्रूव द रिसोर्स यूटिलाइज़ेशन ऐड सपोर्ट।
[15:18] अब जो नया वाला कोडक है एफएफक का जो नए
[15:22] वर्जनंस है उसके अंदर यह सब कुछ
[15:24] डायरेक्टली अवेलेबल है। तो अगर कोई खुद का
[15:26] इंफ्रास्ट्रक्चर बनाना चाहे डेफिनेटली और
[15:28] मिलेगा। बट ये जो पेपर्स होते हैं ये आपको
[15:30] सिर्फ एक थॉट प्रोसेस देते हैं कि अच्छा
[15:32] ऐसा भी कुछ है। तो अभी जो नए वाले एफएफ एम
[15:35] पैग है आई थिंक इन्होंने नए वर्जन के बारे
[15:37] में भी कहीं तो लिखा है। मैं देखता हूं एक
[15:39] सेकंड। हां जी। यह रही वो लाइन अ जहां पे
[15:43] इन्होंने कहा है कि डायग्राम के जस्ट ऊपर
[15:46] है। बाय द वे। थैंक्स टू द कंट्रीब्यूशन
[15:48] फ्रॉम एफएफ एम पैक डेवलपर्स इंक्लूडिंग
[15:49] दोज़ एट एफएफ लैब्स एंड वीडियो वीएलसी जो
[15:52] आपने देखा है मोर एफिशिएंट थ्रेडिंग वाज़
[15:55] इंप्लीमेंटेड स्टार्टिंग विद एफएफएम पैक
[15:57] सिक्स वर्जन अभी बाय द वे एट वर्जन पे है
[15:59] हम अगर इंजन केस जिन्होंने एफएफएम पैग
[16:03] नहीं देखा है प्लीज देख जरूर लेना कि कहां
[16:05] पे अभी हम चल रहे हैं तो आप देखोगे तो आई
[16:07] थिंक अभी तो हम एफएफएम पैक के वर्जन एट पे
[16:10] हैं जो कि इनक्रेडिबली फास्ट है। तो वह जो
[16:12] फास्ट हुआ कहीं ना कहीं यह क्रेडिट भी ले
[16:14] रहे हैं उस बात का बट ठीक है इट्स ओके तो
[16:17] यहां पे देखो क्या है कि एफएफक के अंदर जो
[16:19] था यह मल्टी थ्रेडिंग एफिशिएंसी या मोर
[16:21] थ्रेड्स हम यूज़ कर पाए प्रोसेसिंग के
[16:23] दौरान इसका इंप्लीमेंटेशन स्टार्ट हुआ
[16:25] एफएफ एमmक सिक्स पे विथ द फिनिशिंग टचेस
[16:27] लैंडिंग इन एट वर्जन के अंदर दिस वाज़ यह
[16:31] इंटरेस्टिंग है। दिस वाज़ डायरेक्टली
[16:33] इन्फ्लुएंस्ड बाय द डिज़ाइन ऑफ़ आवर इंटरनल
[16:35] फोर्क एंड वाज़ वन ऑफ़ द मेन फीचर वी हैड
[16:39] रिलाइड ऑन इट टू प्रोवाइड। अब इंटरेस्टिंग
[16:42] बात यह है मुझे नहीं समझ आया कि इनके
[16:46] वर्जन ने कैसे उनको इन्फ्लुएंस किया। मे
[16:48] बी उनकी टीम डायरेक्टली कांटेक्ट में थी,
[16:49] टच में थी। व्हाटएवर इज़ द केस। दिस
[16:51] डेवलपमेंट लेड टू द मोस्ट कॉम्प्लेक्स
[16:53] रिफैक्टिंग ऑफ़ एफएफएम पैग इन डेकेड्स एंड
[16:56] दिस हैज़ इनेबल्ड मोर एफिशिएंट एंड कोडिंग
[16:58] फॉर ऑल द एफएफएम पैग यूज़र। अब इंटरेस्टिंग
[17:00] बात क्या है? इंटरेस्टिंग बात यह है कि
[17:02] अगर आपको इससे थोड़ा भी आईडिया लग गया कि
[17:04] ठीक है नाउ वीडियो पाइपलाइन इवन लाइव
[17:07] स्ट्रीमिंग उनके अंदर आपके पास अब इतना
[17:09] हैवी इंफ्रा इतनी बड़ी मशीनंस लगाने की
[17:11] जरूरत नहीं है क्योंकि अब मल्टी थ्रेड
[17:12] मल्टी प्रोसेसर्स को हम ज्यादा एफिशिएंटली
[17:15] यूज़ कर पाते हैं। बट अब आपको अगर और इसके
[17:17] बारे में जानना है तो अब हमें जंप करना
[17:19] पड़ेगा एफएफ पैक पे। तो आप जाकर देखोगे तो
[17:21] यह न्यू मेजर जो रिलीज है इनका थोड़ा और
[17:25] ज़ूम करते हैं। इसमें है अवेलेबल टू
[17:27] डाउनलोड है। इसमें आपको नेटिव एनकोडर्स जो
[17:29] नए प्रोसेस RS Apple वगैरह के वो सब तो आए
[17:31] हैं। और उसके अलावा दिस न्यू क्लास ऑफ़
[17:35] डिकोडर एनकोडर बेस्ड ऑन प्योर व्कन
[17:37] कंप्यूट इंप्लीमेंटेशन। यही शायद वो है।
[17:39] व्कन कंप्यूट इंप्लीमेंटेशन जब मैंने पहली
[17:42] बार पढ़ा मुझे नहीं समझ में आया कि ये क्या
[17:44] नाम है कहां से है। तो आई थिंक दिस इज़
[17:46] व्हाट दे आर रेफरिंग टू द होल
[17:48] इंफ्रास्ट्रक्चर। तो वहां से इसकी शुरुआत
[17:50] हुई। व्कन इज़ अ क्रॉस प्लेटफार्म ओपन
[17:52] स्टैंडर्ड सेट्स ऑफ़ एपीआई दैट अलाउ
[17:54] प्रोग्राम्स टू यूज़ जीपीयू हार्डवेयर्स इन
[17:57] वेरियस वेज़। तो ज्यादा देखो [हंसी] एआई तो
[18:00] जीpu यूज़ कर ही रहा था। वीडियो प्रोसेसिंग
[18:02] में हम और ज्यादा कर पा रहे हैं। फ्रॉम
[18:04] ड्राइंग स्क्रीन्स टू कैलकुलेशन टू
[18:06] डिकोडिंग वीडियो व्हाई कस्टम हार्डवेयर
[18:08] एक्सेलेटर। ये जो कस्टम हार्डवेयर
[18:09] एक्सेलेटर है ना ये आपको Apple के अंदर भी
[18:12] मिलता है। इसलिए Apple के अंदर थोड़ा सा
[18:14] एफएफएम पैक जब आप चलाते हो तो थोड़ा
[18:15] कंपेरेटिवली फास्ट मिलता है। बट बहुत सारे
[18:18] अ क्लाउड प्रोवाइडर्स आपको कस्टम
[18:20] हार्डवेयर एक्सेलरेटर देते हैं। यही वो है
[18:22] एक्चुअली में जो इसको प्रोवाइड करता है।
[18:25] रादर देन यूजिंग कस्टम हार्डवेयर एक्सेलर
[18:28] प्रेजेंट दीज़ डिकोडर्स आर बेस्ड ऑन
[18:30] कंप्यूट शेडर्स वर्क ऑन इंप्लीमेंटेशन।
[18:33] डिकोडर्स यूज़ द सेम ये सारे तो अब देखो
[18:36] बहुत ज्यादा मेरे भी ऊपर से जा रहे हैं। अ
[18:38] बट इसमें आप और भी देखोगे ना तो यही सब
[18:40] इंप्लीमेंटेशन आपको दिखेगा। तो उसके बाद
[18:42] जब मैंने ये थोड़ा सा पढ़ा ना तब मुझे समझ
[18:44] में आया यहां पे जैसे ओनली कोडक्स
[18:46] स्पेसिफिकली डिज़ फॉर पैरेलल डिकोडिंग कैन
[18:48] बी इंप्लीमेंटेड इन सच ए वे विद मोर मेन
[18:51] स्ट्रीम कोडक्स आर बीइंग प्लान। ऐसा नहीं
[18:53] है कि सारे ही एनकोडर्स डिकोडर्स इन सभी
[18:56] को सपोर्ट करते हैं। MP34 वैसे भी बहुत
[18:59] रोबस्ट है। आई थिंक वहां पे होगा। बट नेवर
[19:01] टेस्टेड इट। अब टेस्टिंग स्टार्ट होगी।
[19:03] देखते हैं क्या होता है, कैसे होता है। बट
[19:05] हां, अब मुझे थोड़ा-थोड़ा क्लिक होने लगा।
[19:07] पूरा तो मुझे भी नहीं हुआ अभी एकदम से। बट
[19:09] थोड़ा-थोड़ा क्लिक होने लगा कि अच्छा यहां
[19:11] से अब हम तार जोड़ सकते हैं। और ऐसे जो
[19:14] आर्टिकल्स होते हैं ना यह होते थोड़े
[19:16] शॉर्ट हैं। इन पे एक चीज और बता दूं मैं
[19:18] आपको शायद बाकी लोग यूजली नहीं करते।
[19:21] देखिए ये जो आर्टिकल्स होते हैं ना ये
[19:23] आपको हमेशा एक नया थॉट प्रोसेस देते हैं।
[19:25] क्या आप इस आर्टिकल को एक बार में 100%
[19:27] समझ सकते हो? नहीं कोई नहीं समझता। दो-तीन
[19:29] बार इनको पढ़ना पड़ता है। नोट्स बनाने
[19:30] पड़ते हैं। फिर आप डायग्राम बनाते हो। दिस
[19:32] वाज़ जस्ट रॉ वर्जन वन। तो मैं देख रहा था
[19:34] तो मैंने सोचा साथ में बना देते हैं।
[19:36] यूजुअली इनको जो भी पढ़ते हैं दो-तीन बार
[19:38] पढ़ना ही पड़ता है। इनमें बहुत सारी
[19:40] टर्म्स होती है। फिर आप उन टर्म्स को
[19:41] पढ़ते हो, रिसर्च करते हो थोड़ा सा फिर और
[19:43] दोबारा से आकर पढ़ते हो तब समझ में आता
[19:45] है। और सबसे इंटरेस्टिंग चीज कई बारी
[19:47] आर्टिकल्स मार्केटिंग फ्रेंडली भी बनाए
[19:50] जाते हैं। क्योंकि सबको पता है डेवलपर्स
[19:51] ये पढ़ रहे हैं। तो मार्केटिंग भी होती है
[19:53] हर कंपनी के हर आस्पेक्ट में कि हां ठीक
[19:55] है वहां इंजीनियरिंग इकोसिस्टम ऐसा है।
[19:57] हायरिंग में आसान होता है। थोड़ा सा
[20:00] स्टॉक्स वगैरह सब जगह फर्क पड़ता है। तो
[20:02] ऐसा नहीं है कि ये आपको पूरा एज इट इज कोड
[20:04] दे देंगे, इंप्लीमेंटेशन आर्किटेक्चर दे
[20:05] देंगे। वो आपको एक थॉट देते हैं कि ऐसा भी
[20:07] किया जा सकता है। इफ यू आर कैपेबल इनफ गो
[20:10] अहेड एंड डू इट नाउ। तो यह भी होता है। तो
[20:12] हमेशा ग्रेन ऑफ साल्ट के साथ लें। हर एक
[20:14] आर्टिकल को नो डाउट उसमें नए थॉट प्रोसेस
[20:17] होते हैं। नया सीखने को मिलता है। बट विद
[20:19] ग्रेन ऑफ़ साल्ट एवरीथिंग स्टैंड्स विद द
[20:21] मार्केटिंग पर्सपेक्टिव। बिज़नेस तो है ही
[20:23] ना। ऑब्वियस सी बात है। और उसमें गलत क्या
[20:24] है? होना भी चाहिए। तो आई थिंक एक छोटा सा
[20:27] रॉ वीडियो आपको अच्छा लगा होगा। जहां हमने
[20:30] थोड़ा डिकोड किया। यहां पे काफी चीजें मेरे
[20:32] लिए भी नहीं है। मैं जाके अब पढूंगा। ऐसे
[20:34] ही आप भी पढ़ लेना। बस ऐसे आते रहो चाय कोड
[20:37] पे। चाय पे चर्चा करते रहेंगे। साथ में
[20:39] पढ़ते रहेंगे। कमेंट्स आप ड्रॉप कर ही
[20:41] जाओगे। सब्सक्राइब तो कर ही दिया होगा।
[20:42] मिलते हैं अगले वीडियो के अंदर।
⚡ Saved you time reading this? Transcribe any YouTube video for free — no signup needed.