Shanghai Neardi Technology Co., Ltd. sales@neardi.com 86-021-20952021
क्यों अधिक से अधिक एज डिवाइस एनपीयू और कोप्रोसेसर के बारे में बात कर रहे हैं? RK3588 पहले से ही एक शक्तिशाली 6 TOPS (INT8) SoC है, फिर भी मल्टी-टास्क इन्फरेंस, मॉडल पैरेललिज्म और वीडियो-एआई एनालिटिक्स जैसे जटिल दृश्यों में एक ही चिप की कंप्यूटिंग सीमा अभी भी मौजूद है। RK1820 को ठीक उसी लोड को संभालने और मुख्य SoC की “कंप्यूट चिंता” को कम करने के लिए बनाया गया था। एज-एआई उपकरणों में होस्ट प्रोसेसर अब अकेले नहीं लड़ता; जब एआई कार्य पारंपरिक सीपीयू/एनपीयू की शेड्यूलिंग क्षमता से अधिक हो जाते हैं, तो कोप्रोसेसर चुपचाप कदम रखता है और बुद्धिमान वर्कलोड का एक हिस्सा मान लेता है।
RK1820 एआई इन्फरेंस और कंप्यूट विस्तार के लिए बनाया गया एक कोप्रोसेसर है; यह RK3588 और RK3576 जैसे होस्ट SoCs के साथ लचीले ढंग से जुड़ता है और PCIe या USB इंटरफेस के माध्यम से उनके साथ कुशलता से संचार करता है।
| क्षमता श्रेणी | मुख्य पैरामीटर और कार्य |
|---|---|
| प्रोसेसर आर्किटेक्चर | 3× 64-बिट RISC-V कोर; प्रति कोर 32 KB L1 I-कैश + 32 KB L1 D-कैश, 128 KB साझा L2 कैश; RISC-V H/F/D-प्रिसिजन FPU |
| मेमोरी | 2.5 जीबी ऑन-चिप हाई-बैंडविड्थ DRAM + 512 KB SRAM; eMMC 4.51 (HS200), SD 3.0, SPI फ्लैश के लिए बाहरी समर्थन |
| कोडेक | JPEG एन्कोड: 16×16–65520×65520, YUV400/420/422/444; JPEG डिकोड: 48×48–65520×65520, कई YUV/RGB प्रारूप |
| एनपीयू | 20 TOPS INT8; मिश्रित-प्रिसिजन INT4/INT8/INT16/FP8/FP16/BF16; फ्रेमवर्क: TensorFlow/MXNet/PyTorch/Caffe; Qwen2.5-3B (INT4) 67 टोकन/सेकंड, YOLOv8n (INT8) 125 FPS |
| संचार | PCIe 2.1 (2 लेन, 2.5/5 Gbps), USB 3.0 (5 Gbps, PCIe के साथ साझा) |
| मुख्य कार्य | एज-एआई इन्फरेंस (पहचान / वर्गीकरण / एलएलएम), RISC-V सामान्य कंप्यूट, 2-डी ग्राफिक्स त्वरण (स्केल / रोटेट), AES/SM4 सुरक्षा |
RK3588 + RK1820 सिस्टम में, एआई-टास्क पाइपलाइन को चार-स्तरीय आर्किटेक्चर में विघटित किया गया है:
एप्लिकेशन → मिडलवेयर → को-प्रोसेसर निष्पादन → नियंत्रण और प्रस्तुति।
RK3588 होस्ट: टास्क शेड्यूलिंग, डेटा प्री-प्रोसेसिंग और परिणाम आउटपुट को संभालता है, पूरे वर्कफ़्लो को नियंत्रित करता है।
RK1820 को-प्रोसेसर: उच्च-कंप्यूट एआई इन्फरेंस के लिए समर्पित, PCIe के माध्यम से होस्ट से जुड़ा हुआ है, जो एक “लाइट कंट्रोल + हैवी कंप्यूट” सहयोग मॉडल बनाता है।
| चरण | अभिनेता | क्रिया |
|---|---|---|
| ऐप अनुरोध | RK3588 | ऐप लेयर (पहचान/पहचान) से जारी एआई-टास्क कॉल |
| डिस्पैच | RK3588 डिस्पैचर | यह तय करें कि को-प्रोसेसर को ऑफलोड करना है या नहीं |
| इन्फरेंस | RK1820 | डीप-लर्निंग मॉडल कंप्यूटेशन चलाएं |
| वापसी | RK1820 → RK3588 | इन्फरेंस परिणाम वापस भेजें; होस्ट प्रदर्शित करता है या तर्क जारी रखता है |
एप्लिकेशन लेयर वह जगह है जहां हर एआई कार्य शुरू होता है; यह उपयोगकर्ता की आवश्यकताओं—छवि विश्लेषण, ऑब्जेक्ट डिटेक्शन, एज-साइड एलएलएम क्यू एंड ए, आदि—को सिस्टम-निष्पादन योग्य टास्क कमांड में अनुवादित करता है और उन्हें मानकीकृत एपीआई के माध्यम से मिडलवेयर लेयर में पास करता है। इस लेयर को पूरी तरह से RK3588 होस्ट द्वारा संभाला जाता है, जो उपयोगकर्ता इंटरैक्शन, बिजनेस लॉजिक और परिधीय डेटा का प्रबंधन करता है।
टास्क रिसेप्शन: कैमरों, टच पैनल, ईथरनेट, UART, आदि के माध्यम से उपयोगकर्ता कमांड प्राप्त करता है।
कमांड मानकीकरण: असंरचित इनपुट को संरचित टास्क पैरामीटर में बदलता है
मिडलवेयर लेयर सहयोगी हब है: यह प्रत्येक कार्य का न्याय करता है, संसाधन आवंटित करता है, डेटा को प्रीप्रोसेस करता है, और बस ट्रैफ़िक को नियंत्रित करता है। यह तय करता है कि कार्य होस्ट पर चलता है या को-प्रोसेसर को ऑफ-लोड किया जाता है।
केवल RK3588; RK1820 PCIe कॉन्फ़िगरेशन या इंटरप्ट प्रबंधन में कोई हिस्सा नहीं लेता है—यह बस होस्ट द्वारा भेजे गए इन्फरेंस जॉब को निष्पादित करता है।
टास्क वर्गीकरण और शेड्यूलिंग
डेटा प्रीप्रोसेसिंग
बस संचार नियंत्रण
यह लेयर इन्फरेंस कोर है, जो विशेष रूप से RK1820 को-प्रोसेसर द्वारा संचालित है, जो उच्च-कंप्यूट एआई इन्फरेंस के लिए समर्पित है।
RK1820 सक्रिय; RK3588 इन्फरेंस में हस्तक्षेप नहीं करता है, यह केवल परिणामों की प्रतीक्षा करता है। टाइम-आउट या अपवादों को PCIe रीसेट कमांड के माध्यम से RK3588 द्वारा संभाला जाता है।
टास्क रिसेप्शन और तैयारी
RK3588 द्वारा भेजे गए डेटा, मॉडल वेट और कमांड प्राप्त करता है; उन्हें स्थानीय हाई-बैंडविड्थ DRAM में लिखता है, मॉडल लोड करता है, और एनपीयू को कॉन्फ़िगर करता है।
एनपीयू इन्फरेंस कंप्यूट
परिणाम वापसी
यह लेयर हर एआई कार्य का टर्मिनस है: यह RK1820 से कच्चे इन्फरेंस परिणामों को विज़ुअल या बिजनेस-रेडी आउटपुट में परिवर्तित करता है और लूप को बंद कर देता है।
RK3588 सक्रिय; RK1820 केवल कच्चे इन्फरेंस डेटा की आपूर्ति करता है।
परिणाम पोस्ट-प्रोसेसिंग
सिस्टम नियंत्रण और प्रतिक्रिया आउटपुट
सहयोग का मूल्य: न केवल तेज़, बल्कि स्मार्ट भी
| चरण | अभिनेता | क्रिया |
|---|---|---|
| ऐप अनुरोध | RK3588 | ऐप लेयर (पहचान/पहचान) से जारी एआई-टास्क कॉल |
| डिस्पैच | RK3588 डिस्पैचर | यह तय करें कि को-प्रोसेसर को ऑफलोड करना है या नहीं |
| इन्फरेंस | RK1820 | डीप-लर्निंग मॉडल कंप्यूटेशन चलाएं |
| वापसी | RK1820 → RK3588 | इन्फरेंस परिणाम वापस भेजें; होस्ट प्रदर्शित करता है या तर्क जारी रखता है |
सीधे शब्दों में कहें: RK3588 शो चलाता है और सब कुछ ट्रैक पर रखता है, जबकि RK1820 कच्चे कंप्यूट बर्स्ट देता है; एक साथ वे एज-एआई उपकरणों को “स्मार्टर, तेज़ और परेशानी मुक्त” बनाते हैं।
अधिक RK1820 समाचार और SDK अपडेट, ताज़ा ट्यूटोरियल और रेडी-टू-रन डेमो के लिए हमें फ़ॉलो करें।
