प्रौद्योगिकी साझेदारी

Hadoop-23 Sqoop आँकडा MySQL तः HDFS (भाग) SQL आँकडा HDFS क्लस्टर Sqoop आयात jdbc ETL MapReduce जनयति

2024-07-12

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

अध्याय सामग्री

पूर्वभागे वयं निम्नलिखितसामग्री सम्पन्नवन्तः।

  • दत्तांशं जनयितुं SQL स्क्रिप्ट् लिखन्तु
  • अस्माकं आश्रिताः सेवाः आरभत: HDFS, Hive, YARN
  • Sqoop सर्वाणि आँकडानि Hive मध्ये आयातयति
  • MapReduce स्थितिं पश्यन्तु, HDFS परिणामान् पश्यन्तु

पृष्ठभूमि परिचय

अत्र त्रयः सार्वजनिकजालमेघसर्वरः, प्रत्येकं 2C4G, मम शिक्षणार्थं Hadoop शिक्षणवातावरणं निर्मान्ति।
मया पूर्वं एकवारं VM वर्चुअल् यन्त्रे निर्मितम्, परन्तु अहं किमपि टिप्पणं न त्यक्तवान् अस्मिन् समये, अहं कतिपयदिनानि पूर्वं मया उद्धृतानां त्रयाणां यन्त्राणां लाभं गृहीत्वा शीघ्रमेव सार्वजनिकजालपुटे निर्मातुं प्रयतितवान् तस्य अनुभवः ।

  • 2C4G सं.ह121
  • 2C4G सं h122
  • 2C2G सं.ह123

अत्र चित्रविवरणं सम्मिलितं कुर्वन्तु

सावधानताएँ

Apache Sqoop 于 2021 年 6 月迁入 Attic。
अपाचे Sqoop इत्यस्य मिशनं Apache Hadoop इत्यनेन सह सम्बद्धं बृहत्-परिमाणस्य आँकडा-स्थानांतरण-सॉफ्टवेयरस्य निर्माणं, संरचित-आँकडा-भण्डारणस्य च निर्माणं, परिपालनं च अस्ति ।
यद्यपि परियोजना जीर्णा भवितुमर्हति तथापि यदि भवतः समीपे पर्याप्तः समयः अस्ति तर्हि भवतः सम्यक् अध्ययनं कर्तुं शक्यते तथा च भवतः कृते किञ्चित् सहायकं भवितुम् अर्हति! ! !

आंशिक आयातः --query

स्क्रिप्ट् निष्पादयन्तु

sqoop import 
--connect jdbc:mysql://h122.wzk.icu:3306/sqoop 
--username hive 
--password [email protected] 
--target-dir /root 
--append 
-m 1 
--fields-terminated-by "t" 
--query 'select gname, serialNumber, price, stock_number,
create_time from goodtbl where price>88 and $CONDITIONS;'
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10

上述参数的解释:

  • क्वेरी स्टेट्मेण्ट् इत्यस्य where भागे '$CONDITIONS' भवितुमर्हति।
  • यदि प्रश्नस्य अनन्तरं द्विगुण उद्धरणस्य उपयोगः भवति तर्हि $CONDITIONS इत्यस्मात् पूर्वं स्थानान्तरणचिह्नं योजयितव्यं यत् शेल् स्वस्य चरः इति न चिन्तयति ।

असाइनमेण्ट्

एतत् अवलोकयितुं शक्यते यत् Sqoop MapReduce कार्यं आरभते
अत्र चित्रविवरणं सम्मिलितं कुर्वन्तु

निष्पादनस्य प्रतीक्षा

अस्मिन् क्षणे कार्यं Map -> Reduce इति आवंटनं आरब्धम् अस्ति
अत्र चित्रविवरणं सम्मिलितं कुर्वन्तु

परिणामान् पश्यन्तु

कार्यं सम्पन्नम् इति भवन्तः द्रष्टुं शक्नुवन्ति
अत्र चित्रविवरणं सम्मिलितं कुर्वन्तु

आंशिक आयातः : स्तम्भाः निर्दिशन्तु

स्क्रिप्ट् निष्पादयन्तु

sqoop import 
--connect jdbc:mysql://h122.wzk.icu:3306/sqoop 
--username hive 
--password [email protected] 
--target-dir /root 
--delete-target-dir 
--num-mappers 1 
--fields-terminated-by "t" 
--columns gname,serialNumber,price 
--table goodtbl
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10

上述参数的解释:

  • यदि स्तम्भेषु बहुविधस्तम्भाः सम्मिलिताः सन्ति तर्हि अल्पविरामेन पृथक् कुर्वन्तु, रिक्तस्थानानि न योजयन्तु! ! !

असाइनमेण्ट्

उपर्युक्तसामग्रीणां अनुरूपं पुनरावृत्तिसामग्री न समाविष्टा भविष्यति, केवलं भागः एव अवरुद्धः भविष्यति ।
अत्र चित्रविवरणं सम्मिलितं कुर्वन्तु

आंशिक आयातः --यत्र

स्क्रिप्ट् निष्पादयन्तु

sqoop import 
--connect jdbc:mysql://h122.wzk.icu:3306/sqoop 
--username hive 
--password [email protected] 
--target-dir /root 
--delete-target-dir 
-m 1 
--fields-terminated-by "t" 
--table goodtbl 
--where "price>=68"
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10

असाइनमेण्ट्

उपर्युक्तस्य अनुरूपं सामग्री, परिणामादीनि मूलतः पुनरावृत्तिः भवति, तेषां लोपः न भविष्यति ।

कृपया चित्रविवरणं योजयन्तु