কম্পিউটার

পলিবেসের মাধ্যমে ইউনিফাইড ডেটা প্ল্যাটফর্ম এবং ডেটা ভার্চুয়ালাইজেশন:পার্ট দুই

পলিবেস সিরিজের মাধ্যমে এই UDP ডেটা ভার্চুয়ালাইজেশনের প্রথম অংশে, আমি পলিবেস প্রবর্তন করেছি এবং এই ডেমোর জন্য পূর্বশর্তগুলি সরবরাহ করেছি। এই চূড়ান্ত কিস্তিতে, আপনি ডেমোতে ডুব দিতে পারেন।

ডেমো:Azure ব্লব থেকে ডেটা আনার জন্য SQL পলিবেস সেট আপ করার ধাপগুলি

ডেমো পরিচালনা করতে নিম্নলিখিত পদক্ষেপগুলি সম্পাদন করুন:

1. ব্লব-এ রাখা বাহ্যিক টেক্সট ফাইল অ্যাক্সেস করতে SQL Server® সেট আপ করুন

SQL সার্ভারকে Azure® ব্লব-এ স্থাপিত বাহ্যিক টেক্সট ফাইল অ্যাক্সেস করার অনুমতি দিতে, নিম্নলিখিত ক্যোয়ারীটি চালান:

EXEC sp_configure @configname ='hadoop সংযোগ', @configvalue =7; যান 
পলিবেসের মাধ্যমে ইউনিফাইড ডেটা প্ল্যাটফর্ম এবং ডেটা ভার্চুয়ালাইজেশন:পার্ট দুই

চিত্র 1


2. SQL সার্ভার ডাটাবেস, ডাটাবেস মাস্টার কী, এবং শংসাপত্রগুলি সেট আপ করুন

এখন, আপনাকে হয় একটি বিদ্যমান ডাটাবেস ব্যবহার করতে হবে বা একটি নতুন তৈরি করতে হবে। আমি PolybaseTestDB নামে একটি নতুন নাম তৈরি করেছি এই ডেমোর জন্য।

আপনার ডিবি হওয়ার পরে, নিম্নলিখিত ক্যোয়ারী ব্যবহার করে একটি ডাটাবেস মাস্টার কী এবং শংসাপত্র তৈরি করুন:

<প্রি> পাসওয়ার্ড দ্বারা মাস্টার কী এনক্রিপশন তৈরি করুন ='স্বাগতম

পূর্ববর্তী ক্যোয়ারীতে, সিক্রেট আপনি পূর্বে তৈরি স্টোরেজ অ্যাকাউন্টের অ্যাক্সেস কী। আপনি নিম্নলিখিত পদক্ষেপগুলি সম্পাদন করে এটি পেতে পারেন:

  1. Azure Portal -> স্টোরেজ অ্যাকাউন্টস-এ যান .
  2. আপনার স্টোরেজ অ্যাকাউন্টে ক্লিক করুন।
  3. বাম দিকের ফলকে, অ্যাক্সেস কী নির্বাচন করুন .
  4. কীগুলি ডানদিকের ফলকে প্রদর্শিত হয়৷
  5. কপি করুন এবং পূর্বের ক্যোয়ারীতে ব্যবহার করুন।

3. আপনার তৈরি করা শংসাপত্রগুলি ব্যবহার করে একটি বাহ্যিক ডেটা উত্স তৈরি করুন

বাহ্যিক ডেটা উৎস তৈরি করতে নিম্নলিখিত ক্যোয়ারী চালান। আপনি এটি তৈরি করার পরে, আপনি DB বাহ্যিক সংস্থানগুলির অধীনে বাহ্যিক ডেটা উত্সটি খুঁজে পেতে পারেন৷

বাহ্যিক ডেটা সোর্স AzureStorage এর সাথে তৈরি করুন ( TYPE =HADOOP, LOCATION ='wasbs://[email protected]', CREDENTIAL =[Polybasecred]); 
পলিবেসের মাধ্যমে ইউনিফাইড ডেটা প্ল্যাটফর্ম এবং ডেটা ভার্চুয়ালাইজেশন:পার্ট দুই

চিত্র 2

দ্রষ্টব্য: Azure স্টোরেজ ব্লব হল Hadoop® DistributedFile System (HDFS) API-এর উপরে নির্মিত একটি এক্সটেনশন, তাই TYPE পূর্ববর্তী প্রশ্নে Hadoop .


4. একটি বাহ্যিক ফাইল বিন্যাস তৈরি করুন

নিম্নলিখিত ক্যোয়ারী চালান:

(FORMAT_TYPE =DELIMITEDTEXT,FORMAT_OPTIONS (FIELD_TERMINATOR =',',USE_TYPE_DEFAULT =সত্য))  
পলিবেসের মাধ্যমে ইউনিফাইড ডেটা প্ল্যাটফর্ম এবং ডেটা ভার্চুয়ালাইজেশন:পার্ট দুই

চিত্র 3


দ্রষ্টব্য :কারণ এটি একটি কমা দ্বারা পৃথক করা পাঠ্য ফাইল, FIELD_TERMINATOR হল ',' .


5. একটি বাহ্যিক টেবিল তৈরি করুন

নিম্নলিখিত ক্যোয়ারী চালান:

বহিরাগত টেবিল তৈরি করুন dbo.SQLPolybaseTable ( [নাম] varchar(500), [বিষয়] varchar(500), [শিক্ষা] varchar(500)) ( LOCATION='/Data.txt' সহ, এটি হল কন্টেইনারে আপলোড করা ফাইলের নাম। DATA_SOURCE=AzureStorage, পূর্ববর্তী ধাপে তৈরি করা ডেটা উৎস। FILE_FORMAT=TextFileFormat পূর্ববর্তী ধাপে তৈরি ফাইল ফরম্যাটের নাম।); 
পলিবেসের মাধ্যমে ইউনিফাইড ডেটা প্ল্যাটফর্ম এবং ডেটা ভার্চুয়ালাইজেশন:পার্ট দুই

চিত্র 4


6. বাহ্যিক টেবিলটি জিজ্ঞাসা করুন

আপনি আপনার SQL সার্ভারে অন্য কোনো টেবিলের মতো বাহ্যিক টেবিলটি জিজ্ঞাসা করুন। ফলাফলগুলি প্রমাণ করে যে পলিবেস আমাদের বাহ্যিক ডেটা আনতে সাহায্য করে। নিম্নলিখিত ক্যোয়ারী চালান:

  থেকে * নির্বাচন করুন 
পলিবেসের মাধ্যমে ইউনিফাইড ডেটা প্ল্যাটফর্ম এবং ডেটা ভার্চুয়ালাইজেশন:পার্ট দুই

চিত্র 5


উপসংহার

ভবিষ্যতের পোস্টগুলিতে, আমি নিম্নলিখিত ধারণাগুলি গভীরভাবে অন্বেষণ করার পরিকল্পনা করছি:

  • কলামার স্টোরের মাধ্যমে ডেটা মার্ট
  • HDFS এর মাধ্যমে ডেটা লেক
  • বিগ ডেটা, ML, Apache Spark এর মাধ্যমে স্ট্রিমিং

এছাড়াও, যেহেতু এই ডেমো চলাকালীন আমি কয়েকটি সমস্যার সম্মুখীন হয়েছি, তাই আমি সেই অভিজ্ঞতাগুলিকে একত্রিত করতে এবং একটি আসন্ন ব্লগে উপস্থাপন করতে চাই৷

সাথে থাকুন!

আমাদের ডেটা পরিষেবাগুলি সম্পর্কে আরও জানুন৷

কোনো মন্তব্য করতে বা প্রশ্ন জিজ্ঞাসা করতে প্রতিক্রিয়া ট্যাব ব্যবহার করুন। আপনি আমাদের সাথে একটি কথোপকথনও শুরু করতে পারেন৷


  1. ডিবিএ এবং ডেটা আর্কিটেক্টের বিবর্তন

  2. ফ্লটার, সার্ভারলেস ফ্রেমওয়ার্ক এবং আপস্ট্যাশ (REDIS) সহ ফুলস্ট্যাক সার্ভারলেস অ্যাপ - পার্ট 2

  3. কিভাবে একটি নতুন আউটলুক প্রোফাইল তৈরি করবেন এবং আউটলুক ডেটা আমদানি করবেন (*.PST)

  4. কিভাবে উইন্ডোজ এবং ম্যাকে এক্সটার্নাল হার্ড ড্রাইভ রিফর্ম্যাট করবেন