কম্পিউটার টিউটোরিয়াল

Boto3 ব্যবহার করে একটি একক ক্রলারের ডিটেইলস পাওয়া


সমস্যা বিবরণ − Python-এ boto3 লাইব্রেরি ব্যবহার করে একটি ক্রলারের ডিটেইলস পাওয়া।

উদাহরণ − একটি ক্রলারের ডিটেইলস পাওয়া, crawler_for_s3_file_job।

সমাধানের পদ্ধতি/অ্যালগরিদম

ধাপ ১ − boto3 এবং botocore এক্সসেপশন ইম্পোর্ট করে এক্সসেপশন হ্যান্ডল করা।

ধাপ ২ − crawler_name হলো বাধ্যতামূলক প্যারামিটার। এটি একটি স্ট্রিং তাই ইউজার একবারে শুধু একটি ক্রলারের নাম পাস করে ডিটেইলস আনয়ন করতে পারে।

ধাপ ৩ − boto3 লাইব্রেরি ব্যবহার করে AWS সেশন তৈরি করা। নিশ্চিত করুন region_name ডিফল্ট প্রোফাইলে ذکر করা আছে। না থাকলে সেশন তৈরি করার সময় স্পষ্টভাবে region_name পাস করুন।

ধাপ ৪ − Glue-এর জন্য AWS ক্লায়েন্ট তৈরি করা।

ধাপ ৫ − এখন get_crawler ফাংশন ব্যবহার করুন এবং crawler_name পাস করুন।

ধাপ ৬ − এটি ক্রলারের মেটাডেটা রিটার্ন করে।

ধাপ ৭ − জব চেক করার সময় যদি কিছু ভুল হয় তবে জেনেরিক এক্সসেপশন হ্যান্ডল করা।

উদাহরণ

একটি ক্রলারের ডিটেইলস আনয়ন করতে নিচের কোড ব্যবহার করুন −

import boto3 from botocore.exceptions import ClientError def get_one_crawler_details(crawler_name:str):     session = boto3.session.Session()     glue_client = session.client('glue')     try:         crawler_details = glue_client.get_crawler(Name=crawler_name)         return crawler_details     except ClientError as e:         raise Exception("boto3 client error in get_one_crawler_details: " + e.__str__())     except Exception as e:         raise Exception("Unexpected error in get_one_crawler_details: " + e.__str__()) print(get_one_crawler_details("crawler_for_s3_file_job"))

আউটপুট

{'Crawler': {'Name': 'crawler_for_s3_file_job', 'Role': 'glue-role', 'Targets': {'S3Targets': [{'Path': 's3://test/', 'Exclusions': []}], 'JdbcTargets': [], 'DynamoDBTargets': [], 'CatalogTargets': []}, 'DatabaseName': 'default', 'Classifiers': [], 'SchemaChangePolicy': {'UpdateBehavior': 'UPDATE_IN_DATABASE', 'DeleteBehavior': 'DEPRECATE_IN_DATABASE'}, 'State': 'READY', 'TablePrefix': 'prod_scdk_', 'CrawlElapsedTime': 0, 'CreationTime': datetime.datetime(2018, 9, 24, 20, 42, 7, tzinfo=tzlocal()), 'LastUpdated': datetime.datetime(2020, 4, 27, 14, 49, 12, tzinfo=tzlocal()), 'LastCrawl': {'Status': 'SUCCEEDED', 'LogGroup': '/aws-glue/crawlers', 'LogStream': 'crawler_for_s3_file_job', 'MessagePrefix': '************-90ad1', 'StartTime': datetime.datetime(2020, 4, 27, 14, 49, 19, tzinfo=tzlocal())}, 'Version': 15}, 'ResponseMetadata': {'RequestId': '8c7dcbde-***********************-774', 'HTTPStatusCode': 200, 'HTTPHeaders': {'date': 'Sun, 28 Feb 2021 11:34:32 GMT', 'content-type': 'application/x-amz-json-1.1', 'content-length': '805', 'connection': 'keep-alive', 'x-amzn-requestid': '8c7dcbde-**********************774'}, 'RetryAttempts': 0}}

  1. Boto3 ব্যবহার করে মাইগ্রেশন অপারেশনের স্ট্যাটাস পাওয়া

  2. Boto3 ব্যবহার করে একসাথে একাধিক ট্রিগারের ডিটেইলস পাওয়া

  3. Boto3 ব্যবহার করে একসাথে একাধিক Glue Job-এর ডিটেইলস পাওয়া

  4. Boto3 লাইব্রেরি ব্যবহার করে Python-এ একটি ক্রলারের ডিটেইলস পাওয়া