Ravindra BagaleCourses & study guides English

Amazon Bedrock म्हणजे काय? AWS वर Generative AI APIs सोप्या भाषेत

By , trainer LinkedIn Last updated:

Bedrock = foundation models (Claude, Llama, Titan…) AWS API ने. आधी GPU farm train नको. Chat/summarise/classify साठी — पण token cost शिस्त हवी.

या chapter मध्ये तुम्ही काय शिकाल

  • Bedrock काय
  • Model access आणि regions
  • Token pricing
  • Guardrails आणि IAM
  • Student lab cost warnings

1. रोजचं उदाहरण

हे का लागतं?

Swiggy support: दीर्घ complaint → छोटी category + reply. Scratch model = वर्षे. Foundation model + चांगला prompt = weekend.

हे काय आहे?

Amazon Bedrock = foundation models API (+ Knowledge Bases/Agents). Amazon आणि third-party — region/account enablement नुसार.

एक InvokeModelAppIAM roleBedrock APIFoundation modelResultDynamoDB/S3
Base model साठी तुम्ही endpoint patch करत नाही.

2. Model access

हे का लागतं?

दर account/region मध्ये दर model default ON नसतो.

हे काय आहे?

  1. Model access/catalog — हवे ते request.
  2. Region availability live तपासा.
  3. SDK bedrock-runtime + InvokeModel on specific ARNs.

3. Tokens आणि पैसे

बहुतेक input आणि output tokens चे पैसे. लांब prompts + अनेक tests = surprise bill. Budgets/alarms.

Lab शिस्त

Bedrock lab आधी: एक स्वस्त model, Budget alert (उदा. $5), छोटे max_tokens, unbounded loop नको. Org block असेल तर live call skip — quiz साठी वाचन पुरेसं.

4. Safety

  • Guardrails: topics/PII filter.
  • Model IDs वर least privilege — * नको.
  • Prompts मध्ये secrets/passwords नको.
  • Prompt logs = personal data शक्य.

5. Bedrock vs SageMaker

GoalPrefer
Managed FM chat/summarise/embedBedrock
Labelled data वर custom trainSageMaker
काही FM customise (जेथे available)Bedrock customisation
पूर्ण training + custom containersSageMaker

6. Interview

प्र. Base FM साठी GPU manage?

नाही — Bedrock host करते.

प्र. API?

InvokeModel / Converse.

प्र. Bill?

मुख्यतः tokens.

प्र. Guardrails?

Model I/O filters.

प्र. SageMaker?

स्वतःचं deep train/host.

घरी करून बघा

  1. एक model ची input/output rate लिहा.
  2. एक model ARN पुरती IAM policy मसुदा.

थोडक्यात सांगायचं तर

  1. Bedrock = FM APIs.
  2. Model access + runtime.
  3. Tokens = पैसे — budget.
  4. Generative = Bedrock; custom train = SageMaker.

सराव Tasks

या scenario बद्दल

Solapur Chaddar House हा सोलापूर मधला गृह वस्त्र व्यवसाय आहे. Vikas Kamble त्यांचं IT व cloud काम पाहतात. त्यांचे पैसे INR मध्ये मोजले जातात आणि AWS resources ap-south-1 Region मध्ये चालतात. खालच्या tasks मध्ये तुम्ही या lesson मध्ये शिकलेलं वापरून त्यांची खरी कामं करता. सगळी नावं, account IDs, IP addresses व numbers सरावासाठी काल्पनिक आहेत.

0 / 10

सोपं Bedrock models दाखवा

का: तुमच्या Region मध्ये कोणते foundation models आहेत ते पाहा.

काय करायचं: Amazon Bedrock मधले foundation models दाखवा.

कसं करायचं:
  1. Task वाचा आणि ते कोणत्या AWS service बद्दल आहे ते ठरवा.
  2. aws लिहा, मग service चं नाव, मग operation (action शब्द).
  3. प्रत्येक आवश्यक flag (--name) व त्यापुढे task मधली value लिहा.
  4. Flags कोणत्याही क्रमाने चालतात. Check answer दाबा.

सोपं SageMaker endpoints दाखवा

का: Endpoints ना दर तासाला खर्च येतो; विसरलेले शोधा.

काय करायचं: SageMaker endpoints दाखवा.

कसं करायचं:
  1. Task वाचा आणि ते कोणत्या AWS service बद्दल आहे ते ठरवा.
  2. aws लिहा, मग service चं नाव, मग operation (action शब्द).
  3. प्रत्येक आवश्यक flag (--name) व त्यापुढे task मधली value लिहा.
  4. Flags कोणत्याही क्रमाने चालतात. Check answer दाबा.

सोपं /16 मध्ये किती addresses?

का: VPC size ठरवायला ही संख्या लागते.

काय करायचं: Solapur Chaddar House चा VPC 10.86.0.0/16. एकूण किती IP addresses?

कसं करायचं:
  1. Task मधले numbers लिहून घ्या.
  2. कागदावर step by step काढा.
  3. Box मध्ये फक्त final उत्तर लिहा.
  4. Check answer दाबा.

सोपं SSH चा port

का: Security group rules ला योग्य port हवा.

काय करायचं: SSH साठी security group ने कोणता TCP port उघडावा?

कसं करायचं:
  1. Task मधले numbers लिहून घ्या.
  2. कागदावर step by step काढा.
  3. Box मध्ये फक्त final उत्तर लिहा.
  4. Check answer दाबा.

सोपं तुम्ही कुठे आहात ते पाहा

का: काही copy किंवा delete करण्याआधी तुम्ही कोणत्या folder मध्ये आहात हे माहीत हवं.

काय करायचं: Vikas Kamble Solapur Chaddar House च्या server वर login झाले आहेत, पण terminal कोणत्या folder मध्ये आहे ते माहीत नाही. सध्याच्या folder चा path दाखवा.

कसं करायचं:
  1. हे काम करणारा Linux command शोधा.
  2. Task ला लागणारे options (उदा. -r, -h) जोडा.
  3. File नावं, folders किंवा users योग्य क्रमाने लिहा.
  4. System files/users बदलत असाल तर sudo वापरा. Check answer दाबा.

सोपं एका bucket ला read-only access

का: Least privilege: कामाला लागणारे actions व bucket च द्या.

काय करायचं: User ला फक्त solapurchaddar-data bucket मधले objects वाचू (s3:GetObject) देणारी identity policy लिहा.

कसं करायचं:
  1. { "Version": "2012-10-17", "Statement": [ ... ] } ने सुरू करा.
  2. प्रत्येक statement मध्ये Effect, Action व Resource लिहा.
  3. Task ला लागेल तेवढंच द्या (least privilege).
  4. Double quotes व commas नीट वापरा. Check answer दाबा.

मध्यम Image मधले labels ओळखा

का: Rekognition photo मधल्या वस्तू ओळखतो.

काय करायचं: s3://solapurchaddar-media/shop/p1.jpg (Bucket=solapurchaddar-media, Name=shop/p1.jpg) मधले labels ओळखा, कमाल 10.

कसं करायचं:
  1. Task वाचा आणि ते कोणत्या AWS service बद्दल आहे ते ठरवा.
  2. aws लिहा, मग service चं नाव, मग operation (action शब्द).
  3. प्रत्येक आवश्यक flag (--name) व त्यापुढे task मधली value लिहा.
  4. Flags कोणत्याही क्रमाने चालतात. Check answer दाबा.

मध्यम एक Bedrock model allow

का: Apps ना approved model पुरतं मर्यादित ठेवा.

काय करायचं: फक्त arn:aws:bedrock:ap-south-1::foundation-model/amazon.nova-lite-v1:0 वर bedrock:InvokeModel allow करा.

कसं करायचं:
  1. { "Version": "2012-10-17", "Statement": [ ... ] } ने सुरू करा.
  2. प्रत्येक statement मध्ये Effect, Action व Resource लिहा.
  3. Task ला लागेल तेवढंच द्या (least privilege).
  4. Double quotes व commas नीट वापरा. Check answer दाबा.

मध्यम AWS /24 subnet मधले usable IPs

का: AWS प्रत्येक subnet मध्ये 5 addresses राखून ठेवतो.

काय करायचं: AWS वर 10.86.1.0/24 subnet मध्ये Solapur Chaddar House servers साठी किती addresses वापरू शकतो?

कसं करायचं:
  1. Task मधले numbers लिहून घ्या.
  2. कागदावर step by step काढा.
  3. Box मध्ये फक्त final उत्तर लिहा.
  4. Check answer दाबा.

अवघड Model ला प्रश्न विचारा

का: Converse अनेक models साठी एकच API shape.

काय करायचं: msgs.json मधल्या messages सह amazon.nova-lite-v1:0 model वर converse call करा.

कसं करायचं:
  1. Task वाचा आणि ते कोणत्या AWS service बद्दल आहे ते ठरवा.
  2. aws लिहा, मग service चं नाव, मग operation (action शब्द).
  3. प्रत्येक आवश्यक flag (--name) व त्यापुढे task मधली value लिहा.
  4. Flags कोणत्याही क्रमाने चालतात. Check answer दाबा.

सगळे सराव tasks Task Hub मध्ये पाहा →

उजळणी, तुलना आणि मुलाखत cards

हा lesson काही मिनिटांत revise करा. Cards phone वर save करा किंवा PNG download करा. प्रत्येक card वरचा QR हा lesson उघडतो.

उजळणी card: Amazon Bedrock म्हणजे काय?. Summarise/reply = weekend; scratch train = वर्षे. Bedrock = foundation models AWS API + IAM. Model access → SDK + least-privilege InvokeModel. Prompt → completion → optional store.
उजळणी card: Amazon Bedrock म्हणजे काय? · PNG download करा · Card page उघडा
उजळणी card: Tokens आणि cost शिस्त. लांब prompts + loops = surprise bill. Input/output tokens; lab = small max_tokens + Budget. एक स्वस्त model + $5 budget; infinite loop नको. 10 short calls OK; 100k-token loop नाही.
उजळणी card: Tokens आणि cost शिस्त · PNG download करा · Card page उघडा
उजळणी card: Guardrails आणि IAM. Prompts = PII; model * = broad. Guardrails + model-ARN least privilege. InvokeModel one ARN + Guardrail. Wrong model Denied; bad topic blocked.
उजळणी card: Guardrails आणि IAM · PNG download करा · Card page उघडा
तुलना: Bedrock token pricing vs SageMaker instance hours. Bedrock token pricing: Call च्या input/output tokens. SageMaker instance hours: Notebook/train/endpoint instance time.
तुलना: Bedrock token pricing vs SageMaker instance hours · PNG download करा · Card page उघडा
मुलाखत card: Chatbot साठी Bedrock की SageMaker?. FM API पुरेसं → Bedrock; custom train → SageMaker. Chat/summarise = Bedrock. InvokeModel + bounded tokens.
मुलाखत card: Chatbot साठी Bedrock की SageMaker? · PNG download करा · Card page उघडा
मुलाखत card: InvokeModel access error का?. Model access OFF किंवा IAM कमी. Region availability तपासा. Enable access + ARN Allow.
मुलाखत card: InvokeModel access error का? · PNG download करा · Card page उघडा

अजून cards: Ravi Sir's Cards.