Siapkan Amazon Bedrock API

Bagian ini menjelaskan cara mengatur lingkungan Anda untuk melakukan panggilan Amazon Bedrock API dan memberikan contoh kasus penggunaan umum. Anda dapat mengakses Amazon Bedrock API menggunakan AWS Command Line Interface (AWS CLI), AWS SDK, atau Notebook. SageMaker

Sebelum Anda dapat mengakses Amazon Bedrock API, Anda perlu meminta akses ke model foundation yang Anda rencanakan untuk digunakan.

Untuk detail tentang operasi dan parameter API, lihat Referensi Amazon Bedrock API.

Sumber daya berikut memberikan informasi tambahan tentang Amazon Bedrock API.

• AWS Command Line Interface

  • Perintah Amazon Bedrock CLI

  • Perintah CLI Amazon Bedrock Runtime

  • Agen untuk perintah Amazon Bedrock CLI

  • Agen untuk perintah Amazon Bedrock Runtime CLI

Tambahkan akses model

penting

Sebelum Anda dapat menggunakan salah satu model pondasi, Anda harus meminta akses ke model itu. Jika Anda mencoba menggunakan model (dengan API atau di dalam konsol) sebelum Anda meminta akses ke sana, Anda akan menerima pesan kesalahan. Untuk informasi selengkapnya, lihat Akses model.

Titik akhir Amazon Bedrock

Untuk terhubung secara terprogram ke sebuah Layanan AWS, Anda menggunakan endpoint. Lihat titik akhir Amazon Bedrock dan bagian kuota di bagian Referensi Umum AWS untuk informasi tentang titik akhir yang dapat Anda gunakan untuk Amazon Bedrock.

Amazon Bedrock menyediakan titik akhir layanan berikut.

• bedrock— Berisi API bidang kontrol untuk mengelola, melatih, dan menerapkan model. Untuk informasi selengkapnya, lihat Tindakan Batuan Dasar Amazon dan Jenis Data Batuan Dasar Amazon.

• bedrock-runtime— Berisi API bidang data untuk membuat permintaan inferensi untuk model yang dihosting di Amazon Bedrock. Untuk informasi selengkapnya, lihat Amazon Bedrock Runtime Actions dan Amazon Bedrock Runtime Jenis Data.

• bedrock-agent— Berisi API bidang kontrol untuk membuat dan mengelola agen dan basis pengetahuan. Untuk informasi selengkapnya, lihat Agen untuk Tindakan dan Agen Batuan Dasar Amazon untuk Jenis Data Batuan Dasar Amazon.

• bedrock-agent-runtime— Berisi API bidang data untuk memanggil agen dan menanyakan basis pengetahuan. Untuk informasi selengkapnya, lihat Agen untuk Tindakan Runtime Amazon Bedrock dan Agen untuk Jenis Data Runtime Amazon Bedrock.

Menyiapkan AWS CLI

1. Jika Anda berencana untuk menggunakan CLI, instal dan konfigurasikan AWS CLI dengan mengikuti langkah-langkah di Instal atau perbarui versi terbaru AWS Command Line Interface Panduan Pengguna.

2. Konfigurasikan AWS kredensil Anda menggunakan perintah aws configure CLI dengan mengikuti langkah-langkah di Configure the. AWS CLI

Lihat referensi berikut untuk perintah dan AWS operasi CLI:

• Perintah Amazon Bedrock CLI

• Perintah CLI Amazon Bedrock Runtime

• Agen untuk perintah Amazon Bedrock CLI

• Agen untuk perintah Amazon Bedrock Runtime CLI

Menyiapkan AWS SDK

AWS kit pengembangan perangkat lunak (SDK) tersedia untuk banyak bahasa pemrograman populer. Setiap SDK menyediakan API, contoh kode, dan dokumentasi yang memudahkan developer untuk membangun aplikasi dalam bahasa pilihan mereka. SDK secara otomatis melakukan tugas yang berguna untuk Anda, seperti:

• Tanda tangani permintaan layanan Anda secara kriptografis

• Permintaan coba lagi

• Menangani tanggapan kesalahan

Lihat tabel berikut untuk menemukan informasi umum tentang dan contoh kode untuk setiap SDK, serta referensi Amazon Bedrock API untuk setiap SDK. Anda juga dapat menemukan contoh kode diContoh kode untuk Amazon Bedrock menggunakan AWS SDK.

Dokumentasi SDK	Contoh kode	Awalan Amazon Bedrock	Awalan runtime Amazon Bedrock	Agen untuk awalan Amazon Bedrock	Agen untuk awalan runtime Amazon Bedrock
AWS SDK for C++	AWS SDK for C++ contoh kode	batuan dasar	runtime batuan dasar	agen batuan dasar	bedrock-agent-runtime
AWS SDK for Go	AWS SDK for Go contoh kode	batuan dasar	waktu dasar	agen batuan dasar	bedrockagentruntime
AWS SDK for Java	AWS SDK for Java contoh kode	batuan dasar	waktu dasar	agen batuan dasar	bedrockagentruntime
AWS SDK for JavaScript	AWS SDK for JavaScript contoh kode	batuan dasar	runtime batuan dasar	agen batuan dasar	bedrock-agent-runtime
AWS SDK for Kotlin	AWS SDK for Kotlin contoh kode	batuan dasar	waktu dasar	agen batuan dasar	bedrockagentruntime
AWS SDK for .NET	AWS SDK for .NET contoh kode	Batuan dasar	BedrockRuntime	BedrockAgent	BedrockAgentRuntime
AWS SDK for PHP	AWS SDK for PHP contoh kode	Batuan dasar	BedrockRuntime	BedrockAgent	BedrockAgentRuntime
AWS SDK for Python (Boto3)	AWS SDK for Python (Boto3) contoh kode	batuan dasar	runtime batuan dasar	agen batuan dasar	bedrock-agent-runtime
AWS SDK for Ruby	AWS SDK for Ruby contoh kode	Batuan dasar	BedrockRuntime	BedrockAgent	BedrockAgentRuntime
AWS SDK for Rust	AWS SDK for Rust contoh kode	aws-sdk-bedrock	aws-sdk-bedrockruntime	aws-sdk-bedrockagent	aws-sdk-bedrockagentruntime
AWS SDK untuk SAP ABAP	AWS SDK untuk SAP ABAP contoh kode	BDK	BDR	BDA	BDZ
AWS SDK for Swift	AWS SDK for Swift contoh kode	AWSBedrock	AWSBedrockRuntime	AWSBedrockAgent	AWSBedrockAgentRuntime

Menggunakan SageMaker notebook

Anda dapat menggunakan SDK for Python (Boto3) untuk menjalankan operasi Amazon Bedrock API dari notebook. SageMaker

Konfigurasikan SageMaker peran

Tambahkan izin Amazon Bedrock ke peran IAM yang akan menggunakan buku catatan ini. SageMaker

Dari konsol IAM, lakukan langkah-langkah ini:

1. Pilih peran IAM, lalu pilih Tambahkan Izin dan pilih Buat Kebijakan Sebaris dari daftar tarik-turun.

2. Sertakan izin berikut.

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Effect": "Allow",
            "Action": "bedrock:*",
            "Resource": "*"
        }
    ]
}           

Tambahkan izin berikut ke hubungan kepercayaan.

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Effect": "Allow",
            "Principal": {
                "Service": "bedrock.amazonaws.com"
            },
            "Action": "sts:AssumeRole"
        },
        {
            "Sid": "",
            "Effect": "Allow",
            "Principal": {
                "Service": "sagemaker.amazonaws.com"
            },
            "Action": "sts:AssumeRole"
        }
    ]
}                   

Uji pengaturan Runtime

Tambahkan kode berikut ke buku catatan Anda dan jalankan kode.

import boto3
import json
bedrock = boto3.client(service_name='bedrock-runtime')

body = json.dumps({
    "prompt": "\n\nHuman:explain black holes to 8th graders\n\nAssistant:",
    "max_tokens_to_sample": 300,
    "temperature": 0.1,
    "top_p": 0.9,
})

modelId = 'anthropic.claude-v2'
accept = 'application/json'
contentType = 'application/json'

response = bedrock.invoke_model(body=body, modelId=modelId, accept=accept, contentType=contentType)

response_body = json.loads(response.get('body').read())
# text
print(response_body.get('completion'))

Uji pengaturan Amazon Bedrock

Tambahkan kode berikut ke buku catatan Anda dan jalankan kode.

import boto3
bedrock = boto3.client(service_name='bedrock')

bedrock.get_foundation_model(modelIdentifier='anthropic.claude-v2')