Definisi kunci

Bab ini memberikan definisi untuk konsep yang akan membantu Anda memahami apa yang ditawarkan Amazon Bedrock dan cara kerjanya. Jika Anda adalah pengguna pertama kali, Anda harus terlebih dahulu membaca konsep dasar. Setelah Anda membiasakan diri dengan dasar-dasar Amazon Bedrock, kami sarankan Anda untuk menjelajahi konsep dan fitur canggih yang ditawarkan Amazon Bedrock.

Konsep dasar

Daftar berikut memperkenalkan Anda pada konsep dasar AI generatif dan kemampuan dasar Amazon Bedrock.

• Foundation Model (FM) — Model AI dengan sejumlah besar parameter dan dilatih pada sejumlah besar data yang beragam. Model pondasi dapat menghasilkan berbagai tanggapan untuk berbagai kasus penggunaan. Model foundation dapat menghasilkan teks atau gambar, dan juga dapat mengubah input menjadi embeddings. Sebelum Anda dapat menggunakan model fondasi Amazon Bedrock, Anda harus meminta akses. Untuk informasi lebih lanjut tentang model pondasi, lihatModel pondasi yang didukung di Amazon Bedrock.

• Model dasar — Model dasar yang dikemas oleh penyedia dan siap digunakan. Amazon Bedrock menawarkan berbagai model pondasi terkemuka di industri dari penyedia terkemuka. Untuk informasi selengkapnya, lihat Model pondasi yang didukung di Amazon Bedrock.

• Model inferensi — Proses model pondasi menghasilkan output (respons) dari input yang diberikan (prompt). Untuk informasi selengkapnya, lihat Jalankan inferensi model.

• Prompt — Masukan yang diberikan kepada model untuk membimbingnya menghasilkan respons atau output yang sesuai untuk input. Misalnya, prompt teks dapat terdiri dari satu baris untuk model untuk merespons, atau dapat merinci instruksi atau tugas untuk model untuk melakukan. Prompt dapat berisi konteks tugas, contoh output, atau teks untuk model untuk digunakan dalam responsnya. Prompt dapat digunakan untuk melakukan tugas-tugas seperti klasifikasi, menjawab pertanyaan, pembuatan kode, penulisan kreatif, dan banyak lagi. Untuk informasi selengkapnya, lihat Pedoman rekayasa yang cepat.

• Token — Urutan karakter yang dapat ditafsirkan atau diprediksi oleh model sebagai satu unit makna. Misalnya, dengan model teks, token dapat berkorespondensi tidak hanya dengan kata, tetapi juga bagian dari kata dengan makna tata bahasa (seperti “-ed”), tanda baca (seperti “?”) , atau frasa umum (seperti “banyak”).

• Parameter model — Nilai yang mendefinisikan model dan perilakunya dalam menafsirkan input dan menghasilkan respons. Parameter model dikendalikan dan diperbarui oleh penyedia. Anda juga dapat memperbarui parameter model untuk membuat model baru melalui proses penyesuaian model.

• Parameter inferensi — Nilai yang dapat disesuaikan selama inferensi model untuk mempengaruhi respons. Parameter inferensi dapat mempengaruhi seberapa bervariasi respons dan juga dapat membatasi panjang respons atau terjadinya urutan yang ditentukan. Untuk informasi lebih lanjut dan definisi parameter inferensi tertentu, lihatParameter inferensi.

• Playground — Antarmuka grafis yang mudah digunakan AWS Management Console di mana Anda dapat bereksperimen dengan menjalankan inferensi model untuk membiasakan diri dengan Amazon Bedrock. Gunakan taman bermain untuk menguji efek berbagai model, konfigurasi, dan parameter inferensi pada respons yang dihasilkan untuk berbagai petunjuk yang Anda masukkan. Untuk informasi selengkapnya, lihat Taman bermain.

• Embedding — Proses kondensasi informasi dengan mengubah input menjadi vektor nilai numerik, yang dikenal sebagai embeddings, untuk membandingkan kesamaan antara objek yang berbeda dengan menggunakan representasi numerik bersama. Misalnya, kalimat dapat dibandingkan untuk menentukan kesamaan makna, gambar dapat dibandingkan untuk menentukan kesamaan visual, atau teks dan gambar dapat dibandingkan untuk melihat apakah mereka relevan satu sama lain. Anda juga dapat menggabungkan input teks dan gambar menjadi vektor embeddings rata-rata jika relevan dengan kasus penggunaan Anda. Lihat informasi yang lebih lengkap di Jalankan inferensi model dan Basis pengetahuan untuk Amazon Bedrock.

Fitur lanjutan

Daftar berikut memperkenalkan Anda pada konsep yang lebih maju yang dapat Anda jelajahi menggunakan Amazon Bedrock.

• Orkestrasi — Proses koordinasi antara model pondasi dan data perusahaan dan aplikasi untuk melaksanakan tugas. Untuk informasi selengkapnya, lihat Agen untuk Amazon Bedrock.

• Agen — Aplikasi yang melakukan orkestrasi melalui interpretasi input secara siklis dan menghasilkan output dengan menggunakan model pondasi. Agen dapat digunakan untuk melakukan permintaan pelanggan. Untuk informasi selengkapnya, lihat Agen untuk Amazon Bedrock.

• Retrieval augmented generation (RAG) — Proses query dan pengambilan informasi dari sumber data untuk menambah respon yang dihasilkan terhadap prompt. Untuk informasi selengkapnya, lihat Basis pengetahuan untuk Amazon Bedrock.

• Kustomisasi model — Proses menggunakan data pelatihan untuk menyesuaikan nilai parameter model dalam model dasar untuk membuat model kustom. Contoh kustomisasi model termasuk Fine-tuning, yang menggunakan data berlabel (input dan output yang sesuai), dan Pre-training Lanjutan, yang menggunakan data tidak berlabel (hanya input) untuk menyesuaikan parameter model. Untuk informasi selengkapnya tentang teknik penyesuaian model yang tersedia di Amazon Bedrock, lihatModel kustom.

• Hyperparameters — Nilai yang dapat disesuaikan untuk kustomisasi model untuk mengontrol proses pelatihan dan, akibatnya, model kustom keluaran. Untuk informasi lebih lanjut dan definisi hiperparameter tertentu, lihatHiperparameter model kustom.

• Evaluasi model — Proses mengevaluasi dan membandingkan output model untuk menentukan model yang paling cocok untuk kasus penggunaan. Untuk informasi selengkapnya, lihat Evaluasi model.

• Provisioned Throughput — Tingkat throughput yang Anda beli untuk model dasar atau kustom untuk meningkatkan jumlah dan/atau tingkat token yang diproses selama inferensi model. Saat Anda membeli Provisioned Throughput untuk model, model yang disediakan dibuat yang dapat digunakan untuk melakukan inferensi model. Lihat informasi yang lebih lengkap di Throughput yang Disediakan untuk Amazon Bedrock.