Opsi penyebaran untuk produk agen AI

AWS Marketplace mendukung beberapa opsi penerapan untuk agen AI, memungkinkan Anda memilih pendekatan yang paling sesuai dengan arsitektur dan kebutuhan pelanggan Anda:

• Opsi Penyebaran API — Opsi penerapan API memungkinkan pelanggan mengakses agen AI Anda melalui titik akhir yang dihosting vendor. Opsi ini sangat ideal untuk agen dan alat agen yang memerlukan infrastruktur khusus atau model eksklusif yang ingin Anda simpan di lingkungan Anda sendiri.

• Container Deployment — Package agen AI dan alat agen Anda sebagai aplikasi kontainer yang dapat dijalankan pelanggan di lingkungan mereka sendiri. AWS Opsi ini memberi pelanggan kontrol yang lebih besar atas data dan infrastruktur mereka.

Detail penerapan API

Dengan penerapan API, Anda meng-host dan memelihara agen atau alat AI di lingkungan Anda sendiri, mengekspos fungsionalitas melalui titik akhir API yang terdefinisi dengan baik. Metode penyebaran ini mendukung dua pola integrasi yang menentukan metode peluncuran pelanggan: Quick Launch, di mana penjual berintegrasi dengan layanan AWS Marketplace penerapan dan menyediakan kunci API langsung ke AWS akun pelanggan saat berlangganan; dan Regular redirect, di mana pelanggan diarahkan ke situs web penjual untuk mendapatkan kunci API atau petunjuk penggunaan. OAuth Pendekatan ini menawarkan beberapa keuntungan, termasuk yang berikut:

• Lindungi model dan algoritme berpemilik

• Pembaruan dan peningkatan terpusat

• Kinerja yang konsisten di semua pelanggan

• Orientasi pelanggan yang disederhanakan

Saat mencantumkan agen yang digunakan API, Anda harus menyediakan dokumentasi API yang komprehensif, petunjuk penggunaan terperinci, metode otentikasi, dan spesifikasi titik akhir untuk memastikan bahwa pelanggan dapat berhasil berintegrasi dengan layanan Anda.

Detail penyebaran kontainer

Penyebaran kontainer mengemas agen atau alat AI Anda sebagai aplikasi kontainer yang dapat dijalankan pelanggan di lingkungan mereka sendiri. AWS Pendekatan ini memberikan manfaat sebagai berikut:

• Data tetap berada dalam lingkungan pelanggan

• Konfigurasi penerapan yang dapat disesuaikan

• Integrasi dengan infrastruktur pelanggan yang ada

• Support untuk lingkungan dengan celah udara atau keamanan tinggi

Saat mencantumkan agen kontainer, berikan instruksi penerapan yang jelas, persyaratan sumber daya, dan opsi konfigurasi untuk memastikan implementasi pelanggan berhasil.

Memilih opsi penerapan yang tepat

Saat memilih opsi penerapan untuk agen atau alat AI Anda, pertimbangkan faktor-faktor berikut:

• Sensitivitas data - Jika pelanggan Anda bekerja dengan data yang sangat sensitif yang tidak dapat meninggalkan lingkungan mereka, penyebaran kontainer mungkin merupakan pilihan terbaik.

• Kompleksitas model — Untuk model besar atau kompleks yang memerlukan perangkat keras khusus, penerapan API mungkin lebih praktis.

• Overhead operasional — Pertimbangkan sumber daya yang diperlukan untuk memelihara dan memperbarui solusi Anda di berbagai model penerapan.