本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
使用 Amazon 基岩工具調用工具(函數調用)
您可以使用 Amazon 基岩API來提供模型存取權限,以協助模型為傳送至模型的訊息產生回應。例如,您可能有一個聊天應用程序,可以讓用戶找出在廣播電台上播放的最受歡迎的歌曲。要回答最受歡迎歌曲的請求,模型需要一個可以查詢和返回歌曲信息的工具。
注意
工具與模型使用也被稱為函數調用。
在 Amazon 基岩中,該模型不會直接調用該工具。相反地,當您傳送訊息至模型時,您也會提供一個或多個工具的定義,這些工具可能會協助模型產生回應。在此範例中,您會提供工具的定義,該工具會傳回指定廣播電台最受歡迎的歌曲。如果模型確定它需要工具來生成消息的響應,則模型會響應您調用該工具的請求。它還包括要傳遞給工具的輸入參數(所需的無線電台)。
在您的程式碼中,您可以代表模型呼叫工具。在這個案例中,假設工具實作是API. 該工具可以很容易地是一個數據庫,Lambda 函數,或一些其他軟件。您可以決定要如何實作工具。然後,您可以透過提供包含工具結果的訊息來繼續與模型的對話。最後,模型會針對原始訊息產生回應,其中包含您傳送至模型的工具結果。
要使用工具與模型,您可以使用匡威API(匡威或 ConverseStream)。本主題中的範例程式碼使用 Converse API 來說明如何使用工具來取得廣播電台最受歡迎的歌曲。如需有關呼叫 Converse 的一般資訊API,請參閱使用匡威 API。
您可以將工具與基本推論作業 (InvokeModel或 InvokeModelWithResponseStream) 搭配使用。若要尋找您在要求主體中傳遞的推論參數,請參閱您要使用之模型的推論參數。我們建議使用 Converse,API因為它提供了一致的API,可與所有支持工具使用的 Amazon 基岩模型一起使用。
如需支援工具呼叫之模型的相關資訊,請參閱支援的型號和模型特徵。