Utilización de ventanas de contexto largas

Amazon Nova Premier admite una longitud de contexto de 1 millón de tokens, lo que se traduce en 1 millón de tokens de texto, 500 imágenes o 90 minutos de video. Amazon Nova Premier destaca en la comprensión del código y la respuesta a preguntas en documentos largos. Su rendimiento puede disminuir ligeramente a medida que aumenta el tamaño del contexto, por lo que, a fin de obtener los mejores resultados, tenga en cuenta las siguientes pautas:

• Ponga los datos de formato largo al principio: coloque los documentos largos y las entradas cerca del comienzo de la petición. Deben colocarse antes de la consulta, las instrucciones y los ejemplos.

• Ponga las instrucciones al final: coloque las instrucciones al final de la petición. El modelo funciona mejor cuando se proporciona primero el contexto y las instrucciones se indican al final.

• Estructure los marcadores de inicio y final del contenido del documento: utilice marcadores de inicio y final, como [Document Start] y [Document End], para indicar el inicio y el final de un documento largo.

  A continuación, se muestra una plantilla de ejemplo:

  // Provide your long inputs at the top of your prompt
  [Document Start]
  {{ Your document}}
  [Document End]
  
  // Then specify your query and instructions
  {{ User query}}
  {{ Instructions}}

• Fundamente sus respuestas con marcadores de citas: para tareas con documentos largos, le recomendamos que indique al modelo Amazon Nova que fundamente sus respuestas con citas de las secciones relevantes de los documentos antes de continuar con la tarea. Este enfoque ayuda al modelo a centrarse en la información más pertinente y a evitar que se distraiga con contenido superfluo. Cuando solicite que el modelo fundamente su respuesta, las secciones que se pueden citar deben estar numeradas. Por ejemplo, Pasaje %[1]%, Pasaje %[2]%, y así sucesivamente, o simplemente <C1>, <C2>, etc.. Para obtener información detallada sobre cómo incluir citas en las peticiones, consulte Creación de su propio RAG.

  A continuación se muestra una petición de ejemplo:

  """
  You are an AI financial assistant. Your task is to find patterns and insights from multi-year financial documents 
  
  Passage %[1]%
  {{ Your document}}
  
  Passage %[2]%
  {{ Your document}}
  
  Passage %[3]%
  {{ Your document}}
  
  Passage %[4]%
  {{ Your document}}
  
  ## Task:
  Analyze Amazon's financial reports across multiple years to identify significant performance trends, segment growth patterns, and strategic shifts.
  
  ## Context information:
  - You have access to Amazon's annual financial reports (10-K) for multiple fiscal years in PDF format
  - These reports contain comprehensive financial data including income statements, balance sheets, cash flow statements, and management discussions
  - The analysis should focus on year-over-year comparisons to identify meaningful trends
  - Amazon operates multiple business segments including North America retail, International retail, Amazon Web Services (AWS), advertising, and subscription services
  
  Based on the provided Context, extract key financial metrics from each year's reports phrases from the documents, citing them using %[1]%, %[2]%, %[3]%, and for the corresponding
  passage that supports the response.
  
  ## Response Schema:
  %[1]%  (Extracted Financial Metrics)
  %[2]%   (Extracted Financial Metrics)
  %[3]%   (Extracted Financial Metrics)
  ...
  """

  Una vez extraída la información clave en función de la tarea del usuario, puedes utilizar las métricas financieras extraídas para responder a las preguntas pertinentes, tal como se muestra a continuación:

  """
  ## Task
  Analyze Amazon's financial reports across multiple years to identify significant performance trends, segment growth patterns, and strategic shifts.
  {{ extracted financial metrics }}
  
  ## Model Instructions:
  - Organize data chronologically to identify meaningful trends
  - DO compare segment performance across the five-year period
  - DO identify significant strategic shifts or investments mentioned in management discussions
  - DO NOT make speculative predictions beyond what is supported by the data
  - ALWAYS note any changes in accounting practices or reporting methodologies that might affect year-over-year comparisons
  
  ## Response style and format requirements:
  - Respond in markdown
  - Structure the analysis with clear headings and subheadings
  - Present key financial metrics in tabular format showing all five years side-by-side
  - Include percentage changes year-over-year for all major metrics
  - Create a section dedicated to visualizing the most significant trends (with descriptions of what would be shown in charts)
  - Limit the executive summary to 250 words maximum
  - Format segment analysis as separate sections with consistent metrics across all segments
  - MUST include a Key Insights bullet-pointed list at the end of each major section