AIF-C01 Domain 3 : Applications des foundation models

RAG, prompt engineering ou fine-tuning ?

Utilisez le prompt engineering quand les instructions et les exemples suffisent. Utilisez le retrieval-augmented generation (RAG) quand les réponses ont besoin de données de référence actuelles ou privées. Envisagez le fine-tuning quand vous avez besoin d'un comportement ou d'un style de tâche répétable que le prompting seul ne peut pas fournir.

• Knowledge Bases for Amazon Bedrock récupèrent des chunks sources pertinents pour des réponses ancrées.
• Agents for Amazon Bedrock peuvent orchestrer modèles, sources de données et actions.
• L'évaluation de modèles doit refléter la qualité, la sécurité, la latence et le coût pour le cas d'usage réel.
• N'envoyez pas chaque document dans chaque prompt quand le retrieval peut sélectionner le contexte pertinent.

Décisions AIF-C01 courantes

Le modèle le plus capable n'est pas toujours le meilleur choix. Comparez la modalité, les besoins de contexte, la précision, la latence, la disponibilité régionale, la personnalisation et le prix. Construisez un petit ensemble d'évaluation basé sur de vraies tâches avant de vous engager.