AIF-C01 Domain 2 : Fondamentaux de l'IA générative

Ce qu'il faut comprendre

Un foundation model est entraîné sur des données larges et peut être adapté à de nombreuses tâches en aval. Les large language models traitent des tokens ; les embeddings représentent le sens sous forme de vecteurs ; les transformers utilisent l'attention pour modéliser les relations dans le contexte.

• Une température plus basse rend généralement la sortie plus prévisible ; une température plus haute augmente la variation.
• Le prompt engineering change les instructions et le contexte sans réentraîner les poids du modèle.
• L'hallucination est une sortie plausible mais non étayée ; l'ancrage et la vérification aident à en réduire l'impact.
• Les coûts de l'IA générative dépendent du choix du modèle, des tokens d'entrée/sortie, de la latence et du débit.

Décisions AIF-C01 courantes

Séparez la capacité du modèle des contrôles de l'application. Un modèle peut générer du texte, des images ou des embeddings, tandis que l'application a encore besoin de prompts, de retrieval, de contrôles de sécurité, de monitoring et de revue humaine.