AIF-C01 Domain 2: Generative AI fundamentals

O que entender

Um modelo de fundação é treinado com dados amplos e pode ser adaptado para muitas tarefas posteriores. Grandes modelos de linguagem processam tokens; embeddings representam significado como vetores; transformadores usam atenção às relações do modelo no contexto.

• Temperatura mais baixa geralmente torna a saída mais previsível; temperatura mais alta aumenta a variação.
• Engenharia de prompts altera instruções e contexto sem re-treinar os pesos do modelo.
• Alucinação é plausível, mas saída não suportada; aterramento e verificação ajudam a reduzir seu impacto.
• Custos de IA generativa dependem da escolha do modelo, tokens de entrada/saída, latência e throughput.

Decisões comuns AIF-C01

Separar a capacidade do modelo dos controles da aplicação. Um modelo pode gerar texto, imagens ou embeddings, enquanto a aplicação ainda precisa de prompts, recuperação, controles de segurança, monitoramento e revisão humana.