AIF-C01 Domain 2: Generative AI fundamentals

Qué hay que entender

Un modelo de fundación se entrena con datos amplios y puede adaptarse a muchas tareas posteriores. Los grandes modelos de lenguaje procesan tokens; los embeddings representan el significado como vectores; los transformadores prestan atención a las relaciones del modelo en contexto.

• Una temperatura más baja generalmente hace que la salida sea más predecible; una temperatura más alta incrementa la variación.
• La ingeniería de prompts cambia instrucciones y contexto sin reentrenar los pesos del modelo.
• La alucinación es plausible pero la salida no está soportada; la puesta a tierra y la verificación ayudan a reducir su impacto.
• Los costes de la IA generativa dependen de la elección del modelo, los tokens de entrada/salida, la latencia y el rendimiento.

Decisiones comunes AIF-C01

Separar la capacidad del modelo de los controles de la aplicación. Un modelo puede generar texto, imágenes o incrustaciones, mientras que la aplicación aún necesita prompts, recuperación, controles de seguridad, monitorización y revisión humana.