Förstå hur stora språkmodeller fungerar genom att bygga en själv — från tokenisering och attention till träning och finjustering.
Tokenisering
Hur text blir tokens.
Attention och transformers
Kärnan i moderna språkmodeller.
Träning
Förträning på stora textmängder.
Finjustering
Instruktionsföljning och RLHF.