Hoe een taalmodel werkt
12 study hours
Je leert wat er echt gebeurt als je een vraag stelt aan een taalmodel: tokens, een contextvenster, kansen op het volgende token. Zo snap je waarom een model soms overtuigend iets verzint.
- Claude.ai
- Een tokenizer-visualisatie
- Anthropic-documentatie
Lessons, assignment and what you can do afterwards
What you can do afterwards
- Uitleggen wat een token is en waarom lengte en kosten in tokens worden geteld
- Het verschil tussen training en inferentie uitleggen aan een niet-technische klant
- Uitleggen waarom een model hallucineert en drie manieren noemen om dat te beperken
- Inschatten wanneer een taak in het contextvenster past en wat er gebeurt als dat niet zo is
Lessons
- Van tekst naar tokens
- Het volgende token voorspellen: kansen en temperatuur
- Training, finetuning en inferentie
- Het contextvenster: wat het model wel en niet ziet
- Hallucinaties: waarom ze ontstaan
- Wat een model niet weet: kennisgrens en actualiteit
- Modellen kiezen: groot, klein, lokaal of via een API
The assignment
Schrijf een uitleg van één A4 voor de zaakvoerder van een Vlaamse kmo die twijfelt of ze AI mag vertrouwen voor offertes. Leg tokens, contextvenster en hallucinaties uit met een voorbeeld uit haar eigen sector, en sluit af met drie concrete afspraken voor veilig gebruik. Een medeleerling zonder IT-achtergrond moet de tekst kunnen navertellen.