Duidelijke context tegen willekeurige uitleg
Wat ontbrak er in mijn context?
Mijn tool moet een Canvas-opdracht, de bijhorende documenten en mijn lesnotities omzetten naar een duidelijk overzicht voor WATTZAK. In mijn eerste context stond al dat de agent geen informatie mocht verzinnen, maar dit was niet duidelijk en streng genoeg. De agent wist dus nog niet goed genoeg dat hij zich alleen aan de opdracht, documenten en mijn eigen notities moet houden.
Dat merkte ik bij de test over het Fablab-prototype of de marketinggadget. In plaats van enkel samen te vatten wat er moest gebeuren, verzon de agent zelf uitleg en productideeën. Hij stelde onder andere vilt, een ritssluiting, klikgespen, een logo en een QR-code voor. Die elementen stonden niet in mijn input. Het antwoord leek daardoor meer op productadvies dan op de voorbereidingskaart die ik nodig heb.
Ook de buurtest maakte duidelijk dat de context nog niet scherp genoeg was. Mijn broer las alleen de prompt en beantwoordde drie inputs. Hij gebruikte niet altijd dezelfde structuur en miste velden. Daarom heb ik de mogelijke status nog in te plannen toegevoegd. Die status is nodig wanneer de actie duidelijk is, maar we als groep nog een activiteit of datum moeten kiezen.
Mijn eerste cijfer
Mijn eerste cijfer was 4 op 5 juist (n = 5, 1 run). Er was één fout: F2 — verzonnen. Die fout zat bij T01, de opdracht over het Fablab-prototype of de marketinggadget voor WATTZAK. De agent voegde productdetails toe die niet in de Canvas-opdracht, documenten of lesnotities stonden.
De andere vier tests gaven wel de gevraagde informatie op een bruikbare manier weer. De testset helpt mij om niet alleen te kijken of een antwoord goed klinkt, maar ook of elk onderdeel werkelijk uit mijn eigen input komt.
Eén wijziging
Ik maakte duidelijk dat het verzinnen van uitleg over opdrachten niet nodig is en dat ik alle extra uitleg vanuit de les en mijn eigen input zelf zal bijvoegen. De regel werd: voeg geen informatie toe die niet te vinden is in onze documenten, ideeën of opdrachtbeschrijving.
Bij een nieuwe test van T01 verzon de agent geen productdetails meer. Het agenda-voorstel bleef voorzichtig, maar was voor mij bruikbaar. Dit is nog geen volledig bewijs dat de wijziging altijd werkt: ik testte maar één foute input opnieuw en een model kan bij een volgende run verschillen. In de volgende weken wil ik daarom de overige inputs ook verder testen.