AI-academie

Wat is AI eigenlijk? · 1.4 · 6 min

Waarom AI zo zelfverzekerd klinkt

Twee antwoorden. Allebei in dezelfde rustige toon. Eén klopt. Eén is verzonnen. Je kunt het verschil niet horen aan de stem, want er is geen stem. Alleen zinnen.

Mensen zeggen "hallucineren" als een model iets verzint. Dat klinkt als een ziekte. Het is geen storing die ze nog even oplossen. Het hoort bij hoe het gebouwd is.

Het model wordt beloond voor een áf antwoord. Niet voor "ik weet het niet". Een zin die stopt, voelt incompleet. Dus maakt hij de zin af. Ook als de feiten opraken.

Schoolse leugens die eruitzien als lesstof

  • Een citaat van Multatuli dat nergens in Max Havelaar staat.
  • Een "onderzoek uit 2019" met auteurs die bestaan, over een artikel dat niet bestaat.
  • Een formule die eruitziet als natuurkunde en de eenheden door elkaar haalt.
  • Een samenvatting van hoofdstuk 4, terwijl jouw methode een andere volgorde heeft.

Antwoord A

"De Slag bij Waterloo was op 18 juni 1815. Napoleon verloor van Wellington en Blücher."

Antwoord B

"In zijn dagboek van 19 juni schreef Multatuli dat Waterloo bewees dat Nederland een klein land met een groot lot is." (dat dagboek bestaat zo niet)

Zonder check zie je het verschil niet. De toon is gelijk. Daarom is checken geen extraatje voor nerds. Het is het echte werk.

Jij kiest

Een klasgenoot stuurt je een AI-samenvatting van het geschiedenishoofdstuk. Er staat een jaartal in dat jij niet herkent uit het boek. Wat doe je?

Check

Kies een antwoord. Daarna zie je waarom.

  1. Waarom klinkt een verzonnen AI-antwoord vaak even zeker als een goed antwoord?

  2. Wat is de slimste check als AI een bron noemt?

  3. Hallucineren betekent hier vooral: