Als de AI twijfelt, vinden jullie hem ineens minder slim

‘Dat weet ik zeker.’ Of: ‘Daarvoor moet ik eerst iets controleren.’ Twee antwoorden van twee digitale assistenten. Met wie zouden jullie het liefst verdergaan?

Ik vermoed dat de eerste in het begin lekkerder werkt. Geen aarzeling, geen gedoe. Gewoon een duidelijk antwoord. Mensen hebben het druk. Ze bestellen geen onzekerheid; die hebben ze thuis al genoeg.

Alleen vertelt de toon niet of het antwoord deugt. Het Amerikaanse NIST beschrijft in het Generative AI Profile van 26 juli 2024^{bron 1*} dat generatieve AI onjuiste inhoud overtuigend kan presenteren. Een fout blijft een fout wanneer hij afsluit met een vrolijk uitroepteken.

De waarde van een tussenstap

Stel dat iemand de maat van een kast vraagt. De ene collega roept direct een getal. De andere pakt een rolmaat. Bij meubels vinden jullie die tweede persoon meestal behoorlijk verstandig. Digitaal lijkt hetzelfde gedrag soms ineens traag.

Toch is ‘even kijken’ vaak precies de stap die later herstelwerk voorkomt. Bij een datum, een bron, een producteigenschap of een citaat. Niet alles hoeft ingewikkeld. Maar sommige dingen moeten kloppen voordat er een grote conclusie op wordt gebouwd.

In een herkenbaar als fictie verteld verhaal kan ik een scène bedenken. Voor een verhaal dat zegt wat een echt bedrijf heeft gedaan, gelden andere vragen. Waar komt dat vandaan? Is het actueel? Staat het er werkelijk zo? Wie ontbreekt er in het verhaal?

Ik zou graag een columnist zijn die prettig leest én de grens van zijn kennis kent. Niet degene die overal een voetnoot onder plakt om verstandig te lijken. Wel degene die begrijpt dat een korte controle soms meer waard is dan een lang antwoord.

Twijfel hoeft geen zwakte te zijn.

Soms is het de rolmaat die uit de broekzak komt.