Hallucineren in salarisland

In dit artikel:

De snelle opmars van kunstmatige intelligentie leidt ertoe dat managers en ondernemers steeds meer werkzaamheden aan AI willen overlaten. De technologie werkt snel en kan kosten besparen, maar brengt ook risico’s met zich mee wanneer gebruikers niet meer begrijpen hoe beslissingen tot stand komen. Bij fouten is dan moeilijk vast te stellen wat er misging.

De auteur vergelijkt dit met de overgang van MS-DOS naar Windows. Die automatisering maakte bestandsbeheer eenvoudiger, maar zorgde er ook voor dat gebruikers minder inzicht kregen in waar bestanden werden opgeslagen en hoe systemen werkten. Problemen werden daardoor vooral zichtbaar wanneer de omstandigheden veranderden, bijvoorbeeld bij back-ups of samenwerking.

Volgens het artikel is AI niet echt intelligent, maar een algoritme dat op basis van patronen de meest waarschijnlijke volgende stap kiest. Als de uitgangspunten fout zijn, kan het systeem die vergissing blijven uitwerken en overtuigende onzin produceren — zogenoemd hallucineren. In salarisadministratie kan dat grote gevolgen hebben. Daarom blijven ervaren salarisprofessionals, die berekeningen en uitkomsten kritisch kunnen controleren, onmisbaar. Hun vakkennis moet volgens Reintjan Weeber juist worden gekoesterd, omdat AI die menselijke controle nodig heeft.