In dit artikel reageert de auteur op de stelling van Rich Hickey dat Large Language Models (LLM's) vormen van automatisering zijn in plaats van instrumenten. De auteur stelt dat onvoorspelbaarheid een LLM niet diskwalificeert als instrument, maar dat het succesvol gebruik juist afhankelijk is van de expertise van de operator om feedback te interpreteren en correcties aan te brengen.
De auteur voert aan dat de scheiding tussen automatisering en instrumenten vals is; systemen zoals compilers en spreadsheets automatiseren immers ook werk, maar worden nog steeds als instrumenten beschouwd. Daarnaast waarschuwt de auteur tegen het antropomorfiseren van AI door termen als 'samenzweren' te gebruiken voor technische fouten. De conclusie is dat het cruciale onderscheid niet ligt in de aard van de software, maar in het verschil tussen het vaardig hanteren van een instrument en het blind delegeren van werk zonder adequaat begrip of toezicht.
AI is een instrument. Het goed gebruiken vereist vaardigheid.
In zijn artikel van 11 oktober 2026, "'AI' is Not a Tool," betoogt Rich Hickey dat LLM's (Large Language Models) vormen van automatisering zijn in plaats van instrumenten, omdat ze niet 'bestuurd' kunnen worden. Ik ben het ermee eens dat het uitbesteden van werk ons kansen om te leren kan kosten, maar zijn conclusie volgt hier niet uit. Zelfs volgens zijn eigen definitie kan een LLM iets zijn dat door een mens wordt gehanteerd. En het goed gebruiken ervan vereist vaardigheid, net zoals het gebruik van andere instrumenten dat doet.
Het oppakken van een zaag garandeert geen rechte snede. Het vasthouden van een beitel maakt je niet automatisch een beeldhouwer. Instrumenten kunnen slecht oordeelsvermogen net zozeer versterken als een goed oordeelsvermogen. Hun nut hangt af van het vermogen van de operator om ze te sturen, feedback te interpreteren, fouten te herkennen en correcties aan te brengen. Deze vereisten zijn ook van toepassing op LLM's.
De onvoorspelbaarheid van een LLM is een significante beperking. Maar voorspelbaarheid, betrouwbaarheid, eenvoud en een afgebakende functie zijn kwaliteiten waarlangs we instrumenten evalueren; het zijn geen randvoorwaarden om tot die categorie te behoren. Een instrument houdt op een instrument te zijn niet omdat het moeilijk te controleren is of gemakkelijk verkeerd gebruikt kan worden.
De valse scheiding tussen instrumenten en automatisering
Hickeys onderscheid tussen instrumenten en automatisering creëert bovendien een valse tweedeling. Automatisering kan een kenmerk van een instrument zijn.
- Een compiler verricht aanzienlijk werk zonder dat de programmeur elke operatie continu hoeft te sturen.
- Een spreadsheet herberekenen resultaten zonder dat iemand handmatig elke berekening uitvoert.
Toch besturen we deze systemen door inputs te specificeren, resultaten te inspecteren en te beslissen wat de volgende stap is. Waarom zou het automatisch genereren van tekst een instrument diskwalificeren als instrument, terwijl het automatisch vertalen van code of berekenen van getallen dat niet doet?
De bewering dat het gebruik van LLM's geen intentie, feedback, sturing en expertise bevat, is bijzonder moeilijk te verdedigen. Een programmeur kan een LLM vragen om onbekende code uit te leggen, die uitleg uitdagen, de bron inspecteren, een voorgestelde wijziging testen, deze verwerpen en het verzoek verfijnen. Dat is een feedbackloop die wordt gestuurd door een mens met een specifiek doel. Om dit goed te doen, moet je weten wat je moet vragen, welk bewijs relevant is en wanneer het antwoord onjuist is. Expertise kan het instrument nuttiger maken.
Intellectueel werk en AI
Hickeys zorgen over lezen zijn terecht voor een specifiek gebruik: het accepteren van een samenvatting in plaats van het lezen van een paper kan veel van wat lezen leert, opofferen. Maar iemand kan ook de paper lezen en een LLM gebruiken om hun interpretatie te bevragen, een tegenwerping te verkennen of iets te identificeren dat nauwer bestudeerd moet worden. De mogelijkheid om intellectueel werk te vermijden, betekent niet dat elk gebruik ervan dit werk vermijdt. De relevante vraag is wat de persoon daadwerkelijk doet.
Het gevaar van antropomorfisme
Wat me het meest teleurstelt, is het vertrouwen op het antropomorfe vocabulaire van de AI-industrie: termen als "rogue gaan" (op eigen houtje gaan handelen), "ontsnappen aan inperking" of "samenzweren". Het herhalen van deze uitdrukkingen brengt het risico met zich mee dat we het kader accepteren waardoor deze systemen klinken als onafhankelijke wezens.
Software kan onverwachte output produceren, instructies niet opvolgen of schade aanrichten wanneer het toegang krijgt tot ingrijpende acties. Dat zijn reële technische problemen. Ze "samenzwering" te noemen, suggereert menselijke motieven zonder dat deze zijn vastgesteld.
Ik zou niet beweren dat een LLM altijd precies doet wat een mens zegt. Het kan overduidelijk falen. Maar het feit dat het niet perfect gehoorzaamt, maakt het niet minder een instrument, net zoals succesvol gebruik niet bewijst dat de operator zijn oordeelsvermogen heeft opgegeven.
Conclusie
Het nuttige onderscheid ligt tussen het vaardig hanteren van een instrument en het delegeren van werk zonder adequaat begrip of toezicht. Dat onderscheid is van toepassing op AI, en het biedt ons iets praktischers dan de verklaring dat een hele klasse software geen instrument kan zijn.
AI is een instrument. Het goed gebruiken vereist vaardigheid.
In zijn artikel van 11 oktober 2026, "'AI' is Not a Tool," betoogt Rich Hickey dat LLM's (Large Language Models) vormen van automatisering zijn in plaats van instrumenten, omdat ze niet 'bestuurd' kunnen worden. Ik ben het ermee eens dat het uitbesteden van werk ons kansen om te leren kan kosten, maar zijn conclusie volgt hier niet uit. Zelfs volgens zijn eigen definitie kan een LLM iets zijn dat door een mens wordt gehanteerd. En het goed gebruiken ervan vereist vaardigheid, net zoals het gebruik van andere instrumenten dat doet.
Het oppakken van een zaag garandeert geen rechte snede. Het vasthouden van een beitel maakt je niet automatisch een beeldhouwer. Instrumenten kunnen slecht oordeelsvermogen net zozeer versterken als een goed oordeelsvermogen. Hun nut hangt af van het vermogen van de operator om ze te sturen, feedback te interpreteren, fouten te herkennen en correcties aan te brengen. Deze vereisten zijn ook van toepassing op LLM's.
De onvoorspelbaarheid van een LLM is een significante beperking. Maar voorspelbaarheid, betrouwbaarheid, eenvoud en een afgebakende functie zijn kwaliteiten waarlangs we instrumenten evalueren; het zijn geen randvoorwaarden om tot die categorie te behoren. Een instrument houdt op een instrument te zijn niet omdat het moeilijk te controleren is of gemakkelijk verkeerd gebruikt kan worden.
De valse scheiding tussen instrumenten en automatisering
Hickeys onderscheid tussen instrumenten en automatisering creëert bovendien een valse tweedeling. Automatisering kan een kenmerk van een instrument zijn.
- Een compiler verricht aanzienlijk werk zonder dat de programmeur elke operatie continu hoeft te sturen.
- Een spreadsheet herberekenen resultaten zonder dat iemand handmatig elke berekening uitvoert.
Toch besturen we deze systemen door inputs te specificeren, resultaten te inspecteren en te beslissen wat de volgende stap is. Waarom zou het automatisch genereren van tekst een instrument diskwalificeren als instrument, terwijl het automatisch vertalen van code of berekenen van getallen dat niet doet?
De bewering dat het gebruik van LLM's geen intentie, feedback, sturing en expertise bevat, is bijzonder moeilijk te verdedigen. Een programmeur kan een LLM vragen om onbekende code uit te leggen, die uitleg uitdagen, de bron inspecteren, een voorgestelde wijziging testen, deze verwerpen en het verzoek verfijnen. Dat is een feedbackloop die wordt gestuurd door een mens met een specifiek doel. Om dit goed te doen, moet je weten wat je moet vragen, welk bewijs relevant is en wanneer het antwoord onjuist is. Expertise kan het instrument nuttiger maken.
Intellectueel werk en AI
Hickeys zorgen over lezen zijn terecht voor een specifiek gebruik: het accepteren van een samenvatting in plaats van het lezen van een paper kan veel van wat lezen leert, opofferen. Maar iemand kan ook de paper lezen en een LLM gebruiken om hun interpretatie te bevragen, een tegenwerping te verkennen of iets te identificeren dat nauwer bestudeerd moet worden. De mogelijkheid om intellectueel werk te vermijden, betekent niet dat elk gebruik ervan dit werk vermijdt. De relevante vraag is wat de persoon daadwerkelijk doet.
Het gevaar van antropomorfisme
Wat me het meest teleurstelt, is het vertrouwen op het antropomorfe vocabulaire van de AI-industrie: termen als "rogue gaan" (op eigen houtje gaan handelen), "ontsnappen aan inperking" of "samenzweren". Het herhalen van deze uitdrukkingen brengt het risico met zich mee dat we het kader accepteren waardoor deze systemen klinken als onafhankelijke wezens.
Software kan onverwachte output produceren, instructies niet opvolgen of schade aanrichten wanneer het toegang krijgt tot ingrijpende acties. Dat zijn reële technische problemen. Ze "samenzwering" te noemen, suggereert menselijke motieven zonder dat deze zijn vastgesteld.
Ik zou niet beweren dat een LLM altijd precies doet wat een mens zegt. Het kan overduidelijk falen. Maar het feit dat het niet perfect gehoorzaamt, maakt het niet minder een instrument, net zoals succesvol gebruik niet bewijst dat de operator zijn oordeelsvermogen heeft opgegeven.
Conclusie
Het nuttige onderscheid ligt tussen het vaardig hanteren van een instrument en het delegeren van werk zonder adequaat begrip of toezicht. Dat onderscheid is van toepassing op AI, en het biedt ons iets praktischers dan de verklaring dat een hele klasse software geen instrument kan zijn.
Groetjes,