In dit artikel maakt Rich Hickey een scherp filosofisch onderscheid tussen tools (gereedschappen) en automatisering.
Volgens Hickey is een tool iets dat men hanteert: het vereist controle, intentie en biedt directe sensorische feedback. Het gebruik van tools is essentieel voor het ontwikkelen van expertise en vakmanschap, omdat de gebruiker direct interactie heeft met de logica of fysica van de taak.
Large Language Models (LLM's) vallen volgens hem niet in deze categorie, maar zijn een vorm van automatisering. Ze werken zelfstandig zonder continue menselijke sturing en zijn niet deterministisch. Het cruciale verschil is dat een tool je helpt iets te doen, terwijl automatisering de handeling vermijdt of overneemt.
Hickey waarschuwt dat het delegeren van taken (zoals lezen of coderen) aan AI leidt tot een verlies van essentiële vaardigheden. Men leert niet langer denken, argumenteren of nuances oppikken, maar leert enkel hoe men een grillig algoritme moet 'gamen'.
'AI' is geen tool
(Ik breng dit vaak als een korte opmerking; hier is een verdieping)
Allereerst de belangrijkste vraag: gaat 'tool' (gereedschap) een interessante, onderscheidende en daarmee verhelderende betekenis hebben, of is het slechts een platte vervanging voor "alles wat nuttig is"?
We bewaren de term 'tool' in de zin van "iedereen/alles wat geëxploiteerd kan worden" voor de AI-giganten, voor wie durfkapitalisten, politici, wannabe-CEO-giganten, softwareontwikkelaars en plattelandsdorpen allemaal 'tools' zijn. De zakken op de voorkant van mijn overhemden zijn nuttig (ik moet mijn leesbril bij de hand houden), maar het zijn geen tools. Op dezelfde manier zijn drive-thru-loketten van fastfoodrestaurants nuttig, maar het zijn geen tools (daar later meer over).
Enkele definities van 'tool':
- Een apparaat of instrument, vooral een dat in de hand wordt gehouden, gebruikt om een specifieke functie uit te voeren.
- Een instrument (zoals een hamer of zaag) dat met de hand wordt gebruikt of bediend: een instrument dat wordt gebruikt door een ambachtsman of arbeider in hun werk.
Waar ik de voorkeur aan geef: een tool is iets dat je hanteert.
Hanteren — gebruiken (als een tool of instrument), vooral met volledige controle of macht: bedienen, manipuleren, beheersen.
Dit is vooral nuttig omdat het impliceert dat het:
- In je hand wordt gehouden — een bron van zowel controle als feedback, en een indicatie van de intimiteit van de handeling.
- Kracht betreft — krachtoverbrenging, energierichting, hefboomwerking, etc.
- Controle inhoudt — intentie en het continu sturen van het verloop van gebeurtenissen.
Tools zijn instrumenten waarmee je iets doet; ze doen niet dingen voor je. Het gebruik van tools bouwt expertise en vaardigheid op, en vereist dit vaak ook. De continue toepassing van techniek en energie, samen met sensorische feedback, zijn essentieel voor de opbouw van expertise (van experiri — "proberen").
Goede tools hebben veel eigenschappen die LLM's (Large Language Models) missen: ze zijn voorspelbaar, betrouwbaar, deterministisch, hebben een afgebakende functie en zijn hopelijk eenvoudig.
Wat je leert terwijl je een tool hanteert, is iets over de wereld, de taak, de fysica of de logica van wat je probeert te doen of de situatie die je probeert te overwinnen. En vaak leer je ook iets over jezelf.
Als iemand die een leven lang tools bouwt en gebruikt, weet ik wat tools zijn. LLM's zijn geen tools.
Controle, sensorische feedback, intentie, intimiteit, continue sturing en expertise ontbreken allemaal bij het gebruik van LLM's. LLM's worden niet gehanteerd. LLM's zijn automatisering.
Automatisering — (van een apparaat of proces) het zelfstandig werken met weinig of geen directe menselijke controle.
Een drive-thru is geen tool voor het koken; het is automatisering om koken te vermijden. LLM's zijn geen tools waarmee je code schrijft — het is automatisering waarmee je het schrijven van code vermijdt, of waarvoor je het schrijven van code opgeeft.
Je stuurt de actie van een LLM niet aan; je doet verzoeken en het handelt uit eigen beweging, zonder jouw energie of continue sturing. Deze cyclus van verzoek/automatisering is geen hanteren, het is geen controle, het is niet continu en het is zonder feedback.
Wat je doet bij het gebruik van automatisering, in plaats van het leren van feiten over de echte wereld, is het proberen te ontcijferen van de details du jour van een bepaald automaat. Je probeert het systeem te 'gamen' — bijvoorbeeld door een aangepaste burger te bestellen (zonder uien) om er een te krijgen die vers is gemaakt. Of door voodoo.md te vullen met precies de juiste bezweringen. Je bent slechts één software-update verwijderd van het moment dat alles wat je hebt 'geleerd' irrelevant wordt gemaakt door het nieuwste algoritme (het resultaat is dan een zompige, koude burger waar de uien simpelweg vanaf zijn gehaald). Je hebt het werken met de wereld ingeruild voor het werken voor een grillige robot.
Het is een fout om achteloos "tools" gelijk te stellen aan nut. Men zegt bijvoorbeeld: "De LLM heeft mijn paper niet geschreven, ik heb hem alleen als tool gebruikt om enkele onderzoekspapers te lezen en samen te vatten." Maar je hebt hem niet gehanteerd om die papers te lezen (zoals je een Kindle zou hanteren). De LLM las de papers, niet jij.
Wat mis je door het doen van het lezen op te geven? Vrijwel alles. Ten eerste mis je het leren schrijven van mensen die dat kunnen. Je mist het leren formuleren van een argument. Je mist het opmerken van details. Je mist het voeden van je achtergrondgeest met materiaal voor vernieuwende ideeën. Je mist het opbouwen van vertrouwen in sommige auteurs en wantrouwen tegenover anderen. Je mist alle grappen. Je mist alle nuances. Je mist het leren denken.
Tools raken niet "misaligned", ze "gaan niet rogue", ze "ontsnappen niet aan hun opsluiting" en ze "complotten" niet.
LLM's zijn geen tools. Ik weet dat veel mensen de phrase "slechts tools" gebruiken om aan te geven dat "ze zijn wat je er zelf van maakt". Behalve dat dit niet waar is. Automatisering heeft intrinsieke eigenschappen en verschillen met tools die je op eigen risico negeert.
Rich
'AI' is geen tool
(Ik breng dit vaak als een korte opmerking; hier is een verdieping)
Allereerst de belangrijkste vraag: gaat 'tool' (gereedschap) een interessante, onderscheidende en daarmee verhelderende betekenis hebben, of is het slechts een platte vervanging voor "alles wat nuttig is"?
We bewaren de term 'tool' in de zin van "iedereen/alles wat geëxploiteerd kan worden" voor de AI-giganten, voor wie durfkapitalisten, politici, wannabe-CEO-giganten, softwareontwikkelaars en plattelandsdorpen allemaal 'tools' zijn. De zakken op de voorkant van mijn overhemden zijn nuttig (ik moet mijn leesbril bij de hand houden), maar het zijn geen tools. Op dezelfde manier zijn drive-thru-loketten van fastfoodrestaurants nuttig, maar het zijn geen tools (daar later meer over).
Enkele definities van 'tool':
- Een apparaat of instrument, vooral een dat in de hand wordt gehouden, gebruikt om een specifieke functie uit te voeren.
- Een instrument (zoals een hamer of zaag) dat met de hand wordt gebruikt of bediend: een instrument dat wordt gebruikt door een ambachtsman of arbeider in hun werk.
Waar ik de voorkeur aan geef: een tool is iets dat je hanteert.
Hanteren — gebruiken (als een tool of instrument), vooral met volledige controle of macht: bedienen, manipuleren, beheersen.
Dit is vooral nuttig omdat het impliceert dat het:
- In je hand wordt gehouden — een bron van zowel controle als feedback, en een indicatie van de intimiteit van de handeling.
- Kracht betreft — krachtoverbrenging, energierichting, hefboomwerking, etc.
- Controle inhoudt — intentie en het continu sturen van het verloop van gebeurtenissen.
Tools zijn instrumenten waarmee je iets doet; ze doen niet dingen voor je. Het gebruik van tools bouwt expertise en vaardigheid op, en vereist dit vaak ook. De continue toepassing van techniek en energie, samen met sensorische feedback, zijn essentieel voor de opbouw van expertise (van experiri — "proberen").
Goede tools hebben veel eigenschappen die LLM's (Large Language Models) missen: ze zijn voorspelbaar, betrouwbaar, deterministisch, hebben een afgebakende functie en zijn hopelijk eenvoudig.
Wat je leert terwijl je een tool hanteert, is iets over de wereld, de taak, de fysica of de logica van wat je probeert te doen of de situatie die je probeert te overwinnen. En vaak leer je ook iets over jezelf.
Als iemand die een leven lang tools bouwt en gebruikt, weet ik wat tools zijn. LLM's zijn geen tools.
Controle, sensorische feedback, intentie, intimiteit, continue sturing en expertise ontbreken allemaal bij het gebruik van LLM's. LLM's worden niet gehanteerd. LLM's zijn automatisering.
Automatisering — (van een apparaat of proces) het zelfstandig werken met weinig of geen directe menselijke controle.
Een drive-thru is geen tool voor het koken; het is automatisering om koken te vermijden. LLM's zijn geen tools waarmee je code schrijft — het is automatisering waarmee je het schrijven van code vermijdt, of waarvoor je het schrijven van code opgeeft.
Je stuurt de actie van een LLM niet aan; je doet verzoeken en het handelt uit eigen beweging, zonder jouw energie of continue sturing. Deze cyclus van verzoek/automatisering is geen hanteren, het is geen controle, het is niet continu en het is zonder feedback.
Wat je doet bij het gebruik van automatisering, in plaats van het leren van feiten over de echte wereld, is het proberen te ontcijferen van de details du jour van een bepaald automaat. Je probeert het systeem te 'gamen' — bijvoorbeeld door een aangepaste burger te bestellen (zonder uien) om er een te krijgen die vers is gemaakt. Of door voodoo.md te vullen met precies de juiste bezweringen. Je bent slechts één software-update verwijderd van het moment dat alles wat je hebt 'geleerd' irrelevant wordt gemaakt door het nieuwste algoritme (het resultaat is dan een zompige, koude burger waar de uien simpelweg vanaf zijn gehaald). Je hebt het werken met de wereld ingeruild voor het werken voor een grillige robot.
Het is een fout om achteloos "tools" gelijk te stellen aan nut. Men zegt bijvoorbeeld: "De LLM heeft mijn paper niet geschreven, ik heb hem alleen als tool gebruikt om enkele onderzoekspapers te lezen en samen te vatten." Maar je hebt hem niet gehanteerd om die papers te lezen (zoals je een Kindle zou hanteren). De LLM las de papers, niet jij.
Wat mis je door het doen van het lezen op te geven? Vrijwel alles. Ten eerste mis je het leren schrijven van mensen die dat kunnen. Je mist het leren formuleren van een argument. Je mist het opmerken van details. Je mist het voeden van je achtergrondgeest met materiaal voor vernieuwende ideeën. Je mist het opbouwen van vertrouwen in sommige auteurs en wantrouwen tegenover anderen. Je mist alle grappen. Je mist alle nuances. Je mist het leren denken.
Tools raken niet "misaligned", ze "gaan niet rogue", ze "ontsnappen niet aan hun opsluiting" en ze "complotten" niet.
LLM's zijn geen tools. Ik weet dat veel mensen de phrase "slechts tools" gebruiken om aan te geven dat "ze zijn wat je er zelf van maakt". Behalve dat dit niet waar is. Automatisering heeft intrinsieke eigenschappen en verschillen met tools die je op eigen risico negeert.
Rich
Groetjes,