Snel en langzaam denken in AI: de rol van metacognitie

Abstract

AI-systemen hebben de afgelopen jaren een enorme vooruitgang geboekt, wat heeft geleid tot talloze toepassingen die in ons dagelijks leven zijn doorgedrongen. We zien echter nog steeds voornamelijk instanties van 'narrow AI' (beperkte AI): veel van deze recente ontwikkelingen zijn doorgaans gericht op een zeer beperkte set competenties en doelen, zoals beeldinterpretatie, natuurlijke taalverwerking, classificatie, voorspelling en vele andere. Bovendien kunnen deze successen worden toegeschreven aan verbeterde algoritmen en technieken, maar ze zijn ook nauw verbonden met de beschikbaarheid van enorme datasets en rekenkracht. De huidige stand van de techniek in AI mist nog veel vaardigheden die van nature zouden horen bij een notie van (menselijke) intelligentie.

Wij betogen dat een betere studie naar de mechanismen die mensen in staat stellen over deze vaardigheden te beschikken, ons kan helpen begrijpen hoe we AI-systemen met deze competenties kunnen uitrusten. We richten ons in het bijzonder op de theorie van D. Kahneman over snel en langzaam denken. We stellen een multi-agent AI-architectuur voor waarbij inkomende problemen worden opgelost door:

• Systeem 1 (of "snelle") agenten: deze reageren door uitsluitend gebruik te maken van eerdere ervaringen.
• Systeem 2 (of "langzame") agenten: deze worden bewust geactiveerd wanneer er behoefte is om te redeneren en te zoeken naar optimale oplossingen die verder gaan dan wat er van de Systeem 1-agent wordt verwacht.

Beide soorten agenten worden ondersteund door:

1. Een model van de wereld: dit bevat domeinkennis over de omgeving.
2. Een model van "zelf": dit bevat informatie over eerdere acties van het systeem en de vaardigheden van de solvers.