Wanneer je ChatGPT vraagt een uitnodiging voor je feestje te schrijven of uit te leggen­ hoe de relativiteitstheorie in elkaar zit, krijg je een resoluut antwoord. Zelfs als het antwoord volledig verzonnen is, en aantoonbaar foutief, dan nog zal het systeem de indruk wekken dat het erg zeker is over het antwoord. Onderzoekers merken op dat dit eerste model nog fel zal verbeteren. Toch roept het vragen op. AI-pionier Luc Steels wees er al op dat de chatbot capabel­ en creatief lijkt, maar het niet is (DS 4 februari). Die vastberaden manier van antwoorden toont aan dat er nog iets anders aan de hand is: ChatGPT beschikt niet over zelfreflectie. De bot is niet in staat tot metacognitie.