Jouw wasmachine heeft meer veiligheidsregels dan de AI op jouw school
Een pak melk wordt gekeurd. Een wasmachine ook. Je AI-assistent niet.
Dat zei Brad Smith van Microsoft deze week in een BBC-interview. Hij pleit voor internationale regels: een meldplicht bij incidenten, onafhankelijke toetsing voordat een AI-product op de markt komt, en een noodrem. Let wel: Microsoft verkoopt zelf AI. Maar de vraag die hij stelt, is terecht. Vooral voor het onderwijs.
Een denkbeeldig voorbeeld
Een hogeschool zet een AI-assistent in voor aanwezigheid. Die ziet dat een student drie weken veel lessen mist en stuurt automatisch een waarschuwing over studievoortgang. Efficiënt: de studieadviseur hoeft niets te doen.
Maar wat als die student ziek was? Of mantelzorger is? Of als een docent de presentielijst te laat invulde? De mail is verstuurd en de student is geschrokken. Wie is nu verantwoordelijk: de docent, de studieadviseur, ICT, de leverancier?
Niemand heeft iets fout gedaan. Er is alleen nooit afgesproken wie de AI aanstuurt, wat hij zelf mag en hoe je hem stopt.
De markt weet dit ook
Google kondigde deze maand een AI-agent aan waarbij elke agent een eigen identiteit krijgt, beperkte rechten, een logboek van alles wat hij doet, en een uitgavenplafond waarbij de agent pauzeert. Dat is geen toeval.
Uit een enquête van softwareleverancier Undo onder 300 leiders bij grote bedrijven met bedrijfskritieke software bleek dat 81% in een half jaar een storing had door AI-codeertools. Dat is een enquête van een leverancier, in een specifieke sector. Maar de les is breder: snel bouwen is niet hetzelfde als beheerst bouwen.
Drie vragen voor morgenochtend
- 01Wie is de eigenaar?
Eén naam, niet “ICT”.
- 02Wat mag de AI zelf, en wat beslist een mens?
Zeker als het studenten raakt.
- 03Wie kan hem stoppen, en weet iedereen dat?
Welk proces op jouw school draait nu al deels op AI of automatisering? Kun je binnen tien seconden zeggen wie de stopknop heeft?
Als je daar langer over moet nadenken, heb je geen AI-beleid. Je hebt hoop.