Wie bewaakt de bewakers? Een ongemakkelijke vraag bij het Britse AI-plan
Het Verenigd Koninkrijk trekt honderden miljoenen ponden uit om zich te wapenen tegen de risico's van AI. Volgens de BBC komt er onder meer £100 miljoen voor een nieuw AI Biosecurity Lab, £120 miljoen extra voor het AI Security Institute en ruim £100 miljoen voor AI-gestuurde cyberverdediging. Twee grote AI-bedrijven, OpenAI en Anthropic, leveren daarnaast voor £200 miljoen aan tegoed om hun modellen in het nieuwe lab te gebruiken.
Op het eerste gezicht is dat goed nieuws. Een overheid die risico's serieus neemt. Maar hoe langer ik erover nadenk, hoe meer vragen ik krijg. Niet over het bedrag, maar over de rollen.
De bouwer als bewaker
De bedrijven die de krachtigste AI-modellen bouwen, helpen nu mee om de risico's van diezelfde technologie te bewaken. Daar is iets voor te zeggen. Zij hebben de kennis, de rekenkracht en de modellen. Wie anders zou zo snel kunnen helpen?
Tegelijk wringt het. In bijna elke andere sector houden we de maker en de toezichthouder bewust uit elkaar. De fabrikant keurt niet zijn eigen auto goed. De accountant controleert niet zijn eigen administratie. Bij AI lijkt die scheiding minder vanzelfsprekend.
Dat hoeft niet te betekenen dat er iets mis is. De BBC meldt dat de precieze taak van het nieuwe lab nog niet bekend is. Maar de vraag mag gesteld worden: als de bouwers ook meekijken bij de bewaking, wie houdt dan het overzicht?
Hetzelfde gereedschap, twee kanten
Eerder deze week schreef ik over php2shell: een oud lek in de basis van het web dat met hulp van AI aan het licht kwam. Dit keer stond AI aan de goede kant.
Maar het is hetzelfde gereedschap. Een model dat zwakke plekken vindt om ze te dichten, kan ze in andere handen vinden om ze te misbruiken. Een model dat helpt om biologische dreigingen te begrijpen, bevat kennis die je liever niet bij de verkeerde persoon ziet. Technologie kiest geen kant. Mensen doen dat.
Technologie kiest geen kant. Mensen doen dat.
Veiligheid op tegoed
Er is nog een ongemak. Een deel van de Britse nationale veiligheid gaat draaien op tegoed van twee Amerikaanse bedrijven. Is dat slim samenwerken, of een nieuwe afhankelijkheid? En wat gebeurt er als de belangen van zo'n bedrijf en die van een land ooit uit elkaar lopen?
Ik heb daar geen pasklaar antwoord op. Voor Nederland en Europa lijkt het me wel een vraag die we onszelf moeten stellen, voordat we er zelf voor staan.
Dichter bij huis
Dit gaat niet alleen over regeringen. Ook in onderwijsinstellingen, zorgorganisaties en bedrijven zetten we AI in, vaak via dezelfde paar leveranciers. Wie is bij ons verantwoordelijk als het misgaat? Wie controleert wat het systeem doet? En durven we kritisch te blijven op een leverancier waar we steeds afhankelijker van worden?
Het zijn geen technische vragen. Het zijn vragen over verantwoordelijkheid, en die kun je niet uitbesteden.
Vragen om over na te denken
- 01Mag de maker meekijken?
Is het verstandig dat AI-bedrijven meehelpen bij het bewaken van de risico's van hun eigen technologie? Of hoort toezicht volledig onafhankelijk te zijn?
- 02Wie bepaalt de grens?
Als AI zowel kan beschermen als schaden, wie beslist dan wat wel en niet mag? De overheid, de bedrijven, of wij samen?
- 03Hoe afhankelijk willen we zijn?
Is het acceptabel dat nationale veiligheid, of de veiligheid van jouw organisatie, leunt op een paar grote, buitenlandse aanbieders?
- 04Wat betekent dit voor jou?
Weet jij wie er in jouw organisatie eigenaar is van de risico's van AI?