Wie stuurt nu eigenlijk wie?

 

Binnen de relatie tussen kunstmatige intelligentie en mensen klinkt steeds dezelfde, fundamentele vraag: wie stuurt wie? Het antwoord is niet eenvoudig of eenduidig.

Het hangt af van technologie, context, ontwerpkeuzes en sociale structuren. Hieronder een compacte analyse van de belangrijkste dimensies van deze vraag, met concrete voorbeelden en aanbevelingen.

1. Twee kanten van controle
- Menselijke sturing: Ontwikkelaars, operators, beleidsmakers en gebruikers bepalen vaak doelstellingen, trainingsdata, parameters en inzetvoorwaarden van AI-systemen. Bijvoorbeeld: een bank stelt kredietbeleid en risicomodellen op; data scientists trainen modellen en kiezen drempels.
- AI-invloeden op menselijk gedrag: AI-systemen beïnvloeden besluitvorming, aandacht en gedrag. Aanbevelingsalgoritmen bepalen wat we zien op sociale media; automatische bezuinigings- of planningssystemen veranderen werkroutines; voorspellende systemen sturen politie-inzet of medische triage.

2. Geen winnaars-takes-all: een relationeel model
De relatie is meestal wederkerig: mensen sturen AI (ontwerp, doelen, regels), en AI stuurt mensen (keuzes beïnvloeden, informatie prioriteren). Controle is dus relationeel — afhankelijk van:
- schaal (individueel product vs. infrastructuur),
- positionele macht (Tech bedrijven, staten, gebruikers),
- transparantie en auditmogelijkheden,
- juridische en institutionele kaders.

3. Risico’s wanneer de balans verschuift
- Verlies van menselijk toezicht: wanneer systemen te complex of opaque zijn, worden mensen afhankelijke gebruikers in plaats van verantwoordelijke beslissers.
- Geconcentreerde macht: organisaties met toegang tot data en computer kunnen grote invloed uitoefenen op keuzes van massa’s mensen.
- Onbedoelde automatisering van vooroordelen: AI kan bestaande ongelijkheden verscherpen als menselijke sturing en correctie ontbreken.

4. Voorbeelden die tonen wie stuurt
- Recommenders: bedrijven sturen wat gebruikers zien; gebruikersgedrag voedt vervolgens het systeem, waardoor een feedback lus ontstaat.
- Autonome voertuigen: ontwerpers en regels leggen grenzen, maar in noodgevallen moet het systeem zelfstandig handelen — wie draagt verantwoordelijkheid?
- Werkplekautomatisering: management besluit automatische planning in te voeren; werknemers passen hun werkstijl aan aan het systeem.

5. Principes om mensgerichte sturing te waarborgen
- Human-in-the-loop: kritieke beslissingen moeten menselijke controle of supervisie behouden.
- Transparantie en uitlegbaarheid: begrijpelijke verklaringen over hoe systemen werken en welke data gebruikt wordt.
- Verantwoordingsplicht en aansprakelijkheid: duidelijke regels wie verantwoordelijk is bij fouten of schade.
- Democratische overheid: publieke participatie in regels en toezicht, niet alleen technisch beheer door bedrijven.
- Onderwijs en zelfbeschikking: mensen moeten weten hoe systemen hun keuzes beïnvloeden en hoe ze kunnen ingrijpen.

---

Als we het in een wat duidelijker eenvoudige taal omzetten gaat het in feite hierom:

1. de door menselijke ingedragen info en data is de basis waarop AI kan bestaan.

2. AI gebruikt de bestaande en nieuw in te komen data als referentie voor de manier waarop de techniek gelijkwaardige punten herkend, en zal daar combinatie van maken waarop een reactie word gemaakt.

3. Door steeds meer menselijke data die echt overal vandaan komen, onderschat dit gegeven niet, zal de ontwikkeling van de database c.q. datamodellen alleen maar groter worden maar ook complexer.

4. Hoe groter en complexer deze database/model wordt hoe groter de kans op ongewenste datalinken/dataverbindingen en fouten kunnen ontstaan, en de vraag die dan gesteld wordt: wie is daar dan voor verantwoordelijk?

Je ziet hieruit dus dat deze vraag niet zo eenvoudig is beantwoorden, wel blijkt hieruit dat wij als menselijke soort zelf in elke vorm van communicatie mede de bases  zijn van van het ontstaan van AI en de verdere ontwikkeling ervan.  De mensheid zelf laat deze ontwikkelingen toe, maar is zij in in machte dit zelf te beheersen?