De AI Act in de logistiek: wat de AI-verordening van je magazijn vraagt

Voor de meeste logistieke bedrijven betekent de AI Act een plicht die nu al geldt (AI-geletterdheid van je mensen) en zware regels alleen voor AI die over mensen beslist. Een systeem dat orders uit de mail in je WMS zet, valt in een andere groep dan een systeem dat bepaalt wie morgen welke pickronde krijgt. Wat hier staat is uitleg van de wet en geen juridisch advies. Of jouw systeem ergens onder valt, beslist een jurist die weet wat het systeem precies doet.

Wat betekent de AI Act voor logistiek?

De AI Act, officieel de AI-verordening (Verordening (EU) 2024/1689), is de Europese wet die regels stelt aan het ontwikkelen en gebruiken van AI, ingedeeld naar het risico voor mensen. Hij is op 1 augustus 2024 in werking getreden en gaat in stappen gelden.

De wet kent twee rollen die voor jou tellen. De aanbieder ontwikkelt een AI-systeem, of laat het ontwikkelen, en brengt het onder eigen naam in gebruik. De gebruiksverantwoordelijke gebruikt een AI-systeem onder eigen gezag. Koop je software met AI erin, dan ben je meestal gebruiksverantwoordelijke. Laat je iets op maat bouwen en zet je het onder je eigen naam in, dan kan de rol van aanbieder bij jou liggen. Leg die vraag voor de bouw aan een jurist voor.

De risicogroepen

• Verboden zijn toepassingen met een onaanvaardbaar risico. Daaronder valt AI die op de werkplek afleidt welke emoties iemand heeft, behalve om medische redenen of voor de veiligheid. Dat verbod geldt sinds 2 februari 2025.
• Hoog risico is AI in de gebieden uit bijlage III van de wet, waaronder werkgelegenheid en personeelsbeheer, en AI in producten die al onder Europese productregels vallen.
• Beperkt risico gaat over systemen die met mensen praten of zelf inhoud maken. Mensen moeten weten dat ze met AI te maken hebben.
• Voor minimaal risico stelt de wet geen eigen regels, op de AI-geletterdheid na. Volgens de Europese Commissie valt het grootste deel van de AI in de EU in die groep.

Is AI voor orderinvoer of factuurcontrole hoog risico?

Nee, in de regel niet: orderinvoer, vrachtfacturen en uitzendfacturen staan niet in de lijst van hoogrisicogebieden in bijlage III. Een systeem dat een order uit een mail of PDF leest en klaarzet in je WMS, beslist niets over een persoon. Dat geldt ook voor een systeem dat een factuur naast een afspraak legt. Hoe zo’n orderstroom werkt, staat in orders uit de mail in je WMS.

Bij de controle van uitzendfacturen zit je dichter bij mensen, want je gebruikt klokdata per persoon. Het doel blijft de factuur van het bureau. Het systeem beoordeelt niet hoe iemand werkt en verdeelt geen werk. Gebruik je dezelfde klokdata later om mensen te rangschikken, dan verandert het doel en kijk je opnieuw. Meer over die controle lees je in uitzendfacturen controleren.

Ook als een systeem geen hoog risico is, moeten je mensen genoeg van AI weten. Zet je een chatbot in die klantvragen over zendingen beantwoordt, dan moet voor de klant duidelijk zijn dat hij met AI praat. En verwerkt een systeem persoonsgegevens, dan geldt de AVG, los van de AI Act. Daarover gaat AVG en AI in de logistiek.

Wanneer wordt AI in het magazijn hoog risico?

AI in het magazijn wordt hoog risico zodra het systeem bedoeld is voor beslissingen over de mensen die er werken. Bijlage III, punt 4 noemt onder werkgelegenheid en personeelsbeheer AI die taken toewijst op basis van individueel gedrag of persoonlijke eigenschappen, en AI die de prestaties en het gedrag van mensen in een arbeidsrelatie monitort en evalueert. In hetzelfde punt staan werving en selectie, promotie en het beëindigen van een arbeidsrelatie.

Taakverdeling

Het kantelpunt zit in de woorden individueel gedrag en persoonlijke eigenschappen. Een systeem dat pickrondes verdeelt op zone, ordervolume en de vertrektijd van de vrachtwagen, kijkt naar het werk. Een systeem dat rondes verdeelt op de gemeten snelheid van elke picker, kijkt naar de persoon. Dat tweede valt onder de omschrijving in bijlage III, tenzij de uitzondering hieronder opgaat.

Prestaties volgen

Meet je picks per uur per persoon en zet je daar AI op die prestaties of gedrag per medewerker evalueert, dan zit je in hetzelfde punt 4. Dat geldt zeker als de uitkomst meeweegt in wie een verlenging krijgt of wie er minder diensten krijgt.

De uitzondering in artikel 6, lid 3

Niet elk systeem in een gebied uit bijlage III is vanzelf hoog risico. Volgens artikel 6, lid 3 is het dat niet als het geen significant risico oplevert, bijvoorbeeld omdat het alleen een beperkte procedurele taak doet of een voorbereidende taak voor een beoordeling door een mens. Maakt het systeem profielen van personen, dan is het altijd hoog risico. Een aanbieder die vindt dat de uitzondering geldt, legt die beoordeling vast voordat het systeem in gebruik gaat. Of dat voor jouw systeem opgaat, beslist een jurist en niet de leverancier.

Wat betekent de AI Act voor je werknemers?

Gebruik je als werkgever een hoogrisico-AI-systeem op de werkvloer, dan moet je je werknemers en hun vertegenwoordiging informeren voordat het systeem in gebruik gaat. Dat staat in artikel 26, lid 7. Hetzelfde artikel vraagt van jou als gebruiksverantwoordelijke ook dat je:

• het systeem gebruikt volgens de gebruiksaanwijzing van de aanbieder;
• het menselijk toezicht belegt bij mensen met de kennis, de training en de bevoegdheid daarvoor;
• zorgt dat de invoerdata relevant en representatief genoeg zijn, voor zover je die in de hand hebt;
• de werking volgt en bij een risico of een ernstig incident de aanbieder en de toezichthouder inlicht;
• de logs die het systeem zelf maakt ten minste zes maanden bewaart, voor zover ze onder jouw beheer zijn.

Wie artikel 26 niet naleeft, kan volgens artikel 99 een boete krijgen tot 15 miljoen euro of 3 procent van de wereldwijde jaaromzet, als dat bedrag hoger is.

De ondernemingsraad

Heb je een ondernemingsraad, dan komt daar de Nederlandse regel bij. Een regeling over voorzieningen die geschikt zijn om aanwezigheid, gedrag of prestaties van je mensen te controleren, heeft instemming van de OR nodig (artikel 27 WOR, eerste lid onder l). Een AI-systeem dat taken verdeelt op gedrag, kan daaronder vallen. De OR moet instemmen voordat je het besluit neemt, dus terwijl de keuzes nog open liggen.

Wat houdt de verplichting tot AI-geletterdheid in?

AI-geletterdheid betekent dat je maatregelen neemt om de kennis van AI te ondersteunen bij de mensen die namens jou met AI werken. De plicht staat in artikel 4 en geldt sinds 2 februari 2025 voor aanbieders en gebruiksverantwoordelijken. Dus ook voor een magazijn dat alleen een orderinvoer met AI draait. Welke maatregelen dat zijn, staat niet in de wet. De Autoriteit Persoonsgegevens noemt als voorbeeld een meerjarig actieplan.

Tot 27 juli 2026 vroeg artikel 4 dat je zo goed als mogelijk zorgde voor een toereikend niveau. Sinds de wijziging garandeer je geen bepaald niveau per medewerker. Je houdt rekening met de kennis en ervaring van je mensen, met de context en met de mensen op wie het systeem wordt toegepast.

De medewerker die de wachtrij met twijfelorders afwerkt, weet waarom een order daar staat en dat het systeem zich in een artikelnummer kan vergissen. De teamleider weet wat het systeem nooit zelf doet. Schrijf op wie welke uitleg heeft gehad, dan kun je later laten zien wat je gedaan hebt.

Wanneer gelden welke AI Act verplichtingen?

De AI Act gaat in stappen gelden, en de data voor hoog risico zijn in 2026 verschoven. Op 27 juli 2026 trad de AI-omnibus in werking, een Europese verordening die de AI-verordening wijzigt. De data in artikel 113:

• 1 augustus 2024: de AI-verordening treedt in werking.
• 2 februari 2025: de verboden toepassingen en de plicht tot AI-geletterdheid gelden.
• 2 augustus 2025: de regels voor AI-modellen voor algemene doeleinden en voor het toezicht gelden.
• 2 augustus 2026: de wet geldt in het algemeen, met de uitzonderingen in deze lijst. De transparantieregels voor bijvoorbeeld chatbots vallen hieronder.
• 2 december 2027: de regels voor hoogrisicosystemen uit bijlage III gelden, dus ook voor AI in personeelsbeheer.
• 2 augustus 2028: de regels voor hoogrisico-AI in producten uit bijlage I gelden.

De pagina over risicogroepen van de Autoriteit Persoonsgegevens noemt voor hoog risico nog augustus 2026 (stand oktober 2026). Voor de wijziging gold augustus 2026 voor bijlage III en augustus 2027 voor bijlage I. De Europese Commissie noemt voor bijlage III 2 december 2027.

Zo zet je je eigen AI-systemen op een rij

1. Maak een lijst van elk systeem in je bedrijf dat iets met AI doet, ook de AI die in je WMS of planningssoftware zit.
2. Zet bij elk systeem wat het beslist of voorbereidt, en over wie.
3. Systemen die alleen met orders, documenten en facturen werken, neem je mee in de AI-geletterdheid.
4. Systemen die werk verdelen of mensen beoordelen, leg je ruim voor december 2027 aan een jurist voor. Heb je een ondernemingsraad, dan hoort die erbij voordat het besluit valt.

Wat wij bouwen is meestal administratie rond de vloer. Hoe we het eerste proces kiezen, staat in onze werkwijze en in AI in het magazijn. Weet je bij een proces niet in welke groep het valt, dan kijken we in een kennismaking wat het systeem zou beslissen en over wie. Dan weet je wat je aan een jurist voorlegt.