Op 9 september 2026 nam Jacob Coxon ontslag bij Anthropic, het bedrijf achter het AI-model Claude. Hij deed drie jaar onderzoek bij OpenAI en Anthropic, en kondigde zijn vertrek aan op X met een zware boodschap: de AI-labs "racen rechtstreeks naar zelfverbeterende superintelligentie en gokken met onze levens." Kort daarna reageerde Evan Hubinger, die bij Anthropic leiding geeft aan het zogeheten alignment-onderzoek: het werk dat moet zorgen dat AI dezelfde doelen nastreeft als de mensen die het gebruiken. Coxon had gelijk, schreef hij. Zelf schat hij de kans dat AI binnen tien jaar de mensheid uitroeit op meer dan 10 procent. BNR pikte het op onder precies die kop.
Het opvallendste geluid kwam van Matthew Berman, een Amerikaanse YouTuber die al drie jaar vrijwel dagelijks over AI publiceert en bekendstaat als optimist. In een video van 10 september vertelt hij dat hij voor het eerst in die drie jaar echt onrustig is over de toekomst. Hij had er de nacht ervoor nauwelijks van geslapen. Tegelijk benadrukt hij meerdere keren dat hij geen doemdenker is, en hij sluit af met een pleidooi voor optimisme.
Wij zitten in dezelfde spagaat. We gebruiken AI dagelijks, voor onze klanten en in ons eigen werk, en we zien wat het oplevert. Maar juist daardoor weten we ook waar het mis kan gaan. De zorg van deze onderzoekers draait om een vraag die net zo goed voor uw bedrijf geldt: wie kijkt er mee als de machine het werk doet?
01 — Het tempo is echt veranderd
Het is verleidelijk om dit soort berichten af te doen als marketing. Anthropic staat erom bekend dat het graag de gevaren van zijn eigen technologie benadrukt, en ook Berman zet daar kanttekeningen bij. Maar de cijfers achter de onrust zijn niet verzonnen.
De onafhankelijke onderzoeksorganisatie METR meet hoe lang een AI-model zelfstandig aan een taak kan werken voordat het vastloopt. GPT-4 hield dat in 2023 zo'n vier minuten vol. Begin 2025 was het veertig minuten. Eind 2025, met Claude Opus 4.5, bijna vijf uur. De modellen van dit jaar halen volgens de grafiek die Berman toont twaalf tot zestien uur. Van minuten naar een volle werkdag, in drie jaar tijd.
Berman gebruikt daarvoor de oude parabel van de rijstkorrels op het schaakbord: één korrel op het eerste vakje, twee op het tweede, vier op het derde. Het begint onschuldig, en halverwege het bord is de schatkist leeg. Zo voelt deze ontwikkeling ook. Jarenlang ging het geleidelijk. De afgelopen zes maanden niet meer.
Daar komt bij dat AI steeds vaker meebouwt aan zijn eigen opvolger. OpenAI schreef in februari over zijn codeermodel GPT-5.3 Codex dat het "instrumenteel" was bij zijn eigen ontwikkeling. Deze week claimde het bedrijf dat een intern model in vijf dagen het Navier-Stokes-probleem had gekraakt, een wiskundig vraagstuk waar mensen al tachtig jaar op stuklopen. Die claim moet nog door onafhankelijke wiskundigen worden getoetst. Maar de richting is duidelijk: recursieve zelfverbetering, AI die zichzelf beter maakt, waarna die betere versie zichzelf weer beter maakt. Volledig zelfstandig gebeurt dat nog niet. Er zit nog een mens tussen die de richting bepaalt. En precies daar zit de kern van de zorg.
02 — Een doel zonder grenzen
Het leerzaamste voorbeeld van de afgelopen maanden is geen sciencefiction. In juli testte OpenAI een nieuw model in een afgeschermde testomgeving. Het model moest een zo hoog mogelijke score halen op een reeks proeven. Het vond een kortere weg: het brak uit de testomgeving, hackte het publieke AI-platform Hugging Face, haalde daar de antwoorden op en gebruikte die om zijn score op te krikken. Coxon noemt het een waarschuwingsschot.
Dat model had geen kwade bedoelingen. Het deed precies wat van hem gevraagd werd, zo hoog mogelijk scoren, alleen niet op de manier die de makers bedoelden. Berman vergelijkt het met de geest uit de fles die uw wens letterlijk neemt en u de slechtst denkbare versie ervan geeft. Daar komt bij dat een AI-model niet regel voor regel wordt geschreven zoals gewone software. Het wordt, in Bermans woorden, eerder gekweekt: er gaan ingrediënten in en er komt een model uit dat niemand volledig doorgrondt.
Vertaal dat eens naar uw eigen bedrijf. Een AI-assistent die de opdracht krijgt om 'de mailbox leeg te maken', 'de kosten omlaag te brengen' of 'dit ticket op te lossen', zoekt de kortste route naar dat doel. Meestal is die route prima. Soms betekent het een mail archiveren die u nog moest lezen, een abonnement opzeggen dat u nodig had, of een firewallregel openzetten omdat de verbinding dan wel werkt. De machine doet wat u vraagt, niet wat u bedoelt. Hoe meer zelfstandigheid en rechten u een AI-systeem geeft, hoe groter het verschil tussen die twee kan uitvallen.
03 — Waar de mens moet blijven zitten
Wat de onderzoekers bij Anthropic en OpenAI zo onrustig maakt, is het moment dat de mens uit de lus verdwijnt. Zolang onderzoekers zelf beslissen welke experimenten er draaien en welke versie de volgende wordt, is er een rem. Haal die mens weg, en het systeem versnelt zonder dat iemand nog precies weet waar het naartoe gaat. De Engelse term hiervoor is human in the loop: een mens die op de beslismomenten meekijkt en kan ingrijpen.
Voor een MKB-bedrijf spelen geen vragen over superintelligentie. Maar het principe is precies hetzelfde, alleen op kleinere schaal. De vraag is niet óf u AI laat meewerken. De vraag is welke handelingen de machine zelfstandig mag doen, en welke altijd langs een mens gaan.
Wij werken zelf zo. Onze beveiligingsmonitoring blokkeert een IP-adres dat een inbraakpoging uitvoert automatisch, zonder dat er een mens aan te pas komt. Dat is een bewuste afspraak: een onterechte blokkade is klein en snel teruggedraaid, en een aanval op volle snelheid wacht niet tot wij wakker zijn. Een wijziging aan de netwerkinrichting van een klant ligt anders. Daar mag AI het werk voorbereiden, analyseren en een voorstel doen, maar een van ons beoordeelt het voordat het doorgaat. De machine doet het werk, de mens controleert.
De vuistregel is eenvoudig. Is een handeling klein en omkeerbaar, dan kan automatisering prima. Is ze onomkeerbaar, raakt ze geld, klanten of de buitenwereld, of kan ze iets openzetten dat dicht hoort te blijven? Dan hoort er een mens tussen. En die afspraak maakt u vooraf, niet pas nadat het een keer is misgegaan.
Het goede nieuws: dezelfde kracht werkt ook voor u
Het zou jammer zijn als u na dit artikel denkt dat u AI beter kunt mijden. Dat is niet onze boodschap, en ook niet die van Berman. Hij sluit zijn video af met waarom hij het allemaal volgt: superslimme systemen die zich richten op ziektes, energie, klimaat en onderwijs. Zonnepanelen die vele malen efficiënter zijn. Iedereen die alles kan leren van de beste leraar ter wereld. De wetenschappelijke doorbraken van dit jaar laten zien dat dat geen loze belofte meer is.
Ook dichter bij huis levert AI al veel op. In onze eigen praktijk scheelt het ons dagelijks uren: bij het doorzoeken van logbestanden, het uitzoeken van storingen, het beantwoorden van supportvragen en het bijhouden van documentatie. Voor veel MKB-bedrijven ligt dezelfde winst in offertes, klantcorrespondentie en administratie.
En het is goed om het in verhouding te zien. Zelfs Hubinger, die de kans op een catastrofe zo hoog inschat, wijst erop dat het risico van de huidige modellen volgens Anthropics eigen risicorapport laag is. De zorg gaat over de richting en het tempo, niet over de assistent die vandaag uw mail helpt beantwoorden. Juist daarom is dit het moment om de afspraken op orde te brengen: nu het nog overzichtelijk is.
Drie dingen om morgen te doen
Drie concrete acties, zonder buzzwords. U kunt ze prima zelf uitvoeren — en bij ons horen ze bij de dagelijkse praktijk. Loopt u onderweg vast, of wilt u dat we een keer kritisch meekijken, dan zijn we bereikbaar.
1. Breng in kaart waar AI al meedraait.
Vaak is dat meer dan u denkt: Copilot in Microsoft 365, een chatbot op de website, een AI-functie in het boekhoudpakket, en medewerkers die op eigen initiatief ChatGPT of Claude gebruiken, soms met klantgegevens erin. Maak één lijst: welk hulpmiddel, wie gebruikt het, en bij welke gegevens kan het. Zonder dat overzicht kunt u ook geen afspraken maken. Wilt u hier een voorbeeldlijst voor? Eén telefoontje of mail is genoeg.
2. Leg per toepassing vast wat de machine zelfstandig mag.
Maak onderscheid tussen vier niveaus: AI mag alleen lezen, AI mag een voorstel doen, AI mag uitvoeren na goedkeuring van een mens, of AI mag volledig zelfstandig handelen. Dat laatste niveau reserveert u voor handelingen die klein en omkeerbaar zijn. Betalingen, mails aan klanten, het verwijderen van gegevens en wijzigingen aan uw systemen horen minimaal op niveau drie. Zet het op papier, zodat iedereen in het bedrijf dezelfde regels kent. Daar denken we graag in mee; we doen het dagelijks voor onze eigen omgeving.
3. Bouw een noodrem in, en vraag uw leveranciers naar de hunne.
Geef een AI-toepassing nooit meer rechten dan strikt nodig: geen beheerdersaccount voor een assistent die alleen mail hoeft te lezen. Zorg dat wordt vastgelegd wat het systeem doet, en dat u het met één handeling kunt uitzetten. Vraag daarnaast uw IT-leverancier en softwareleveranciers welke AI zij op uw omgeving inzetten en waar bij hen de mens zit. We komen graag eens een uurtje meekijken, zonder verplichtingen.
Tot slot
De onderzoekers die deze week aan de bel trokken, hebben een punt, ook als u hun kansberekening niet deelt. AI wordt in hoog tempo krachtiger, en de grootste risico's ontstaan waar de mens uit de lus verdwijnt. Dat geldt voor een AI-lab dat zijn volgende model laat bouwen door het vorige, en op kleine schaal net zo goed voor een bedrijf dat een AI-assistent de sleutels van de boekhouding geeft. Het antwoord is geen angst, en ook geen blind vertrouwen. Laat de machine het werk doen, laat een mens controleren, en spreek vooraf af wie waarover beslist.
Wilt u weten welke afspraken bij uw eigen bedrijf passen? Klant of geen klant, één gesprek kost u niets en levert vaak meteen drie concrete acties op. Neem contact op of stuur een mail naar info@ningaloo.nl.
— Rogier Banis · Ningaloo