Hoe de huidige crisis zwakheden in onze systemen blootlegt

Het coronavirus legt momenteel bloot hoe fragiel de kritieke systemen waar onze maatschappij  van afhankelijk is eigenlijk zijn. Waar we in 2008 het financiële systeem bijna zagen instorten, zien we nu hoe wereldwijde supply chains (leveringsketens) voor cruciale producten het begeven onder de druk van het corona virus en de getroffen maatregelen. De wereldwijde economische schok die het virus zal veroorzaken door vraag en productie uitval (een gecombineerde aanbod schok en vraag schok) is nog niet volledig te overzien. Wat we echter al wel kunnen vaststellen is dat ons hyper geoptimaliseerde productieproces en geglobaliseerde supply chain heeft gezorgd voor kwetsbaarheden waardoor de directe klap immens is.

Laten we  beginnen bij de directe gevolgen van het virus op de wereldwijde gezondheidszorg. In veel landen dreigt er een tekort te ontstaan aan beschermende apparatuur voor ziekenhuismedewerkers. De WHO deed op 3 maart 2020 een noodoproep aan producenten van dit soort personal protectieve equipment (PPE) om productie van maskers, beademingsapparatuur en brillen op te schalen. Het probleem is dat veel van de producenten van deze producten zich bevinden in gebieden die nu hard geraakt worden door het virus. Hierbij komt dat, terwijl productie van onderdelen en grondstoffen afneemt door de wereldwijde maatregelen tegen het virus, de vraag juist toeneemt. En terwijl de vraag naar apparatuur toeneemt, wordt het moeilijker de apparatuur te maken. Dit is analoog met een probleem dat we tijdens de financiële crisis zagen, en in de financiële sector omgedoopt is tot wrong-way risk. Dit is wanneer er een negatief verband bestaat tussen de kredietwaardigheid van je tegenpartij en de blootstelling aan deze tegenpartij. Het is een soort van “Wet van Murphy”, waarbij alles fout gaat wat fout kan gaan. Jon Gregory vergelijkt dit in zijn boek over kredietrisico met het laten vallen van een boterham met pindakaas. Veel mensen geloven (en dit blijkt ook daadwerkelijk zo te zijn) dat in dit geval de boterham vaker op de kant verkeerde kant (die met pindakaas) valt. Of in dit geval, op het moment dat we medische apparatuur het hardst nodig hebben, is het lastiger dan ooit het te verkrijgen.

Bedrijven hebben wereldwijd supply chains gebouwd die draaien op extreem lage marges en het uitbesteden van essentiële onderdelen van hun productieproces. Wanneer je veel uitbesteedt naar het buitenland en met kleine marges werkt om de concurrentie voor te blijven, blijken er in geval van stress (grote verstoringen) geen back-up plannen te zijn. De huidige crisis laat zien hoe fragiel dit systeem is. Zo hebben we prijzen van medische apparatuur zo ver naar beneden gedreven dat leveranciers extreem weinig “slack” of marge hebben om mee te spelen. Wanneer de vraag dan ineens enorm toeneemt, zoals tijdens de huidige crisis, ontstaan er onmiddellijk tekorten. Management van grote ondernemingen heeft vaak geen idee waar hun 3^e en 2^e rangs leveranciers gevestigd zijn. Voor producten die uit veel verschillende essentiële onderdelen bestaan, zoals auto’s, kan de verstoring in de levering van één enkel onderdeel (zoals het stuur) al de gehele productie platleggen. Zo zagen we Europese autofabrikanten begin Maart al de productie vrijwel helemaal stil leggen. Het Institute for Supply Management (ISM) meldde op 11 Maart dat 75% van de bedrijven die meedoen aan hun onderzoeken eind februari al supply chain verstoringen ondervonden. Daarnaast meldde 44% dat het geen plannen had om met zo’n verstoring om te gaan. Materialen en producten uit China zijn zo wijdverspreid, dat de gewone consument geen enkel idee heeft hoe afhankelijk we zijn van Chinese componenten. Zoals ISM’s CEO zegt:“Wanneer je directe leverancier niet direct uit China invoert, zijn het wel de leveranciers van je leverancier die hiervan afhankelijk zijn.” Wat hier bij komt is dat bedrijven geen adequate voorraden meer aanleggen, om daarmee de kosten te drukken. Aangezien bedrijven (onder andere onder invloed van Lean Six Sigma, zie hierna) Just-in-Time delivery modellen hebben, houden ze maar 15 tot 30 dagen onderdelen in voorraad. Dat zorgt wanneer het gaat om essentiële productieonderdelen voor een immens risico. We zien nu al hoe er een run komt op essentiële onderdelen in de medische sector (zoals beademingsapparatuur), waaruit blijkt dat landen niet voorbereid zijn op een pandemie. Daarnaast valt internationale samenwerking vaak uiteen wanneer de situatie echt samenleving ontwrichtend dreigt te worden. Sommigen zullen zeggen dat dit een vorm van hindsight bias (achteraf is het makkelijk praten) is. Echter velen zagen dat in onze geglobaliseerde wereld een pandemie een kwestie van tijd was, en onze systemen te fragiel zijn. Bedrijven die nu voorraden hebben, zullen daarvan de vruchten plukken door hogere waarde van haar voorraden en vertrouwen van haar afnemers om ook te leveren in tijden van crisis (reputatie). Het voorbereid zijn op grote verstoringen kost op korte termijn geld, maar zorgt er op lange termijn voor dat je een grotere kans hebt om te overleven.

Lean Six Sigma Supply Chains

Waar komt deze trend in overoptimalisatie vandaan? Naast verschillende economische factoren, is in het bedrijfsleven een van de drijvende krachten hierachter de zogenaamde Six-Sigma methodologie. Het idee achter de Six-Sigma methode is in beginsel terug te brengen naar Karl Frederick Gauss en de normaalverdeling.

Het gaat er bij Six-Sigma namelijk voornamelijk om hoge mate van efficiëntie te bereiken en variantie te minimaliseren. Zo wordt er binnen een afgeleide methodologie, Lean Six Sigma, gesproken over de 7 categorieën van verspilling. Een van die categorieën is voorraad. Voorraad (en soms zelfs cash) wordt niet als iets essentieels voor bedrijfsvoering en risico-management gezien, maar als een afwijking die weg geoptimaliseerd moet worden om de kosten te minimaliseren. Een voorbeeld van hoe overtolligheid (redundancy) in systemen als een inefficiëntie wordt beschouwd, in plaats van een noodzakelijke buffer om klappen op te vangen in tijden van crisis.

Parallellen met de financiële crisis

In de financiële sector hebben we gezien wat een verkeerde, naïeve, nadruk op optimalisatie kan doen. Een groot gedeelte van economische en investeringsbeslissingen werden gebaseerd op Modern Portfolio Theory (MPT). Deze theorie werd in de jaren 50 ontwikkeld door Harry Markowitz, die daar later de Nobelprijs voor de economie voor kreeg. Het idee achter deze theorie is het vinden van de “efficiënte grens” van optimale investeringsportfolio’s die het hoogste verwachte rendement zouden opleveren voor een gegeven niveau van risico. Belangrijke metingen in deze theorie zijn dan bijvoorbeeld ook correlatie, “Sigma’s” (standaardafwijking), “bèta’s” (algemeen marktrisico), en “value-at-risk” (maat voor verliesrisico van beleggingen). Probleem met deze theorie is dat deze grotendeels uitgaan van een Gaussiaanse, of normale, verdeling van prijzen, rendementen en verliezen. Het enorm brede begrip risico werd vrijwel gelijk gesteld aan de gelimiteerde casus van de variantie of standaardafwijking van een normaalverdeling.

In het boek “The (mis) behaviour of markets” zet de Franse wiskundige Benoit Mandelbrot gedetailleerd uiteen wat er mis is met deze theorie van risico en optimaliseren. Hij laat zien dat er werelden zijn die worden beheerst door de normaalverdeling (zoals de lengte van mensen), en werelden die meer een fractale structuur hebben, en een machtsfunctie (zoals Zipf’s wet of een Pareto verdeling) volgen. Hieronder kunnen we veel complexe systemen, zoals de wereldwijde economie, scharen. Ook fenomenen zoals pandemieën kunnen hiermee beter verklaard worden. Een simpel voorbeeld van een machtsfunctie is bijvoorbeeld hoe welvaart verdeeld is. In de “normale”, Gaussiaanse wereld heb je de wet van de grote getallen. Die zegt dat een aselecte steekproef uit een populatie weinig verschilt van het populatiegemiddelde. Dit is bijvoorbeeld het geval voor lengte van mensen. Voor welvaart is dit volledig anders. Wanneer je een kamer met 100 mensen binnen loopt zal de gemiddelde welvaart totaal anders zijn wanneer Jeff Bezos in de kamer zit ten opzichte van wanneer hij er niet zit. Er zijn een zeer klein aantal extreme gevallen die het gemiddelde en de variantie volledig bepalen. Dit volgt dus geen normaalverdeling, maar bijvoorbeeld een Pareto verdeling. Mandelbrot toont aan dat financiële markten vergelijkbaar zijn, niet te vatten in een normaal verdeling maar meer in verdelingen met dikke staarten (“Fat Tails”) of fractale verdelingen. Onder zulke omstandigheden kan het optimaliseren van variantie of standaardafwijking van de normaalverdeling tot rampen leiden zoals we die in 2008 zagen. Risico’s waren niet te vatten in termen van standaardafwijking, aangezien de verkeerde aannames werden gebruikt. Verliezen en rendementen zijn beter te beschrijven met machtsfuncties en verdelingen die soms oneindige variantie kunnen hebben.

Dit werd al helemaal duidelijk toen ten tijde van de financiële crisis enorme prijsschommelingen werden beschreven als “6-Sigma gebeurtenissen”. Dit betekent dat verliezen 6 standaardafwijkingen van het gemiddelde (van een normale verdeling) afweken. De kans op zo’n verlies is ongeveer 1 op 500 miljoen, of eens per 1,5 miljoen jaar. Wanneer je zo’n gebeurtenis ziet, moet dat je doen nadenken of er daadwerkelijk iets extreem onwaarschijnlijks is gebeurd, of dat men de verkeerde modellen gebruikt. Sommige economen en journalisten lijken deze les van de financiële crisis nog niet getrokken te hebben. Zo zagen we afgelopen periode wekelijkse werkloosheid claims in de VS in een week groeien naar 3,3 miljoen. “Experts” noemden dit een “30-sigma” gebeurtenis, aangezien het 30 standaardafwijkingen afweek van het gemiddelde. Wiskundig gezien is dit vrijwel onmogelijk, 1 op de 10^{135}, een kans kleiner dan het aantal atomen in het universum.

Tijdens de financiële crisis van 2008 zagen we wat er met complexe systemen kan gebeuren wanneer over-geoptimaliseerde systemen een schok moeten opvangen. Liquiditeit (de mate waarin effecten verhandeld kunnen worden zonder de prijs te beïnvloeden) droogde op in de internationale kapitaalmarkten, en wanneer iedereen tegelijk uit een bepaalde positie wil stappen, loopt het systeem vast. Financiële markten kunnen in dat opzicht vergeleken worden met een grote bioscoop met een kleine uitgang. Wanneer er brand uitbreekt en iedereen tegelijkertijd naar buiten moet, zullen mensen overlopen worden en vallen er doden. Financiële instellingen bepaalden hun buffers met bovengenoemde modellen die geen goede reflectie waren van de echte wereld, en optimaliseerden hun posities en buffers gebaseerd hierop. Deze analyse gaat ook grotendeels op voor andere systemen waar niet voldoende buffers of overtolligheid in zit. Zo zien we tijdens de huidige pandemie dat er op veel plekken een acuut tekort ontstaat aan medicijnen en medische apparatuur. Dit probleem kan niet makkelijk opgelost worden met het verschuiven van apparatuur over verschillende locaties, aangezien we te maken hebben met een globale pandemie waar iedereen tegelijk aan onder door gaat. Op zo’n moment zoekt iedereen tegelijkertijd naar de exit, en stokt het systeem. Hier zien we duidelijk dat de echte wereld van netwerk-effecten en niet-lineariteiten niet meer te besturen is met de instrumenten en methodes vanuit (lineaire) optimalisatie. Wanneer er een systeemschok optreedt, lijkt alles ineens gecorreleerd te zijn en is de enige manier om jezelf te beschermen het hebben van een buffer. Dit soort gebeurtenissen zijn vaak onvoorspelbaar (alhoewel velen deze pandemie en de financiële crisis zagen aankomen) en hebben een grote impact. Onder zulke omstandigheden moeten we in plaats van het proberen te voorspellen van gebeurtenissen of ontwikkelingen, proberen deze gebeurtenissen te voorkomen of haar effecten te mitigeren. We moeten systemen bouwen die robuust zijn tegen schokken of onverwachte gebeurtenissen, of daar zelfs van profiteren. De handelaar / probabilist Nassim Taleb noemt zulke systemen Antfragiel – systemen die sterker worden onder stress.

Het belang van redundancy in systems

Maar hoe bouw je dan systemen die robuust of antifragiel zijn? In sommige vakgebieden, zoals de techniek, IT en defensie, is het idee van het inbouwen van “redundancy in systems” (overbodigheid in systemen) al alom geaccepteerd als een manier van het voorkomen van systeem falen. Wat is redundancy dan? In meest simpele vorm, is redundancy simpelweg een backup, zoals een reservewiel of een tweede baan. In de civiele techniek / werktuigbouw refereert het naar het inbouwen van extra componenten in een kritiek systeem, zodat het systeem (zoals een brug of IT applicatie) niet instort wanneer bepaalde componenten het begeven. Overbodige componenten kunnen bijvoorbeeld bestaan uit:

• Backup controls
• Backup systemen (zoals in vliegtuigen)
• Extra hard drives en kritieke IT componenten
• Backup stroomvoorziening in ziekenhuizen of data centers
• Voorraden van kritieke componenten

Zoals de rechterhand van Warren Buffet, Charlie Munger, zei:

“The engineering idea of a backup system is a very powerful idea”

Het internet is ook gebouwd op het idee van redundancy in systems. Websites hebben talloze individuele links die de gehele website vormen. Toch zorgt de uitval van één link niet voor het crashen van de gehele website. Het systeem heeft redundancy ingebouwd waardoor het falen van een deel van de componenten niet zorgt voor het crashen van het hele systeem. Ook de natuur heeft bepaalde vormen van redundancy ingebouwd. Denk bijvoorbeeld aan dat wij in het lichaam twee nieren hebben, terwijl we er eigenlijk maar 1 nodig hebben om te overleven. Of denk aan hoe mensen een backup hebben van hun digitale documenten of hun telefoon, of een “rainy day fonds” hebben voor zware tijden. Veelal overbodig en verspilling bezien vanuit het perspectief van naïeve optimalisatie.

Een ander gebied waar veel nagedacht is over het idee van redundancy is defensie (toevallig of niet is dit ook waar operations research en optimalisatie hun grondslag vinden). Wanneer de inzet hoog is, zoals in een oorlog, en het uitvallen van kritieke systemen zoals command en control centra, totale vernietiging kan betekenen, is redundancy een zeer belangrijk concept. In hun paper over verschillende vormen van redundancy, citeren de defensiespecialisten Blanken & Lepore de architect van de “surge” strategie in Irak, die in 2006 een (voorlopig) einde maakte aan de guerrilla strijd tegen de VS:

“Redundancy in war can yield flexibility and security. It ensures that when one system fails for whatever unforeseen reason, another can take its place. It provides the ability to meet unexpected challenges… Above all, the US must avoid the search for “efficiency in military matters. Redundancy is inherently a virtue of war”.

Dit was contra Donald Rumsfeld, die een bureaucratische en kostenefficiënte kijk had op het defensieapparaat en elke vorm van redundancy als suboptimale verspilling zag. Dit terwijl de gehele Amerikaanse militaire doctrine ten tijde van de koude oorlog gebouwd was op redundancy. De triade van bemande bommenwerpers, ballistische raketten vanaf land en raketten vanaf onderzeeërs moesten ervoor zorgen dat wanneer 1 systeem uitviel of vernietigd werd er altijd 2 waren die zoveel destructieve kracht konden uitvoeren dat de Sovjet-Unie vernietigd werd. 

In de huidige situatie zien we wat er kan gebeuren wanneer er geen redundancy in systemen is ingebouwd; systemen zijn fragiel en storten in wanneer er een grote schok optreedt. Het systeemrisico is te groot. Wanneer we te maken hebben met potentiele schokken die veel schade aan kunnen richten terwijl we er erg weinig over weten (zoals bij het coronavirus, of pandemieën in het algemeen) kunnen we het beste het precautionaire principe toepassen. Dit houdt in dat we zo veel mogelijk voorzichtigheid betrachten, en ons zo goed mogelijk voorbereiden totdat we meer weten. We moeten ons voorbereiden op niet-linaire schokken als pandemieën zoals we ons voorbereiden op oorlogen. We bouwen geen vliegdekschepen op het moment dat de oorlog uitbreekt, maar ver daarvoor. Zo was het ook beter geweest als we een grotere voorraad hadden aan medische apparatuur en essentiële medicijnen. We dienen hiervoor geen voorraden aan te houden op de naïef-optimale manier die het meest kostenefficiënt zou zijn, maar voorraden die ons de mogelijkheid geven op het ergste voorbereid te zijn.

Natuurlijk dienen we bij redundancy over de kosten na te denken. We moeten niet overal redundancy toevoegen, alleen daar waar systeemfalen voorkomen kan worden. Daarom is het goed na te denken over de volgende vragen.

• Wat gaat er verloren als er iets kapot gaat?
• Wat zijn de tweede en hogere orde effecten als er iets mis gaat (neveneffecten)?
• Hoe dienen we met complexe systemen om te gaan terwijl er grote onzekerheid bestaat over de toekomst?
• Wat kost het om een backup/beveiliging toe te voegen?
• Hoe wegen de kosten op tegen potentieel verlies, en heeft het nog zin om over kosten na te denken wanneer potentiele verliezen catastrofaal kunnen zijn?
• Wat zijn de kosten van “model-errors”, ongeacht van hoe groot deze errors zelf zijn?

Door het beantwoorden van deze vragen en het maken van verschillende scenario’s kunnen pijnpunten in systemen blootgelegd worden, en daar vervolgens actie op ondernomen worden.

Hoe verder?

In de bankensector is redundancy op een bepaalde manier vergroot na de financiële crisis. Banken zijn verplicht hogere kapitaalbuffers aan te houden dan voorheen, en daarnaast worden er stress testen uitgevoerd om bovenstaande vragen voor banken te beantwoorden. Of dit alles genoeg is voor de bankensector, zou moeten blijken. Wat duidelijk is dat naïeve optimalisatie en risico-modellen gebaseerd op “value-at-risk” (of de iets verbeterde “expected shortfall” methode) leidden tot te lage buffers, omdat ze geen rekening houden met gebeurtenissen die toch redelijk vaak voorkomen. Bij de presentatie van het jaarverslag over 2019 van de Nederlandsche Bank, hamert president Klaas Knot op het belang van deze buffers.

“DNB heeft in de afgelopen jaren, soms tot vervelens toe, gehamerd op de noodzaak van buffers, buffers en buffers. Op deze wijze heeft Nederland aan haar weerstandsvermogen gewerkt dat nu volop zal worden aangesproken om de economische impact van de crisis te beheersen. Het is nog te vroeg voor een post mortem, maar het belang buffers op te bouwen in goede tijden, lijkt me nu al een belangrijke les van deze crisis.”

Maar hoe deze les toe te passen op andere gebieden, zoals het bedrijfsleven of de zorg? Yossi Sheffi, een professor in Engineering Systems aan de MIT Universiteit in de VS, schreef een heel boek over dit onderwerp. In “The Resilient Enterprise: Overcoming Vulnerability for Competitive Advantage” laat hij zien dat bedrijven die zich voorbereiden (pro-actief handelen) op grote verstoringen veel beter in staat zijn met zulke schokken om te gaan dan bedrijven die na afloop (reactief) omgaan met zulke schokken. Hij laat zelfs zien dat bedrijven die veerkrachtig (“resilient”) zijn kunnen profiteren van zulke verstoringen. Ze zijn dus antifragiel en profiteren van negatieve schokken.

Volgens Sheffi is veerkrachtigheid in materiaalwetenschappen het vermogen van materiaal om zijn originele staat terug te krijgen na een vervorming. In de bedrijfswereld is dit het vermogen van een onderneming te herstellen na een grote verstoring. Dit kan bijvoorbeeld gemeten worden in tijd wanneer deze terugkeert naar normale prestatieniveaus qua productie en diensten. Hij beschrijft 3 manieren waarop bedrijven veerkrachtigheid kunnen ontwikkelen: vergroten van redundancy, opbouwen van flexibiliteit en het veranderen van de bedrijfscultuur.

Redundancy (overbodigheid)

Redundancy hebben we reeds uitgebreid besproken. Een veerkrachtig bedrijf kan overbodigheid bouwen in haar supply chain, om zo te voorkomen  dat er tekorten ontstaan in tijden van crisis. Dit kan zij doen door extra voorraden te houden, veel verschillende leveranciers te hebben (gediversifieerd zijn) of een lage bezettingsgraad aanhouden. Het grote nadeel volgens Sheffi is wel dat dit vaak grote kosten met zich meebrengt, en tegen efficiency gedreven bedrijfsmodellen zoals Lean Six Sigma ingaat.

Flexibiliteit

Wanneer een onderneming flexibel is, kan het grote verstoringen weerstaan en ook snel en adequaat reageren op grote fluctuaties in de vraag. Een onderneming kan een aantal dingen doen om flexibiliteit in te bouwen.

• Standaardiseren van processen: wanneer processen en onderdelen uitwisselbaar zijn, kan men productie makkelijk verschuiven tussen locaties. Wanneer er een verstoring plaats vindt, kan men makkelijk middelen herverdelen over fabrieken.
• Gebruiken van gelijktijdige in plaats van sequentiële processen: Wanneer processen tegelijk plaatsvinden, kan men makkelijker herstellen na een grote verstoring aangezien niet alle processen tegelijkertijd stil hoeven te liggen.
• Plannen voor uitstel: Zo algemeen mogelijk ontwerpen van producten, zodat deze later gebaseerd op de vraag afgemaakt kunnen worden.
• Richt je inkoopstrategie op je relatie met je leveranciers: Hoe dieper je relatie met je belangrijkste leveranciers, hoe beter je ze kunt monitoren en op ze kunt vertrouwen in barre tijden.

Als zulke diepe relaties met je leveranciers niet mogelijk zijn, is het vooral belangrijk veel verschillende leveranciers te hebben.

Cultuurverandering

Volgens Sheffi is cultuur ook een belangrijke factor in hoe een onderneming omgaat met grote schokken. Robuuste ondernemingen hebben een aantal overeenkomstige culturele eigenschappen:

• Transparante en frequente communicatie met medewerkers
• Gedistribueerde machtsstructuur, zodat lokale teams eigenhandig noodzakelijke maatregelen kunnen treffen
• Passie voor werk: wanneer medewerkers begrijpen waarom iets gedaan of gemaakt wordt, neemt hun motivatie toe (zie “Start with Why”)
• Conditionering voor verstoringen: Robuuste ondernemingen zijn door kleine frequente verstoringen geconditioneerd om flexibel en innovatief om te gaan met ook grotere verstoringen.

Volgens Sheffi hebben organisaties die robuust zijn op deze manier niet alleen een grotere kans om grote schokken te overleven, maar zelfs om concurrerender worden dan hun concurrenten. Dit omdat ze beter in staat zijn om op kritieke momenten op vraag en aanbod onbalans te reageren. Waar Sheffi dit voornamelijk op supply chains en private ondernemingen toepast, kan dit ook op ander systemen en organisaties waar verstoringen groot kunnen zijn toegepast worden.

We zien nu al hoe bedrijven hun supply chains veranderen en veerkrachtiger proberen te maken als reactie op de coronacrisis. Er zal volgens het World Economic Forum (WEF) een grotere focus komen op de 3 r’s: resilience, responsiveness en reconfigurability. Hier zou ik een vierde aan willen toevoegen: redundancy. Naast het slim gebruiken van nieuwe technologie om dit soort crisis te beheersen, zouden beleidsmakers dit soort principes moeten gebruiken om dit soort crisis in toekomst te voorkomen.

Afsluitend

Natuurlijk zijn er bepaalde fenomenen waarbij de technieken van de (wiskundige) optimalisatie wel nuttig zijn. Zo zijn routeplanners in je telefoon volledig afhankelijk van optimalisatie-algoritmes die de kortste route van A naar B berekenen. Ook heeft de optimalisatie techniek van Omzet Management voor het bepalen van optimale prijzen over tijd, de vliegtuig en hotel industrie geen windeieren gelegd. Echter, wanneer het gaat om complexe, niet-lineaire systemen, kan een te grote focus op efficiency en optimalisatie leiden tot systeemrisico’s die materialiseren in systeemfalen. Voor deze klasse van systemen en problemen zouden beleidsmakers (zowel publiek als privaat) er goed aan doen te kijken naar de vakgebieden van complexe systemen en het beslissingen nemen onder grote onzekerheid. Op deze manier kunnen we bij de volgende schok, zoals een nog dodelijker virus, beter voorbereid zijn en de schade voor de volksgezondheid, economie en maatschappij beperken.