”The Butterfly Effect” e denumirea unei teorii interesante. Imaginați-vă că un fluture bate din aripi undeva în Coreea de Sud. Lanțul de întâmplări ce se pune în mișcare odată cu acest eveniment duce, după o vreme, la nașterea unui taifun pe coastele golfului Mexic. Schimbări mici și aparent nesemnificative în condițiile inițiale ale unui sistem pot avea efecte mari și imprevizibile pe termen lung.
O companie dezvoltă o soluție inteligentă care controlează rețeaua de semafoare dintr-un oraș mare. Există, însă, o mică eroare în algoritmii săi, eroare care face ca semafoarele să se schimbe cu o fracțiune de secundă mai devreme sau mai târziu decât ar trebui. Dar e o problemă minoră și nu este observată de cineva.
Doar că, în timp, eroarea noastră începe să aibă un impact interesant. Unele automobile nu au suficient timp să oprească la culoarea roșie a semaforului, iar altele sunt oprite inutil la culoarea verde, provocând întârzieri minore. Din nou, e ceva ce mintea omenească nu poate constata ușor.
În același oraș, există un alt sistem, al unei mari companii de curierat, care controlează livrarea mărfurilor. Procesul se bazează pe timpul de livrare estimat pentru a programa rutele camioanelor de livrare. Dar, din cauza întârzierilor provocate de eroarea din sistemul de semafoare, timpul de livrare devine mai lung decât cel estimat. Nimic extraordinar.
O a treia companie folosește un sistem inteligent care controlează stocurile în magazine. Se bazează pe timpul de livrare estimat pentru a decide când să plaseze noi comenzi. Dar, din cauza întârzierilor în livrări, aceste comenzi ajung prea târziu, iar magazinele rămân fără anumite produse. La început, pare ceva neglijabil.
La nivel național, o companie folosește un sistem inteligent pentru a face predicții despre economie, bazându-se pe datele de vânzări din magazine. Dar, din cauza lipsei de stocuri, aceste vânzări scad, iar sistemul face predicții eronate, ”observând” o încetinire a economiei.
Aceste predicții sunt utilizate de bănci și fonduri de investiții pentru a lua decizii Convinse că economia este pe punctul de a intra în recesiune, unele bănci mari decid o reducere a creditării pentru companii.
Micile erori au, adesea, în ograda mică în care se întâmplă, o importanță minoră. Doar că, atunci când sisteme autonome, inteligente, ajung să lege între ele, din ce în ce mai mult, date, predicții, informații și așteptări, micile erori devin precursori ai unor crize.
Iar noi trăim într-o lume în care informațiile sunt atât de multe, complexe și imposibil de cuprins cu mintea omenească încât, la un moment dat, numai mașinile pot face ordine în haosul lor. Iar mașinile suferă de toate bolile pe care le au producătorii, educatorii sau supraveghetorii lor. De uitare, de ignoranță, de răutate și frustrare.
Atunci când vorbeam, zilele trecute, despre micile erori pe care AI-ul le va aduce în viața noastră, mă gândeam la astfel de lucruri. Și la altele, pe care le povestim în curând.