Am încercat să explic viitorul digital printr-o analogie aparent prostească

Am încercat să explic viitorul digital printr-o analogie aparent prostească. O las aici, poate ajută pe cineva.

Să presupunem că, de mâine, oricine poate construi o casă doar vorbind cu un sistem de inteligență artificială. Nu mai sunt necesari arhitecții, zidarii sau structuriștii, pentru că AI-ul se ocupă de tot.

Apoi, în aceeași lume, alți oameni folosesc alte sisteme AI ca să provoace cutremure. Cu cât se construiesc mai multe case, cu atât crește și numărul fundațiilor prost turnate, iar atacatorii își concentrează forțele acolo unde vulnerabilitățile sunt cele mai evidente.

Analogia prinde multe din lucrurile care se petrec azi în dezvoltarea digitală.

Cu cât se generează mai mult cod (adesea cu aceleași tipare de vulnerabilități replicate în mii de proiecte deodată, pentru că AI-ul tinde să repete ce a învățat), cu atât crește suprafața de atac disponibilă celor care vor să o exploateze. Sigur, unii dintre cei care vor opera aceste cicluri vor fi tot agenți AI, automatizări etc.

Și, totuși, cred că intrăm, în același timp, într-o epocă în care oamenii, companiile și organizațiile vor avea așteptări de personalizare digitală la o scară imposibil de imaginat până acum. Unii își vor construi singuri casa, altora le va fi frică să încerce, alții vor apela la ajutor din afară. Nevoia de oameni care să știe ce să ceară va fi, implicit, mai mare decât a fost vreodată.

Așa cum eu nu aș ști să proiectez un bloc de 100 de etaje fără ajutor, de la zero, tot așa mulți oameni nu vor ști să-și construiască propriile blocuri digitale singuri, chiar și cu un AI omniscient lângă ei. Pur și simplu nu vor ști ce să îi ceară.

De asta am ajuns să cred, în ultima vreme, că tehnologia mută ”a te pricepe” într-o zonă mai rarefiată, cea în care știi exact ce vrei și poți explica asta, fără ambiguități, fără presupunerea că modelul va intui ce-ai vrut tu de fapt, unui sistem care execută literal ce-i ceri, inclusiv erorile pe care nu le-ai văzut în propria formulare.

Cu cât vom ști să articulăm mai precis un context, o restricție sau o nuanță care contează, cu atât diferența dintre ce construim noi și ce construiesc alții, cu exact același model, cu exact același cont plătit, devine mai mare. Inclusiv în situații în care cerem modelelor AI să-și scrie propriile comenzi. De undeva, conversația trebuie să înceapă.

Paradoxul viitorului ar putea fi, deci, că readuce la viață o idee pe care o credeam cu toții demodată, cea potrivit căreia diferența dintre noi se va face după că cât de bine știi să gândești și cât de bine știi să spui ce gândești.

De asta cred că va trebui să ne împrietenim bine cu ideea de educație continuă. Fără ea, nu vom putea dobândi niciodată, suficient de bine, contextul legal, tehnic și economic încât să știm când tehnologia construiește blocuri strâmbe.