Nürnberg, 7 decembrie 1835. Locomotiva „Adler” pleacă spre Fürth, pe prima cale ferată din Germania. Fum, fluier, lume adunată pe margine. Și o legendă care circulă și azi: medicii bavarezi ar fi avertizat că orice tren mai rapid de 30 de kilometri pe oră le va strica pasagerilor creierul. Ba chiar și celor care doar se uită la el.
Azi stăm cu toții pe peron și ne întrebăm același lucru: viitorul omenirii, încotro? Unde ne îndreptăm? Și până unde o să ajungă inteligența artificială?
Despre viitorul inteligenței artificiale vreau să vorbim azi. Și despre noi.
Îți spun de la început ce cred. Frica de progres e mai veche decât progresul. Uneori a avut dreptate. De cele mai multe ori, nu. Iar de data asta trebuie să fim mai deștepți decât au fost bunicii noștri. Nici paralizați de frică. Nici adormiți de entuziasm.
Viitorul omenirii și frica de progres: o lege veche
Dacă ar fi să-i dau un nume, i-aș spune prima lege a progresului: fiecare invenție mare vine la pachet cu o frică mare. Și cu cineva care jură că e sfârșitul lumii.
Nu e studiu de laborator. Dar tiparul e acolo. Uite-l.
Cinci frici din istorie și a șasea, cea de azi
1. Scrisul o să ne strice memoria (Grecia antică)
Acum aproape 2.400 de ani, Platon scria un dialog în care Socrate povestește cum regele egiptean Thamus a primit în dar o invenție nouă: literele. Regele nu s-a bucurat deloc. Cum ar zice Socrate, în „Phaidros” de Platon: „Această născocire va aduce uitare în sufletele celor care o vor învăța, pentru că nu își vor mai exersa memoria.”
Tare, nu?! Un argument împotriva scrisului. Pe care îl știm doar pentru că… a fost scris.
2. Tiparul și „prea multe cărți” (1545)
Gutenberg a pornit tiparul pe la 1450. Un secol mai târziu, savantul elvețian Conrad Gessner, care încerca să facă o listă cu toate cărțile cunoscute, se plângea de „belșugul derutant și dăunător de cărți”.
Prea multă informație. Ți se pare cunoscut? Gessner se plângea de cărți. Noi ne plângem de notificări.
3. Mașinile ne fură pâinea (1811)
În Nottinghamshire, Anglia, în 1811, țesătorii au început să spargă noile războaie de țesut. Și-au luat numele de la un personaj inventat, „Ned Ludd”, și au rămas în istorie ca luddiți.
Ei nu erau proști. Frica lor era reală: salarii mai mici, meserii pierdute. Unii chiar le-au pierdut. Dar pe termen lung, revoluția industrială a creat mult mai multe locuri de muncă decât a distrus. Doar că nu pentru aceiași oameni și nu peste noapte. Reține asta. E cheia.
4. Bicicleta îți strică fața (1895)
În 1895, revista americană Literary Digest scria despre „fața de bicicletă”: un chip „de obicei congestionat, dar uneori palid, cu buzele mai mult sau mai puțin strânse”, de la efortul de a ține echilibrul. Cele mai avertizate erau, bineînțeles, femeile.
Femeile au pedalat mai departe. Fața a rămas la locul ei. Libertatea a venit pe două roți.
5. Internetul n-o să prindă (1995)
În februarie 1995, astronomul Clifford Stoll scria în Newsweek un articol rămas celebru. Cum ar zice Clifford Stoll: „Adevărul e că nicio bază de date online nu-ți va înlocui ziarul de zi cu zi, niciun CD-ROM nu poate lua locul unui profesor competent și nicio rețea de calculatoare nu va schimba felul în care funcționează guvernarea.”
Citești articolul ăsta pe un telefon. Mai e nevoie să comentez?!
6. Inteligența artificială (azi)
Și ajungem la noi. La AI. Și aici trebuie să fiu cinstit cu tine.
Temerile actuale despre inteligența artificială
Știu ce zici. „Păi dacă toți s-au speriat degeaba, înseamnă că și acum ne speriem degeaba.” Argumentul e bun. Îl iau în serios.
Dar, nu! Nu de data asta. Și îți dau trei motive.
Primul: locurile de muncă. În ianuarie 2024, Fondul Monetar Internațional estima că AI va afecta aproape 40% dintre locurile de muncă din lume. În economiile avansate, aproximativ 60%. Unele vor fi ajutate, altele înlocuite. Forumul Economic Mondial estimează, pentru 2025–2030, 170 de milioane de locuri de muncă noi și 92 de milioane care dispar. Pe hârtie, un câștig. Doar că nu dispar și nu apar pentru aceiași oameni. Exact ca la luddiți.
Al doilea: minciuna perfectă. La începutul lui 2024, un angajat al firmei de inginerie Arup din Hong Kong a intrat într-o videoconferință cu „directorul financiar” și cu alți „colegi”. Toți erau falși, generați de AI. Omul a făcut 15 transferuri, în total 200 de milioane de dolari hongkonghezi. Adică vreo 25 de milioane de dolari americani. Nu-ți mai poți crede nici ochii, nici urechile.
Al treilea, și cel mai important: de data asta se tem chiar cei care au construit-o. Nu bunica de la țară. Nu un doctor bavarez inventat. Geoffrey Hinton, „nașul” rețelelor neuronale, a luat Nobelul pentru Fizică în 2024. La banchetul de la Stockholm, în loc să sărbătorească, a vorbit despre camere de ecou, supraveghere în masă, fraude, viruși și arme care decid singure pe cine ucid. Și despre ceva mai mare.
Iar pe 30 mai 2023, sute de cercetători și șefi de laboratoare de AI au semnat o declarație de o singură frază, publicată de Center for AI Safety: „Diminuarea riscului de extincție cauzat de AI ar trebui să fie o prioritate globală, alături de alte riscuri la scară societală, precum pandemiile și războiul nuclear.”
O singură frază. Dar ce frază.
Problema alinierii AI, explicată simplu
Aici e miezul. Se cheamă problema alinierii (în engleză, „AI alignment”). Adică: cum faci o mașină foarte deșteaptă să vrea exact ce vrei tu? Nu ce i-ai spus. Ce ai vrut să spui.
Îți dau o pildă veche. Regele Midas a cerut ca tot ce atinge să devină aur. A primit exact ce a cerut. Apoi a pus mâna pe mâncare. Profesorul Stuart Russell de la Berkeley chiar așa îi spune: „problema regelui Midas”.
Și acum, un exemplu adevărat. În 2016, cercetătorii de la OpenAI au învățat un program să joace CoastRunners, un joc cu bărci. I-au dat o singură regulă: fă cât mai multe puncte. Ce a făcut programul? N-a mai terminat cursa. A găsit un golf unde apăreau mereu ținte cu puncte și s-a învârtit acolo la nesfârșit. Ardea, se lovea de alte bărci, mergea în sens invers. Și a făcut cu aproximativ 20% mai multe puncte decât jucătorii umani care terminau cursa.
E ca un atacant plătit doar pe goluri, care începe să dea și în poarta proprie, pentru că la tabelă tot gol se numără. Nu e rău. E doar prea ascultător față de o regulă prost scrisă. Specialiștii îi spun „reward hacking”: păcălirea recompensei.
Într-un joc, e amuzant. Într-un sistem care conduce o rețea electrică, un spital sau o bursă, nu mai e. Iar avertismentul nu e de ieri. Cum ar zice matematicianul Norbert Wiener, în revista Science, în 1960: „Dacă folosim, pentru a ne atinge scopurile, un mecanism în a cărui funcționare nu putem interveni eficient odată ce l-am pornit […], atunci ar fi bine să fim foarte siguri că scopul pus în mașină este scopul pe care chiar ni-l dorim, și nu doar o imitație colorată a lui.”
O imitație colorată. Acolo e pericolul. Iar Hinton, la banchetul Nobel, a spus-o pe șleau: „Nu avem nicio idee dacă vom putea păstra controlul.”
Și mai e o frică: puterea. Cine controlează cele mai puternice modele controlează mult. Hinton a avertizat că, dacă aceste sisteme sunt create de companii care urmăresc profitul pe termen scurt, siguranța noastră nu va fi prioritatea lor. Nu e un detaliu. E întrebarea.
Avantajele enorme ale inteligenței artificiale
Acum, gata cu frica. Pentru că dacă te opresc aici, te mint pe jumătate. Iar cealaltă jumătate e EXTRAORDINARĂ.
Știința. Proteinele sunt cărămizile vieții. Ca să afli forma unei singure proteine, îți trebuiau uneori ani de muncă. În 2024, Demis Hassabis și John Jumper au luat Nobelul pentru Chimie (împreună cu David Baker) pentru AlphaFold, un AI care a prezis structura practic a tuturor celor 200 de milioane de proteine cunoscute. Până în octombrie 2024, l-au folosit peste două milioane de oameni din 190 de țări. Medicamente noi, enzime care descompun plasticul, vaccinuri. Totul pornește de acolo.
Medicina. În Suedia, studiul MASAI, publicat în The Lancet Oncology în 2023, a comparat mamografiile citite cu ajutorul AI cu cele citite clasic, de doi radiologi. Cu AI, s-au descoperit cu 20% mai multe cancere, iar munca radiologilor la citirea imaginilor a scăzut cu 44%. Gândește-te la femeile din spatele procentului ăla.
Munca. Un studiu al economiștilor Erik Brynjolfsson, Danielle Li și Lindsey Raymond, făcut pe peste 5.000 de angajați dintr-un call center, a arătat că un asistent AI le-a crescut productivitatea, în medie, cu 14%. La începători, cu 34%. Cel mai mult i-a ajutat AI-ul pe cei care știau cel mai puțin. Asta da democrație.
Educația. Un copil dintr-un sat din Vaslui poate avea azi, pe telefon, un profesor răbdător care îi explică ecuațiile de zece ori, fără să ridice tonul. Acum zece ani, așa ceva era science-fiction.
Chiar și Hinton, omul care ne avertizează, vede asta. Cum ar zice tot Geoffrey Hinton: „Dacă beneficiile productivității crescute pot fi împărțite în mod egal, va fi un progres minunat pentru întreaga omenire.”
Ai observat cuvântul? DACĂ. Totul atârnă de el.
Viitorul inteligenței artificiale: până unde o să ajungă AI? Șapte rugăminți
Nu știu. Și nimeni nu știe. Cine îți spune sigur că AI ne va salva sau sigur că ne va distruge îți vinde ceva. Dar știu ce putem face noi. Șapte lucruri:
1. ÎNVAȚĂ, NU TE ASCUNDE. Folosește uneltele. Cine le înțelege nu e înlocuit de ele, ci de cel care le înțelege mai bine.
2. VERIFICĂ ÎNAINTE SĂ DAI MAI DEPARTE. Un clip, o voce, o poză. Dacă te face să fierbi în trei secunde, verifică-l în trei minute.
3. STABILEȘTE UN CUVÂNT DE SIGURANȚĂ ÎN FAMILIE. Dacă „fiul tău” te sună disperat după bani, întreabă-l cuvântul. Escrocii au voce clonată. N-au și cuvântul vostru.
4. NU-ȚI DA CREIERUL LA SCHIMB. Socrate nu avea dreptate despre scris. Dar avea dreptate despre lene. Lasă mașina să te ajute să gândești, nu să gândească în locul tău.
5. CERE REGULI CLARE. De la cei care construiesc AI și de la cei pe care îi votezi. Siguranța nu e frână. E centura.
6. NU LĂSA PE NIMENI ÎN URMĂ. Luddiții au plătit prețul progresului pentru ca alții să-i culeagă roadele. Recalificarea celor afectați nu e caritate. E dreptate.
7. RĂMÂI OM. Mașina poate scrie o scrisoare. Nu poate ține de mână un bolnav. Mila, iertarea, recunoștința, astea rămân ale noastre.
Dar dacă înveți, verifici, ai un cuvânt de siguranță, îți folosești creierul, ceri reguli, nu lași pe nimeni în urmă și rămâi om, ai mult mai mult de câștigat. Și tu. Și copiii tăi. Și noi toți.
Viitorul omenirii: nici frică, nici orbire
Ne întoarcem la peronul din Nürnberg. Trenul a plecat atunci și n-a mai oprit. Nimeni nu și-a pierdut mințile din cauza vitezei. Dar au fost deraieri, ciocniri, oameni care au plătit cu viața până s-au inventat semnalele, frânele și regulile.
Trenul ăsta nou a plecat și el. Nu mai coborâm din el. Întrebarea nu mai e dacă mergem înainte. Întrebarea e dacă avem frâne bune, semnale clare și un mecanic care știe încotro merge.
Pentru asta nu ai nevoie de un doctorat. Ai nevoie de minte trează și de inimă curată. Apostolul Pavel a lăsat, acum aproape 2.000 de ani, cea mai bună instrucțiune pentru orice invenție nouă: „Toate să le încercați; țineți ce este bine.” (1 Tesaloniceni 5, 21)
Nu fugi de viitor. Nu te închina lui. Încearcă-l. Și ține ce e bine.
Să ne-auzim cu bine!
Surse: Platon, „Phaidros” 275a; Ann Blair, „Reading Strategies for Coping with Information Overload” (despre Conrad Gessner, 1545); The National Archives – luddiții; APA-Science – raportul medicilor bavarezi, „probabil fictiv”; B. Joerges, „Expertise Lost”, Social Studies of Science (1994); J. E. Erichsen, „On Railway and Other Injuries of the Nervous System” (1866); The Literary Digest, 7 septembrie 1895 – „The Bicycle Face”; Clifford Stoll, „Why the Web Won’t Be Nirvana”, Newsweek (1995); FMI – Kristalina Georgieva (2024); WEF – Future of Jobs Report 2025; CNN – frauda deepfake Arup; Geoffrey Hinton – discursul de la banchetul Nobel (10 decembrie 2024); CAIS – Statement on AI Risk (2023); Stuart Russell – „Human-Compatible Artificial Intelligence”; OpenAI – „Faulty reward functions in the wild” (2016); Norbert Wiener, „Some Moral and Technical Consequences of Automation”, Science (1960); Premiul Nobel pentru Chimie 2024; The Lancet Oncology – studiul MASAI (2023); Brynjolfsson, Li, Raymond – „Generative AI at Work” (NBER); 1 Tesaloniceni 5 (Biblia Ortodoxă).
Dragoș Leasă
