Cine mai poate opri inteligența artificială? Războiul dintre miliardarii care construiesc viitorul

Până de curând, cursa inteligenței artificiale părea să aibă o singură regulă: mai repede, mai puternic și, obligatoriu, înaintea concurenței. OpenAI lansa un model, Google răspundea, Anthropic venea cu propria versiune, Meta împingea înainte sisteme capabile să ajungă la miliarde de utilizatori, Microsoft turna miliarde în infrastructură, Nvidia vindea cipurile fără de care aproape nimeni nu putea participa serios la cursă, iar Elon Musk încerca să recupereze prin xAI. Era o competiție în care fiecare lună conta și în care nimeni nu avea vreun interes economic evident să ridice piciorul de pe accelerație.

În septembrie 2026 s-a întâmplat însă ceva greu de imaginat cu numai câțiva ani în urmă: câțiva dintre oamenii care conduc această cursă și au miliarde de dolari investiți în continuarea ei au început să spună public că inteligența artificială de frontieră avansează prea repede și că omenirea ar avea nevoie de timp pentru a înțelege ce construiește.

Dario Amodei, șeful Anthropic, compania care dezvoltă Claude, a cerut încetinirea ritmului în care cresc capacitățile celor mai puternice modele. Sam Altman, CEO-ul OpenAI și omul asociat inevitabil cu explozia ChatGPT, a susținut direcția și a acceptat ideea unor evaluatori independenți cu acces profund la sistemele companiei. Elon Musk, fost cofondator OpenAI și actual proprietar al xAI, compania din spatele Grok, a spus că Amodei are dreptate, iar Demis Hassabis, șeful Google DeepMind, unul dintre cele mai importante laboratoare AI din lume, s-a apropiat de aceeași poziție.

De partea cealaltă se află Mark Zuckerberg și Jensen Huang, doi oameni care au enorm de mult de câștigat din continuarea accelerată a AI, deși din motive diferite. Zuckerberg conduce Meta, proprietarul Facebook, Instagram și WhatsApp, platforme prin care produsele AI pot ajunge aproape instantaneu la miliarde de oameni, în timp ce Huang conduce Nvidia, compania ale cărei procesoare alimentează o bună parte din revoluția AI. Între aceste tabere se află Satya Nadella, CEO-ul Microsoft, care nu cere o frână generală, dar susține testarea riguroasă, controlul uman și oprirea punctuală a dezvoltării atunci când apar probleme suficient de grave.

Dincolo de diferențele dintre ei, simplul fapt că oamenii aflați atât de aproape de această tehnologie discută acum despre frână schimbă natura conversației. Pentru că miza nu mai este un chatbot care inventează un răspuns, o fotografie falsă pe Facebook sau un eseu scris în câteva secunde. Miza este ce se întâmplă atunci când sistemele AI devin suficient de capabile încât să participe chiar la construirea generației următoare de inteligență artificială.

Dario Amodei și momentul în care AI începe să construiască AI

Dario Amodei conduce Anthropic, unul dintre principalii concurenți ai OpenAI și Google și, în același timp, compania care și-a construit o mare parte din identitate în jurul siguranței sistemelor AI. Pe 12 septembrie, el a publicat textul "We Must Pace the Frontier", în care nu cere oprirea inteligenței artificiale, ci un mecanism prin care laboratoarele aflate în avangardă să accepte evaluatori independenți, standarde comune de siguranță și, în timp, o coordonare între state suficient de largă încât o companie sau o țară care refuză regulile să nu poată transforma prudența celorlalți într-un dezavantaj.

Motivul pentru care Amodei cere această pauză de respirație este însă mai interesant decât mecanismul propus: AI începe deja să participe la construirea AI. Anthropic a anunțat că, în august, Claude conducea aproximativ 26% dintre proiectele sale de cercetare și dezvoltare și participa, alături de cercetători umani, la aproximativ 90% din activitatea R&D, compania folosind în aceste procese aproximativ 30.000 de agenți AI.

Aici apare una dintre expresiile care până de curând păreau rezervate literaturii despre viitor: "recursive self-improvement", îmbunătățirea recursivă. Ideea, simplificată, este ușor de înțeles și tocmai de aceea tulburătoare: omul construiește un AI, acel AI îl ajută să construiască unul mai bun, noul sistem devine mai performant în cercetare și contribuie la generația următoare, iar ciclul se repetă, teoretic din ce în ce mai repede.

Problema nu este că acest scenariu s-ar fi produs deja, ci că timpul necesar dezvoltării ar putea începe să se comprime. Amodei avertizează că, dacă asemenea capacități cresc mai repede decât posibilitatea oamenilor de a le testa și securiza, am putea ajunge într-o situație în care mecanismele de control rămân permanent cu un pas în urmă; într-unul dintre scenariile sale de risc, agenți AI mult mai capabili decât cei actuali ar putea dobândi în șase până la 12 luni capacități suficiente pentru atacuri informatice de amploare. Este o estimare de risc formulată de Amodei, nu o predicție demonstrată, iar diferența este esențială.

Sam Altman. Cel care a accelerat revoluția cere acum reguli

Poziția lui Sam Altman este poate cea mai interesantă tocmai pentru că OpenAI are toate motivele comerciale să continue să alerge. ChatGPT a transformat AI generativă într-un produs de masă, compania se află într-o competiție uriașă pentru utilizatori, cercetători, infrastructură și capital, iar fiecare model nou poate schimba raportul de forțe din industrie.

Cu toate acestea, pe 9 septembrie OpenAI a cerut Congresului american reguli naționale obligatorii de siguranță pentru modelele AI, stabilite în funcție de capacitatea lor, ceea ce ar presupune teste comune, evaluări independente, securitate cibernetică mai puternică, raportarea incidentelor grave și urmărirea progresului către sisteme capabile să contribuie la propria lor îmbunătățire.

Schimbarea de ton este importantă: compania care a împins AI în viața de zi cu zi a sute de milioane de oameni nu mai prezintă autoreglementarea industriei drept răspuns suficient.

Pe 17 septembrie, OpenAI a făcut publice și exemple de comportamente problematice întâlnite în cercetare, inclusiv situații în care modele experimentale au încercat să ocolească anumite constrângeri sau au executat acțiuni nedorite. Nu înseamnă că ChatGPT sau celelalte sisteme comerciale actuale acționează autonom împotriva utilizatorilor, însă tocmai apariția unor asemenea comportamente în condiții experimentale explică de ce Altman acceptă acum ideea evaluatorilor independenți: într-o industrie care construiește sisteme din ce în ce mai puternice, cel care construiește mașina nu ar mai trebui să fie singurul care decide dacă ea este suficient de sigură pentru a ieși pe șosea.

Elon Musk. Rivalul care, de data aceasta, este de acord

Elon Musk ocupă un loc aparte în această poveste. A fost cofondator OpenAI, s-a despărțit de organizație, a devenit unul dintre cei mai vocali adversari ai lui Altman, iar astăzi conduce xAI și dezvoltă Grok, concurând direct cu oamenii alături de care vorbește despre necesitatea unei frâne.

Reacția lui la propunerea lui Amodei a fost scurtă: "Dario is right".

Acordul este cu atât mai neobișnuit cu cât Anthropic, OpenAI, xAI și Google se luptă pentru aceiași cercetători, aceleași cipuri, aceleași centre de date, aceleași contracte și, în fond, pentru poziția dominantă într-o economie despre care nimeni nu știe încă exact cât de mare va deveni. Există însă și o contradicție care merită urmărită: companiile pot susține reguli generale pentru AI de frontieră și, simultan, pot contesta anumite reglementări concrete pe care le consideră excesive. A fi de acord că AI trebuie controlată nu înseamnă automat a fi de acord cine controlează, până unde și cu ce sancțiuni.

Demis Hassabis și Google, dincolo de chatbot

Demis Hassabis conduce Google DeepMind, iar aici raza de acțiune depășește cu mult conversația cu un asistent virtual. DeepMind lucrează la inteligență artificială generală, programare, biologie, cercetare științifică și agenți autonomi, adică exact domeniile în care un salt de performanță poate produce efecte mult mai mari decât o nouă funcție într-o aplicație.

Hassabis a susținut direcția propusă de Amodei, în timp ce Google promovează propria formulă: o organizație independentă, sprijinită de industrie și supravegheată federal, care să stabilească standarde pentru cele mai avansate modele și să verifice audituri independente. Pentru aplicațiile AI obișnuite, Google preferă adaptarea legislației deja existente în domenii precum protecția copiilor, copyright sau piața muncii, acceptând astfel supravegherea, dar evitând ideea că fiecare progres tehnologic ar trebui să primească în prealabil undă verde de la stat.

Zuckerberg și Huang nu vor o frână generală

Mark Zuckerberg privește problema diferit. Șeful Meta consideră că laboratoarele au deja motive economice suficient de puternice să nu lanseze produse periculoase, pentru că un sistem imposibil de controlat ar distruge încrederea utilizatorilor, ar provoca litigii și ar lovi chiar compania care l-a pus pe piață.

În spatele argumentului există însă o realitate economică imposibil de ignorat. Meta investește enorm în AI și controlează Facebook, Instagram și WhatsApp, platforme prin care noile tehnologii pot ajunge la o scară pe care puține companii din istorie au avut-o la dispoziție, iar o încetinire a dezvoltării ar putea însemna luni pierdute într-o competiție în care câteva luni pot schimba liderul.

Jensen Huang privește aceeași cursă din alt unghi. Nvidia nu construiește în primul rând un rival pentru ChatGPT, ci procesoarele și ecosistemul de calcul pe care sunt antrenate și operate numeroase modele AI. Dacă Altman, Amodei, Musk și Hassabis construiesc mașinile, Huang este unul dintre principalii furnizori ai motoarelor, iar fiecare nouă generație de AI înseamnă centre de date, procesoare, rețele și investiții uriașe în infrastructură.

De aceea, opoziția lui Huang față de o încetinire generală are și o dimensiune geopolitică greu de separat de cea economică: dacă laboratoarele americane acceptă o frână pe care competitorii chinezi nu o respectă, timpul cumpărat pentru siguranță poate deveni timpul oferit adversarului pentru recuperarea decalajului.

Satya Nadella și varianta de mijloc

Satya Nadella conduce Microsoft, companie aflată într-o poziție aproape imposibil de comparat cu oricare dintre ceilalți actori: furnizează cloud și infrastructură, produce software utilizat de companii și instituții din întreaga lume, este unul dintre marii investitori ai ecosistemului OpenAI și dezvoltă propriile servicii AI.

Nadella nu reduce discuția la alegerea dintre accelerație și frână. Susține testarea modelelor avansate, evaluarea de către terți și păstrarea controlului uman, iar atunci când apare o problemă serioasă, dezvoltarea ar trebui oprită suficient cât acea problemă să fie înțeleasă și rezolvată. Pare o soluție simplă, numai că într-o industrie în care fiecare lună poate valora miliarde, chiar și o asemenea oprire temporară devine o decizie economică majoră.

Ce se întâmplă dacă nimeni nu apasă frâna?

Nu există astăzi o demonstrație că peste șase luni inteligența artificială va scăpa de sub control și nici un calendar științific acceptat care să spună când sau dacă va apărea AGI, inteligența artificială generală, ori un sistem care să depășească omul într-un număr foarte mare de domenii. Există însă un fenomen mult mai ușor de măsurat: modelele pot executa sarcini tot mai complexe, pot scrie cod, utiliza instrumente, lucra în echipe de agenți și participa la cercetarea din care vor apărea modelele următoare.

Când un AI scrie greșit un text, omul îl poate corecta. Când un sistem primește acces la internet, cod, infrastructură informatică, baze de date, instrumente financiare și alte sisteme AI, aceeași eroare poate avea o rază de acțiune complet diferită, iar dacă inteligența artificială începe să automatizeze o parte semnificativă din propria cercetare, timpul dintre generațiile tehnologice se poate comprima exact în momentul în care oamenii ar avea nevoie de mai mult timp pentru a le verifica.

Acesta este, în fond, timpul pe care Amodei și ceilalți încearcă să îl cumpere: nu o pauză de douăzeci de ani, ci luni sau câțiva ani în care mecanismele de control să poată ține pasul cu sistemele pe care încearcă să le controleze.

Ce poate face, de fapt, o lege?

Reglementarea AI nu înseamnă că Bruxelles-ul sau Washingtonul vor verifica fiecare întrebare adresată unui chatbot. Pentru modelele de frontieră, regulile discutate urmăresc lucruri foarte concrete: testarea înaintea lansării, accesul evaluatorilor independenți, securizarea sistemelor împotriva furtului sau modificării, raportarea incidentelor grave, verificarea capacităților periculoase în domenii precum atacurile cibernetice sau biologia și posibilitatea de a interveni atunci când un model depășește anumite praguri de risc.

Pentru utilizatorul obișnuit, miza este mai apropiată: să știe când vorbește cu o mașină, când o fotografie, o voce sau un videoclip au fost generate artificial, cine răspunde atunci când un sistem produce o pagubă și ce utilizări sunt suficient de periculoase încât să fie interzise.

Europa a mers cel mai departe.

Europa a pus deja un preț încălcării regulilor

AI Act funcționează după un principiu relativ simplu: cu cât utilizarea unui sistem poate produce consecințe mai grave pentru oameni și drepturile lor, cu atât obligațiile sunt mai stricte. Din august 2026, o parte importantă a mecanismelor sale este aplicabilă, fiind interzise anumite forme de manipulare prin AI, exploatarea vulnerabilităților și anumite utilizări de predicție polițienească bazate exclusiv pe profilare, în timp ce furnizorii modelelor AI de uz general au obligații privind transparența și drepturile de autor, iar sistemele considerate capabile să producă riscuri sistemice intră sub cerințe suplimentare.

Europa a stabilit și sancțiuni suficient de mari încât giganții tehnologici să nu le poată trata drept simple costuri administrative: pentru cele mai grave încălcări privind practicile AI interzise, amenzile pot ajunge la 35 de milioane de euro sau 7% din cifra de afaceri mondială anuală, pentru alte încălcări importante la 15 milioane de euro sau 3%, iar furnizarea unor informații incorecte sau înșelătoare autorităților poate atrage sancțiuni de până la 7,5 milioane de euro sau 1% din cifra de afaceri, cu regulile specifice prevăzute pentru întreprinderile mai mici.

Pentru furnizorii modelelor AI de uz general, Comisia Europeană poate aplica, în situațiile prevăzute de regulament, amenzi de până la 15 milioane de euro sau 3% din cifra de afaceri mondială anuală. Cu alte cuvinte, în Europa controlul AI a trecut deja din zona declarațiilor în cea a obligațiilor, autorităților și banilor reali.

America are problema inversă

Statele Unite găzduiesc o mare parte dintre companiile care conduc revoluția AI, dar nu au construit echivalentul AI Act, iar administrația Trump a ales o abordare orientată către accelerarea inovării și menținerea avantajului tehnologic american, evitând un sistem general obligatoriu de autorizare prealabilă a modelelor.

În spatele acestei diferențe se află China. Dacă SUA impun limite severe, iar companiile chineze continuă să accelereze, Washingtonul riscă să transforme prudența într-un dezavantaj strategic; dacă nu impune limite, laboratoarele americane rămân prinse într-o altă capcană, pentru că firma care încetinește singură pentru a fi prudentă poate pierde în fața celei care continuă.

Nici măcar varianta în care marile laboratoare se înțeleg între ele nu este simplă. Dacă OpenAI, Anthropic, Google, xAI și ceilalți convin asupra ritmului în care dezvoltă tehnologia, apar întrebări de concurență și antitrust, dar și suspiciunea că reguli extrem de costisitoare, chiar dacă sunt construite în numele siguranței, pot deveni o barieră pe care numai giganții și-o permit, blocând companiile mai mici și înghețând actuala ierarhie a industriei.

Cine îi controlează pe cei care vor să controleze AI?

Aici se află poate cea mai incomodă parte a poveștii: Amodei, Altman, Musk, Hassabis, Zuckerberg, Huang și Nadella nu sunt observatori neutri care discută despre o tehnologie inventată de altcineva, ci oamenii care conduc companii ce controlează modelele, cipurile, centrele de date, cloud-ul, platformele, cercetătorii și investițiile de miliarde din spatele acestei revoluții, ceea ce înseamnă că atunci când cer libertate au un interes economic, iar atunci când cer reguli au, inevitabil, tot un interes economic.

Europa încearcă să rezolve dilema prin lege, America încearcă să împace siguranța cu lupta tehnologică împotriva Chinei, iar Silicon Valley încă negociază cât de tare ar trebui apăsată frâna. Numai că, în timp ce oamenii discută cine ar trebui să stabilească regulile și cât timp își mai pot permite pentru asta, sistemele continuă să învețe să programeze, să cerceteze și să participe la construirea generației următoare de inteligență artificială. Poate că aici se află adevărata neliniște: pentru prima dată, nu mai este foarte clar dacă noi vom termina regulile înainte ca ele să termine următoarea versiune.

M.A. Dumbravă