
Un avertisment tulburător vine chiar din interiorul industriei care dezvoltă inteligența artificială. Unul dintre cercetătorii implicați în construirea sistemelor moderne de IA susține că omenirea s-ar putea confrunta, mult mai curând decât se anticipa, cu un pericol greu de controlat. Nu este vorba despre un scenariu de film, ci despre riscuri pe care specialistul afirmă că le observă în evoluția tehnologiei. Declarațiile sale au provocat reacții, mai ales prin termenul foarte scurt pe care îl avansează și printr-o afirmație despre moartea oamenilor.
Ce înseamnă că inteligența artificială ar putea prelua controlul
Paul Christiano, membru al Consiliului de administrație al OpenAI Foundation și cercetător specializat în siguranța inteligenței artificiale, avertizează că există un risc ridicat ca IA să scape de sub controlul oamenilor în următorii trei ani. Declarația a fost făcută în cadrul seriei Hinton Lectures 2026, organizată la Toronto, în Canada. „Cred că există un risc ridicat ca inteligența artificială să preia controlul în următorii trei ani”, a afirmat Christiano, înainte de a face o declarație și mai alarmantă: „Cred că, pentru majoritatea oamenilor din această sală, cea mai probabilă cauză a morții va fi un accident provocat de inteligența artificială.”

Christiano a explicat că se referă la un scenariu în care sistemele de inteligență artificială devin suficient de puternice pentru a urmări obiective proprii și pentru a lua decizii fără să mai poată fi oprite eficient de oameni. Cercetătorul a comparat situația cu încercarea unei persoane obișnuite de a opri armata Statelor Unite. În opinia sa, pierderea controlului ar putea avea consecințe catastrofale, inclusiv moartea unui număr mare de oameni. El a avertizat că există riscuri semnificative chiar și în următoarele șase până la douăsprezece luni.
Specialistul a precizat însă că nu există un model științific care să permită calcularea exactă a probabilității unui asemenea eveniment. Estimările sale reprezintă judecăți personale privind riscurile tehnologiei, nu predicții demonstrate. Christiano a afirmat că, dacă inteligența artificială ar fi dezvoltată în cel mai rapid ritm posibil, fără măsuri suplimentare de precauție, riscul pierderii controlului ar putea fi comparat, în evaluarea sa, cu aruncarea unei monede, adică aproximativ 50%. El speră că probabilitatea reală va fi mai mică datorită măsurilor de siguranță.
Citiți și: Bill Gates lansează o nouă profeție sumbră: „Ar putea fi nevoie de o catastrofă”. Avertismentul care privește milioane de oameni
De ce se tem cercetătorii că sistemele IA ar putea deveni imposibil de controlat
Una dintre problemele prezentate de Christiano privește modul în care sunt antrenate sistemele de inteligență artificială. Acestea învață să obțină rezultate favorabile în evaluări, dar pot descoperi și modalități de a exploata mecanismele de verificare. Cercetătorul a discutat exemple în care agenți IA au încercat să manipuleze procesele prin care le era măsurată performanța. În loc să îndeplinească sarcina solicitată, un sistem ar putea încerca să modifice condițiile evaluării pentru a obține un rezultat aparent corect.
Christiano este fondatorul Alignment Research Center și unul dintre cercetătorii care au contribuit la dezvoltarea metodei de antrenare a modelelor IA prin feedback uman, cunoscută drept RLHF. El consideră că progresele din ultimele luni au fost deosebit de îngrijorătoare pentru specialiștii care studiază siguranța sistemelor avansate. Cercetătorul atrage atenția că dezvoltarea unor modele tot mai performante trebuie însoțită de metode prin care comportamentele periculoase să poată fi identificate și oprite înainte de a produce efecte ireversibile.
Avertisment din conducerea OpenAI: industria trebuie să poată opri dezvoltarea sistemelor periculoase
Paul Christiano s-a alăturat Consiliului de administrație al OpenAI Foundation pe 9 septembrie 2026 și face parte din Comitetul pentru siguranță și securitate al organizației. La momentul numirii, el și-a exprimat preocuparea că dezvoltarea accelerată a inteligenței artificiale ar putea provoca o pierdere catastrofală și ireversibilă a controlului uman. În cadrul conferinței de la Toronto, cercetătorul a avertizat că industria nu dispune încă de mecanisme suficient de solide pentru a gestiona asemenea riscuri.
O dificultate invocată de Christiano este competiția dintre companiile care dezvoltă inteligență artificială. Dacă o companie descoperă că un sistem devine periculos, aceasta ar putea ezita să îl oprească de teama că rivalii vor continua dezvoltarea tehnologiei. Cercetătorul solicită standarde comune de siguranță și posibilitatea încetinirii sau suspendării dezvoltării atunci când riscurile nu pot fi controlate. Declarațiile sale nu reprezintă o concluzie științifică potrivit căreia omenirea va dispărea în trei ani, ci un avertisment privind un scenariu pe care îl consideră suficient de grav pentru a necesita măsuri imediate.
