Unul dintre oamenii care au construit revoluția tehnologică avertizează acum asupra unui scenariu de o amploare greu de imaginat. Bill Gates spune că inteligența artificială a devenit suficient de puternică pentru a putea provoca evenimente în urma cărora ar muri un miliard de oameni. Cofondatorul Microsoft vorbește despre un pericol care nu mai poate fi lăsat exclusiv în mâinile companiilor tehnologice și cere intervenția autorităților înainte ca noile instrumente să ajungă imposibil de controlat.
Bill Gates: „Un miliard de morți”
„Inteligența artificială este cu siguranță suficient de puternică pentru a provoca evenimente care, știți, ar duce la un miliard de morți”, a declarat Gates în interviul acordat jurnalistei Kristen Welker pentru NBC News. Afirmația apare în fragmentele publicate înaintea difuzării integrale a interviului, programată duminică în emisiunea „Meet the Press”. Gates avertizează că instrumentele dezvoltate acum pot amplifica într-un mod fără precedent capacitatea unor oameni de a provoca distrugeri.
„Chiar dacă este destul de greu să ajungi la 100%, nu a existat niciodată o armă atât de puternică precum combinația dintre oameni cu intenții rele și cele mai noi instrumente de inteligență artificială”, spune cofondatorul Microsoft. Gates nu este la primul avertisment de acest fel. În ultimele luni, el a vorbit despre riscul ca AI să ofere unor persoane sau grupuri capacități care până acum necesitau resurse, specialiști și infrastructuri greu de obținut.
De la atacuri cibernetice până la agenți patogeni periculoși
Printre scenariile descrise anterior de Gates se află folosirea inteligenței artificiale pentru atacuri cibernetice împotriva spitalelor, rețelelor electrice sau sistemelor financiare. Un alt pericol este și mai grav: AI ar putea reduce barierele de cunoaștere care îi împiedică astăzi pe actorii rău intenționați să proiecteze sau să dezvolte agenți patogeni periculoși. Într-un text publicat în august, Gates a inclus aceste amenințări printre marile riscuri pe care dezvoltarea accelerată a tehnologiei le aduce societății.
De aceea, miliardarul american cere implicarea directă a statului. Întrebat dacă legislatorii trebuie să intervină, răspunsul său a fost categoric: „Absolut”. Gates consideră că trebuie stabilite prin lege obligații privind monitorizarea și controlul tehnologiei, iar autoritățile trebuie să poată interveni atunci când acestea sunt încălcate. „Nimeni nu crede că autoreglementarea este suficientă”, a spus el, respingând ideea că industria AI poate gestiona singură toate riscurile pe care le creează.
Vezi și: Bill Gates avertizează: „Viitoarea pandemie va fi mult mai gravă decât Covid”
Oamenii care construiesc AI avertizează și ei
Avertismentul lui Gates vine la numai câteva săptămâni după declarații și mai radicale din interiorul industriei. Jacob Coxon, cercetător care a lucrat la OpenAI și Anthropic, și-a dat demisia de la Anthropic și a acuzat marile laboratoare că se îndreaptă spre dezvoltarea unei superinteligențe capabile să se îmbunătățească singură. „Oamenii care construiesc AI cred sincer că ne-ar putea ucide pe toți până la sfârșitul deceniului”, a scris Coxon. Declarațiile sale au fost susținute public de alți cercetători Anthropic.
Fragmentele declarațiilor lui Gates au fost publicate de NBC înaintea interviului integral și au fost relatate de Axios și Forbes. Avertismentele nu sunt însă acceptate unanim în industria tehnologică. CEO-ul Nvidia, Jensen Huang, a respins recent scenariile potrivit cărora AI ar putea distruge omenirea până în 2030 și a calificat unele dintre aceste afirmații drept iresponsabile.