Pentru mulți oameni, conversațiile cu inteligența artificială au devenit un fel de jurnal digital. Își scriu acolo frustrările, furia, temerile sau lucrurile pe care nu le-ar spune cu ușurință altcuiva. Un caz recent arată însă cât de repede se poate schimba situația atunci când într-o conversație apar amenințări concrete. O femeie de 30 de ani a fost arestată după ce ar fi scris unui chatbot. Iată ce s-a întâmplat.
Ce i-a scris femeia chatbotului
Potrivit poliției, femeia ar fi folosit chatbotul Claude, dezvoltat de compania Anthropic, ca pe un jurnal digital. La sfârșitul lunii septembrie, ea ar fi scris în conversație că intenționează să atace clădirea șerifului din comitatul Lee, Florida. A doua zi, potrivit anchetatorilor, femeia ar fi revenit în conversație și ar fi afirmat că și-a cumpărat o armă nouă. Mesajele au fost considerate suficient de serioase pentru a declanșa mecanismele de siguranță ale serviciului. Potrivit informațiilor prezentate de autorități, conversația a fost ulterior analizată de angajați ai companiei.
Arestată la domiciliu: chatbotul a „dat alarma”
Sistemele de securitate ale chatbotului au identificat mesajele ca reprezentând o posibilă amenințare. După verificarea conversației de către angajații companiei, aceștia au contactat poliția, considerând că amenințările ar putea fi credibile.
Citiți și: Germania lansează portofelul digital. Iată ce se schimbă în ianuarie 2027
Cazul arată astfel o latură mai puțin cunoscută a conversațiilor cu serviciile de inteligență artificială. Un utilizator poate avea impresia că vorbește cu un sistem automat, însă anumite conversații pot ajunge să fie analizate de oameni atunci când sistemele de siguranță detectează conținut considerat periculos.
Polițiștii au arestat-o pe femeie pe 30 septembrie, la locuința sa din Florida. Ea este acuzată că ar fi formulat în scris amenințări cu violența. Potrivit informațiilor din sursa americană, pentru fapta de care este acuzată riscă în Florida o pedeapsă de până la 15 ani de închisoare. Un termen în instanță este programat pentru luna noiembrie. Acuzațiile formulate împotriva ei urmează să fie analizate în cadrul procedurilor judiciare.
Conversațiile cu inteligența artificială nu sunt automat private
Cât de privată este, de fapt, o conversație cu un chatbot? Serviciile de tip Claude, ChatGPT sau Gemini folosesc sisteme automate pentru a detecta anumite tipuri de conținut periculos. În situații care implică amenințări concrete sau indicii privind acte de violență, furnizorii pot avea proceduri prin care conversațiile sunt analizate și, în anumite circumstanțe, informațiile pot fi transmise autorităților.
Șeriful Carmine Marceno a folosit cazul pentru a transmite un avertisment celor care cred că pot vorbi cu un chatbot fără ca discuția să poată ajunge vreodată la alte persoane.
Mesajul este unul simplu: faptul că interlocutorul este o inteligență artificială nu înseamnă automat că discuția este echivalentul unui jurnal personal pe care nimeni altcineva nu îl poate vedea. În funcție de serviciu și de circumstanțe, anumite conversații pot fi supuse unor verificări de siguranță.
S-ar putea întâmpla același lucru și în Germania?
În Germania și în Uniunea Europeană, situația trebuie privită și prin prisma legislației europene privind protecția datelor. Regulamentul general privind protecția datelor, cunoscut drept GDPR sau DSGVO, nu înseamnă că datele personale nu pot fi transmise niciodată autorităților, relatează BILD.
În cazul unor pericole concrete, legislația privind protecția datelor nu exclude în mod automat transmiterea unor informații către autorități. Totuși, eventualele consecințe penale și pedeapsa aplicată unei persoane ar fi stabilite în baza legislației germane, nu a celei din Florida. Într-un asemenea caz, încadrarea juridică și pedeapsa ar depinde de circumstanțele concrete și de dreptul german.