Mie îmi place inteligența artificială. O folosesc pentru documentare, căutare, verificarea și compararea informațiilor. Am un regim de slăbire pe care îl urmăresc cu AI, am găsit cu AI un ortoped de care am nevoie și am aflat cum să fac un update la hărțile din navigatorul mașinii. E un instrument extraordinar.
Văd însă că dezvoltarea AI îngrijorează. Se spune că inteligența artificială poate deveni periculoasă. Că ne poate omorî pe toți.
Dario Amodei, șeful Anthropic, spune că dezvoltarea celor mai puternice modele de inteligență artificială ar trebui încetinită. Sam Altman, șeful OpenAI, este de acord. Elon Musk, care dezvoltă și el AI, spune și el că Dario Amodei are dreptate.
Culmea e că oamenii aceștia nu sunt adversarii inteligenței artificiale. Sunt chiar cei care o construiesc.
Inteligența artificială și-a făcut deja de cap
Într-un test de securitate, cercetătorii de la Anthropic i-au dat unui model Claude sarcina să pătrundă într-un sistem fictiv. Pentru că nu a reușit, a căutat altă cale și a găsit pe internet o companie reală care l-a tentat. Claude a intrat în sistemul ei, a descărcat date despre utilizatori și i-a modificat baza de date, deși nu-i spusese nimeni să facă asta.
Într-un alt test, cercetătorii verificau dacă un model Claude este capabil să găsească și să exploateze vulnerabilități informatice. Pentru a-și duce sarcina până la capăt, AI-ul a decis singur să pună pe internet un program (malware) care putea intra fără permisiune în alte calculatoare și să obțină date de acolo .
Ca să publice programul, avea nevoie de un cont. Pentru cont îi trebuia o adresă de e-mail și un număr de telefon. N-a reușit. A căutat altă soluție. A găsit un serviciu gratuit de e-mail și și-a făcut cont. Malware-ul a ajuns în 15 sisteme reale. A obținut date de acces și a intrat în baza de date reală a unei companii de securitate.
Nu robotul a greșit, el nu a devenit „rău”. Pur și simplu a încercat să rezolve problema pe care i-o dăduse omul. Iar când a găsit ușa închisă, a intrat pe sub ea.
Cât mai e până ajunge la noi?
Să presupunem că mâine un AI primește acces la sistemele unei bănci. Sau se strecoară singur în bancă. Poate bloca un cont, poate muta niște bani sau poate chiar să dea un credit cui nu trebuie. Dar dacă administrează prețurile unui hipermarket, poate pune din greșeală pâinea la 80 de lei sau televizoarele la 8 lei? Dacă controlează distribuția energiei, poate lăsa un oraș fără curent? Ce te faci dacă ajunge în sistemul care comandă deschiderea sau închiderea unui baraj?
Mie îmi place inteligența artificială, dar nu scriu cod și nu dezvolt astfel de sisteme. Înțeleg, deocamdată, că dacă acest instrument ajunge unde nu trebuie și face ce nu trebuie, poate fi periculos.
Și mai înțeleg ceva. Oamenii care îl construiesc văd pericolele și vorbesc despre ele. Faptul că tocmai ei cer limite și prudență mi se pare mai degrabă un motiv de încredere decât unul de panică.
Inteligența artificială va schimba lumea. De fapt, deja o schimbă. Important este ca noi să rămânem cei care îi spunem unde sunt ușile pe care are voie să intre și, mai ales, să avem grijă să nu intre pe sub celelalte.
Înțeleg, deocamdată, că inteligența artificială poate deveni periculoasă dacă acest instrument ajunge unde nu trebuie și face ce nu trebuie. Dar faptul că acei oameni minunați care construiesc aceste extraordinare „mașini gânditoare” au grijă să nu dea inteligenței artificiale toate cheile mi se pare, până una-alta, o veste bună.
Foto cu ChatGPT
