Inteligența artificială, pericol mai mare pentru omenire decât bomba atomică

Un studiu comandat de către Departamentul de Stat al SUA a scos la iveală că inteligența artificială prezintă acum un risc mai mare decât bomba atomică în ceea ce privește potențialul de extincție a speciei umane.

Publicat în luna octombrie 2022, acest raport atribuit startup-ului AI Gladstone și comandat cu scopul de a examina riscul armelor AI și pierderii controlului asupra acestora atrage atenția asupra evoluțiilor recente în domeniul inteligenței artificiale. Companiile din industria de tehnologie avansează rapid în includerea AI-ului într-o varietate de domenii, de la telefoane mobile la sisteme esențiale de control al traficului aerian, echilibrarea rețelelor energetice și, mai ales, în scopuri militare. Fără un plan de acțiune adecvat pentru anticiparea și limitarea riscurilor potențiale, lucrurile se desfășoară cu viteză și fără a ține cont de consecințele potențiale.

Raportul de 284 de pagini, scurs pe internet în această lună, detaliază riscurile catastrofale asociate cu inteligența generală artificială (AGI), un nivel de AI încă neatinse în mod convingător, dar urmărit cu înverșunare de către giganții din industrie precum OpenAI, Google DeepMind, Anthropic și Meta.

Studiile realizate de Gladstone, care au inclus sondaje parcurse cu specialiști din industrie și lucrători de la cele mai bune companii AI, au concluzionat că inteligența artificială prezintă un risc ridicat de a fi convertită în arme. Acestea pot lua forma unor arme biologice dezvoltate cu ajutorul AI, atacuri cibernetice la scară largă accelerate de AI sau chiar roboți autonomi.

CEO-ul Gladstone, Jeremie Harris, a menționat că consideră atacurile cibernetice drept cel mai mare risc, în timp ce CTO-ul Edouard Harris a subliniat că interferența electorală este o preocupare majoră.

Principalul pericol este reprezentat de pierderea controlului asupra inteligenței artificiale, care ar putea duce la „evenimente cu victime în masă” sau la „destabilizare globală”.

În timp ce unii consideră reacția exagerată de panică la adresa unei tehnologii emergente, alții subliniază riscurile credibile pe care le implică, de la pierderea unor profesii până la amenințări cu adevărat noi precum arme inteligente și roboți controlați de AI care ar putea deveni o amenințare în sine la adresa umanității.