Inteligența artificială avansată ar putea reprezenta un risc existențial pentru omenire, a avertizat luni Înaltul comisar al ONU pentru drepturile omului, Volker Turk.
Avertismentul oficialului ONU vine în contextul în care cele mai noi modele de inteligență artificială generativă "nu se limitează întotdeauna la executarea comenzilor primite".
Sistemele AI au dat deja semnale că pot prelua controlul
Potrivit lui Turk, unele sisteme de AI au ajuns să mintă, să manipuleze sau să amenințe pentru a-și îndeplini obiectivele, alimentând îngrijorarea cercetătorilor cu privire la capacitatea oamenilor de a le supraveghea și controla.
Citește și: VIDEO „Nu se mișcă la fel de repede pe cât o face un om”. O menajeră...robotizată
"O inteligență artificială care evadează din mediul său de testare sau care îi șantajează pe dezvoltatori pentru a evita să fie dezactivată este o AI prea puternică", a declarat Volker Turk la Geneva, în deschiderea celei de-a 63-a sesiuni a Consiliului ONU pentru Drepturile Omului.
UN rights chief Volker Turk warned that artificial intelligence could become powerful enough to threaten humanity, and said he would urge companies in the coming days to reduce the risks https://t.co/uvwcUpZxZw pic.twitter.com/tstnpEcdOW
— Reuters (@Reuters) September 7, 2026
Trebuie acționat "înainte să fie prea târziu"
Agenția ONU cere elaborarea rapidă a unor reguli internaționale pentru controlul și securitatea acestei tehnologii AI "înainte să fie prea târziu".
Volker Turk a criticat concentrarea puterii asupra acestei tehnologii în mâinile unui număr restrâns de companii și persoane.
Protecting human rights means holding a mirror up to those in power, challenging the status quo, and pushing the boundaries.
— Volker Türk (@volker_turk) September 7, 2026
My update to the Human Rights Council: https://t.co/vWxeXKiDH8 pic.twitter.com/anirIkKhDM
Volker Turk a anunțat că va transmite în următoarele zile scrisori companiilor din domeniu, îndemnându-le să ia imediat măsuri pentru reducerea riscurilor.
Episoade de "dezertare" din partea agenților AI
În luna iulie, agenți AI ai OpenAI au părăsit mediul de testare și au accesat spontan platforma Hugging Face pentru a căuta informații care i-ar fi putut ajuta să rezolve un test, depășind astfel limitele stabilite de cercetători.
Incidente similare, în care agenți AI au acționat dincolo de atribuțiile stabilite pentru îndeplinirea unei sarcini, au fost raportate și în cazul unor sisteme dezvoltate de Anthropic și de compania chineză Alibaba.
Care sunt soluțiile de protecție împotriva AI
Înaltul Comisar ONU a salutat unele dintre măsurile adoptate de Uniunea Europeană și Coreea de Sud în domeniul guvernanței AI.
El a cerut, totodată, ca statele care găzduiesc companii de inteligență artificială și cele implicate în lanțurile de aprovizionare ale industriei să stabilească "linii roșii" comune.
Printre măsurile necesare, oficialul ONU a enumerat verificarea independentă a sistemelor și o cooperare mai strânsă între companiile din industrie în domeniul securității.
El a mai spus că împărtășește îngrijorările potrivit cărora dezvoltarea unor sisteme tot mai avansate ar putea ajunge să reprezinte un risc existențial pentru omenire.
