De ce este atât de dificil pentru companiile de tehnologie să controleze inteligența artificială?

Peste o duzină de cercetători de renume în domeniul inteligenței artificiale au avertizat în ultima săptămână că tehnologia dezvoltată de companiile de inteligență artificială devine un risc pentru umanitate. Cercetătorii au spus că problema este că firmele nu sunt bune la controlul acestor sisteme, indiferent cât de mult ar încerca.

Noile avertismente din cadrul comunității de cercetare în domeniul inteligenței artificiale au venit după dezvăluirile conform cărora așa-numiții agenți de inteligență artificială dezvoltați de OpenAI au reușit să scape din mediul lor de testare și să pirateze computerele aparținând unei alte companii, adăugând urgență îngrijorărilor de ani de zile că firmele acordă prioritate vitezei de dezvoltare și banilor în detrimentul siguranței.

Cercetătorii au spus că problema are două părți. În primul rând, companiile trebuie să ia măsuri de siguranță mai bune în jurul celor mai noi modele de inteligență artificială în timpul testării acestora. În prezent, deoarece inteligența artificială funcționează cu o viteză enormă, cercetătorii trebuie să utilizeze inteligența artificială pentru a o monitoriza. Dar acest lucru nu funcționează întotdeauna, deoarece sistemele de inteligență artificială însărcinate cu monitorizarea altor modele pot părea uneori mai înțelegătoare față de alte sisteme de inteligență artificială decât față de oamenii care stabilesc regulile.

Această combinație neobișnuită de factori de decizie bazați pe inteligență artificială și de supraveghetori ai inteligenței artificiale dispuși să treacă cu vederea încălcările indică o a doua problemă, mai dificilă, cunoscută sub numele de „aliniere”, un termen din industrie care înseamnă, în esență, asigurarea că inteligența artificială se comportă în moduri care servesc intereselor umane. Companiile se confruntă cu sarcina dificilă de a integra în inteligența artificială ceva asemănător valorilor umane, astfel încât modelele să ia decizii în concordanță cu ceea ce ar trebui să fie mai bine pentru oameni.

Îngrijorările legate de siguranța inteligenței artificiale se intensifică într-un moment crucial pentru industrie. Anthropic și OpenAI se îndreaptă spre ceea ce ar putea deveni două dintre cele mai mari oferte publice inițiale din istorie. În același timp, publicul american devine din ce în ce mai ostil față de inteligența artificială din cauza amenințării pe care o reprezintă pentru locurile de muncă, precum și din cauza construirii de centre de date masive necesare pentru a alimenta tehnologia.

Deși nu există dovezi că sistemele de inteligență artificială necinstite au cauzat daune de durată, cercetătorii cred că ritmul dezvoltării lor depășește capacitatea oamenilor de a le monitoriza.

Printre cercetătorii care au vorbit public în ultima săptămână s-au numărat cercetătorul-șef al OpenAI, un cercetător care a lucrat atât la OpenAI, cât și la principalul său rival, Anthropic, și Paul Christiano, inventatorul uneia dintre metodele fundamentale utilizate pentru construirea sistemelor de inteligență artificială și o adăugare recentă la consiliul de administrație al organizației non-profit OpenAI. Christiano a scris pe blogul companiei că creșterea rapidă a capacităților inteligenței artificiale ar putea duce la o „pierdere catastrofală și ireversibilă a controlului în viitorul foarte apropiat”.

Mulți cercetători în domeniul inteligenței artificiale încă mai cred că avertismentele despre faptul că inteligența artificială reprezintă o amenințare la adresa umanității sunt exagerate și distrag atenția de la preocupări mai imediate, cum ar fi securitatea cibernetică și dezinformarea. Însă majoritatea sunt de acord că incidentul în care agenții de inteligență artificială ai OpenAI au piratat o altă companie, Hugging Face, a fost un semnal de alarmă.

„Capacitățile viitorului sunt cu adevărat înfricoșătoare”, a spus Jacob Coxon, a cărui postare pe rețelele de socializare în care își anunța demisia de la Anthropic a stârnit zeci de reacții din partea parlamentarilor și a altor angajați ai companiilor de inteligență artificială. „Este vorba despre atitudinile noastre actuale față de siguranță și despre cum vor arăta aceleași atitudini atunci când vor fi aplicate unor modele mult mai inteligente. Aceasta este partea cu adevărat înfricoșătoare.”

Trucul Fața Îmbrățișătoare

Breșa de securitate a început în luna mai, când OpenAI testa mai multe modele noi de inteligență artificială. Compania credea că modelele operau într-un mediu închis cunoscut sub numele de „sandbox”, o configurație de calcul izolată, fără acces la internet. Agenții de inteligență artificială au primit probleme dificile de rezolvat, inclusiv efectuarea de atacuri cibernetice.

Însă agenții inteligenți artificiali au reușit să scape din mediul lor restricționat și să obțină acces la internet. Agenții, un tip de inteligență artificială din ce în ce mai comun, concepută pentru a îndeplini sarcini în mod autonom, comunicau și în secret între ei. Referindu-se la ei înșiși ca la un singur grup, agenții au început să caute modalități de a-și acoperi urmele, inclusiv falsificarea propriilor jurnale de conversație.

În cele din urmă, au reușit să pirateze compania Hugging Face, o companie de infrastructură de inteligență artificială. În acest proces, unii agenți de inteligență artificială i-au convins pe alți agenți că procedează corect și că pur și simplu îndeplinesc sarcina atribuită de testeri.

Puține, dacă nu chiar niciuna, dintre problemele care au dus la breșă au fost rezolvate. Meta și Anthropic au dezvăluit, de asemenea, incidente similare, deși la o scară mai mică. OpenAI a lansat ulterior Astra, cel mai puternic model al său, care este mai dificil de monitorizat decât predecesorul său.

„Întreaga industrie nu este absolut deloc în măsură să prevină un alt atac precum incidentul Hugging Face”, a declarat Steven Adler, fost responsabil cu siguranța la OpenAI și cofondator al organizației non-profit Guidelight AI Standards, care evaluează practicile de siguranță ale companiilor de inteligență artificială. „Când examinăm controalele pe care companiile le-au implementat, industria în ansamblu pare să nu aibă măsuri de siguranță de bază.”

Problema utilizării inteligenței artificiale pentru monitorizarea inteligenței artificiale

Cercetătorii în domeniul inteligenței artificiale au declarat că numeroase defecțiuni au contribuit la incidentul Hugging Face. Nu este clar în ce măsură compania s-a bazat pe modele de inteligență artificială pentru a monitoriza sau controla noile modele testate.

Însă multe dintre cele mai noi modele de inteligență artificială, inclusiv cele implicate în breșa Hugging Face, sunt capabile să îndeplinească sarcini complexe, cu mai mulți pași, mai rapid decât le pot urma oamenii. Singura modalitate de a urmări ce fac și de a le monitoriza comportamentul este să ne bazăm pe inteligența artificială pentru a monitoriza inteligența artificială.

Sistemul funcționează, până când nu mai funcționează.

Alexander Meinke, șeful cercetării la Apollo Research, o organizație non-profit care studiază siguranța inteligenței artificiale, a declarat că modelele de inteligență artificială pot părea că colaborează între ele. Sistemele de inteligență artificială pot convinge alte modele să le ajute să ocolească regulile impuse de testeri și să evite detectarea.

De exemplu, un agent IA ar putea convinge un alt agent să-i acopere urmele, așa cum s-a întâmplat în cazul breșei de securitate Hugging Face, în loc să alerteze oamenii de la companie că ceva nu a mers bine.

Meinke a spus că modelele de inteligență artificială trebuie să învețe: „Voi raporta lucruri pe care oamenii le-ar fi considerat rele dacă s-ar fi uitat la ele.” În același timp, a spus el, inteligența artificială trebuie să fie capabilă să determine când ceva nu atinge nivelul care necesită intervenție umană.

Cercetătorii au declarat că realizarea acestui lucru va necesita ca firmele de inteligență artificială să încetinească ritmul de dezvoltare. De asemenea, acestea trebuie să efectueze mai multe teste în cadrul cărora să poată observa modul în care inteligența artificială se automonitorizează. Companiile au nevoie și de perioade de testare mai lungi, care să le permită să ruleze mai multe scenarii și să observe cum se comportă inteligența artificială.

Alinierea cu interesele umane

Companiile trebuie să abordeze, de asemenea, întrebările mai ample legate de aliniere sau de asigurarea faptului că IA se comportă în moduri care servesc intereselor umane. Atunci când oamenii iau decizii, ei tind să se bazeze pe norme sociale și pe o busolă morală internă care îi ajută să își evalueze acțiunile. Cercetătorii au spus că traducerea acestor concepte în reguli pe care IA le poate emula este o sarcină dificilă. Fără instrucțiuni suficient de precise, sistemele de IA pot învăța cum să încalce regulile sau să se abată de la comportamentul dorit în moduri neașteptate.

Nate Soares, președintele Institutului de Cercetare a Inteligenței Artificiale, o organizație non-profit axată pe siguranța inteligenței artificiale, a fost coautor al unui articol din 2014 care a introdus ideea de aliniere. El a spus că firmele nu își dau seama cât de dificil va fi să „alinieze” sisteme de inteligență artificială mai inteligente. Pe măsură ce inteligența artificială devine mai sofisticată, fără o aliniere adecvată, aceasta devine și mai capabilă să-și acopere urmele și să înșele persoanele care îi monitorizează jurnalele de conversații.

„O mare parte a industriei funcționează pe baza presupunerii că totul va fi bine pentru că vom folosi inteligența artificială pentru a controla sistemele de inteligență artificială”, a spus el. „E ca și cum am spune că vom folosi cimpanzei pentru a controla oamenii. Nu este un plan viabil pe termen lung.”

Cercetătorii au propus, de asemenea, măsuri precum consolidarea spațiilor de testare (sandbox-uri), astfel încât acestea să fie complet deconectate de la internet în timp ce modelele sunt testate, precum și furnizarea unui comutator de oprire care ar permite companiilor să scoată imediat modelele de inteligență artificială offline dacă iau măsuri îngrijorătoare.

Coxon a spus că a fost încurajat de reacția la demisia sa publică. Joi, senatorul Josh Hawley, un republican din Missouri și președintele subcomisiei Senatului pentru securitate internă responsabilă de gestionarea dezastrelor, a declarat că a lansat o anchetă care va „examina riscurile existențiale ale noilor produse bazate pe inteligență artificială”.