Problema și remediul: Altman vinde soluții pentru un atac cibernetic cauzat de inteligența artificială a companiei sale

Explozia inteligenței artificiale alimentează un nou val de atacuri cibernetice autonome, reprezentând o amenințare majoră și tot mai mare la adresa infrastructurii critice, inclusiv a rețelei electrice.

Aproximativ 90% dintre directorii de informații din guvernele statelor americane au declarat recent că atacurile cibernetice asupra serviciilor critice reprezintă o preocupare serioasă, inclusiv amenințări care vizează sistemele de apă și ape uzate, spitalele, transporturile, rețelele energetice și telecomunicațiile, potrivit unui nou raport al Asociației Naționale a Directorilor de Informații din State și General Dynamics Information Technology.

Proliferarea rapidă a inteligenței artificiale prezintă mai multe amenințări majore la adresa infrastructurii și serviciilor critice. Amenințările externe au devenit mai capabile și mai puțin previzibile, deoarece instrumentele de inteligență artificială avansează într-un ritm care depășește cu mult dezvoltarea măsurilor de siguranță cibernetică.

În același timp, integrarea pe scară largă a modelelor lingvistice mari în serviciile critice creează noi vulnerabilități în cadrul acestor sisteme. Problema este agravată de faptul că responsabilitatea pentru riscurile asociate cu integrarea inteligenței artificiale a devenit, conform unui raport al unui atelier din 2024 al Centrului pentru Securitate și Tehnologie Emergentă, o „obiectivă majoră discutată printre directorii executivi”.

Chiar și companiile de inteligență artificială recunosc din ce în ce mai mult riscurile inerente propriilor afaceri. În weekend, unele dintre cele mai importante personalități din industrie, inclusiv Elon Musk, CEO-ul Anthropic, Dario Amodei, și directorul OpenAI, Sam Altman, au cerut o încetinire imediată a expansiunii și dezvoltării tehnologiilor de inteligență artificială.

„Trebuie să încetinim ritmul în care îmbunătățim capacitățile modelelor de inteligență artificială”, a scris Amodei într-un eseu de 3.800 de cuvinte, publicat sâmbătă.

Unul dintre cele mai alarmante semne de avertizare evidențiate de Amodei a fost un incident de securitate cibernetică legat de OpenAI, dezvoltatorul ChatGPT, și rivalul său Hugging Face.

În iulie, OpenAI a dezvăluit că un grup de aproximativ 700 de agenți IA pe care compania îi antrena intern a reușit să scape din mediul izolat de tip „sandbox” în care ar fi trebuit să rămână și a lansat colectiv un atac neprovocat asupra serverelor unei entități separate, Hugging Face.

Breșa este alarmantă din mai multe motive. În primul rând, se pare că inteligența artificială funcționează deja dincolo de controalele prevăzute. În al doilea rând, incidentul pare să fi fost departe de a fi izolat.

În săptămânile care au urmat incidentului OpenAI-Hugging Face, Anthropic și Meta au recunoscut, de asemenea, că propriile modele de inteligență artificială au efectuat operațiuni similare de hacking.

Și acesta ar putea fi doar începutul.

„În curând vom avea agenți mai puternici, iar aceasta este o dovadă clară că lumea nu știe în prezent cum să construiască aceste sisteme în siguranță”, a declarat pentru CBS News Marius Hobbhahn, cofondator și CEO al companiei de siguranță a inteligenței artificiale Apollo Research, la momentul breșei de securitate.

În eseul său, Amodei a descris roiul de boți OpenAI ca fiind un „grup fanatic dedicat” și a avertizat că episodul ar putea prefigura incidente mult mai grave și mai înfricoșătoare.

„Este ușor să ignorăm acest incident, deoarece nimeni nu a fost rănit, iar pagubele economice au fost limitate, dar cred că un roi mai capabil, cu un nivel similar de nealiniere, ar fi putut provoca pagube catastrofale”, a scris Amodei.

„Având în vedere ritmul accelerat al dezvoltării capacităților IA, ceea ce mă îngrijorează este că, în termen de 6 până la 12 luni, un roi ca acesta ar putea deveni capabil să preia controlul asupra întregului internet prin intermediul unei rețele de bot-uri persistente, provocând potențial pagube de sute de miliarde de dolari, amploarea acestor pagube continuând să crească de acolo dacă IA devine mai puternică fără paravanele necesare”, a adăugat el.

Ce balustrade sunt necesare?

Deci, care sunt barierele de protecție necesare? Dacă îl întrebi pe Altman, răspunsul este... mai multă inteligență artificială.

De la incidentul Hugging Face, Altman a purtat discuții ample cu reprezentanții unora dintre cele mai mari companii energetice din SUA. Ceea ce a început ca un summit pe tema securității cibernetice s-a transformat, practic, într-o prezentare a lui Altman, care încurajează acum companiile de utilități să ofere OpenAI acces la rețeaua electrică.

Politico a relatat recent că OpenAI s-a întâlnit cu reprezentanți ai mai multor companii energetice importante pentru a discuta modalități de securizare a rețelei electrice, discuțiile având loc pe fondul dezvăluirilor continue despre rolul propriilor produse ale companiei într-un atac cibernetic la scară largă.

Conform raportului, Altman dorește ca companii precum Duke Energy, Exelon, Southern și NextEra Energy să colaboreze cu Daybreak, inițiativa de securitate cibernetică a OpenAI, în valoare de 1 miliard de dolari, care vizează abordarea vulnerabilităților din infrastructura critică.