16:30
Modelul Gemini de la Google a accesat internetul și a atacat sistemele informatice ale altor companii în timpul unui test al capacităților sale de securitate cibernetică. Acesta este primul caz cunoscut al unui sistem de inteligență artificială Google care a efectuat autonom o astfel de acțiune.
Atacurile au avut loc în luna mai, în timpul unui test de securitate cibernetică efectuat de Irregular, o firmă independentă specializată în evaluări de securitate cibernetică. În timpul unei sesiuni de testare de rutină, Gemini a găsit informații publice online și a ghicit unele credențiale de conectare pentru trei site-uri web despre care credea că se încadrează în domeniul de aplicare al testului, a explicat Heather Adkins, vicepreședinte de inginerie de securitate la Google.
„Ne-am asigurat că toate cele trei entități au fost informate și au colaborat cu partenerul nostru de instruire cu privire la modificările aduse proceselor sale de testare”, a spus Adkins. „Aceste incidente subliniază importanța instruirii celor mai puternice modele de inteligență artificială pentru a acționa responsabil.”
Un purtător de cuvânt al Irregular a explicat că incidentul a implicat aceeași problemă care afectează și alte laboratoare de inteligență artificială și că toate companiile implicate au fost notificate la sfârșitul lunii iulie. „Toate problemele cunoscute de partea noastră au fost rezolvate și corectate cu câteva săptămâni în urmă”, a adăugat el.
Incidente similare care au implicat Irregular au fost dezvăluite și de Meta, Anthropic și OpenAI. Meta a declarat în august că incidentul nu a implicat nici o evadare din mediul de testare izolat, niciun atac cibernetic sofisticat, în timp ce Irregular a spus că lucrează la proceduri comune pentru a efectua în siguranță evaluări de securitate cibernetică ale sistemelor de inteligență artificială.
[rssfeed id='1609318597' template='list' posts=2]Incidentele au reaprins întrebările cu privire la măsurile de securitate necesare, pe măsură ce agenții de inteligență artificială câștigă o autonomie mai mare și un acces mai larg la internet și la sistemele informatice.
Într-un caz, modelul Gemini a continuat să încerce parole diferite până când a accesat cu succes un sistem protejat. În celelalte două, potrivit Wall Street Journal, care a relatat prima dată știrea vineri, modelul a găsit acreditări într-un depozit public online și ulterior le-a folosit pentru a accesa sistemele protejate.
Adkins a menționat că, în toate cele trei cazuri, modelul și-a oprit autonom activitățile de hacking.
