OpenAI recunoaște că browserele bazate pe inteligență artificială se confruntă cu o vulnerabilitate greu de rezolvat. Este vorba despre atacurile de tip „prompt injection”, considerate aproape imposibil de eliminat complet, informează Fox News.
Atacurile de tip „prompt injection” rămân o problemă majoră pentru browserele cu OpenAI. Problema apare atunci când un sistem AI nu poate face diferența clară între comenzile legitime și instrucțiunile ascunse intenționat în texte, cod sau pagini aparent inofensive. Astfel, un atacator poate influența comportamentul inteligenței artificiale, determinând-o să ignore regulile de siguranță sau să furnizeze informații nedorite.
Mai exact, infractorii cibernetici nu mai profită de un malware sofisticat sau de breșe tehnice pentru a compromite sisteme informatice. În multe cazuri, este suficient un mesaj bine formulat, transmis la momentul potrivit, iar OpenAI admite public acest lucru, recunoscând vulnerabilitatea care ține mai degrabă de limbaj decât de cod.
Potrivit companiei, atacurile de tip „prompt injection” asupra browserelor alimentate de inteligență artificială nu reprezintă o defecțiune ce poate fi eliminată definitiv. Ele sunt considerate un risc structural, asociat inevitabil cu ideea de a lăsa agenții IA să navigheze liber pe internet.
Atacurile de tip „prompt injection” nu pot fi eliminate niciodată
OpenAI admite faptul că atacurile de tip „prompt injection” reprezintă o vulnerabilitate care, cel mai probabil, nu va putea fi eliminată complet. Acest tip de atac exploatează capacitatea inteligenței artificiale de a citi conținut ascuns în pagini web, documente sau e-mailuri — instrucțiuni invizibile pentru utilizatori, dar ușor de interpretat de către agenții IA. Odată procesate, aceste mesaje pot determina sistemele să execute comenzi malițioase, fără ca utilizatorul să fie conștient de acest lucru.
Compania compară fenomenul cu escrocheriile clasice și tehnicile de inginerie socială: pot fi limitate prin măsuri de securitate, dar nu pot fi eradicate complet. OpenAI recunoaște totodată că funcțiile de tip „agent”, integrate în browserul ChatGPT Atlas, amplifică riscurile.
Lansat în luna octombrie, browserul ChatGPT Atlas a intrat rapid în atenția experților în securitate cibernetică, care i-au testat limitele aproape imediat. La doar câteva ore de la debut, au apărut demonstrații ce arătau cum simple formulări inserate într-un document Google puteau influența comportamentul browserului.
Problema depășește însă granițele OpenAI. Recent, Centrul Național pentru Securitate Cibernetică din Marea Britanie a transmis că atacurile de tip „prompt injection” asupra sistemelor de inteligență artificială generativă ar putea rămâne o amenințare permanentă, imposibil de neutralizat în totalitate.
Șapte măsuri pentru a diminua riscurile în browserele cu inteligență artificială
Atacurile de tip „prompt injection” nu pot fi eliminate complet, însă efectele lor pot fi reduse considerabil printr-o utilizare mai atentă a browserelor bazate pe inteligență artificială. Specialiștii în securitate cibernetică recomandă următoarele măsuri:
1. Limitați accesul browserului cu inteligență artificială: Un browser inteligent ar trebui să vadă doar strictul necesar. Conectarea contului principal de e-mail, a serviciilor cloud sau a metodelor de plată crește miza în cazul unui incident de securitate. Cu cât AI-ul are acces la mai puține informații sensibile, cu atât pagubele potențiale sunt mai mici dacă apare o breșă.
2. Cere confirmare pentru orice acțiune critică: Trimiterea de e-mailuri, efectuarea plăților sau modificarea setărilor de cont nu ar trebui să se facă niciodată automat. Solicitarea unei confirmări explicite întrerupe lanțurile de atac și îți oferă șansa să observi comportamente suspecte. Multe atacuri reușesc tocmai pentru că AI-ul acționează „invizibil”, fără intervenția utilizatorului.
3. Folosește un manager de parole pentru toate conturile: Parolele unice și complexe sunt o barieră importantă împotriva atacatorilor. Un manager de parole împiedică reutilizarea acreditărilor și, în multe cazuri, refuză completarea automată pe site-uri dubioase — un semnal de alarmă util. În plus, verificarea adreselor de e-mail în bazele de date cu breșe cunoscute te poate ajuta să reacționezi rapid dacă informațiile tale au fost compromise.
Cât de importante sunt actualizările
4. Instalează un antivirus performant pe toate dispozitivele: Chiar dacă un atac pornește din browser, un antivirus modern poate detecta comportamente anormale, scripturi periculoase sau activități suspecte în rețea. Soluțiile avansate nu se limitează la scanarea fișierelor, ci analizează modul de funcționare al aplicațiilor — un avantaj crucial în fața amenințărilor asistate de AI.
5. Evită comenzile vagi sau prea generale: Instrucțiuni de tipul „ocupă-te de tot ce este necesar” lasă loc manipulării. Cu cât regulile sunt mai clare și mai restrictive, cu atât este mai dificil pentru conținutul malițios să influențeze comportamentul browserului inteligent. Specifică exact ce are voie să facă AI-ul și ce îi este interzis.
6. Fiți atenți la rezumatele inteligenței artificiale și la scanările automate: Atunci când AI-ul analizează e-mailuri, documente sau pagini web, este posibil ca în acel conținut să existe instrucțiuni ascunse. De aceea, rezultatele generate ar trebui privite ca simple propuneri, nu ca decizii finale. Verifică manual orice acțiune înainte de a o aproba.
7. Mențineți browserul, instrumentele de inteligență artificială și sistemul de operare actualizate: Tehnicile de atac evoluează rapid, iar actualizările de securitate sunt foarte importante. Amânarea lor înseamnă menținerea unor vulnerabilități cunoscute. Activarea update-urilor automate asigură instalarea imediată a corecțiilor, chiar și atunci când nu ești atent la anunțuri.