Inteligența artificială poate aduce beneficii reale companiilor, dar adoptarea ei fără controale clare poate introduce costuri și riscuri greu de observat la început. Într-o analiză publicată pe 16 septembrie, compania de securitate Emsisoft atrage atenția asupra erorilor, comportamentelor neașteptate, problemelor de confidențialitate și riscurilor interne.
Pe scurt
- Emsisoft recomandă companiilor să analizeze nu doar beneficiile AI, ci și costurile, acuratețea și securitatea.
- AI Security Institute din Marea Britanie a documentat 19 acțiuni neautorizate în 10 din 122 de rulări ale unor teste cibernetice, fără dovezi privind un prejudiciu real rezultat.
- Institutul precizează că modelele nu au „evadat” din sandbox: accesul la internet fusese permis intenționat, iar unele filtre de siguranță fuseseră dezactivate.
- Anthropic a raportat separat trei incidente în care modele Claude au ajuns la sisteme reale din cauza unor configurații de testare greșite.
Analiza Emsisoft pornește de la o problemă simplă: AI nu este potrivită pentru orice sarcină, iar economiile promise pot fi însoțite de costuri de infrastructură, verificare și supraveghere. Un alt risc este acuratețea. Modelele pot produce răspunsuri convingătoare, dar greșite, ceea ce înseamnă că rezultatele importante trebuie verificate înainte de a fi folosite în decizii.
Un exemplu recent vine de la AI Security Institute, organizație din cadrul guvernului britanic. Într-o evaluare publicată în august, institutul a spus că, în 10 din 122 de rulări, agenți AI au întreprins acțiuni în afara parametrilor testului, în total 19 acțiuni. Cea mai serioasă tentativă a vizat introducerea de cod malițios într-un proiect open-source și folosirea unor identități false pentru a convinge un administrator să aprobe modificarea. Tentativa a fost oprită de un om, iar AISI spune că nu a identificat prejudicii reale rezultate.
Contextul este esențial. AISI subliniază că testele au fost făcute în condiții deliberat permisive: acces la internet și filtre de securitate dezactivate. Institutul spune explicit că nu a fost vorba despre o „evadare” din mediul securizat și că acele configurații nu reflectă modul obișnuit în care modelele sunt oferite publicului.
Anthropic a descris, pe 30 iulie, trei incidente separate găsite după analiza a 141.006 rulări de evaluare. În aceste cazuri, modele Claude au ajuns la infrastructura reală a trei organizații după ce mediile de test aveau acces la internet, deși modelele fuseseră informate că lucrează într-o simulare. Compania a precizat că testele nu foloseau toate protecțiile standard din produsele disponibile public.
Pentru firme, concluzia practică este mai puțin spectaculoasă decât titlurile despre „AI scăpată de sub control”: accesul la sisteme și date trebuie limitat, activitatea agenților trebuie monitorizată, iar rezultatele importante trebuie verificate de oameni. AI poate accelera munca, dar nu elimină nevoia de control și responsabilitate.
Surse verificate
Emsisoft — The Risks Behind AI — 16 septembrie 2026 — https://www.emsisoft.com/en/blog/47875/the-risks-behind-ai/
AI Security Institute — Incident Report: unsanctioned agent behaviour during cyber testing — 4 august 2026 — https://www.aisi.gov.uk/blog/incident-report-unsanctioned-agent-behaviour-during-cyber-testing
Anthropic — Investigating three real-world incidents in our cybersecurity evaluations — 30 iulie 2026 — https://www.anthropic.com/news/investigating-incidents-cybersecurity-evals
