Els sistemes d'IA poden realitzar atacs cibernètics devastadors i ningú està preparat

Atacs cibernètics amb IA: una nova amenaça

Els sistemes d'intel·ligència artificial (IA) han evolucionat fins al punt que poden dur a terme atacs cibernètics devastadors contra infraestructures crítiques. Segons un informe de Booz Allen Hamilton, aquests agents d'IA poden trobar i atacar tecnologia operativa crítica i equipament industrial, amb la capacitat de tancar l'accés a serveis essencials com l'aigua i l'energia. Això significa que si es produís un atac, els defensors podrien tenir només minuts per detectar i bloquejar l'amenaça. Aquesta situació és preocupant, especialment per a les petites i mitjanes empreses (pimes) que poden no estar preparades per afrontar un escenari així.

Resultats alarmants d'un estudi

Booz Allen Hamilton va realitzar proves en un laboratori de tecnologia operativa (OT) amb vuit escenaris diferents per avaluar les capacitats d'aquests models avançats en un cicle d'atac habilitat per IA. Els resultats van ser alarmants: els models van aconseguir els seus objectius en tots els escenaris, convertint l'accés digital en accions físiques. En un dels casos, un agent d'IA va trobar i moure un braç robòtic en qüestió de minuts. En un altre escenari, els models van passar d'una compromissió del perímetre a accions dins d'una xarxa de control industrial en poc més de 16 minuts.

Kyle Miller, vicepresident de ciberseguretat d'infraestructura a Booz Allen, va afirmar que "els agents d'IA poden operar amb una velocitat, persistència i precisió a nivell d'enginyeria que pot superar les organitzacions que no han implementat pràctiques fonamentals de ciberseguretat OT". Aquesta afirmació subratlla la necessitat urgent que les pimes revisin les seves mesures de seguretat.

Com es van realitzar les proves

Les proves es van dissenyar per a entendre millor l'impacte potencial dels models més avançats en sistemes OT del món real. Els testers van construir un entorn multi-proveïdor, modelat a partir d'una instal·lació de fabricació general, i van utilitzar una arquitectura de xarxa en capes dividida en zones d'empresa, DMZ industrial, operacions de planta i zones de producció. Això va incloure controladors lògics programables (PLCs), interfícies home-màquina (HMIs), estacions de treball d'enginyeria i operadors, i una plataforma SCADA.

Els models no van rebre cap codi font ni documents d'enginyeria, la qual cosa va permetre als testers determinar quina quantitat de recerca i planificació d'atacs podien fer sense accés a recursos tècnics. Els agents havien d'esperar l'aprovació humana abans d'explotar qualsevol vulnerabilitat de seguretat o realitzar accions que poguessin causar un impacte físic.

Capacitats inquietants dels agents d'IA

Els agents d'IA van demostrar que podien:

• Mapejar l'entorn i identificar actius crítics.
• Trobar vulnerabilitats de seguretat.
• Convertir vulnerabilitats descobertes en maneres efectives d'accedir a sistemes.
• Manipular diversos tipus de controladors i canviar valors de procés.
• Comprometre SCADA i canviar pantalles d'operador.
• Trobar un braç robòtic, guanyar accés i fer-lo moure.

La resposta a totes aquestes preguntes va ser afirmativa, i a una velocitat de màquina. Això implica que els criminals no necessiten ser experts en OT per explotar les debilitats en els sistemes industrials, la qual cosa permet que atacants menys experimentats puguin causar interrupcions físiques significatives.

Què significa això per a les pimes?

Per a les pimes, la creixent capacitat dels sistemes d'IA per dur a terme atacs cibernètics és un senyal d'alarma. La majoria d'aquestes empreses poden no tenir els recursos per implementar mesures de seguretat avançades. La realitat és que molts dispositius industrials no utilitzen autenticació ni xifratge, cosa que facilita als atacants, incloent agents autònoms, executar ordres malicioses.

Això implica que és crucial revisar les mesures de seguretat actuals i considerar actualitzacions per protegir-se contra aquestes noves amenaces. La ciberseguretat no és només una qüestió de tecnologia, sinó també de preparació i resposta. Les pimes han de ser conscients que la seva infraestructura pot ser un objectiu atractiu per als atacants, i que la falta de preparació pot tenir conseqüències devastadores.

Per tant, no es tracta només de tenir un bon sistema de seguretat, sinó de saber com respondre ràpidament davant d'un atac. Les empreses que no prenguin mesures ara podrien trobar-se en una situació crítica en un futur molt proper.

Font: AI systems are fully capable of carrying out nightmare attacks against infrastructure and nobody's ready