A finals de l'estiu del 2021, al SOC.infordisa ja vam publicar un post sobre la perillositat del mal ús de les imatges generades amb la IA. Amb el post “No tot és el que sembla” ja fèiem una reflexió del que poden comportar tots aquests avenços.
Augment mensual del 200-300% de vídeos a Youtube que contenen enllaços a malware
Des de novembre de 2022, hi ha hagut un augment mensual del 200-300% en els vídeos de Youtube que contenen enllaços a codi maliciós com: Vidar, RedLine i Raccoon a les seves descripcions. Els vídeos atrauen els usuaris fent-se passar per tutorials sobre com descarregar versions desxifrades de programari com Photoshop, Premiere Pro, Autodesk 3D Max, AutoCAD i altres productes que són productes amb llicència disponibles només per a usuaris pagaments.
En general, els vídeos utilitzen un enregistrament de pantalla o un recorregut en àudio dels passos per descarregar i instal lar el programari. No obstant això, recentment hi ha hagut un augment en lús de vídeos generats per IA des de plataformes com Synthesia i D-ID, que s'utilitzen als vídeos. És ben sabut que els vídeos que mostren humans, especialment aquells amb certs trets facials, semblen més familiars i fiables. Per tant, hi ha hagut una tendència recent de vídeos que presenten personatges generats per IA, en tots els idiomes i plataformes (Twitter, Youtube, Instagram), que ofereixen detalls de reclutament, capacitació educativa, material promocional, etc. I els ciberdelinqüents han adoptat aquesta tàctica.
Youtube com a canal de distribució de codi maliciós (malware)
Amb més de 2500 milions dusuaris mensuals actius, Youtube és una plataforma popular i versàtil. Des d'entreteniment i ressenyes fins a receptes i material educatiu, Youtube és utilitzat per una àmplia gamma d'usuaris de tots els grups demogràfics.
Si bé Youtube és una manera fàcil d'arribar a milions d'usuaris, les regulacions i el procés de revisió de la plataforma dificulten que els actors d'amenaces tinguin comptes actius a llarg termini a la plataforma. Quan alguns usuaris s'han vist afectats, el vídeo generalment s'elimina i el compte es bloqueja. Per tant, els actors d'amenaces sempre estan buscant noves maneres d'eludir l'algorisme i el procés de revisió de la plataforma.
Des de novembre de 2022, CloudSEK ha observat un augment mensual de 2 a 3 vegades en la quantitat de vídeos que difonen codi maliciós.
Robatoris de comptes de youtube
Els actors d'amenaces utilitzen fuites de dades anteriors, tècniques de phishing i registres de lladres per apoderar-se dels comptes de Youtube existents. S'adrecen tant a usuaris actius (amb una quantitat significativa de subscriptors i càrregues) i usuaris menys actius.
Hi ha hagut diversos informes i queixes sobre les adquisicions de comptes de Youtube. Els ciberdelinqüents pugen immediatament 5-6 vídeos al compte.
Enllaços ofuscats cap a malware
L'enllaç maliciós per descarregar l'arxiu amb malware generalment s'inclou a la descripció del vídeo. No obstant això, aquests enllaços no semblen sospitosos perquè els atacants usen:
- Escurçadors de URL com bit.ly i cutt.ly
- Enllaços a plataformes d'allotjament d'arxius com a mediafire.com
- Enllaços que descarreguen directament el fitxer zip maliciós
Els llocs web comunament vistos que s'utilitzen a la cadena d'infecció s'enumeren al quadre a continuació:
Consells per evitar ser enganyats per la IA
No cal dir que evitar la recerca de com instal·lar programari pirata, és el primer 😅
Aquí us llistem els consells per evitar ser enganyat amb imatges i vídeos generats per la Intel·ligència Artificial:
Verificar la font de la imatge o el vídeo: assegura't que provingui d'una font fiable i legítima.
Investiga la imatge o el vídeo: intenta cercar informació addicional sobre la imatge o el vídeo per verificar la seva autenticitat.
Comprova la qualitat de la imatge o el vídeo: si la qualitat de la imatge o el vídeo sembla massa bona per ser veritat, és possible que hagi estat generada per una IA.
Para atenció als detalls: cerca inconsistències o anomalies a la imatge o el vídeo que pugui indicar que ha estat manipulat per una IA.
Fes servir eines de detecció d'imatges generades per IA: hi ha eines en línia que poden ajudar a determinar si una imatge ha estat generada per una IA. Eines com aquesta.
No confiar en imatges o vídeos sense corroborar: no comparteixis ni prenguis decisions importants basades en imatges o vídeos sense corroborar la seva autenticitat.
Mantenir-se informat sobre la tecnologia de generació d'imatges per IA: la tecnologia està en constant evolució, i conèixer les seves limitacions i capacitats et pot ajudar a detectar imatges o vídeos generats per IA.
Pel que fa al punt 4, a continuació us deixem un fil de Twitter del 13 de gener on es detecta que les imatges generades per IA tenen problemes amb la quantitat de dits i dents de les persones. 😁
Midjourney is getting crazy powerful—none of these are real photos, and none of the people in them exist. pic.twitter.com/XXV6RUrrAv
— Milers (@mileszim) January 13, 2023
Us deixem amb una mostra de vídeo generat amb bones intencions generat amb IA.
