Не е шокиращо да научите, че организираните киберпрестъпници започват да използват генеративни AI инструменти и услуги за нови видове атаки. Днес получихме много повече информация за това как тези спонсорирани от държавата хакери използват големи езикови модели.
В публикация в блог Microsoft, в партньорство с OpenAI, обяви ново изследване за това как хакерите използват LLMs. То включва информация за конкретни групи, които са идентифицирани като използващи генеративни AI инструменти.
Групите са базирани в страни като Русия, Северна Корея, Иран и Китай. Една от тях е обозначена като Forest Blizzard и е свързана с руското звено 26165 на ГРУ. Microsoft казва, че групата е била активна в насочването към организации, които са свързани с продължаващото нахлуване в Украйна.
Microsoft твърди, че Forest Blizzard е използвал LLMs „за разбиране на сателитни комуникационни протоколи, технологии за радарни изображения и специфични технически параметри“. Неговите изследвания добавят, че тази група се опитва да автоматизира задачи като избор на файлове и манипулиране също с LLMs.
Друга киберпрестъпна група, която според Microsoft използва AI, е обозначена като Salmon Typhoon. Базираната в Китай група има история на набелязване на правителствени и американски отбранителни изпълнители. Според Microsoft Salmon Typhoon е използвал LLM по различни начини. Те включват намиране на грешки в кодирането и превод на технически изчислителни документи.
Microsoft казва, че ще продължи да си партнира с OpenAI за изследване на използването на AI от киберпрестъпниците.
Като част от този ангажимент ние предприехме мерки за прекъсване на активи и акаунти, свързани с участници в заплахи, подобряване на защитата на OpenAI LLM технологията и потребителите от атака или злоупотреба и оформяне на предпазните парапети и механизмите за безопасност около нашите модели.
Компанията добави, че ще използва своя собствена услуга Copilot for Security, за да преследва тези киберзаплахи, базирани на LLM.