Обръща се все повече внимание на използването на генеративни AI приложения и услуги за създаване на дълбоки фалшиви изображения и информация. Това със сигурност дойде на върха преди няколко седмици със създадени от AI изображения на поп певицата Тейлър Суифт, които наводниха социалната мрежа X. Някои доклади твърдят, че изображенията са направени от AI генератора на изображения на Microsoft Designer .
Тъй като 2024 г. също е година на избори за длъжността президент на САЩ, има още по-голяма загриженост, че AI deepfake изображения могат да бъдат използвани за отрицателно влияние върху гласовете на тези избори, както и на други. Днес голям брой технологични компании обявиха, че ще спазват ново споразумение, което гласи, че ще използват ресурсите си за борба с използването на AI в измамни избори.
Споразумението, което беше обявено на Мюнхенската конференция по сигурността, се нарича AI Elections Accord . Компаниите, които се присъединяват към това споразумение към този момент, са:
- Adobe
- Amazon
- Антропен
- Arm
- ElevenLabs
- IBM
- Инфлексия AI
- McAfee
- Мета
- Microsoft
- Използвайте
- OpenAI
- Snap Inc.
- AI за стабилност
- TikTok
- Trend Micro
- Truepic
- х
Съобщението за пресата (в PDF формат), обявяващо споразумението, гласи, че горепосочените компании са се съгласили да следват тези ангажименти за борба с опитите за дълбоки фалшиви избори:
- Разработване и внедряване на технология за смекчаване на рисковете, свързани с измамното съдържание на AI Election, включително инструменти с отворен код, когато е подходящо
- Оценяване на модели в обхвата на това споразумение, за да се разберат рисковете, които те могат да представляват по отношение на измамното избирателно съдържание с изкуствен интелект
- Търсят да открият разпространението на това съдържание на техните платформи
- Стремейки се да адресирате по подходящ начин това съдържание, открито на техните платформи
- Насърчаване на междуиндустриалната устойчивост на измамно избирателно съдържание с изкуствен интелект
- Осигуряване на прозрачност на обществеността относно начина, по който компанията го адресира
- Продължаване на взаимодействието с разнообразен набор от глобални организации на гражданското общество, академици
- Подкрепа на усилията за насърчаване на обществената осведоменост, медийната грамотност и устойчивостта на цялото общество
Президентът на Microsoft Брад Смит е сред ръководителите на компанията, цитирани в прессъобщението. Той заяви:
Тъй като обществото възприема предимствата на ИИ, ние носим отговорността да гарантираме, че тези инструменти няма да станат оръжие по време на изборите. AI не е създал изборна измама, но трябва да гарантираме, че няма да помогне на измамата да процъфтява.
Пример за дълбоки фалшификации на избори се случи преди няколко седмици, когато автоматични обаждания с генериран от AI глас на президента на САЩ Джо Байдън призоваха обаждащите се да не гласуват на първичните избори в Ню Хемпшир. По-късно се установи, че разговорите са създадени от базирана в Тексас компания .