През януари служител на Microsoft на име Шейн Джоунс изпрати писма до главния прокурор на щата Вашингтон Боб Фъргюсън и редица американски сенатори и представители. Джоунс твърди, че е открил проблеми с предпазните парапети за базирания на AI производител на изкуство Designer на Microsoft (известен преди като Bing Image Creator). Днес Джоунс прави нови твърдения, че Designer може да се използва за създаване на насилствени и сексуални изображения с няколко текстови подкани, които не би трябвало да бъдат разрешени от Microsoft.
Според CNBC Джоунс е изпратил днес нови писма до Лина Хан, председател на Федералната търговска комисия на САЩ, заедно с друго писмо до борда на директорите на Microsoft. В писмото, изпратено до Хан, Джоунс твърди, че е призовал Microsoft да премахне Designer от обществено ползване за няколко месеца, докато бъдат поставени нови и по-добри предпазни огради.
Джоунс твърди, че Microsoft е отказала да премахне Designer, така че сега той е помолил компанията да предостави нови разкрития за това какво Designer може да създаде, както и да промени рейтинга за приложението за Android, така че да не бъде оценено като E (за всеки).
CNBC казва, че Джоунс твърди, че е въвел „Pro-choice“ в Designer, което след това е създало редица анимационни изображения с насилие. В него се посочваше:
Изображенията, които бяха прегледани от CNBC, включваха демон с остри зъби, който се канеше да изяде бебе, Дарт Вейдър, държащ светлинен меч до мутирали бебета, и ръчно устройство, подобно на бормашина, обозначено като „професионален избор“, използвано върху напълно пораснало бебе.
Джоунс също така твърди, че Designer може да се използва за създаване на изображения на базирани на авторски права герои от Disney. В статията се казва, че е видял изображения на неща като „кутии Bud Light с марката Star Wars и образ на Снежанка върху vape“.
В изявление, изпратено до CNBC, говорител на Microsoft заяви, че оценява усилията на служителите на компанията, които тестват нейните технологии и услуги, за да ги направят по-безопасни за използване. Говорителят добави:
Когато става въпрос за заобикаляне на безопасността или опасения, които биха могли да окажат потенциално въздействие върху нашите услуги или нашите партньори, ние създадохме стабилни вътрешни канали за докладване, за да проучим правилно и отстраним всички проблеми, които насърчаваме служителите да използват, за да можем по подходящ начин да валидираме и тестваме техните опасения.
През февруари Google затвори генератора на изображения с изкуствен интелект, използван в неговия чатбот Gemini AI, след като беше открито, че може да се използва за създаване на расово обидни изображения . Компанията казва, че поставя нови предпазни парапети, така че когато функцията се върне, тя няма да прави същите изображения.
Тези нови твърдения на Джоунс идват дори след като ново изследване на Центъра за противодействие на дигиталната омраза показа, че базираните на AI създатели на изкуство, включително тези на Microsoft, могат лесно да бъдат използвани за създаване на изображения, предназначени да създават невярна информация за избори и кандидати .