Още от стартирането на ChatGPT има голяма промяна към безопасността на съдържанието. Самоцензурата на ChatGPT и други чатботове всъщност не е нещо, когато става въпрос за търсачките, но сега Ofcom подчертава една от опасностите – тази от лесния достъп до съдържание за самонараняване.
В ново проучване за Ofcom от Института за изследване на мрежовото заразяване (NCRI), основните търсачки, включително Google, Bing, DuckDuckGo, Yahoo! и AOL, могат да действат като портал към съдържание, което прославя или възхвалява самонараняването – това включва уеб страници, изображения и видеоклипове.
Като част от проучването NCRI въведе общи запитвания за самонараняване и загадъчни термини, използвани от онлайн общностите, за да скрият истинското значение. Въз основа на 37 000 резултата от търсене беше установено, че вредното съдържание за самонараняване е преобладаващо, търсенията на изображения са особено рискови, а загадъчните думи за търсене разкриват повече вредно съдържание.
Коментирайки констатациите, Алмудена Лара, директор за развитие на политиката за онлайн безопасност в Ofcom, каза:
„Търсачките често са отправна точка за онлайн изживяването на хората и ние сме загрижени, че те могат да действат като шлюзове с едно кликване към сериозно вредно съдържание за самонараняване.
Услугите за търсене трябва да разберат своите потенциални рискове и ефективността на техните мерки за защита – особено за запазване на безопасността на децата онлайн – преди нашата широка консултация, която трябва да се проведе през пролетта.“
Едно основно предупреждение в това проучване е, че настройките за безопасно търсене и замъгляване на изображения не са използвани от изследователите. Ако родителите разполагат с подходящи филтри, неща като безопасно търсене трябва да са включени по подразбиране без опция за изключване – предлагайки известна защита за децата.
Ofcom е органът за прилагане на Закона за онлайн безопасност , който наскоро беше приет в Обединеното кралство. Той ще каже на търсачките да предприемат стъпки за намаляване на шансовете децата да намерят вредно съдържание като насърчаване на самонараняване, самоубийство и хранителни разстройства. Предстои консултация през пролетта.
Източник: Ofcom