Инженер компании Microsoft, Шейн Джонс, обнаружил уязвимости в генераторе изображений Copilot Designer, которые позволяют создавать неприемлемые картинки.
Джонс уже обратился с письмом к Федеральной торговой комиссии США и руководству корпорации, указав на широкие возможности злоупотребления, сопутствующие использованию нейросетей. В частности, система способна генерировать изображения, иллюстрирующие насилие над женщинами или употребление алкоголя несовершеннолетними. Она делает это, основываясь даже на безобидных запросах пользователей. Кроме того, программа может нарушать авторские права, используя различных персонажей в любых контекстах, включая политические лозунги.
Джонс заявил, что отсутствует эффективная система для сообщения о распространении вредных и тревожных изображений по всему миру. Не существует номера телефона, по которому можно позвонить для решения проблемы. Он проинформировал руководство о рисках, связанных с Copilot Designer, и предложил изменить рейтинг приложения для подростков и взрослых. Руководство признало проблему, но не прекратило публичное использование ИИ, несмотря на то, что команда Copilot ежедневно получает более 1000 жалоб на этот продукт. Это может быть обусловлено значительными затратами на переобучение модели и внедрение новых механизмов защиты.
Технический директор Smart Engines отметил, что общая проблема генеративных нейросетей заключается в сложности определения, что приемлемо, а что нет для генеративного ИИ. Эти модели не обладают полноценным интеллектом и имитируют художественные способности только в ограниченной области. Они абсолютно не оперируют понятием приемлемости, поэтому нарушения неизбежны.
Также появляются нарушения авторских прав, когда авторизованный контент попадает в обучающую выборку, что увеличивает вероятность его использования нейросетью. Эксперты советуют применять юридически корректные методы для приобретения контента или оперировать свободным от прав владения контентом, чтобы предотвратить такие проблемы. Однако такие действия помогут только защитить реальных художников от кражи и не решат проблему с ИИ.
Технический директор отмечает, что на данный момент решение этой проблемы является сложным заданием, поскольку отсутствует законодательная база, регулирующая использование нейросетей.
Подписывайтесь на наш Telegram-канал, чтобы всегда оставаться в курсе событий.
