0
https://www.washingt...ct-amazon-etsy/
Цитата
Раскраски, справочники по растениям и товары для дома, созданные искусственным интеллектом, заполняют интернет-магазины, поскольку продавцы пытаются быстро заработать.
Хизер Келли
14 сентября 2023 г., 6:00 по восточному времени.
Изображение открытой книжки-раскраски с двумя страницами. На одной странице изображено лицо женщины, но ее рука исчезает в шее. С другой стороны, женщина держит цветок, но ее пальцы вдвое длиннее обычных.
(The Washington Post; iStock; Der vive)
Слушать
9 минут
Делиться
Комментарий
540
Есть что-то неладное в черно-белых рисунках из «Шепота цветов. Книжка-раскраска для женщин».
На первый взгляд, книга представляет собой всего 26 страниц с изображением красивых женщин с впечатляющим костяком, окруженных цветами или покрытых цветами. Но присмотритесь, и вы увидите, что у некоторых нет нужного количества пальцев или пальцы удлинены, образуя жуткие инопланетные руки.
Технология не ваш друг. Мы. Подпишитесь на новостную рассылку The Tech Friend.
Книга автора «Der Vive» в мягкой обложке стоимостью 7,95 долларов, доступная на Amazon , имеет все признаки того, что она создана искусственным интеллектом. Он опубликован неизвестным автором, не имеющим истории в Интернете. Отзывов нет, и он был добавлен в список только последние несколько месяцев. Все изображения имеют какие-то искажения или странности, которые обычно связаны с искусственным интеллектом, например, неправильные пропорции тела и по крайней мере одна путаница между цветком и грудью.
Легкодоступный искусственный интеллект меняет то, как мы общаемся, работаем и творим. Теперь он проникает в электронную коммерцию, поскольку созданные искусственным интеллектом книги для самопомощи, кружки, настенные рисунки и книжки-раскраски распространяются на таких онлайн-рынках, как Amazon и Etsy. Сторонние продавцы не обязаны раскрывать то, что создано ИИ, и практически невозможно подтвердить, является ли что-то ИИ, просто по внешнему виду. Конечным результатом является еще больше мошеннических продуктов в и без того запутанной среде онлайн-покупок. Для потребителей это может означать случайную покупку чего-то низкого качества или даже причинение вреда средствам существования настоящих художников.
«Это мошенничество», — сказал Генри Эйдер, исследователь и эксперт по генеративному искусственному интеллекту и дипфейкам. «Это всего лишь расширение практики, которая существует уже давно. Раньше это могли быть люди, которые крали чужие работы и помещали их на футболки, занимаясь плагиатом книги. Это во многом та же модель, что и с людьми, использующими ИИ».
Страница Amazon с чтением «Цветочный шепот: раскрасочное приключение для женщин. Дань женственности и чарующей красоте цветущих цветов - художественное почитание женщин и цветочной магии».
Листинг одной из купленных мной книг на Amazon и ее очень информативное название. (Вашингтон Пост; Amazon)
Что плохого в покупке товаров, созданных ИИ?
Есть люди, даже художники, создающие продукты или вещи, генерируемые искусственным интеллектом, которые прозрачны в этом процессе. Другие предметы могут не раскрывать свое происхождение, но они настолько явно созданы искусственным интеллектом, что не оставляют сомнений и даже добавляют привлекательности.
«Я думаю, что аспект новизны и сверхъестественная странность искусства ИИ могут сделать его очень привлекательным для некоторых людей», — сказала Бритт Пэрис, доцент Университета Рутгерса, изучающая ИИ и дипфейки. «Поначалу я видел людей, которые хотели повесить на стену какое-то причудливое произведение искусства и хвастаться тем, что оно сделано с помощью ИИ».
Однако в ситуациях, когда участие ИИ неочевидно или нежелательно, продукт может оказаться мошенничеством, откровенным мошенничеством и даже опасным, говорят эксперты. Продавцы часто используют ИИ, чтобы сократить затраты и время, а также извлечь выгоду из популярных категорий товаров и получить легкий доход.
Проблемы авторского права и интеллектуальной собственности , связанные с ИИ, все еще остаются в воздухе. Самые популярные инструменты генеративного искусственного интеллекта, такие как ChatGPT от OpenAI, генератор изображений Dall-E, Bard от Google и Stable Diffusion от Stability AI, были обучены на контенте, полученном из Интернета, включая изображения и тексты, защищенные авторским правом. Оригинальные авторы — писатели, иллюстраторы, художники, репортеры и фотографы — заявляют, что им не платят и не приписывают их работу.
ИИ можно даже использовать для имитации конкретных креативов.
Многие генераторы изображений использовались для создания произведений искусства в стиле польского художника Грега Рутковски , который создает сложные фэнтезийные пейзажи и выступает против инструментов искусственного интеллекта. Автор Джейн Фридман обнаружила несколько книг , опубликованных на Amazon, в которых использовалось ее имя и имитировался ее стиль письма. Она считает, что в книгах, которые были удалены, вероятно, использовался искусственный интеллект, который был обучен с помощью ее письма так, чтобы звучать как она и получать прибыль от ее бренда.
Когда дело касается книг, неверная информация может быть опасной. Amazon недавно удалил руководство по поиску грибов, которое, как утверждали некоторые читатели, было создано ИИ и могло давать неправильные советы о том, какие грибы съедобны, а какие ядовиты.
«Проблема точности реальна», — сказал Равит Дотан, исследователь и консультант по этике ИИ. «Люди не понимают, что ИИ, генерируемый текстом, не оптимизирован для генерации истины. Он оптимизирован для создания привлекательного текста».
Страница Amazon с надписью «Книга-раскраска комнат для взрослых: окунитесь в спокойствие и раскройте свой творческий потенциал с помощью замысловатой архитектуры и успокаивающих узоров».
Листинг на Amazon еще одной книжки-раскраски, возможно, созданной с помощью искусственного интеллекта, для людей, которые просто хотят раскрасить пустые комнаты. (Вашингтон Пост; Amazon)
Что можно сделать с продуктами ИИ?
Контент, созданный искусственным интеллектом, не запрещен ни в одной из крупных компаний электронной коммерции, которые используют сторонних продавцов, включая Amazon и Etsy. И на данный момент ни один из них не требует какой-либо маркировки или раскрытия информации о продуктах, которые были изготовлены в основном с использованием инструментов искусственного интеллекта. Технологические компании, создающие инструменты, используемые для создания слов и изображений, также не обязаны маркировать вещи.
Гильдия авторов, которая представляет многих авторов, чьи работы использовались для обучения инструментам ИИ, требует принятия законодательства и требует от компаний раскрывать информацию о том, когда книга написана ИИ.
Поделиться этой статьей
Делиться
«Мы рассматриваем это как защиту потребителей, но это также способ изолировать книжный рынок, потому что в противном случае вы просто увидите приток контента, созданного искусственным интеллектом, на такую платформу, как Kindle», — сказала Мэри Расенбергер, исполнительный директор Гильдии авторов. . «Это отнимет у рынка [спрос] на творческие произведения человека».
Расенбергер сказала, что она не думает, что искусственный интеллект можно сдерживать вечно, и даже видит для него место как полезный инструмент для писателей. Цель гильдии — обеспечить, чтобы ИИ регулировался, лицензировался и был законным, а деньги возвращались авторам, — сказала она.
Ранее в этом месяце Amazon добавила требование о том, чтобы любые самостоятельно публикуемые книги, использующие Kindle Direct Publishing, сообщали Amazon, когда они созданы с помощью искусственного интеллекта. Однако на данный момент эта информация не отображается покупателям. Для потребителей это большой риск.
«Amazon постоянно оценивает новые технологии и стремится предоставить авторам и клиентам наилучшие условия для покупок, чтения и публикации», — заявила представитель Amazon Эшли Ваничек. «Все издатели в магазине должны соблюдать наши правила в отношении контента, независимо от того, как контент был создан. Мы инвестируем значительное время и ресурсы, чтобы обеспечить соблюдение наших рекомендаций, и удаляем книги, которые не соответствуют этим рекомендациям».
(Основатель Amazon Джефф Безос владеет The Washington Post, а временный генеральный директор газеты Пэтти Стоунсайфер входит в совет директоров Amazon.)
Etsy заявила, что она также следит за новой технологией, но у нее нет правил против продажи вещей, созданных в основном с использованием ИИ. Компания заявляет, что на эти продукты будут распространяться те же стандарты качества, что и на другие товары. Walmart не ответил на запрос о комментариях.
По словам Дотана, ряд технологических организаций также спешат создать инструменты для идентификации результатов ИИ. Например, Google недавно объявила, что работает над инструментом нанесения водяных знаков , который будет невидим для человеческого глаза.
Как понять, что такое ИИ?
Так что же может сделать покупатель? Пока не появятся законы и ярлыки, выяснение того, что сгенерировано ИИ, а что просто странный дизайн футболки, ложится на плечи покупателя. Это не новая роль для тех , кто делал покупки в Интернете в течение последних 10 лет. Магазины со сторонними продавцами переполнены подделками и некачественными вариантами, а некогда полезные инструменты, такие как обзоры, часто переполняются фальшивыми положительными публикациями.
Перейти к концу карусели
Можете ли вы сказать, что генерирует ИИ или нет?
Когда дело доходит до ИИ, его может быть не так легко идентифицировать, как вы думаете. Проверьте свои знания с помощью нашей викторины по искусственному интеллекту и узнайте больше о том, как распознавать изображения и дипфейки, созданные искусственным интеллектом.
Конец карусели
Как и в случае со всеми мошенническими продуктами в Интернете, вам придется прибегнуть к старомодной детективной работе. Текст и изображения, сгенерированные ИИ, имеют некоторые общие черты, но они не являются надежными — особенно с той скоростью, с которой качество генераторов изображений и текста ИИ растет. («Сегодня существуют инструменты, которые могут определять, когда текст генерируется ИИ, но они совершенно ненадежны», — сказал Дотан.)
Начните с просмотра всех доступных изображений продуктов, включая предварительный просмотр внутренних страниц книг, а также увеличьте масштаб или прочитайте мелкий шрифт. Что касается изображений, обратите внимание на фон, на котором часто может быть больше ошибок, чем на основном объекте. Если на картине изображен человек, посмотрите на руки, уши, глаза и общие пропорции, чтобы увидеть, нет ли чего-нибудь необычного. Всегда считайте пальцы.
Пытаясь определить, создана ли фотография или иллюстрация искусственным интеллектом, посмотрите на глаза, чтобы увидеть, совпадают ли они. (Иллюстрация Washington Post; Хизер Келли/The Washington Post/TWP)
Что касается текста, найдите автора и посмотрите, присутствует ли он в социальных сетях. Самостоятельная публикация автора не является признаком того, что что-то является ИИ, но книги, выпускаемые ИИ, обычно публикуются независимо. Описания часто создаются с помощью чат-ботов с искусственным интеллектом, поэтому внимательно читайте, чтобы увидеть, имеют ли они смысл и описывают ли перечисленный продукт. Проверьте количество страниц, чтобы убедиться, что длина имеет смысл.
«Я бы поискал сообщения о том, что это новинка в магазине и что она, похоже, имитирует что-то очень популярное и старое от известного издателя», — сказал Джейкоб Меткалф, программный директор инициативы «ИИ на земле» в некоммерческая организация «Данные и общество». «Я обнаружил, что мошенники используют общие фразы из популярных книг».
Тщательно исследуйте продавцов, обращая внимание на другие их продукты, названия компаний и время их существования. Подробную информацию о том, как избежать мошенничества при совершении покупок в Интернете, читайте в этом руководстве .
Автор нашей раскраски, вероятно, созданной искусственным интеллектом, был неизвестен, изображения были полны ошибок, а полное название представляло собой длинную попытку извлечь выгоду из ключевых слов: «Цветочный шепот: раскрасочное приключение для женщин. Дань женственности и очаровательности». Красота цветущих цветов — художественное прославление женщин и цветочная магия».
Любой, кто хочет просто раскрасить женщин и цветы, вероятно, будет разочарован.
«Что бы ни создавал ИИ, он никогда не будет так хорош, как созданный человеком. Нет, если вам нужно что-то с голосом, смыслом или выражением», — сказал Расенбергер из Гильдии авторов. «ИИ всегда основан на предшествующих вещах, в этом нет никакой магии. Это всего лишь блендер».
Хизер Келли
14 сентября 2023 г., 6:00 по восточному времени.
Изображение открытой книжки-раскраски с двумя страницами. На одной странице изображено лицо женщины, но ее рука исчезает в шее. С другой стороны, женщина держит цветок, но ее пальцы вдвое длиннее обычных.
(The Washington Post; iStock; Der vive)
Слушать
9 минут
Делиться
Комментарий
540
Есть что-то неладное в черно-белых рисунках из «Шепота цветов. Книжка-раскраска для женщин».
На первый взгляд, книга представляет собой всего 26 страниц с изображением красивых женщин с впечатляющим костяком, окруженных цветами или покрытых цветами. Но присмотритесь, и вы увидите, что у некоторых нет нужного количества пальцев или пальцы удлинены, образуя жуткие инопланетные руки.
Технология не ваш друг. Мы. Подпишитесь на новостную рассылку The Tech Friend.
Книга автора «Der Vive» в мягкой обложке стоимостью 7,95 долларов, доступная на Amazon , имеет все признаки того, что она создана искусственным интеллектом. Он опубликован неизвестным автором, не имеющим истории в Интернете. Отзывов нет, и он был добавлен в список только последние несколько месяцев. Все изображения имеют какие-то искажения или странности, которые обычно связаны с искусственным интеллектом, например, неправильные пропорции тела и по крайней мере одна путаница между цветком и грудью.
Легкодоступный искусственный интеллект меняет то, как мы общаемся, работаем и творим. Теперь он проникает в электронную коммерцию, поскольку созданные искусственным интеллектом книги для самопомощи, кружки, настенные рисунки и книжки-раскраски распространяются на таких онлайн-рынках, как Amazon и Etsy. Сторонние продавцы не обязаны раскрывать то, что создано ИИ, и практически невозможно подтвердить, является ли что-то ИИ, просто по внешнему виду. Конечным результатом является еще больше мошеннических продуктов в и без того запутанной среде онлайн-покупок. Для потребителей это может означать случайную покупку чего-то низкого качества или даже причинение вреда средствам существования настоящих художников.
«Это мошенничество», — сказал Генри Эйдер, исследователь и эксперт по генеративному искусственному интеллекту и дипфейкам. «Это всего лишь расширение практики, которая существует уже давно. Раньше это могли быть люди, которые крали чужие работы и помещали их на футболки, занимаясь плагиатом книги. Это во многом та же модель, что и с людьми, использующими ИИ».
Страница Amazon с чтением «Цветочный шепот: раскрасочное приключение для женщин. Дань женственности и чарующей красоте цветущих цветов - художественное почитание женщин и цветочной магии».
Листинг одной из купленных мной книг на Amazon и ее очень информативное название. (Вашингтон Пост; Amazon)
Что плохого в покупке товаров, созданных ИИ?
Есть люди, даже художники, создающие продукты или вещи, генерируемые искусственным интеллектом, которые прозрачны в этом процессе. Другие предметы могут не раскрывать свое происхождение, но они настолько явно созданы искусственным интеллектом, что не оставляют сомнений и даже добавляют привлекательности.
«Я думаю, что аспект новизны и сверхъестественная странность искусства ИИ могут сделать его очень привлекательным для некоторых людей», — сказала Бритт Пэрис, доцент Университета Рутгерса, изучающая ИИ и дипфейки. «Поначалу я видел людей, которые хотели повесить на стену какое-то причудливое произведение искусства и хвастаться тем, что оно сделано с помощью ИИ».
Однако в ситуациях, когда участие ИИ неочевидно или нежелательно, продукт может оказаться мошенничеством, откровенным мошенничеством и даже опасным, говорят эксперты. Продавцы часто используют ИИ, чтобы сократить затраты и время, а также извлечь выгоду из популярных категорий товаров и получить легкий доход.
Проблемы авторского права и интеллектуальной собственности , связанные с ИИ, все еще остаются в воздухе. Самые популярные инструменты генеративного искусственного интеллекта, такие как ChatGPT от OpenAI, генератор изображений Dall-E, Bard от Google и Stable Diffusion от Stability AI, были обучены на контенте, полученном из Интернета, включая изображения и тексты, защищенные авторским правом. Оригинальные авторы — писатели, иллюстраторы, художники, репортеры и фотографы — заявляют, что им не платят и не приписывают их работу.
ИИ можно даже использовать для имитации конкретных креативов.
Многие генераторы изображений использовались для создания произведений искусства в стиле польского художника Грега Рутковски , который создает сложные фэнтезийные пейзажи и выступает против инструментов искусственного интеллекта. Автор Джейн Фридман обнаружила несколько книг , опубликованных на Amazon, в которых использовалось ее имя и имитировался ее стиль письма. Она считает, что в книгах, которые были удалены, вероятно, использовался искусственный интеллект, который был обучен с помощью ее письма так, чтобы звучать как она и получать прибыль от ее бренда.
Когда дело касается книг, неверная информация может быть опасной. Amazon недавно удалил руководство по поиску грибов, которое, как утверждали некоторые читатели, было создано ИИ и могло давать неправильные советы о том, какие грибы съедобны, а какие ядовиты.
«Проблема точности реальна», — сказал Равит Дотан, исследователь и консультант по этике ИИ. «Люди не понимают, что ИИ, генерируемый текстом, не оптимизирован для генерации истины. Он оптимизирован для создания привлекательного текста».
Страница Amazon с надписью «Книга-раскраска комнат для взрослых: окунитесь в спокойствие и раскройте свой творческий потенциал с помощью замысловатой архитектуры и успокаивающих узоров».
Листинг на Amazon еще одной книжки-раскраски, возможно, созданной с помощью искусственного интеллекта, для людей, которые просто хотят раскрасить пустые комнаты. (Вашингтон Пост; Amazon)
Что можно сделать с продуктами ИИ?
Контент, созданный искусственным интеллектом, не запрещен ни в одной из крупных компаний электронной коммерции, которые используют сторонних продавцов, включая Amazon и Etsy. И на данный момент ни один из них не требует какой-либо маркировки или раскрытия информации о продуктах, которые были изготовлены в основном с использованием инструментов искусственного интеллекта. Технологические компании, создающие инструменты, используемые для создания слов и изображений, также не обязаны маркировать вещи.
Гильдия авторов, которая представляет многих авторов, чьи работы использовались для обучения инструментам ИИ, требует принятия законодательства и требует от компаний раскрывать информацию о том, когда книга написана ИИ.
Поделиться этой статьей
Делиться
«Мы рассматриваем это как защиту потребителей, но это также способ изолировать книжный рынок, потому что в противном случае вы просто увидите приток контента, созданного искусственным интеллектом, на такую платформу, как Kindle», — сказала Мэри Расенбергер, исполнительный директор Гильдии авторов. . «Это отнимет у рынка [спрос] на творческие произведения человека».
Расенбергер сказала, что она не думает, что искусственный интеллект можно сдерживать вечно, и даже видит для него место как полезный инструмент для писателей. Цель гильдии — обеспечить, чтобы ИИ регулировался, лицензировался и был законным, а деньги возвращались авторам, — сказала она.
Ранее в этом месяце Amazon добавила требование о том, чтобы любые самостоятельно публикуемые книги, использующие Kindle Direct Publishing, сообщали Amazon, когда они созданы с помощью искусственного интеллекта. Однако на данный момент эта информация не отображается покупателям. Для потребителей это большой риск.
«Amazon постоянно оценивает новые технологии и стремится предоставить авторам и клиентам наилучшие условия для покупок, чтения и публикации», — заявила представитель Amazon Эшли Ваничек. «Все издатели в магазине должны соблюдать наши правила в отношении контента, независимо от того, как контент был создан. Мы инвестируем значительное время и ресурсы, чтобы обеспечить соблюдение наших рекомендаций, и удаляем книги, которые не соответствуют этим рекомендациям».
(Основатель Amazon Джефф Безос владеет The Washington Post, а временный генеральный директор газеты Пэтти Стоунсайфер входит в совет директоров Amazon.)
Etsy заявила, что она также следит за новой технологией, но у нее нет правил против продажи вещей, созданных в основном с использованием ИИ. Компания заявляет, что на эти продукты будут распространяться те же стандарты качества, что и на другие товары. Walmart не ответил на запрос о комментариях.
По словам Дотана, ряд технологических организаций также спешат создать инструменты для идентификации результатов ИИ. Например, Google недавно объявила, что работает над инструментом нанесения водяных знаков , который будет невидим для человеческого глаза.
Как понять, что такое ИИ?
Так что же может сделать покупатель? Пока не появятся законы и ярлыки, выяснение того, что сгенерировано ИИ, а что просто странный дизайн футболки, ложится на плечи покупателя. Это не новая роль для тех , кто делал покупки в Интернете в течение последних 10 лет. Магазины со сторонними продавцами переполнены подделками и некачественными вариантами, а некогда полезные инструменты, такие как обзоры, часто переполняются фальшивыми положительными публикациями.
Перейти к концу карусели
Можете ли вы сказать, что генерирует ИИ или нет?
Когда дело доходит до ИИ, его может быть не так легко идентифицировать, как вы думаете. Проверьте свои знания с помощью нашей викторины по искусственному интеллекту и узнайте больше о том, как распознавать изображения и дипфейки, созданные искусственным интеллектом.
Конец карусели
Как и в случае со всеми мошенническими продуктами в Интернете, вам придется прибегнуть к старомодной детективной работе. Текст и изображения, сгенерированные ИИ, имеют некоторые общие черты, но они не являются надежными — особенно с той скоростью, с которой качество генераторов изображений и текста ИИ растет. («Сегодня существуют инструменты, которые могут определять, когда текст генерируется ИИ, но они совершенно ненадежны», — сказал Дотан.)
Начните с просмотра всех доступных изображений продуктов, включая предварительный просмотр внутренних страниц книг, а также увеличьте масштаб или прочитайте мелкий шрифт. Что касается изображений, обратите внимание на фон, на котором часто может быть больше ошибок, чем на основном объекте. Если на картине изображен человек, посмотрите на руки, уши, глаза и общие пропорции, чтобы увидеть, нет ли чего-нибудь необычного. Всегда считайте пальцы.
Пытаясь определить, создана ли фотография или иллюстрация искусственным интеллектом, посмотрите на глаза, чтобы увидеть, совпадают ли они. (Иллюстрация Washington Post; Хизер Келли/The Washington Post/TWP)
Что касается текста, найдите автора и посмотрите, присутствует ли он в социальных сетях. Самостоятельная публикация автора не является признаком того, что что-то является ИИ, но книги, выпускаемые ИИ, обычно публикуются независимо. Описания часто создаются с помощью чат-ботов с искусственным интеллектом, поэтому внимательно читайте, чтобы увидеть, имеют ли они смысл и описывают ли перечисленный продукт. Проверьте количество страниц, чтобы убедиться, что длина имеет смысл.
«Я бы поискал сообщения о том, что это новинка в магазине и что она, похоже, имитирует что-то очень популярное и старое от известного издателя», — сказал Джейкоб Меткалф, программный директор инициативы «ИИ на земле» в некоммерческая организация «Данные и общество». «Я обнаружил, что мошенники используют общие фразы из популярных книг».
Тщательно исследуйте продавцов, обращая внимание на другие их продукты, названия компаний и время их существования. Подробную информацию о том, как избежать мошенничества при совершении покупок в Интернете, читайте в этом руководстве .
Автор нашей раскраски, вероятно, созданной искусственным интеллектом, был неизвестен, изображения были полны ошибок, а полное название представляло собой длинную попытку извлечь выгоду из ключевых слов: «Цветочный шепот: раскрасочное приключение для женщин. Дань женственности и очаровательности». Красота цветущих цветов — художественное прославление женщин и цветочная магия».
Любой, кто хочет просто раскрасить женщин и цветы, вероятно, будет разочарован.
«Что бы ни создавал ИИ, он никогда не будет так хорош, как созданный человеком. Нет, если вам нужно что-то с голосом, смыслом или выражением», — сказал Расенбергер из Гильдии авторов. «ИИ всегда основан на предшествующих вещах, в этом нет никакой магии. Это всего лишь блендер».
