Китайские онлайн-продавцы жалуются на рост мошенничества с возвратами из-за обработанных ИИ фото.

По местным правилам покупатель может получить деньги обратно, даже не возвращая товар — достаточно отправить снимок «брака». Теперь злоумышленники массово подделывают такие фото с помощью нейросетей, и отличить подделку стало почти невозможно.

«Даже человеческий глаз не может понять, реальная фотография или нет», — жалуются продавцы. 

Владелец одной китайской лавки рассказал, что за три месяца получил девять подозрительных возвратов: он заметил следы редактирования, но платформа заявила, что доказательств недостаточно.

Маркетплейсы и сами внедряют инструменты для обнаружения ИИ-изображений, но признают, что их точность ограничена. Автоматические алгоритмы по-прежнему одобряют многие возвраты, если фото выглядит «достаточно правдоподобным».

С сентября в Китае действует регламент, который требует маркировать контент, созданный ИИ, видимыми и скрытыми метками. Однако на практике их легко удалить, и поток фейковых «бракованных» товаров продолжает расти.

Скоро и у нас?