Контентный бум и битва за доверие: как устроен цифровой комфорт
Создавать контент стало проще. Сначала порог входа снизили смартфоны и встроенные редакторы, теперь генеративный ИИ позволяет за несколько минут подготовить текст, изображение или видео. Это уже массовый инструмент: 86% опрошенных авторов используют генеративный ИИ в работе.
Для контентных платформ это меняет соотношение спроса и предложения. Объем контента может расти почти без ограничений, а время человека — нет. Главным дефицитом становится не сам контент, а возможность быстро найти в нем действительно ценное.
При этом продукту важно учитывать интересы сразу нескольких сторон. Потребителю контента необходимо быстро находить то, что заслуживает его времени, автору — получать аудиторию и возможности для развития, бизнесу — работать в качественном и предсказуемом окружении. От качества среды зависит, будут ли люди возвращаться, смогут ли авторы находить свою аудиторию и насколько безопасной площадку будут считать рекламодатели.
Это задача из нескольких слоев. За каждым из них — сложная технологическая инфраструктура и экспертная поддержка.
Первый слой цифрового комфорта — защита от контента и действий, которые могут испортить пользовательский опыт: спама, мошенничества, нарушений правил, злоупотреблений. Только во «ВКонтакте» за прошлый год проактивные инструменты модерации помогли удалить более 8 млн единиц контента, нарушающего правила платформы. При этом на 35% снизилось количество жалоб на контент, а среднее время реакции на обращение пользователя составляло от одной до трех минут.
При таком масштабе без автоматизации не обойтись. ML-модели выявляют запрещенный контент еще до того, как его увидит широкая аудитория. Однако нельзя полностью доверить эту задачу алгоритмам. Представим, что на публикацию поступила жалоба. Модель обнаруживает в ней кадры с признаками жестокости. Однако такие образы могут быть частью документального фильма, новостного репортажа или материала по первой помощи. Поэтому в неоднозначных случаях эксперт оценивает публикацию целиком: что именно показано, с какой целью и в каком контексте. Он и принимает финальное решение, нарушает ли материал правила платформы.
Автоматизация берет на себя масштаб и хорошо формализуемые сценарии, а эксперты подключаются там, где решение требует дополнительного контекста. Их работа помогает уточнять правила, пополнять разметку и обучать модели на новых примерах. Так система постепенно становится точнее: повторяющиеся случаи уходят в автоматизацию, а люди работают с новыми вызовами.
После фильтрации нарушений остается огромный массив допустимого контента. Но допустимое не означает одинаково ценное — по качеству, оригинальности и пользе для аудитории.
Здесь важна глубокая разметка. Публикации получают признаки, которые помогают рекомендательным и другим продуктовым системам понять тему, формат, оригинальность, качество, экспертность и коммерческий потенциал материала.
Представим два ролика об одном смартфоне. В первом автор несколько дней тестировал устройство, снял собственные кадры и рассказал о плюсах и недостатках девайса. Второй ролик собран из чужих фрагментов и пересказывает характеристики производителя. Тема одна, объект в кадре тот же. Но ценность для зрителя разная.
Такие различия нужно перевести на язык, понятный алгоритму. И критерии приходится постоянно уточнять. Появляются новые форматы, меняется язык авторов, генеративные инструменты дают новые способы создавать и перерабатывать материалы. Сам факт использования ИИ здесь мало о чем говорит. Для одного автора нейросеть — инструмент для создания оригинального контента. Для другого — способ быстро произвести десятки похожих публикаций. Поэтому важнее не то, использовался ли ИИ, а что в итоге получает человек.
И это влияет не только на рекомендации. Чем точнее платформа понимает содержание и качество материала, тем больше сценариев она может вокруг него построить — от поиска релевантной для автора аудитории до монетизации и социальной коммерции.
Есть еще один слой цифрового комфорта — обратная связь. Даже хорошо настроенные системы и аналитика не заменяют прямого общения с человеком. Пользователь может объяснить то, что не всегда видно по действиям внутри продукта: где возникли сложности или что оказалось непонятным в принятом решении.
Команда поддержки помогает решить конкретный вопрос, но повторяющиеся обращения показывают, где стоит понятнее объяснить механику, улучшить инструмент самообслуживания или пересмотреть пользовательский сценарий.
Например, человек хочет реже видеть материалы на определенную тему, но не понимает, как повлиять на рекомендации. Или автор замечает изменение охватов и хочет понять причины. В обоих случаях важно не только дать ответ, но и понять, можно ли сделать сам сценарий прозрачнее и удобнее. Именно так обратная связь становится частью развития продукта.
Внутри платформы все это выглядит как множество отдельных процессов: модели, разметка, модерационные решения, обращения в поддержку. Для пользователя это один опыт — не важно, что именно помогло избежать столкновения с мошенничеством, почему система точнее отличает оригинальный материал от копии или какая команда разобрала обращение. Важен итог: меньше нежелательного контента, больше материалов, которые стоят потраченного времени, и понятная среда, которой можно доверять.
Исследования IAS также показывают, что конверсия на ресурсах с качественным контентом выше, а 70% потребителей меньше доверяют брендам, реклама которых появляется в неподходящем окружении.
Поэтому инвестиции в модерацию, разметку, поддержку и качество моделей сложно считать только затратами на обслуживание платформы. Это инфраструктура, которая одновременно защищает пользовательский опыт, помогает авторам развиваться и создает более безопасную среду для бизнеса.
Когда производство контента становится дешевле, само его количество перестает быть преимуществом. Выигрывать будут платформы, которые лучше других умеют работать с этим изобилием: убрать лишнее, заметить ценное и сохранить доверие всех участников — пользователей, авторов и бизнеса.
Этот материал опубликован на платформе бизнес-сообщества Forbes Экспертиза
Для контентных платформ это меняет соотношение спроса и предложения. Объем контента может расти почти без ограничений, а время человека — нет. Главным дефицитом становится не сам контент, а возможность быстро найти в нем действительно ценное.
При этом продукту важно учитывать интересы сразу нескольких сторон. Потребителю контента необходимо быстро находить то, что заслуживает его времени, автору — получать аудиторию и возможности для развития, бизнесу — работать в качественном и предсказуемом окружении. От качества среды зависит, будут ли люди возвращаться, смогут ли авторы находить свою аудиторию и насколько безопасной площадку будут считать рекламодатели.
Это задача из нескольких слоев. За каждым из них — сложная технологическая инфраструктура и экспертная поддержка.
Сначала убрать то, что мешает
Первый слой цифрового комфорта — защита от контента и действий, которые могут испортить пользовательский опыт: спама, мошенничества, нарушений правил, злоупотреблений. Только во «ВКонтакте» за прошлый год проактивные инструменты модерации помогли удалить более 8 млн единиц контента, нарушающего правила платформы. При этом на 35% снизилось количество жалоб на контент, а среднее время реакции на обращение пользователя составляло от одной до трех минут.
При таком масштабе без автоматизации не обойтись. ML-модели выявляют запрещенный контент еще до того, как его увидит широкая аудитория. Однако нельзя полностью доверить эту задачу алгоритмам. Представим, что на публикацию поступила жалоба. Модель обнаруживает в ней кадры с признаками жестокости. Однако такие образы могут быть частью документального фильма, новостного репортажа или материала по первой помощи. Поэтому в неоднозначных случаях эксперт оценивает публикацию целиком: что именно показано, с какой целью и в каком контексте. Он и принимает финальное решение, нарушает ли материал правила платформы.
Автоматизация берет на себя масштаб и хорошо формализуемые сценарии, а эксперты подключаются там, где решение требует дополнительного контекста. Их работа помогает уточнять правила, пополнять разметку и обучать модели на новых примерах. Так система постепенно становится точнее: повторяющиеся случаи уходят в автоматизацию, а люди работают с новыми вызовами.
Понять, что действительно ценно
После фильтрации нарушений остается огромный массив допустимого контента. Но допустимое не означает одинаково ценное — по качеству, оригинальности и пользе для аудитории.
Здесь важна глубокая разметка. Публикации получают признаки, которые помогают рекомендательным и другим продуктовым системам понять тему, формат, оригинальность, качество, экспертность и коммерческий потенциал материала.
Представим два ролика об одном смартфоне. В первом автор несколько дней тестировал устройство, снял собственные кадры и рассказал о плюсах и недостатках девайса. Второй ролик собран из чужих фрагментов и пересказывает характеристики производителя. Тема одна, объект в кадре тот же. Но ценность для зрителя разная.
Такие различия нужно перевести на язык, понятный алгоритму. И критерии приходится постоянно уточнять. Появляются новые форматы, меняется язык авторов, генеративные инструменты дают новые способы создавать и перерабатывать материалы. Сам факт использования ИИ здесь мало о чем говорит. Для одного автора нейросеть — инструмент для создания оригинального контента. Для другого — способ быстро произвести десятки похожих публикаций. Поэтому важнее не то, использовался ли ИИ, а что в итоге получает человек.
И это влияет не только на рекомендации. Чем точнее платформа понимает содержание и качество материала, тем больше сценариев она может вокруг него построить — от поиска релевантной для автора аудитории до монетизации и социальной коммерции.
И наконец — выстраивать диалог с пользователем
Есть еще один слой цифрового комфорта — обратная связь. Даже хорошо настроенные системы и аналитика не заменяют прямого общения с человеком. Пользователь может объяснить то, что не всегда видно по действиям внутри продукта: где возникли сложности или что оказалось непонятным в принятом решении.
Команда поддержки помогает решить конкретный вопрос, но повторяющиеся обращения показывают, где стоит понятнее объяснить механику, улучшить инструмент самообслуживания или пересмотреть пользовательский сценарий.
Например, человек хочет реже видеть материалы на определенную тему, но не понимает, как повлиять на рекомендации. Или автор замечает изменение охватов и хочет понять причины. В обоих случаях важно не только дать ответ, но и понять, можно ли сделать сам сценарий прозрачнее и удобнее. Именно так обратная связь становится частью развития продукта.
Качество среды — это тоже бизнес-показатель
Внутри платформы все это выглядит как множество отдельных процессов: модели, разметка, модерационные решения, обращения в поддержку. Для пользователя это один опыт — не важно, что именно помогло избежать столкновения с мошенничеством, почему система точнее отличает оригинальный материал от копии или какая команда разобрала обращение. Важен итог: меньше нежелательного контента, больше материалов, которые стоят потраченного времени, и понятная среда, которой можно доверять.
«Для бизнеса действует та же логика. Рекламодатель не просто покупает просмотры, а оказывается внутри конкретного контентного окружения. Чем выше его качество и предсказуемость, тем меньше рисков для бренда и тем выше ценность самой площадки»
Исследования IAS также показывают, что конверсия на ресурсах с качественным контентом выше, а 70% потребителей меньше доверяют брендам, реклама которых появляется в неподходящем окружении.
Поэтому инвестиции в модерацию, разметку, поддержку и качество моделей сложно считать только затратами на обслуживание платформы. Это инфраструктура, которая одновременно защищает пользовательский опыт, помогает авторам развиваться и создает более безопасную среду для бизнеса.
Когда производство контента становится дешевле, само его количество перестает быть преимуществом. Выигрывать будут платформы, которые лучше других умеют работать с этим изобилием: убрать лишнее, заметить ценное и сохранить доверие всех участников — пользователей, авторов и бизнеса.