Created by AIImproved by people

Riqli · living documents · updated continuously

Where AI knowledge meets human practice.

Share with friends
Регламент аннотации и разметки данных для обучения ИИ. Document. (Data annotation guidelines. Разметка данных. Инструкция для аннотаторов. Quality control. Снижение шума.)
sections

1. Общие положения

contents

1.1. Назначение документа

Настоящий Регламент аннотации и разметки данных (далее — Регламент) устанавливает единые требования, правила и процедуры для выполнения работ по созданию размеченных наборов данных, предназначенных для обучения моделей искусственного интеллекта (ИИ) в рамках деятельности ООО «Маркетплейс». Документ обязателен для исполнения всеми аннотаторами, верификаторами и руководителями групп, участвующих в процессах подготовки данных.

Регламент разработан для обеспечения высокого качества разметки, минимизации шума и ошибок в данных, а также для создания единого стандарта взаимодействия между командами, задействованными в цикле разработки ИИ-продуктов. Соблюдение настоящих правил является критическим фактором для достижения целевых показателей точности (Accuracy) и полноты (Recall) моделей, разрабатываемых для нужд маркетплейса.

contents

1.2. Правовая основа и нормативные ссылки

Регламент разработан на основании следующих внутренних и внешних нормативных актов: Трудовой кодекс РФ (в части обязанностей работника по качественному выполнению трудовых функций); Федеральный закон № 152-ФЗ «О персональных данных» (в части работы с обезличенными данными пользователей); внутренняя Политика ООО «Маркетплейс» в области информационной безопасности и коммерческой тайны; а также технические задания (ТЗ) и методологические инструкции по конкретным проектам разметки, утвержденные руководителем направления по работе с данными.

В случаях, не урегулированных настоящим документом, стороны руководствуются устными или письменными разъяснениями руководителя проекта и стандартами индустрии в области подготовки данных для машинного обучения.

contents

1.3. Термины и определения

В настоящем Регламенте используются следующие термины и их определения:

  • Аннотация данных — процесс добавления метаданных, описаний или категорий к необработанным данным (изображениям, тексту, аудио), чтобы сделать их понятными и полезными для обучения модели ИИ.
  • Разметка данных (Data Labeling) — процесс присвоения меток (labels) элементам данных в соответствии с заданной схемой. Является синонимом «аннотации» в контексте данного документа.
  • Шум (Noise) — информация, не соответствующая действительности, ошибки в разметке, пропуски или неоднозначные метки, которые снижают качество обучающей выборки.
  • Точность разметки (Labeling Accuracy) — доля размеченных объектов, полностью соответствующих эталонной разметке, по отношению к общему числу объектов в контрольной выборке.
  • Полнота (Recall) — доля верно обнаруженных и размеченных объектов определенного класса по отношению ко всем объектам этого класса в выборке.
  • Контроль качества (Quality Control, QC) — комплекс мер, процедур и проверок, направленных на выявление и устранение ошибок на всех этапах подготовки данных.
sections

2. Цель и задачи должности

contents

2.1. Миссия сотрудника по разметке данных

Основной целью деятельности аннотатора является создание высококачественных, структурированных и непротиворечивых размеченных наборов данных, которые служат основой для обучения, валидации и тестирования алгоритмов ИИ. Конечный результат работы аннотатора напрямую влияет на эффективность и надежность автоматизированных систем, используемых в ключевых бизнес-процессах «Маркетплейс»: поиск товаров, рекомендательные системы, модерация контента, обработка естественного языка (NLP) и компьютерное зрение (CV).

Сотрудник обязан стремиться к достижению максимального показателя качества (не менее 95% по итоговой верификации) и минимизации времени на обработку единицы данных, соблюдая баланс между скоростью и точностью.

contents

2.2. Ожидаемые результаты работы

По итогам отчетного периода (неделя, месяц) от аннотатора ожидается выполнение следующих результатов:

  • Разметка заданного объема данных (KPI по объему) в соответствии с графиком проекта.
  • Достижение и удержание целевого показателя качества (KPI по качеству), который определяется как процент совпадения с эталонной разметкой по результатам проверок QC.
  • Своевременное и полное заполнение отчетности по выполненным работам в системе управления проектами (Jira, YouTrack или внутренней системе трекинга).
  • Активное участие в улучшении процесса разметки: своевременное информирование руководителя о выявленных несоответствиях в инструкциях или проблемах с исходными данными.
sections

3. Подчиненность и взаимодействие

contents

3.1. Административное подчинение

Аннотатор находится в административном подчинении у Руководителя отдела по подготовке данных (Data Preparation Team Lead), а в операционной деятельности — у назначенного Старшего аннотатора или ведущего инженера по данным, ответственного за конкретный проект разметки. Вопросы изменения рабочего графика, отпусков и больничных решаются с административным руководителем.

В рамках проекта аннотатор подчиняется Старшему аннотатору (Project Lead), который ставит ежедневные задачи, контролирует их выполнение и консультирует по сложным кейсам.

contents

3.2. Матрица взаимодействия

В процессе выполнения трудовых функций аннотатор взаимодействует со следующими подразделениями и сотрудниками:

  • Верификаторы (QC Team) — получает обратную связь по результатам проверок качества, устраняет выявленные ошибки.
  • Менеджер проекта (Project Manager) — получает информацию о статусе задач, участвует в планировании нагрузки.
  • Инженеры по данным (Data Engineers/ML Engineers) — консультирует по вопросам схем разметки, форматам выгрузки данных и их структуре.
  • Бэк-офис и HR — по вопросам оформления документов, обучения и адаптации.
sections

4. Должностные обязанности

contents

4.1. Основные операционные обязанности (разметка и аннотация)

Аннотатор обязан:

  • Выполнять работы по аннотации и разметке данных строго в соответствии с утвержденной инструкцией проекта. Это включает в себя классификацию объектов на изображениях, выделение сегментов, транскрипцию аудиозаписей, присвоение сущностей в тексте (NER), классификацию тональности и другие типы задач.
  • Использовать только разрешенное программное обеспечение (внутренние или внешние платформы разметки: Label Studio, CVAT, Supervisely, внутренние web-интерфейсы) для выполнения задач. Работа с неустановленным ПО категорически запрещена.
  • Обрабатывать данные в рамках строго определенной политики безопасности: не копировать, не передавать и не разглашать содержимое размеченных массивов данных третьим лицам.
  • Поддерживать заявленную скорость работы (через количество выполненных задач в час/день) без потери качества.
  • Соблюдать регламенты «горячих» клавиш и автоматизированных инструментов (макросов, скриптов), если таковые предусмотрены для ускорения работы.
contents

4.2. Участие в контроле качества и самооценке

Аннотатор обязан:

  • Выполнять самопроверку (self-check) всех собственных работ перед отправкой на верификацию. Самопроверка заключается в пересмотре размеченных объектов на предмет явных ошибок (пропущенных объектов, неправильных классов).
  • Участвовать в процессе верификации и валидации данных: по запросу верификатора исправлять ошибки в своих задачах в установленные сроки (не более 4 рабочих часов с момента получения замечания).
  • Анализировать свои ошибки по итогам QC-проверок и составлять персональный «чек-лист» для их недопущения в будущем.
  • Участвовать в регулярных митингах по обсуждению качества (Quality Review Meetings), где разбираются типичные ошибки команды и вырабатываются единые подходы.
contents

4.3. Документирование и отчетность

В рамках отчетности аннотатор обязан:

  • Ежедневно вести учет выполненной работы в системе трекинга (отмечать статусы задач, комментировать сложности).
  • Предоставлять руководителю проекта еженедельный отчет о прогрессе, включающий: количество размеченных объектов, среднюю скорость, долю принятых задач после верификации.
  • Фиксировать любые нестандартные ситуации в процессе разметки (баги платформы, неоднозначные примеры) в специальном журнале или трекере с пометкой [Flag] для передачи инженерной команде.
  • Участвовать в создании и обновлении Базы знаний (FAQ) проекта на основе возникающих вопросов и сложных кейсов.
contents

4.4. Коммуникация и обучение

Аннотатор обязан:

  • Ежедневно проверять корпоративную электронную почту и мессенджеры (Slack/Teams) на предмет обновлений инструкций, важных объявлений от руководителя и команды QC.
  • Участвовать в обязательных обучающих семинарах (онлайн/офлайн) при запуске нового проекта или при изменении схемы разметки. Проходить итоговое тестирование на знание инструкции с результатом не менее 90%.
  • Быть на связи в рабочее время для оперативной консультации по сложным задачам. В случае возникновения сомнений — немедленно приостанавливать разметку неоднозначного элемента и запрашивать разъяснение у руководителя или в общем чате проекта.
sections

5. Права сотрудника

contents

5.1. Право на информацию и доступ к данным

Сотрудник имеет право:

  • На своевременное получение полной и достоверной информации об условиях выполнения задания: схеме разметки, ожидаемом результате, сроке выполнения, критериях оценки качества.
  • Запрашивать у руководителя проекта или инженерной команды разъяснения по сложным или нестандартным случаям, выходящим за рамки базовой инструкции.
  • Иметь доступ к собственной статистике качества за любой период времени для отслеживания прогресса.
  • Знакомиться с результатами проверок качества и получать обоснованные комментарии по ошибкам.
contents

5.2. Право на инициативу и предложения по улучшению

Сотрудник имеет право:

  • Вносить предложения руководству по оптимизации процесса разметки, улучшению инструментария и автоматизации рутинных операций.
  • Участвовать в обсуждении новых проектов и пилотных схем разметки, предоставляя обратную связь как конечный пользователь инструментов.
  • Запрашивать дополнительное обучение для повышения квалификации в области методов аннотации и смежных областях (Computer Vision, NLP).
  • Отказываться от выполнения задания в случае, если оно не обеспечено необходимой документацией или инструментарием, с уведомлением руководителя.
sections

6. Ответственность

contents

6.1. Ответственность за качество работы

Аннотатор несет персональную ответственность за:

  • Качество, достоверность и полноту выполненной разметки. Показатель качества работы за отчетный период оценивается на основе доли ошибок и должен быть не ниже установленного плана (не менее 95% точности). В случае систематического нарушения стандартов качества (снижение качества ниже порогового значения 90% в течение двух недель) к сотруднику могут быть применены дисциплинарные взыскания.
  • Соблюдение сроков выполнения задач, установленных в плане-графике проекта. Задержки, повлекшие за собой срыв сроков сдачи этапа проекта, рассматриваются как нарушение трудовой дисциплины.
contents

6.2. Ответственность за сохранность данных и безопасность

Аннотатор несет ответственность:

  • За сохранность конфиденциальной информации, ставшей ему известной в процессе работы (данные пользователей, коммерческая тайна, алгоритмы). Разглашение таких данных влечет за собой ответственность вплоть до увольнения и судебного преследования согласно законодательству РФ и внутренним политикам компании.
  • За использование учетных данных (логинов и паролей) к корпоративным системам и платформам разметки исключительно в личных целях. Передача учетных данных третьим лицам строго запрещена.
sections

7. Квалификационные требования

contents

7.1. Требования к образованию и опыту

На должность аннотатора назначается лицо, имеющее:

  • Среднее профессиональное или высшее образование (техническое, лингвистическое или математическое предпочтительно).
  • Опыт работы с компьютером на уровне уверенного пользователя, знание офисных пакетов программ.
  • Наличие опыта в области разметки данных или обработки информации является преимуществом, но не обязательным требованием (приветствуются курсы по Data Science или работе с данными).
contents

7.2. Профессиональные и личные навыки

Сотрудник должен обладать следующими навыками и качествами:

  • Высокий уровень внимания к деталям и усидчивость, способность выполнять монотонную работу с постоянной высокой точностью.
  • Аналитическое мышление, способность быстро понимать и применять сложные инструкции (высокий уровень reading comprehension).
  • Базовые навыки работы в интернете, умение пользоваться специализированными веб-инструментами.
  • Дисциплинированность, ответственность, умение работать в команде и соблюдать дедлайны.
  • Знание английского языка на уровне чтения технической документации (для работы с международными платформами разметки) является желательным.
sections

8. Условия труда

contents

8.1. Режим работы и рабочее место

Аннотатор работает в условиях, определенных Правилами внутреннего трудового распорядка ООО «Маркетплейс». Рабочее время составляет 8 часов в день (40 часов в неделю) с графиком, согласованным с непосредственным руководителем. Допускается гибкое начало рабочего дня в пределах, установленных внутренними регламентами (с 8:00 до 11:00), при условии обеспечения полного 8-часового рабочего дня и участия в плановых встречах.

Рабочее место должно быть оборудовано в соответствии с санитарно-гигиеническими нормами (освещение, эргономика рабочей зоны). Сотруднику предоставляется корпоративный ноутбук или ПК с доступом к необходимым внутренним сетям и базам данных.

contents

8.2. Инструменты и программное обеспечение

Для выполнения должностных обязанностей сотруднику предоставляется следующий базовый набор инструментов и ПО:

  • Специализированная платформа для разметки данных (например, внутренняя система DataLabeling v2.0 или внешние сервисы Label Studio, CVAT в зависимости от проекта).
  • Корпоративная электронная почта и мессенджер (например, Slack или Microsoft Teams) для коммуникации.
  • Инструменты для просмотра и работы с медиа-файлами (просмотрщики изображений, аудио/видео плееры).
  • Доступ к внутренней вики-странице проекта (Confluence или аналог) с актуальными инструкциями и Базами знаний.
sections

9. Ключевые показатели эффективности (KPI)

contents

9.1. Показатели качества (Accuracy)

Основной KPI, определяющий эффективность работы аннотатора, — это показатель точности разметки. Он рассчитывается по формуле: Accuracy=NcorrectNtotal×100%\text{Accuracy} = \frac{N_{\text{correct}}}{N_{\text{total}}} \times 100\%, где NcorrectN_{\text{correct}} — число объектов, размеченных без ошибок по результатам валидации, а NtotalN_{\text{total}} — общее число объектов в проверенной выборке. Целевое значение показателя: 95% и выше.

Дополнительный показатель: Полнота (Recall) для задач выделения объектов или сущностей, которая оценивает способность сотрудника не пропустить ни один значимый объект в данных.

contents

9.2. Показатели производительности

Оценка производительности труда производится на основе объема обработанных данных за единицу времени. Единица измерения зависит от типа задачи:

  • Для разметки изображений: количество кадров/изображений в час (img/hr\text{img/hr}).
  • Для разметки текста: количество документов или сущностей в час (doc/hr\text{doc/hr}).
  • Для аудио/видео: количество минут размеченного контента в час рабочего времени.

Плановые значения производительности утверждаются индивидуально для каждого проекта на основе сложности задачи и квалификации сотрудника.

contents

9.3. Периодичность оценки и бонусная система

Оценка KPI производится ежемесячно на основе отчетов, сформированных системой контроля качества и системой управления задачами. Результаты оценки влияют на размер переменной части оплаты труда (премии):

  • При выполнении целевых показателей по качеству и производительности сотруднику назначается премия в установленном размере.
  • При перевыполнении плана по качеству (>98%) или производительности (>110% от плана) размер премии может быть увеличен.
  • При невыполнении плана по качеству (<95%) премия может быть снижена или не выплачена до устранения нарушений.
sections

10. Бизнес-процессы, чек-листы и сценарии работы

contents

10.1. Процесс выполнения задачи на разметку

Стандартный бизнес-процесс аннотации и верификации для сотрудника включает следующие обязательные этапы:

  1. Получение задачи. Система автоматически (или по указанию руководителя) назначает аннотатору набор данных для обработки (батч). Задача поступает в личный кабинет на платформе разметки.
  2. Изучение инструкции. Перед началом работы аннотатор обязан ознакомиться с актуальной версией инструкции и схемой разметки, прикрепленной к задаче. В случае обновления инструкции — пройти краткое обучение или ознакомительный тест.
  3. Выполнение разметки. Сотрудник размечает каждый элемент данных, строго следуя правилам, используя предусмотренные инструменты и горячие клавиши. Все сомнительные или непонятные кейсы помечаются флагом (Flag for review).
  4. Самопроверка (Self-Check). После завершения разметки всего батча, аннотатор в обязательном порядке проводит его беглый повторный просмотр на предмет явных ошибок (пропущенных объектов, опечаток, ошибок классов).
  5. Сдача задачи на верификацию. После самопроверки задача отправляется на этап верификации и валидации в системе.
contents

10.2. Чек-лист самопроверки перед сдачей задачи

Перед отправкой выполненной задачи на верификацию, аннотатор обязан убедиться в соблюдении следующего чек-листа:

  • Все объекты, подлежащие разметке, выделены/отмечены. Отсутствуют объекты, ошибочно пропущенные в кадре/тексте.
  • Для каждого размеченного объекта присвоена метка (class label), соответствующая его категории. Проверено соответствие названий классов в инструкции.
  • Границы выделения (bounding box, polygon, полигон) соответствуют контуру объекта, не выходят за его пределы и не захватывают фон (для CV-задач).
  • В текстовых задачах (NER, Classification) соблюдена грамматика, пунктуация и регистр там, где это требуется инструкцией.
  • Не использованы запрещенные символы или нестандартные сокращения.
  • Заполнены все обязательные поля и атрибуты для каждого элемента.
  • В случае наличия сомнительных объектов, оставлен комментарий с пояснением причины неуверенности.
contents

10.3. Сценарий работы с замечаниями верификатора (feedback loop)

В случае, если на этапе верификации в работе обнаружены ошибки, аннотатор обязан выполнить следующий сценарий действий:

  1. Получение уведомления — в течение 30 минут с момента завершения проверки сотрудник получает уведомление в системе или по электронной почте со списком ошибок.
  2. Анализ ошибок — аннотатор открывает задачу, знакомится с каждым замечанием верификатора (комментарии, скриншоты, исправленные метки).
  3. Исправление ошибок — все указанные ошибки должны быть устранены в течение 2 рабочих часов с момента получения замечания. Исправление заключается в переразметке неправильных объектов.
  4. Повторная сдача — исправленная задача снова отправляется на верификацию. Если исправления выполнены неверно или не в полном объеме, задача возвращается повторно, что фиксируется как дополнительный цикл исправлений и может повлиять на KPI.
  5. Анализ ошибок для обучения — сотрудник заносит типовые ошибки в свой персональный журнал ошибок, чтобы не допускать их в будущем.
contents

10.4. Сценарий обработки аномальных и сложных данных

В процессе работы могут встретиться данные, которые трудно или невозможно разметить по стандартной инструкции (замыленные фотографии, нечеткая речь, опечатки в тексте). Сценарий действий в таких случаях:

  • Остановка разметки — при обнаружении аномалии, которая не описана в инструкции, аннотатор должен остановить разметку конкретного элемента.
  • Маркировка аномалии — используя специальный тег/флаг в платформе разметки (например, HardCase или Unclear), отметить элемент как требующий решения на уровне руководителя.
  • Запрос разъяснения — отправить краткое сообщение руководителю проекта в мессенджере с номером задачи и описанием проблемы. Приложить скриншот или цитату для наглядности.
  • Ожидание решения — продолжить разметку следующих элементов батча, пропуская проблемные. Через полученный ответ руководителя (в письменной форме) действовать согласно разъяснению.
  • Внесение в Базу знаний — после получения решения, аннотатор помогает обновить FAQ или инструкцию для команды, чтобы подобный кейс был описан стандартным образом.
contents

10.5. Процесс адаптации нового аннотатора

Для новых сотрудников, вступающих в должность аннотатора, предусмотрен следующий адаптационный процесс:

  1. Вводный инструктаж — знакомство с корпоративной культурой, политикой безопасности, рабочими инструментами (1-й день).
  2. Обучение на тренажере — прохождение интерактивного обучения на специальном тренажере, где демонстрируются типовые задачи разметки и приемы работы (до 2-х дней).
  3. Выполнение тестового задания — сотрудник размечает небольшой батч данных (золотой сет) и сравнивает результат с эталоном.
  4. Работа под наставничеством — первые рабочие задачи выполняются под контролем наставника (Senior Annotator), который дает обратную связь по каждому выполненному элементу.
  5. Выход на норматив — после успешного прохождения первичной верификации (качество > 95%) сотрудник допускается к самостоятельной работе с полной нагрузкой и включается в систему KPI.