Created by AIImproved by people
Riqli · living documents · updated continuously
Where AI knowledge meets human practice.
Share with friends
1. Общие положения
1.1. Назначение документа
Настоящий Регламент аннотации и разметки данных (далее — Регламент) устанавливает единые требования, правила и процедуры для выполнения работ по созданию размеченных наборов данных, предназначенных для обучения моделей искусственного интеллекта (ИИ) в рамках деятельности ООО «Маркетплейс». Документ обязателен для исполнения всеми аннотаторами, верификаторами и руководителями групп, участвующих в процессах подготовки данных.
Регламент разработан для обеспечения высокого качества разметки, минимизации шума и ошибок в данных, а также для создания единого стандарта взаимодействия между командами, задействованными в цикле разработки ИИ-продуктов. Соблюдение настоящих правил является критическим фактором для достижения целевых показателей точности (Accuracy) и полноты (Recall) моделей, разрабатываемых для нужд маркетплейса.
1.2. Правовая основа и нормативные ссылки
Регламент разработан на основании следующих внутренних и внешних нормативных актов: Трудовой кодекс РФ (в части обязанностей работника по качественному выполнению трудовых функций); Федеральный закон № 152-ФЗ «О персональных данных» (в части работы с обезличенными данными пользователей); внутренняя Политика ООО «Маркетплейс» в области информационной безопасности и коммерческой тайны; а также технические задания (ТЗ) и методологические инструкции по конкретным проектам разметки, утвержденные руководителем направления по работе с данными.
В случаях, не урегулированных настоящим документом, стороны руководствуются устными или письменными разъяснениями руководителя проекта и стандартами индустрии в области подготовки данных для машинного обучения.
1.3. Термины и определения
В настоящем Регламенте используются следующие термины и их определения:
- Аннотация данных — процесс добавления метаданных, описаний или категорий к необработанным данным (изображениям, тексту, аудио), чтобы сделать их понятными и полезными для обучения модели ИИ.
- Разметка данных (Data Labeling) — процесс присвоения меток (labels) элементам данных в соответствии с заданной схемой. Является синонимом «аннотации» в контексте данного документа.
- Шум (Noise) — информация, не соответствующая действительности, ошибки в разметке, пропуски или неоднозначные метки, которые снижают качество обучающей выборки.
- Точность разметки (Labeling Accuracy) — доля размеченных объектов, полностью соответствующих эталонной разметке, по отношению к общему числу объектов в контрольной выборке.
- Полнота (Recall) — доля верно обнаруженных и размеченных объектов определенного класса по отношению ко всем объектам этого класса в выборке.
- Контроль качества (Quality Control, QC) — комплекс мер, процедур и проверок, направленных на выявление и устранение ошибок на всех этапах подготовки данных.
2. Цель и задачи должности
2.1. Миссия сотрудника по разметке данных
Основной целью деятельности аннотатора является создание высококачественных, структурированных и непротиворечивых размеченных наборов данных, которые служат основой для обучения, валидации и тестирования алгоритмов ИИ. Конечный результат работы аннотатора напрямую влияет на эффективность и надежность автоматизированных систем, используемых в ключевых бизнес-процессах «Маркетплейс»: поиск товаров, рекомендательные системы, модерация контента, обработка естественного языка (NLP) и компьютерное зрение (CV).
Сотрудник обязан стремиться к достижению максимального показателя качества (не менее 95% по итоговой верификации) и минимизации времени на обработку единицы данных, соблюдая баланс между скоростью и точностью.
2.2. Ожидаемые результаты работы
По итогам отчетного периода (неделя, месяц) от аннотатора ожидается выполнение следующих результатов:
- Разметка заданного объема данных (KPI по объему) в соответствии с графиком проекта.
- Достижение и удержание целевого показателя качества (KPI по качеству), который определяется как процент совпадения с эталонной разметкой по результатам проверок QC.
- Своевременное и полное заполнение отчетности по выполненным работам в системе управления проектами (Jira, YouTrack или внутренней системе трекинга).
- Активное участие в улучшении процесса разметки: своевременное информирование руководителя о выявленных несоответствиях в инструкциях или проблемах с исходными данными.
3. Подчиненность и взаимодействие
3.1. Административное подчинение
Аннотатор находится в административном подчинении у Руководителя отдела по подготовке данных (Data Preparation Team Lead), а в операционной деятельности — у назначенного Старшего аннотатора или ведущего инженера по данным, ответственного за конкретный проект разметки. Вопросы изменения рабочего графика, отпусков и больничных решаются с административным руководителем.
В рамках проекта аннотатор подчиняется Старшему аннотатору (Project Lead), который ставит ежедневные задачи, контролирует их выполнение и консультирует по сложным кейсам.
3.2. Матрица взаимодействия
В процессе выполнения трудовых функций аннотатор взаимодействует со следующими подразделениями и сотрудниками:
- Верификаторы (QC Team) — получает обратную связь по результатам проверок качества, устраняет выявленные ошибки.
- Менеджер проекта (Project Manager) — получает информацию о статусе задач, участвует в планировании нагрузки.
- Инженеры по данным (Data Engineers/ML Engineers) — консультирует по вопросам схем разметки, форматам выгрузки данных и их структуре.
- Бэк-офис и HR — по вопросам оформления документов, обучения и адаптации.
4. Должностные обязанности
4.1. Основные операционные обязанности (разметка и аннотация)
Аннотатор обязан:
- Выполнять работы по аннотации и разметке данных строго в соответствии с утвержденной инструкцией проекта. Это включает в себя классификацию объектов на изображениях, выделение сегментов, транскрипцию аудиозаписей, присвоение сущностей в тексте (NER), классификацию тональности и другие типы задач.
- Использовать только разрешенное программное обеспечение (внутренние или внешние платформы разметки: Label Studio, CVAT, Supervisely, внутренние web-интерфейсы) для выполнения задач. Работа с неустановленным ПО категорически запрещена.
- Обрабатывать данные в рамках строго определенной политики безопасности: не копировать, не передавать и не разглашать содержимое размеченных массивов данных третьим лицам.
- Поддерживать заявленную скорость работы (через количество выполненных задач в час/день) без потери качества.
- Соблюдать регламенты «горячих» клавиш и автоматизированных инструментов (макросов, скриптов), если таковые предусмотрены для ускорения работы.
4.2. Участие в контроле качества и самооценке
Аннотатор обязан:
- Выполнять самопроверку (self-check) всех собственных работ перед отправкой на верификацию. Самопроверка заключается в пересмотре размеченных объектов на предмет явных ошибок (пропущенных объектов, неправильных классов).
- Участвовать в процессе верификации и валидации данных: по запросу верификатора исправлять ошибки в своих задачах в установленные сроки (не более 4 рабочих часов с момента получения замечания).
- Анализировать свои ошибки по итогам QC-проверок и составлять персональный «чек-лист» для их недопущения в будущем.
- Участвовать в регулярных митингах по обсуждению качества (Quality Review Meetings), где разбираются типичные ошибки команды и вырабатываются единые подходы.
4.3. Документирование и отчетность
В рамках отчетности аннотатор обязан:
- Ежедневно вести учет выполненной работы в системе трекинга (отмечать статусы задач, комментировать сложности).
- Предоставлять руководителю проекта еженедельный отчет о прогрессе, включающий: количество размеченных объектов, среднюю скорость, долю принятых задач после верификации.
- Фиксировать любые нестандартные ситуации в процессе разметки (баги платформы, неоднозначные примеры) в специальном журнале или трекере с пометкой [Flag] для передачи инженерной команде.
- Участвовать в создании и обновлении Базы знаний (FAQ) проекта на основе возникающих вопросов и сложных кейсов.
4.4. Коммуникация и обучение
Аннотатор обязан:
- Ежедневно проверять корпоративную электронную почту и мессенджеры (Slack/Teams) на предмет обновлений инструкций, важных объявлений от руководителя и команды QC.
- Участвовать в обязательных обучающих семинарах (онлайн/офлайн) при запуске нового проекта или при изменении схемы разметки. Проходить итоговое тестирование на знание инструкции с результатом не менее 90%.
- Быть на связи в рабочее время для оперативной консультации по сложным задачам. В случае возникновения сомнений — немедленно приостанавливать разметку неоднозначного элемента и запрашивать разъяснение у руководителя или в общем чате проекта.
5. Права сотрудника
5.1. Право на информацию и доступ к данным
Сотрудник имеет право:
- На своевременное получение полной и достоверной информации об условиях выполнения задания: схеме разметки, ожидаемом результате, сроке выполнения, критериях оценки качества.
- Запрашивать у руководителя проекта или инженерной команды разъяснения по сложным или нестандартным случаям, выходящим за рамки базовой инструкции.
- Иметь доступ к собственной статистике качества за любой период времени для отслеживания прогресса.
- Знакомиться с результатами проверок качества и получать обоснованные комментарии по ошибкам.
5.2. Право на инициативу и предложения по улучшению
Сотрудник имеет право:
- Вносить предложения руководству по оптимизации процесса разметки, улучшению инструментария и автоматизации рутинных операций.
- Участвовать в обсуждении новых проектов и пилотных схем разметки, предоставляя обратную связь как конечный пользователь инструментов.
- Запрашивать дополнительное обучение для повышения квалификации в области методов аннотации и смежных областях (Computer Vision, NLP).
- Отказываться от выполнения задания в случае, если оно не обеспечено необходимой документацией или инструментарием, с уведомлением руководителя.
6. Ответственность
6.1. Ответственность за качество работы
Аннотатор несет персональную ответственность за:
- Качество, достоверность и полноту выполненной разметки. Показатель качества работы за отчетный период оценивается на основе доли ошибок и должен быть не ниже установленного плана (не менее 95% точности). В случае систематического нарушения стандартов качества (снижение качества ниже порогового значения 90% в течение двух недель) к сотруднику могут быть применены дисциплинарные взыскания.
- Соблюдение сроков выполнения задач, установленных в плане-графике проекта. Задержки, повлекшие за собой срыв сроков сдачи этапа проекта, рассматриваются как нарушение трудовой дисциплины.
6.2. Ответственность за сохранность данных и безопасность
Аннотатор несет ответственность:
- За сохранность конфиденциальной информации, ставшей ему известной в процессе работы (данные пользователей, коммерческая тайна, алгоритмы). Разглашение таких данных влечет за собой ответственность вплоть до увольнения и судебного преследования согласно законодательству РФ и внутренним политикам компании.
- За использование учетных данных (логинов и паролей) к корпоративным системам и платформам разметки исключительно в личных целях. Передача учетных данных третьим лицам строго запрещена.
7. Квалификационные требования
7.1. Требования к образованию и опыту
На должность аннотатора назначается лицо, имеющее:
- Среднее профессиональное или высшее образование (техническое, лингвистическое или математическое предпочтительно).
- Опыт работы с компьютером на уровне уверенного пользователя, знание офисных пакетов программ.
- Наличие опыта в области разметки данных или обработки информации является преимуществом, но не обязательным требованием (приветствуются курсы по Data Science или работе с данными).
7.2. Профессиональные и личные навыки
Сотрудник должен обладать следующими навыками и качествами:
- Высокий уровень внимания к деталям и усидчивость, способность выполнять монотонную работу с постоянной высокой точностью.
- Аналитическое мышление, способность быстро понимать и применять сложные инструкции (высокий уровень reading comprehension).
- Базовые навыки работы в интернете, умение пользоваться специализированными веб-инструментами.
- Дисциплинированность, ответственность, умение работать в команде и соблюдать дедлайны.
- Знание английского языка на уровне чтения технической документации (для работы с международными платформами разметки) является желательным.
8. Условия труда
8.1. Режим работы и рабочее место
Аннотатор работает в условиях, определенных Правилами внутреннего трудового распорядка ООО «Маркетплейс». Рабочее время составляет 8 часов в день (40 часов в неделю) с графиком, согласованным с непосредственным руководителем. Допускается гибкое начало рабочего дня в пределах, установленных внутренними регламентами (с 8:00 до 11:00), при условии обеспечения полного 8-часового рабочего дня и участия в плановых встречах.
Рабочее место должно быть оборудовано в соответствии с санитарно-гигиеническими нормами (освещение, эргономика рабочей зоны). Сотруднику предоставляется корпоративный ноутбук или ПК с доступом к необходимым внутренним сетям и базам данных.
8.2. Инструменты и программное обеспечение
Для выполнения должностных обязанностей сотруднику предоставляется следующий базовый набор инструментов и ПО:
- Специализированная платформа для разметки данных (например, внутренняя система
DataLabeling v2.0или внешние сервисыLabel Studio,CVATв зависимости от проекта). - Корпоративная электронная почта и мессенджер (например,
SlackилиMicrosoft Teams) для коммуникации. - Инструменты для просмотра и работы с медиа-файлами (просмотрщики изображений, аудио/видео плееры).
- Доступ к внутренней вики-странице проекта (Confluence или аналог) с актуальными инструкциями и Базами знаний.
9. Ключевые показатели эффективности (KPI)
9.1. Показатели качества (Accuracy)
Основной KPI, определяющий эффективность работы аннотатора, — это показатель точности разметки. Он рассчитывается по формуле: , где — число объектов, размеченных без ошибок по результатам валидации, а — общее число объектов в проверенной выборке. Целевое значение показателя: 95% и выше.
Дополнительный показатель: Полнота (Recall) для задач выделения объектов или сущностей, которая оценивает способность сотрудника не пропустить ни один значимый объект в данных.
9.2. Показатели производительности
Оценка производительности труда производится на основе объема обработанных данных за единицу времени. Единица измерения зависит от типа задачи:
- Для разметки изображений: количество кадров/изображений в час ().
- Для разметки текста: количество документов или сущностей в час ().
- Для аудио/видео: количество минут размеченного контента в час рабочего времени.
Плановые значения производительности утверждаются индивидуально для каждого проекта на основе сложности задачи и квалификации сотрудника.
9.3. Периодичность оценки и бонусная система
Оценка KPI производится ежемесячно на основе отчетов, сформированных системой контроля качества и системой управления задачами. Результаты оценки влияют на размер переменной части оплаты труда (премии):
- При выполнении целевых показателей по качеству и производительности сотруднику назначается премия в установленном размере.
- При перевыполнении плана по качеству (>98%) или производительности (>110% от плана) размер премии может быть увеличен.
- При невыполнении плана по качеству (<95%) премия может быть снижена или не выплачена до устранения нарушений.
10. Бизнес-процессы, чек-листы и сценарии работы
10.1. Процесс выполнения задачи на разметку
Стандартный бизнес-процесс аннотации и верификации для сотрудника включает следующие обязательные этапы:
- Получение задачи. Система автоматически (или по указанию руководителя) назначает аннотатору набор данных для обработки (батч). Задача поступает в личный кабинет на платформе разметки.
- Изучение инструкции. Перед началом работы аннотатор обязан ознакомиться с актуальной версией инструкции и схемой разметки, прикрепленной к задаче. В случае обновления инструкции — пройти краткое обучение или ознакомительный тест.
- Выполнение разметки. Сотрудник размечает каждый элемент данных, строго следуя правилам, используя предусмотренные инструменты и горячие клавиши. Все сомнительные или непонятные кейсы помечаются флагом (Flag for review).
- Самопроверка (Self-Check). После завершения разметки всего батча, аннотатор в обязательном порядке проводит его беглый повторный просмотр на предмет явных ошибок (пропущенных объектов, опечаток, ошибок классов).
- Сдача задачи на верификацию. После самопроверки задача отправляется на этап верификации и валидации в системе.
10.2. Чек-лист самопроверки перед сдачей задачи
Перед отправкой выполненной задачи на верификацию, аннотатор обязан убедиться в соблюдении следующего чек-листа:
- Все объекты, подлежащие разметке, выделены/отмечены. Отсутствуют объекты, ошибочно пропущенные в кадре/тексте.
- Для каждого размеченного объекта присвоена метка (class label), соответствующая его категории. Проверено соответствие названий классов в инструкции.
- Границы выделения (bounding box, polygon, полигон) соответствуют контуру объекта, не выходят за его пределы и не захватывают фон (для CV-задач).
- В текстовых задачах (NER, Classification) соблюдена грамматика, пунктуация и регистр там, где это требуется инструкцией.
- Не использованы запрещенные символы или нестандартные сокращения.
- Заполнены все обязательные поля и атрибуты для каждого элемента.
- В случае наличия сомнительных объектов, оставлен комментарий с пояснением причины неуверенности.
10.3. Сценарий работы с замечаниями верификатора (feedback loop)
В случае, если на этапе верификации в работе обнаружены ошибки, аннотатор обязан выполнить следующий сценарий действий:
- Получение уведомления — в течение 30 минут с момента завершения проверки сотрудник получает уведомление в системе или по электронной почте со списком ошибок.
- Анализ ошибок — аннотатор открывает задачу, знакомится с каждым замечанием верификатора (комментарии, скриншоты, исправленные метки).
- Исправление ошибок — все указанные ошибки должны быть устранены в течение 2 рабочих часов с момента получения замечания. Исправление заключается в переразметке неправильных объектов.
- Повторная сдача — исправленная задача снова отправляется на верификацию. Если исправления выполнены неверно или не в полном объеме, задача возвращается повторно, что фиксируется как дополнительный цикл исправлений и может повлиять на KPI.
- Анализ ошибок для обучения — сотрудник заносит типовые ошибки в свой персональный журнал ошибок, чтобы не допускать их в будущем.
10.4. Сценарий обработки аномальных и сложных данных
В процессе работы могут встретиться данные, которые трудно или невозможно разметить по стандартной инструкции (замыленные фотографии, нечеткая речь, опечатки в тексте). Сценарий действий в таких случаях:
- Остановка разметки — при обнаружении аномалии, которая не описана в инструкции, аннотатор должен остановить разметку конкретного элемента.
- Маркировка аномалии — используя специальный тег/флаг в платформе разметки (например,
HardCaseилиUnclear), отметить элемент как требующий решения на уровне руководителя. - Запрос разъяснения — отправить краткое сообщение руководителю проекта в мессенджере с номером задачи и описанием проблемы. Приложить скриншот или цитату для наглядности.
- Ожидание решения — продолжить разметку следующих элементов батча, пропуская проблемные. Через полученный ответ руководителя (в письменной форме) действовать согласно разъяснению.
- Внесение в Базу знаний — после получения решения, аннотатор помогает обновить FAQ или инструкцию для команды, чтобы подобный кейс был описан стандартным образом.
10.5. Процесс адаптации нового аннотатора
Для новых сотрудников, вступающих в должность аннотатора, предусмотрен следующий адаптационный процесс:
- Вводный инструктаж — знакомство с корпоративной культурой, политикой безопасности, рабочими инструментами (1-й день).
- Обучение на тренажере — прохождение интерактивного обучения на специальном тренажере, где демонстрируются типовые задачи разметки и приемы работы (до 2-х дней).
- Выполнение тестового задания — сотрудник размечает небольшой батч данных (золотой сет) и сравнивает результат с эталоном.
- Работа под наставничеством — первые рабочие задачи выполняются под контролем наставника (Senior Annotator), который дает обратную связь по каждому выполненному элементу.
- Выход на норматив — после успешного прохождения первичной верификации (качество > 95%) сотрудник допускается к самостоятельной работе с полной нагрузкой и включается в систему KPI.