OpenAI наняла сотни подрядчиков для ручной проверки чатов ChatGPT

Чаты пользователей ChatGPT используются для улучшения моделей, однако детали этого процесса долгое время оставались малоизвестными. Согласно расследованию 404 Media, OpenAI привлекает людей для ручной проверки реальных переписок пользователей.

Project Lily: как устроена ручная проверка

Внутренний проект называется Project Lily. Издание получило доступ к инструкциям, рабочим каналам Slack, реальным разговорам с ChatGPT и системе их оценки. Проверяющих называют prompt reviewers: они изучают обезличенные диалоги и оценивают качество ответов, включая излишне шаблонный «ИИ-язык», покровительственный тон, чрезмерные эмодзи и подхалимство. По словам одного из проверяющих, работа довольно рутинная, однако оплата превышает $50 в час. Инструкции при этом регулярно меняются и иногда противоречат друг другу.

Проверяющие не видят имён пользователей, но OpenAI признала, что после обезличивания часть персональной информации всё же может сохраниться, особенно в коротких чатах. Вместе с перепиской им также может предоставляться сводка пользовательской памяти с интересами, контекстом и потенциально местоположением. Project Lily в основном не проверяет фактическую точность ответов, за исключением очевидных ошибок. Этот процесс также отделён от ручных проверок безопасности.

В ChatGPT можно отказаться от использования разговоров для улучшения моделей. Для Enterprise, Business и образовательных клиентов эта функция по умолчанию отключена. Однако изменение настройки не распространяется задним числом на уже собранные данные.

OpenAI указала 404 Media на страницу FAQ, где возможность человеческой проверки упоминается уже несколько лет. После публикации расследования компания обновила страницу об отказе от сбора данных, но отдельного упоминания людей-проверяющих там нет.

Подобная практика используется и другими ИИ-сервисами: Google прямо предупреждает, что сохранённые разговоры Gemini могут просматриваться людьми, Anthropic публикует аналогичную информацию, тогда как позиция Perplexity остаётся менее определённой.