Плагин WordPress «AI Comment Insights & Moderation»

Серге7 лет в сервисе
Данные заказчика будут вам доступны после подачи заявки
22.10.2025

1) Цели и ключевые сценарии

  • Как автор/админ хочу автоматически фильтровать токсичные/спам-комментарии, чтобы экономить время на модерации.

  • Как автор хочу видеть сводку по тону, темам и частым вопросам, чтобы лучше понимать аудиторию.

  • Как модератор хочу получать «черновики ответов», ускоряющие коммуникацию.

  • Как маркетолог хочу дашборд трендов по постам/датам/языкам, чтобы планировать контент.

2) Функциональность

2.1 Аналитика ИИ

  • Классификация: toxicity, obscenity, insult, threat, harassment, spam, off-topic (0–1).

  • Тональность (sentiment): негатив / нейтрально / позитив + шкала (–1…+1).

  • Тематики: auto-tags (LDA/zero-shot), до 5 тегов/комментарий.

  • Язык: автоопределение (RU/UK/PL/EN и др.).

  • Саммари обсуждения поста: 3–5 пунктов + «частые вопросы».

  • Вопрос/намерение: извлечение вопроса и intent (вопрос, отзыв, баг-репорт, предложение).

2.2 Модерация

  • Автоправила: настраиваемые пороги (например, toxicity ≥ 0.8 → «на проверку», spam ≥ 0.7 → «в спам»).

  • Очередь на проверку: единый экран с причинами и метками ИИ.

  • Массовые действия: одобрить/удалить/пометить как спам/разрешить с редактированием.

  • Автозамена/редактмаска: опция мягкой маскировки обсцены (напр., ****) по словарю/меткам ИИ.

2.3 Подсказки ответов (AI Replies)

  • Кнопка «Сгенерировать ответ» рядом с комментарием: 2–3 черновика в разных тонах (дружелюбный/официальный/лаконичный).

  • Локализация ответа в языке комментатора (при необходимости – перевод).

2.4 Дашборды и отчёты

  • Панель поста: распределение тональности, топ-темы, токсичность, динамика в времени, список «рисковых» цепочек.

  • Глобальная панель: сравнение постов/категорий, пики активности, доля спама, карта языков, топ-вопросы/жалобы.

  • Экспорт: CSV/XLSX за период (id, post_id, user, дата, язык, метрики ИИ, решение модерации).

2.5 Интеграции

  • WP Comments API (core): анализ новых/существующих.

  • Провайдеры ИИ (плагин-адаптер): OpenAI/Vertex/Claude/ локальная модель (через HTTP). Выбор в настройках.

  • Akismet/Antispam Bee (опц.): комбинированный скоринг (взвешивание).

  • Webhooks: отправка событий «comment.flagged», «comment.approved» во внешние системы.

2.6 Управление нагрузкой

  • Пакетный анализ ретро-комментариев (по 100–500 за запуск), с паузами и ограничением запросов.

  • Кэширование метрик (таблица плагина) и инкрементальные пересчёты.

3) Настройки

  • ИИ-провайдер: выбор, ключи/эндпоинт, модель, макс. токены, температура.

  • Пороги правил: toxicity/spam/off-topic, действия, исключения по ролям/авторам/категориям.

  • Языки: список приоритетных; авто-перевод ответов (вкл/выкл).

  • Саммари: периодичность обновления, длина, размещение (метаблок поста).

  • Логи и приватность: срок хранения метрик (напр., 180 дней), анонимизация e-mail/IP в аналитике.

  • Права: кто может видеть метрики ИИ и использовать автодействия.

4) Нефункциональные требования

  • WP 6.4+, PHP 8.1+; совместимость с Gutenberg, классическими комментариями и вложенными реплаями.

  • Производительность: 100k+ комментариев; индексы по comment_ID, post_ID, created_at, lang, flags.

  • Безопасность: nonces, capability checks (moderate_comments, manage_options), rate-limit API.

  • GDPR/RODO: не отправлять PII лишнее; опция отключить хранение исходного текста в стороннем ИИ (отправлять усечённый/анонимизированный вариант); DPIA-памятка в админке.

  • i18n: файлы перевода .pot; UI RU/UK/PL/EN.

  • Логи: страница логов запросов к ИИ (статус, длительность, провайдер, квота).

5) Архитектура

5.1 Данные

Отдельная таблица (префикс wp_aci_):

  • comments_meta (comment_id PK/FK, provider, lang, sentiment_score, toxicity, spam, intent, topics JSON, summary_id FK, flags JSON, created_at, updated_at).

  • summaries (post_id, period, summary_text, faq_json, created_at, updated_at).

  • jobs (очередь анализов: type, payload, status, attempts, next_run_at, last_error).

5.2 Слой интеграций

  • ProviderInterface: analyzeComment(text, lang), suggestReplies(context), summarizeThread(comments[]).

  • Реализации: OpenAIProvider, GenericRESTProvider, LocalLLMProvider.

5.3 WP-часть

  • Хуки: comment_post (анализ on-create), transition_comment_status, deleted_comment.

  • WP-Cron: планировщик пакетного анализа и обновления саммари.

  • REST (aci/v1):

    • POST /analyze?comment_id=

    • POST /bulk/analyze (ids)

    • POST /reply/suggest

    • POST /summary/refresh?post_id=

    • GET /stats?post_id=&range=

5.4 UI

  • Админ-панель: React (WP Components). Таблицы, графики (Recharts).

  • Модерация в списке комментариев: колонки «Токсичность», «Тон», бейджи тем, кнопки действий, «AI-ответ».

  • Метабокс поста: саммари + FAQ, «обновить» и «вставить в пост/описание».

6) Роли и права

  • Админ: все настройки, провайдеры, пороги, экспорт.

  • Модератор: просмотр метрик, применение действий, генерация ответов.

  • Автор: видит аналитику своих постов, может генерировать саммари и ответы.

  • Подписчик/гость: без доступа.

7) Экранные модули (кратко)

  • Dashboard: карточки KPI (доля спама, ср. токсичность, NPS по тональности), графики по времени, топ-посты/темы.

  • Moderation Queue: таблица, быстрые фильтры (токсичность>0.7; спам>0.7), предпросмотр и «AI-ответ».

  • Settings: Провайдер, Правила, Языки, Саммари, Приватность, Логи.

  • Post Analytics: детали по конкретному посту.

8) API и расширяемость

  • Filters/Actions:

    • aci_pre_analyze_text (модификация текста перед отправкой в ИИ),

    • aci_flags_resolver (кастомная логика флагов/порогов),

    • aci_after_analyze (реакция на метрики),

    • aci_reply_prompt (правка промпта для ответов),

    • aci_summary_template (шаблон саммари).

  • Shortcodes/Blocks:

    • Блок «AI Summary» для вывода саммари/FAQ на фронте (опц. скрывать авто).

9) План релизов

MVP (v0.9):

  • Анализ новых комментариев: язык, спам, токсичность, тональность.

  • Очередь модерации + пороги автодействий.

  • Дашборд базовых метрик.

  • Подсказки ответов (RU/EN), 1 провайдер ИИ.

v1.0:

  • Тематики, саммари постов, FAQ.

  • Экспорт CSV/XLSX.

  • Совместимость с Akismet.

  • Многоязычные подсказки ответов (RU/UK/PL/EN).

  • Ретро-анализ существующих комментариев пакетно.

v1.1–1.2:

  • Webhooks, расширенная аналитика (сравнение категорий).

  • Локальная модель через REST (адаптер).

  • Правила «по времени» (напр., жёстче в ночное время).

10) Тестирование и приёмка

10.1 Unit/Integration

  • Разбор порогов и автодействий, корректная запись метрик в БД, повторные попытки при ошибках ИИ.

  • Языковая маршрутизация и кодировки.

  • Экспорт корректен по фильтрам/диапазонам.

10.2 Acceptance (примеры)

  1. Оставить 10 тест-комментариев (5 спам/токсичны, 5 норм) → 90%+ правильно классифицированы; спам в «спам», токсичные в «на проверку».

  2. На странице поста в админке доступно саммари и FAQ, отражающие ключевые темы; обновление выполняется из кнопки.

  3. «AI-ответ» создаёт 2–3 черновика, совпадающих по языку с комментарием.

  4. Экспорт за выбранную неделю содержит метрики и решения модерации.

11) Ограничения и приватность

  • Опция «Не отправлять PII»: перед анализом e-mail/IP удаляются, ссылки/телефоны маскируются.

  • Возможность хостинга прокси-сервиса (self-hosted gateway) для маршрутизации запросов к ИИ.

  • Отключаемый ретро-анализ (для экономии квоты).

12) Оценка разработки (грубо)

  • MVP: 3–4 недели: БД, интеграция провайдера, базовый UI, очередь, модерация, дашборд.

  • v1.0: +2–3 недели: тематики, саммари, экспорт, i18n, Akismet-комбайн.

  • QA/Docs: 1 неделя.

13) Доставляемые артефакты

  • Плагин (ai-comment-insights), исходники (PHP/JS), миграции БД, README, страница настроек, .pot.

  • Конфиг провайдера ИИ, примеры вебхуков, JSON-схемы ответов.

  • Набор тестов (PHPUnit + Jest на UI-хелперы).

OpenAIWordPressРазработка плагинов