Relevio.ai 0.0.3

Как это работает?

Relevio — это движок модерации нового класса, использующий управляемую правилами семантическую модерацию (Rule‑Driven Semantic Moderation, RDSM), которая задействует всю мощь самых продвинутых больших языковых моделей (LLM). Это кардинально отличается от устоявшегося метода категорийно-ориентированной классификационной модерации (Category‑Based Classifier Moderation, CBCM).

Модерация до отправки

Уникальность Relevio в том, что он вызывается из пользовательского интерфейса до того, как контент когда-либо попадёт на ваш сервер. Это означает, что ваш форум получает только контент, прошедший проверку качества. Это противоположность CBCM-модераторам, которые работают с контентом после его попадания на сервер, автоматически помечая его или отправляя в очередь на модерацию. Такие системы могут фактически увеличить вашу нагрузку на модерацию. Relevio создан для абсолютного снижения нагрузки за счёт предотвращения создания плохих сообщений.

Управляемый правилами, а не категориями

С RDSM вы определяете правила на простом английском языке. Relevio применяет их последовательно, используя ИИ только как семантический интерпретатор. Нет дрейфа, непредсказуемости или поведения «чёрного ящика». Нет фиксированных категорий и процентных оценок. Каждое правило либо выполняется, либо нет.

Контекстно-зависимый по дизайну

Каждая проверка включает контекст (связанную историю и предыдущую цепочку ответов). Relevio понимает, где новое сообщение находится в разговоре, поэтому может обеспечивать релевантность и поддерживать связность тем.

Мультимодальная согласованность

Relevio проверяет, действительно ли изображения, вложения и текст относятся друг к другу, оценивая их как единую семантическую единицу. Это не позволяет пользователям сопровождать вводящие в заблуждение изображения или вложения несвязанными повествованиями, сохраняя вашу платформу надёжной, заслуживающей доверия и менее уязвимой для злоупотреблений.

Криптографически проверяемые решения

Каждое одобренное сообщение подписывается HMAC, который связывает контент, изображения, набор правил и контекст с вашим закрытым ключом. Бэкенд XenForo принимает только доверенные, защищённые от несанкционированного изменения сообщения. Именно это доверие позволяет осуществлять модерацию в пользовательском интерфейсе.

Мгновенная обратная связь для пользователей

Relevio предоставляет пользователям чёткие структурированные объяснения и практические рекомендации до отправки. Это снижает раздражение и недоверие, которые люди испытывают, когда их контент отклоняется системой «чёрного ящика». Вместо «ваше сообщение заблокировано» пользователи получают прозрачные указания, которые помогают им быстро исправить проблемы и оставаться вовлечёнными.

Несколько наборов правил

Relevio позволяет определять несколько наборов правил с разными правилами для новых сообщений, ответов и для разных форумов / разделов. Это позволяет сохранять фокус отдельных форумов на конкретных темах. Наборы правил управляются через вашу учётную запись .

Высокая скорость

Время модерации составляет 1-2 секунды для простого текста без нарушений правил, немного дольше при сбоях и около 10-15 секунд для мультимодального контента (изображения и т.п.) в зависимости от сложности.

Отказоустойчивость

Аддон Relevio для XenForo имеет отказоустойчивую конструкцию. Если основной сервис Relevio недоступен или даёт сбой, сообщения автоматически отправляются в обычную очередь на модерацию. Это гарантирует, что ваша система никогда не будет заблокирована при приёме новых сообщений.

Внутри движок модерации Relevio.ai использует резервную архитектуру, что означает автоматическое переключение на резервные LLM в случае отказа основной LLM.

Простая настройка

Всё, что вам нужно — это учётная запись relevio.ai. Просто установите аддон, введите идентификатор своей учётной записи и закрытый ключ в настройках аддона, и вы готовы к работе.

Право на обход

Предоставьте группам пользователей разрешение на обход модерации Relevio, позволяя вашим доверенным пользователям, администраторам и модераторам публиковать контент без ограничений.

Аудит и статистика

Запросы к модерации Relevio полностью аудируются, доступен ряд отчётов со статистикой для анализа использования, затрат, отказов по правилам и т.д.

Стоимость

• 30 бесплатных модераций каждый месяц
• Для аддона XenForo требуется учётная запись relevio.ai и API-ключ для функционирования.
• Для аддона XenForo следует использовать тариф Relevio «только API» с оплатой по факту использования (pay-as-you-go). Ценообразование основано на расчётных единицах (processing units), что позволяет стоимости модерации масштабироваться в зависимости от размера сообщения и наличия изображений.
• Расчётные единицы начисляются следующим образом:
  • До 1000 символов входного текста: 1 единица
  • Каждые дополнительные 1000 символов текста: +1 единица
  • Каждое изображение размером до 1024×1024 пикселей: +1 единица
  • Каждое вложение: +1 единица
  • Актуальную стоимость единицы смотрите на нашем сайте.
• Вызов API модерации оплачивается независимо от того, вернул ли он «проход» или «неудачу». Минимум 1 расчётная единица применяется ко всем вызовам API модерации.
• Тариф с оплатой по факту использования в настоящее время включает 30 бесплатных расчётных единиц каждый месяц для облегчения тестирования и оценки.