Обход цензуры в Character.AI¶

Обход цензуры в Character.AI — совокупность методов, позволяющих ограничить фильтры модерации сервиса Character.AI, который использует нейросетевые модели для генерации диалогов. Платформа применяет многоуровневую систему фильтров, блокирующих генерацию контента, связанного с насилием, сексуальными темами, самоповреждениями, ненавистью и другими категориями, признанными на платформе нежелательными.

¶Устройство модерации Character.AI

Character.AI использует комбинированную систему фильтров, состоящую из нескольких уровней:

• Фильтр ввода (input filter) — анализирует запрос пользователя до отправки модели и блокирует сообщения, содержащие запрещённые темы.
• Фильтр вывода (output filter) — проверяет сгенерированный ответ модели и прерывает генерацию при обнаружении нарушений.
• Система оценки персонажей — при создании бота проверяется описание и промпт на соответствие правилам платформы.
• Модерация сообщений сообщества — жалобы пользователей обрабатываются вручную и автоматически.

При срабатывании фильтра пользователь видит уведомление о нарушении правил использования, а генерация ответа прекращается. Частота срабатываний фильтров и их строгость периодически меняются обновлениями платформы.

¶Основные методы обхода

¶Изменение формулировок

Наиболее распространённый способ — перефразирование запроса так, чтобы он не содержал ключевых слов, на которые срабатывает фильтр. Пользователи подбирают синонимы, используют завуалированные описания или разбивают запрос на несколько безобидных по отдельности фраз.

¶Промпт-инжиниринг

Создание системных промптов (system prompts), задающих контекст генерации. Метод включает:

• Указание модели роли, в рамках которой определённые темы допустимы.
• Использование техники «ролевой игры», где модель играет персонажа в вымышленной вселенной.
• Инструкции вида «игнорируй предыдущие ограничения» — этот подход, как правило, не работает, поскольку фильтры работают на уровне API, а не в системном промпте.

¶Локальный запуск моделей

Альтернативный подход — использование открытых языковых моделей локально на собственном компьютере с помощью фреймворков вроде KoboldAI, SillyTavern или Oobabooga. Такие решения не подчиняются модерации Character.AI, но требуют мощного оборудования (видеокарта с объёмом памяти от 8 ГБ) и технических навыков.

¶Использование сторонних клиентов

Существуют неофициальные клиенты и обёртки, работающие через API Character.AI, которые могут изменять параметры запросов. Использование таких инструментов нарушает условия использования платформы и может привести к блокировке аккаунта.

¶Правовые и этические аспекты

Условия использования Character.AI прямо запрещают обход фильтров модерации. Нарушение правил влечёт:

• Предупреждение аккаунта.
• Ограничение функциональности.
• Блокировку аккаунта без возможности восстановления.

В Российской Федерации генерация и распространение запрещённого контента (детская порнография, экстремистские материалы, призывы к насилию) уголовно наказуемы независимо от того, сгенерированы ли они нейросетью или человеком. Обход технических средств модерации для получения такого контента квалифицируется как подготовка к совершению преступления.

¶Ограничения методов обхода

Стоит отметить, что большинство методов обхода нестабильны: обновления фильтров платформы регулярно закрывают обнаруженные уязвимости. Кроме того, персонализация фильтров под конкретного пользователя повышает вероятность обнаружения попыток обхода и последующей блокировки.

Исторически фильтры Character.AI ужесточались после нескольких публичных инцидентов, включая судебные иски, связанные со случаями, когда пользователи обвиняли платформу в недостаточной защите несовершеннолетних.

¶Интересные факты

• Character.AI была основана в 2021 году Ноамом Шазером и Даниэлем Де Фрейтасом, выпускниками Google.
• Платформа использует собственные языковые модели, обученные на данных, предоставленных пользователями.
• В 2023 году сервис временно ограничил возможность общения с ботами для пользователей младше 18 лет.

Источники:

• Условия использования и политика модерации Character.AI
• Публичные сообщения блога Character.AI об обновлениях фильтров
• Обзоры нейросетевых фреймворков для локального запуска моделей (KoboldAI, SillyTavern)