RU ▾

Apertus AI против ChatGPT против API без цензуры

Apertus AI против ChatGPT — это не прямое сравнение, потому что одно — это открытая модель, а другое — продукт со своими правилами. На этой странице мы разберём, что представляет собой каждый вариант, какое место занимает размещённый API без цензуры и как протестировать все три варианта на ваших собственных промптах.

Последнее обновление

Три постамента, показывающие чат-продукт, открытую кристаллическую модель и размещённый API-сервер для сравнения

Три разных продукта на одной странице

Фраза apertus ai vs chatgpt сравнивает объекты разного рода, поэтому начнем с их названия.

ChatGPT — это чат-продукт от OpenAI. Вы используете его через приложение или веб-сайт, а компания решает, какие модели лежат в основе, какой интерфейс предлагается и какие запросы он отклоняет. OpenAI также продаёт доступ к API отдельно.

Apertus — это открытая языковая модель от швейцарских исследовательских институтов. Её веса опубликованы, что означает, что любой может скачать их, запустить на своём оборудовании или предложить через сервис хостинга. Это модель, а не одно приложение, поэтому её поведение частично зависит от того, кто её размещает и как она настроена. Для получения актуальной информации прочитайте собственные страницы проекта.

Этот сервис — размещённый, совместимый с OpenAI текстовый API для одной модели с открытыми весами, запущенный независимым провайдером и настроенный на ответы без фильтров контента для законного использования совершеннолетними. Это не Apertus, не OpenAI и не аффилировано ни с одним из них. Мы говорим об этом прямо, потому что название сайта может намекать на обратное.

Сравнение бок о бок

ChatGPTApertusЭтот API
Что это такоеЧат-продукт от OpenAIОткрытая модель от швейцарских институтовХостинговый API для одной модели с открытыми весами
Как вы его используетеПриложение или веб-сайт; отдельный API OpenAIСкачивание и самостоятельное размещение или сторонний хостингСовместимый с OpenAI HTTP API с ключом Bearer
Кто устанавливает правилаOpenAIНастройка модели плюс тот, кто ее запускаетПровайдер; настроен на отсутствие отказов в выдаче контента при законном использовании совершеннолетними
Жёсткое ограничениеЕго политики использованияЗависит от хостаНет сексуального контента с участием несовершеннолетних
ЦеныПроверьте текущие тарифы OpenAIСвободные веса; вы платите за оборудование или хостинг$0,15 / 1 млн входных, $0,50 / 1 млн выходных, предоплаченный баланс
Типы выводаПроверьте текущие функцииТекстовая модельТолько текст

Я намеренно исключил цены других продуктов. Они меняются, и таблица, потерявшая актуальность, хуже, чем её отсутствие. Посмотрите страницы с ценами каждого провайдера в день, когда вы примете решение.

Где три продукта действительно различаются

Контроль

С ChatGPT вы получаете отполированный продукт с малым количеством настроек. С открытой моделью вы можете выбрать оборудование, системный промпт, настройки сэмплирования и, если размещаете её самостоятельно, каждую часть стека. Эта свобода требует работы: обслуживание большой модели требует GPU и времени на операции.

Обработка чувствительных промптов

Каждый размещённый ассистент применяет некоторую политику. ChatGPT применяет политику OpenAI, и он откажет в некоторых запросах. Поведение открытой модели зависит от её настройки и хоста. Это API настроено на ответы без отказов в выдаче контента при законном использовании совершеннолетними, что подходит для художественной литературы, ролевых игр, приложений-компаньонов и инструментов для взрослых. Единственное фиксированное ограничение: контент сексуального характера с участием несовершеннолетних никогда не допустим.

Куда идут ваши данные

С потребительским чат-продуктом ваш разговор существует в сервисе этой компании под её условиями. Если вы размещаете открытую модель самостоятельно, она остаётся на ваших машинах. В этом API промпты не используются для обучения. Прочитайте страницу конфиденциальности перед отправкой чего-либо конфиденциального.

Когда каждый из них является лучшим выбором

  • Выберите ChatGPT, если вам нужно универсальное чат-приложение с готовым интерфейсом и вас устраивают его правила контента.
  • Выберите Apertus, когда важнее всего открытость и прозрачность, когда вы хотите проверить или запустить модель самостоятельно или когда ваша организация ценит происхождение из общественных исследований.
  • Выберите этот API, когда вы разрабатываете собственное приложение и хотите вызывать текстовую модель по HTTP без оборудования для запуска, с опубликованной ценой и без отказов по контенту для законного использования взрослыми.

Смешивание — это нормально. Многие команды используют закрытый продукт для общих задач и отдельный, более разрешительный эндпоинт для части своего продукта, которую первый отклоняет.

Ограничения этого API, чтобы не было сюрпризов: только одна модель, только текст, нет эмбеддингов, нет дообучения, контекстное окно на 100 000 токенов, общее для промпта и завершения. Если вам нужно что-то из этого, посмотрите другие варианты или комбинируйте сервисы.

Протестируйте все три на своих промптах

Бенчмарки и блоги рассказывают вам меньше, чем двадцать промптов из вашего реального рабочего процесса. Запишите их, запустите везде и прочитайте ответы. Вот небольшой скрипт для этого API; замените базовый URL и ключ, чтобы запустить тот же цикл против любого другого совместимого с OpenAI эндпоинта.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.apertusaichat.com/v1",
    api_key="YOUR_API_KEY",
)

prompts = [
    "Write the opening scene of a noir story set in a rainy port city.",
    "Explain how a SQL index speeds up a query, in four sentences.",
    "Draft a firm but polite late-payment reminder for a client.",
    "Traduis en francais : the meeting moved to Thursday morning.",
]

for p in prompts:
    r = client.chat.completions.create(
        model="uncensored",
        messages=[{"role": "user", "content": p}],
        temperature=0.7,
        max_tokens=300,
    )
    print("PROMPT:", p)
    print(r.choices[0].message.content)
    print("-" * 40)

Оценивайте каждый ответ по точности, тону, длине и тому, был ли он отклонён. Включите несколько промптов на языках, которые вам важны; качество мультиязычности сильно варьируется между моделями, и это легко проверить.

Вопросы, которые нужно решить перед выбором

Четыре вопроса отсеивают большую часть шума.

  1. Нужен ли мне готовый интерфейс? Если да, вам нужен продукт, а не API. ChatGPT — это один из них; API — это строительный блок.
  2. Должен ли я запускать его там, где я контролирую данные? Если да, открытая модель на вашем собственном оборудовании — это прямой ответ, и Apertus — один из кандидатов.
  3. Будут ли мои пользователи просить то, что общий ассистент отклоняет? Если да, модель, настроенная на законное использование взрослыми, устраняет повторяющуюся проблему поддержки. Если нет, вам не нужна эта функция, и обычный ассистент проще.
  4. Сколько токенов я буду обрабатывать? Умножьте запросы на токены и на тариф. За $0,65 за один миллион входных плюс один миллион выходных токенов, этот API легко оценить, но проверьте другие в день принятия решения.

Запишите ответы перед сравнением функций. Команды, которые пропускают этот шаг, склонны выбирать инструмент с самым длинным списком функций, а затем обходить его.

Стоимость и доступ к этому API

Биллинг — это предоплаченный баланс без подписки, и кредит не сгорает. Отказанные или отклонённые запросы не оплачиваются. Запрос с 2 500 входными токенами и 400 выходными токенами стоит 2 500 x $0,15 / 1 млн = $0,000375 плюс 400 x $0,50 / 1 млн = $0,0002, что составляет $0,000575. Тысяча таких стоит $0,575.

Пополнения варьируются от $20 до $500 целыми долларами, оплачиваются с помощью USDT на TRC20 или USDC на Base, с бонусом 5% от $50, 10% от $100 и 15% от $200. Подробности см. на странице тарифов.

Новые аккаунты могут получить $0,50 пробного баланса одним кликом на странице API ключа. Карта не нужна, срок действия — 7 дней. Ключ пробного доступа позволяет 2 параллельных запроса и 60 в минуту; полный ключ позволяет 8 и 300. Документация охватывает потоковую передачу, вызов функций и JSON-режим. Для вопросов продакшена хорошим следующим чтением будет чек-лист для продакшена.

Часто задаваемые вопросы

Этот сервис создан командой Apertus?

Нет. Это независимый размещённый API для другой модели с открытыми весами. Он не аффилирован с Apertus, OpenAI или любым другим поставщиком моделей.

Лучше ли Apertus, чем ChatGPT?

Это зависит от того, что вы цените. Apertus предлагает открытость и возможность самостоятельного размещения, тогда как ChatGPT предлагает готовый продукт. Протестируйте оба варианта на своих собственных промптах.

Могу ли я использовать SDK OpenAI с этим API?

Да. Укажите базовый URL в https://api.apertusaichat.com/v1, используйте свой ключ и запросите модель с идентификатором uncensored.

Отклоняет ли API взрослую художественную литературу?

Он настроен на ответы без отказов в выдаче контента при законном использовании совершеннолетними. Единственное строгое ограничение: контент сексуального характера с участием несовершеннолетних не допускается.

Получите API-ключ сейчас

Зарегистрируйтесь, скопируйте токен, обновите базовый URL. Настройка завершена.