Три разных продукта на одной странице
Фраза apertus ai vs chatgpt сравнивает объекты разного рода, поэтому начнем с их названия.
ChatGPT — это чат-продукт от OpenAI. Вы используете его через приложение или веб-сайт, а компания решает, какие модели лежат в основе, какой интерфейс предлагается и какие запросы он отклоняет. OpenAI также продаёт доступ к API отдельно.
Apertus — это открытая языковая модель от швейцарских исследовательских институтов. Её веса опубликованы, что означает, что любой может скачать их, запустить на своём оборудовании или предложить через сервис хостинга. Это модель, а не одно приложение, поэтому её поведение частично зависит от того, кто её размещает и как она настроена. Для получения актуальной информации прочитайте собственные страницы проекта.
Этот сервис — размещённый, совместимый с OpenAI текстовый API для одной модели с открытыми весами, запущенный независимым провайдером и настроенный на ответы без фильтров контента для законного использования совершеннолетними. Это не Apertus, не OpenAI и не аффилировано ни с одним из них. Мы говорим об этом прямо, потому что название сайта может намекать на обратное.
Сравнение бок о бок
| ChatGPT | Apertus | Этот API | |
|---|---|---|---|
| Что это такое | Чат-продукт от OpenAI | Открытая модель от швейцарских институтов | Хостинговый API для одной модели с открытыми весами |
| Как вы его используете | Приложение или веб-сайт; отдельный API OpenAI | Скачивание и самостоятельное размещение или сторонний хостинг | Совместимый с OpenAI HTTP API с ключом Bearer |
| Кто устанавливает правила | OpenAI | Настройка модели плюс тот, кто ее запускает | Провайдер; настроен на отсутствие отказов в выдаче контента при законном использовании совершеннолетними |
| Жёсткое ограничение | Его политики использования | Зависит от хоста | Нет сексуального контента с участием несовершеннолетних |
| Цены | Проверьте текущие тарифы OpenAI | Свободные веса; вы платите за оборудование или хостинг | $0,15 / 1 млн входных, $0,50 / 1 млн выходных, предоплаченный баланс |
| Типы вывода | Проверьте текущие функции | Текстовая модель | Только текст |
Я намеренно исключил цены других продуктов. Они меняются, и таблица, потерявшая актуальность, хуже, чем её отсутствие. Посмотрите страницы с ценами каждого провайдера в день, когда вы примете решение.
Где три продукта действительно различаются
Контроль
С ChatGPT вы получаете отполированный продукт с малым количеством настроек. С открытой моделью вы можете выбрать оборудование, системный промпт, настройки сэмплирования и, если размещаете её самостоятельно, каждую часть стека. Эта свобода требует работы: обслуживание большой модели требует GPU и времени на операции.
Обработка чувствительных промптов
Каждый размещённый ассистент применяет некоторую политику. ChatGPT применяет политику OpenAI, и он откажет в некоторых запросах. Поведение открытой модели зависит от её настройки и хоста. Это API настроено на ответы без отказов в выдаче контента при законном использовании совершеннолетними, что подходит для художественной литературы, ролевых игр, приложений-компаньонов и инструментов для взрослых. Единственное фиксированное ограничение: контент сексуального характера с участием несовершеннолетних никогда не допустим.
Куда идут ваши данные
С потребительским чат-продуктом ваш разговор существует в сервисе этой компании под её условиями. Если вы размещаете открытую модель самостоятельно, она остаётся на ваших машинах. В этом API промпты не используются для обучения. Прочитайте страницу конфиденциальности перед отправкой чего-либо конфиденциального.
Когда каждый из них является лучшим выбором
- Выберите ChatGPT, если вам нужно универсальное чат-приложение с готовым интерфейсом и вас устраивают его правила контента.
- Выберите Apertus, когда важнее всего открытость и прозрачность, когда вы хотите проверить или запустить модель самостоятельно или когда ваша организация ценит происхождение из общественных исследований.
- Выберите этот API, когда вы разрабатываете собственное приложение и хотите вызывать текстовую модель по HTTP без оборудования для запуска, с опубликованной ценой и без отказов по контенту для законного использования взрослыми.
Смешивание — это нормально. Многие команды используют закрытый продукт для общих задач и отдельный, более разрешительный эндпоинт для части своего продукта, которую первый отклоняет.
Ограничения этого API, чтобы не было сюрпризов: только одна модель, только текст, нет эмбеддингов, нет дообучения, контекстное окно на 100 000 токенов, общее для промпта и завершения. Если вам нужно что-то из этого, посмотрите другие варианты или комбинируйте сервисы.
Протестируйте все три на своих промптах
Бенчмарки и блоги рассказывают вам меньше, чем двадцать промптов из вашего реального рабочего процесса. Запишите их, запустите везде и прочитайте ответы. Вот небольшой скрипт для этого API; замените базовый URL и ключ, чтобы запустить тот же цикл против любого другого совместимого с OpenAI эндпоинта.
from openai import OpenAI
client = OpenAI(
base_url="https://api.apertusaichat.com/v1",
api_key="YOUR_API_KEY",
)
prompts = [
"Write the opening scene of a noir story set in a rainy port city.",
"Explain how a SQL index speeds up a query, in four sentences.",
"Draft a firm but polite late-payment reminder for a client.",
"Traduis en francais : the meeting moved to Thursday morning.",
]
for p in prompts:
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": p}],
temperature=0.7,
max_tokens=300,
)
print("PROMPT:", p)
print(r.choices[0].message.content)
print("-" * 40)
Оценивайте каждый ответ по точности, тону, длине и тому, был ли он отклонён. Включите несколько промптов на языках, которые вам важны; качество мультиязычности сильно варьируется между моделями, и это легко проверить.
Вопросы, которые нужно решить перед выбором
Четыре вопроса отсеивают большую часть шума.
- Нужен ли мне готовый интерфейс? Если да, вам нужен продукт, а не API. ChatGPT — это один из них; API — это строительный блок.
- Должен ли я запускать его там, где я контролирую данные? Если да, открытая модель на вашем собственном оборудовании — это прямой ответ, и Apertus — один из кандидатов.
- Будут ли мои пользователи просить то, что общий ассистент отклоняет? Если да, модель, настроенная на законное использование взрослыми, устраняет повторяющуюся проблему поддержки. Если нет, вам не нужна эта функция, и обычный ассистент проще.
- Сколько токенов я буду обрабатывать? Умножьте запросы на токены и на тариф. За $0,65 за один миллион входных плюс один миллион выходных токенов, этот API легко оценить, но проверьте другие в день принятия решения.
Запишите ответы перед сравнением функций. Команды, которые пропускают этот шаг, склонны выбирать инструмент с самым длинным списком функций, а затем обходить его.
Стоимость и доступ к этому API
Биллинг — это предоплаченный баланс без подписки, и кредит не сгорает. Отказанные или отклонённые запросы не оплачиваются. Запрос с 2 500 входными токенами и 400 выходными токенами стоит 2 500 x $0,15 / 1 млн = $0,000375 плюс 400 x $0,50 / 1 млн = $0,0002, что составляет $0,000575. Тысяча таких стоит $0,575.
Пополнения варьируются от $20 до $500 целыми долларами, оплачиваются с помощью USDT на TRC20 или USDC на Base, с бонусом 5% от $50, 10% от $100 и 15% от $200. Подробности см. на странице тарифов.
Новые аккаунты могут получить $0,50 пробного баланса одним кликом на странице API ключа. Карта не нужна, срок действия — 7 дней. Ключ пробного доступа позволяет 2 параллельных запроса и 60 в минуту; полный ключ позволяет 8 и 300. Документация охватывает потоковую передачу, вызов функций и JSON-режим. Для вопросов продакшена хорошим следующим чтением будет чек-лист для продакшена.
