nvidia / nemotron-3-5-transcribe

Созданная NVIDIA для распознавания речи модель Nemotron 3.5 Transcribe может возвращать транскрипт, пословные timestamps, метки дикторов и перевод речи между английским и 31 языком в одном запросе к API на Kie.ai.

Pricing: Nemotron 3.5 Transcribe is priced at 0.005 credits per second of audio (0.3 credits per minute, $0.0015/min) — word timestamps, speaker labels and translation included at no extra cost.
Input

Click to upload or drag and drop

Supported formats: MP4, QUICKTIME, WEBM Maximum file size: 200MB; Supported formats: MPEG, WAV, X-WAV, AAC, MP4, OGG, FLAC, OPUS Maximum file size: 200MB

Audio to transcribe: a publicly downloadable URL. Common formats work (MP3, WAV, M4A/AAC, FLAC, OGG/Opus, WEBM), and so do videos with an audio track (MP4, MOV); only the sound is used. Up to 60 minutes and 200 MB per file. The language is detected automatically.

Also return word-level start and end times and speaker labels in the result file. Transcription only: not available together with target_language. The example output was produced with timestamps on and lists only the first 40 words; the API result file contains every word.

Leave empty (default) to transcribe in the spoken language. Pick a language to translate the speech into it instead. Translation is guaranteed between English and the other listed languages: non-English speech into English (en), or English speech into another language.

Output
output typetext
Loading JSON viewer...

README

Complete guide to using nvidia/nemotron-3-5-transcribe

Nemotron 3.5 Transcribe API для многоязычного преобразования речи в текст

Транскрибируйте аудио на 40 языках с помощью модели Nemotron 3.5 Transcribe от NVIDIA. На Kie.ai один запрос может вернуть расшифровку, временные метки слов (timestamps), сегменты дикторов (до 8 дикторов) и перевод речи между английским и 31 языком с посекундной тарификацией аудио.
Nemotron 3.5 Transcribe API для многоязычного преобразования речи в текст

Возможности Nemotron 3.5 Transcribe API

Транскрибация на 40 языках
01

Транскрибация на 40 языках

NVIDIA делит свои 40 языков транскрибации на три категории: 13 ведущих, 15 готовых к продакшену и 12 поддерживаемых. Модель может автоматически определять язык речи.
Временные метки слов и метки дикторов за один проход
02

Временные метки слов и метки дикторов за один проход

Получайте время начала и окончания для каждого слова и сегменты дикторов (до 8 дикторов) в одном результате. NVIDIA поддерживает диаризацию дикторов на 13 языках.
Перевод речи на английский и с английского
03

Перевод речи на английский и с английского

Наряду с транскрибацией модель переводит речь между английским и 31 языком, поэтому один вызов позволяет преобразовать запись на поддерживаемом языке в английский текст или английскую речь — в текст на поддерживаемом языке.
Рассчитана на длинные аудиозаписи
04

Рассчитана на длинные аудиозаписи

NVIDIA обучила модель на аудиофайлах длительностью до одного часа и приводит результаты на тестовых наборах с длинными аудиозаписями, таких как конференц-звонки по итогам финансовой отчетности.

Точность Nemotron 3.5 Transcribe (по данным NVIDIA)

NVIDIA приводит следующие показатели коэффициента ошибок в словах (WER, чем ниже, тем лучше) на открытых тестовых наборах. Эти значения взяты из опубликованных результатов NVIDIA и не измерялись на Kie.ai.
Тестовый наборЧто охватываетNemotron 3.5 TranscribeWhisper-large-v3
Open ASR (9 англоязычных наборов, среднее)Общая английская речь4.71%6.66%
Earnings21/22 и CORAAL (среднее)Длинные аудиозаписи10.98%13.92%
AMIЗаписи совещаний7.81%13.63%
Среднее по 7 языкамМногоязычная речь4.62%7.94%
Точность Nemotron 3.5 Transcribe (по данным NVIDIA)

Как использовать Nemotron 3.5 Transcribe API на Kie.ai

  1. 1

    Шаг 1. Получите API-ключ

    Создайте аккаунт на Kie.ai, откройте страницу управления API-ключами и сгенерируйте API-ключ. Передавайте его в каждом запросе в заголовке Authorization: Bearer YOUR_API_KEY.
  2. 2

    Шаг 2. Создайте задачу транскрибации

    Отправьте POST-запрос на /api/v1/jobs/createTask с моделью Nemotron 3.5 Transcribe и URL вашего аудиофайла в параметре audio_url. Задайте timestamps, чтобы получить временные метки слов, и укажите target_language, когда требуется перевод речи; метки дикторов включаются в результат.
  3. 3

    Шаг 3. Прочитайте результат

    Транскрибация выполняется как асинхронная задача. После завершения задания прочитайте результат, чтобы получить расшифровку, сегменты дикторов и, если вы их запрашивали, временные метки слов (timestamps).

Советы перед запуском в продакшен

  1. 01

    Сначала проверяйте аудио на тишину

    NVIDIA отмечает, что входные данные с тишиной или без речи могут приводить к генерации текста, который никогда не произносился. Пропускайте пустые записи и обрезайте длинные участки тишины перед отправкой аудио.
  2. 02

    Учитывайте слабые места

    По данным NVIDIA, термины, похожие на код, аудио на нидерландском языке, а также речь с переключением между языками (например, смесь китайского и английского) расшифровываются менее точно, чем с помощью Whisper-large-v3.
  3. 03

    Проектируйте процесс под обработку целых файлов

    Поскольку модель расшифровывает файлы целиком без потоковой передачи промежуточных результатов и не возвращает оценки уверенности, стройте рабочий процесс вокруг готовой расшифровки.

Почему стоит использовать API Nemotron 3.5 Transcribe на Kie.ai

01

Единый ключ для всего маркетплейса Kie.ai

Все модели в маркетплейсе Kie.ai используют один и тот же метод аутентификации: заголовок Authorization: Bearer YOUR_API_KEY с ключом со страницы управления API-ключами Kie.ai.
02

Бесплатные кредиты на старте

Новые пользователи Kie.ai получают 80 бесплатных кредитов для тестирования. На вашем аккаунте действует единый баланс кредитов для всех сервисов генерации, а проверить остаток можно через API Get Remaining Credits.
03

Не нужно ничего размещать или устанавливать

Kie.ai предоставляет эту модель в виде API с песочницей — скачивать и устанавливать приложение не требуется. Вам не нужно управлять GPU или весами модели.

Типичные сценарии использования API Nemotron 3.5 Transcribe

Поскольку один запрос может возвращать текст, timestamps и метки спикеров, модель подходит для задач, где требуется больше, чем просто текстовая расшифровка.

Заметки по итогам встреч и интервью

Преобразуйте длинные записи встреч и интервью в структурированные расшифровки с разделением реплик по спикерам и привязкой ко времени.

Субтитры

Синхронизируйте субтитры с видео с помощью пословных начальных и конечных timestamps.

Многоязычный контент

Расшифровывайте исходные записи на 40 языках или переводите речь между английским и 31 языком в рамках одного вызова.

Финансовые телеконференции и длинные записи

Превращайте записи звонков по финансовым отчетам и другие длинные аудиофайлы в текст с возможностью поиска.

Часто задаваемые вопросы

Сколько стоит API Nemotron 3.5 Transcribe?

Оплата рассчитывается за секунду аудио, при этом пословные timestamps, метки спикеров и перевод включены без доплаты. Актуальный тариф указан в карточке цен выше.

Какие языки поддерживает Nemotron 3.5 Transcribe?

Модель поддерживает 40 языков расшифровки, распределенных NVIDIA по трем уровням, а также диаризацию спикеров на 13 языках, перевод речи между английским и 31 языком и автоматическое определение языка.

Возвращает ли API Nemotron 3.5 Transcribe timestamps и метки спикеров?

Да. Один запрос может вернуть расшифровку вместе с пословным временем начала и окончания, а также разбивкой по спикерам (до 8 спикеров). NVIDIA поддерживает диаризацию спикеров на 13 языках.

Насколько точна модель Nemotron 3.5 Transcribe?

На 9 открытых тестовых наборах данных на английском языке NVIDIA сообщает о средней частоте ошибок в словах (WER) 4,71 % по сравнению с 6,66 % у Whisper-large-v3. Дополнительные результаты бенчмарков приведены в таблице точности выше.

Аудио какого формата и длительности можно отправлять?

Передайте URL аудиофайла в распространенном формате, таком как WAV, FLAC, MP3, OGG или M4A. Аудио обрабатывается в формате 16 кГц моно, а NVIDIA обучала модель на файлах длительностью до одного часа.

Поддерживает ли Nemotron 3.5 Transcribe потоковую передачу в реальном времени?

Нет. Модель расшифровывает аудиофайлы целиком в офлайн-режиме, а не передает промежуточные результаты в потоке.

Бесплатен ли API Nemotron 3.5 Transcribe?

Нет. Каждый запрос расходует кредиты по тарифу, указанному в карточке цен выше, однако новые пользователи Kie.ai получают 80 бесплатных кредитов для тестирования.

Как получить API-ключ для Nemotron 3.5 Transcribe?

Зарегистрируйтесь на Kie.ai и создайте ключ на странице управления API-ключами. Этот же ключ подходит для всех моделей в маркетплейсе Kie.ai.