Платформа перевода в реальном времени

Исходная ситуация

Проблема в области перевода в реальном времени заключалась в сочетании высокого качества перевода и минимальной задержки. Существующие решения предлагали либо быстрые, но неточные машинные переводы, либо качественные результаты с неприемлемым временем ожидания 5-10 секунд. Для таких сценариев, как онлайн-конференции, международные чаты поддержки и глобальные команды, ни одно из доступных решений не было практичным.

Наше решение

Мы разработали Ailuvio как платформу перевода на базе ИИ, которая сочетает граничные вычисления с оптимизированными моделями машинного обучения. Архитектура распределяет запросы на перевод по географически распределённым edge-узлам, выполняющим специально обученные компактные языковые модели. Интеллектуальная система маршрутизации автоматически выбирает оптимальный узел на основе языковой пары, предметной области и требований к задержке. Контекстно-зависимое кеширование и предиктивный перевод дополнительно снижают воспринимаемую задержку.

Результаты и эффект

Ailuvio достигает сквозной задержки менее 2 секунд при поддержке более 50 языков. Качество перевода в среднем составляет 94% по шкале BLEU — сопоставимо с профессиональными переводчиками. Платформа обрабатывает более 2 миллионов запросов на перевод ежедневно и используется международными компаниями для онлайн-встреч, чатов поддержки и перевода документов.