Локальные LLM в переводах текстов — бенчмарк на RTX 5060Ti 16GB VRAM

06.11.2026 10:20:04 | Хабр

Хабы: Искусственный интеллект, Изучение языков, Профессиональная литература, Локализация продуктов

Захотелось мне тут проверить качество ИИ моделей в переводе. Я уже перевел немало книг и текстов с облачными моделями - Qwen, Claude, OpenAI, Gemini и результат в последнее время мне нравится все больше и больше. Я не думаю что переводчикам пора искать другую работу, но на сегодняшний день реальность такова, что вы можете перевести любую книгу на любом языке на русский и как минимум понять про что она. Конечно же, остаются тонкости стилистики, нюансы языка и местных реалий жизни, которые очень важны при переводе сложной художественной литературы, тут нужен как раз тот “контекст жизни”, которого не хватает моделям. Однако последние версии Claude и OpenAI неплохо натаскались в переводе авторской стилистики. Если же вам надо читать не обязательно очень специфичный текст для посвященных, то скорее всего ИИ перевод вас удовлетворит. Конечно же тут тоже есть тонкости - проверки и промпты, но это уже дело техники, все это решаемо скиллами и бюджетом на токены. Однако облачные переводы не всегда доступны из-за бюджета и полиси с копирайтом (и непонятно сколько еще будут доступны), поэтому я задался вопросом насколько я могу положиться на локальные модели, гоняющие на довольно скромной по нынешним меркам карте и сетапе: NVIDIA GeForce RTX 5060 Ti 16 GB, Core Ultra 7 265, 96 GB DDR5

Переводы проверялись для разных языков, все переводили на русский. Чтобы сделать бенчмарк более репрезентативным, я выбрал несколько языков для тестирования - английский, испанский, китайский и иврит. Большинство из них я знаю, так что могу оценить перевод глазами, хотя этого и не было нужно. Эталонный перевод сделал с Claude моделями, потом “модели-судьи” (Claude и OpenAI) судили каждый перевод, давая ему оценку. Измерялось как качество перевода, так и его скорость. Цели переводов:

Подробнее

Читайте также