Backend Developer на Python для LLM-сервисов

Что за роль

Нужен Backend Developer для разработки серверной части продукта Claude Code и сервисов на базе LLM. Важная часть работы — надёжная асинхронная обработка запросов, интеграции с языковыми моделями и корректная работа потоковых ответов. Вакансия подойдёт разработчику, который уже запускал LLM-сервисы в production и понимает особенности их эксплуатации.

Что предстоит делать

• Разрабатывать и поддерживать backend-сервисы на Python с использованием asyncio, FastAPI и Pydantic v2.
• Реализовывать конкурентную обработку задач: управлять группами задач, ограничивать параллелизм, обрабатывать отмену и задавать таймауты.
• Настраивать потоковую передачу ответов через SSE и корректно обрабатывать разрыв соединения со стороны клиента.
• Интегрировать сервисы с API OpenAI, Anthropic и Gemini, используя tool use и structured output.
• Работать с prompt caching, ограничениями запросов, повторами с экспоненциальной задержкой и другими сценариями отказоустойчивости.
• Использовать PostgreSQL и Redis для хранения данных и поддержки backend-функций.
• При необходимости самостоятельно разбираться с небольшими изменениями в интерфейсе на React и TypeScript.

Что потребуется

• От трёх лет коммерческого опыта backend-разработки.
• Опыт разработки и запуска LLM-сервисов в production.
• Практическое знание Python и asyncio, включая gather, TaskGroup, Semaphore, отмену задач и таймауты.
• Опыт с FastAPI, Pydantic v2 и потоковой передачей через SSE.
• Понимание API OpenAI, Anthropic или Gemini, включая работу с инструментами, структурированными ответами и лимитами.
• Знание PostgreSQL и Redis; умение читать и писать техническую документацию на английском языке от уровня B1.

Что важно знать

В описании указаны полная занятость и удалённый формат. Вознаграждение определяется по итогам собеседования; дополнительные условия и бонусы не раскрыты. Основной технический фокус — backend для LLM-сервисов, асинхронность и надёжность интеграций с несколькими моделями.