Услуги
Беру LLM-фичи, которые работают на демо, и довожу их до состояния, в котором они переживают прод. Агенты, RAG, всё, что разговаривает с моделью, а потом должно продолжать работать, когда приходят живые пользователи.
То, что мне приносят, ломается обычно в одних и тех же местах. Инструмент упал, и обработки нет. Поиск вернул правдоподобное, но не то. Счёт растёт, и это замечают в конце месяца. И нечем проверить, стало ли лучше от правки промпта на прошлой неделе, потому что никто ничего не мерил.
Начинаем с аудита
600 EUR, пять рабочих дней, созвон не нужен.
Вы присылаете код, 20-40 реальных вопросов или сценариев из прода и счёт за API за прошлый месяц. Получаете письменный отчёт:
- что происходит при ошибке инструмента, таймауте и пустом ответе модели, и где пользователь остаётся с молчанием вместо эскалации
- что модель на самом деле получает в контексте по каждому вашему вопросу, замеренное на ваших данных, а не на синтетике
- токены на запрос, из чего складывается счёт, что режется без потери качества ответов
- инъекции в промпт, утечки данных в логи и стороннюю телеметрию, недостающие лимиты
- правки по приоритету, у каждой оценка в часах
Если чинить нечего, я так и напишу. Пока такого не было, но отчёт вы получаете в любом случае.
Дальше сама работа
Правки и фичи идут по 60-70 EUR в час. Держу двух клиентов одновременно, а не пятерых, поэтому работа двигается, а не стоит в очереди. Делает её тот же человек, который писал отчёт, так что объяснять второй раз ничего не нужно.
Как я работаю
Письменно и асинхронно. Постановка, ревью и статусы идут в тексте, обязательных созвонов я не держу. Нахожусь в Черногории, часовой пояс CET. Английский письменный свободный; если у вас в процессе ежедневное видео, я неподходящий исполнитель, и выяснить это лучше сейчас.
Договор и счета идут через мою черногорскую компанию, в евро.
Что не беру
Обучение моделей и ML-исследования, Python как основной бэкенд проекта, Java, .NET, настройку Kubernetes. Скажу об этом в первом же ответе, а не через три недели.
Как со мной связаться
Почта vlad@vitovtsev.site или терминал на главной: он отвечает на вопросы про мою работу и передаёт сообщение мне.