Данный текст больше как пища для размышлений, а не руководство к действию. И описывает мой субъективный прошлый опыт второй половины 2025 и начала 2026 года😎
Ответственная сотрудница и нейронки
Я с 2022 года активно пользуюсь нейронками и уже давно понимал, что за ними будущее. А в середине 2025 года у меня возникло острое желание нанять в штат отдельного человека, который занимался бы исключительно искусственным интеллектом и оптимизацией процессов в компании.
Я взял хорошую девочку. Девочка опыта с нейронками не имела, но была очень ответственной: она долгое время нам делала моушн-дизайн на подряде и зарекомендовала себя крайне положительно. Поскольку она увольнялась со своего места работы, решил не терять такого ответственного человека. Я почему-то верил, что у нее все получится.
Сразу же ей была поставлена прикладная задача — сделать ИИ-помощника в телеграме, который бы сидел в чатах с людьми, отвечал на вопросы по питанию и тренировкам и снимал нагрузку с саппорт-менеджеров (у нас фитнес-приложение, на тот момент чаты были в телеграме, и это сотни, а иногда и тысячи сообщений в день).
Особо я за ней не следил, фокус моего внимания был на других направлениях.
Прошло 3 месяца, ИИ-помощник появился в тестовом варианте, но его рано было показывать людям. Я подумал в тот момент: ну ничего страшного, доработаем еще.
Потом прошло еще 3 месяца, и настал день Х, когда уже нельзя было оттягивать, и я ожидал отличного результата. Девочка провела презентацию перед командой. Быстро стало очевидно, что такого ИИ-помощника точно никому показывать нельзя🙄
Он-то отвечал на вопросы, но один раз ответит правильно, второй раз скажет «не знаю» или вообще что-то нагаллюцинирует. ИИ-скептики, которые на тот момент были в компании, в том числе среди саппорт-менеджеров, мило улыбались, а я понял, что мой эксперимент полностью провалился. Да и стоил мне 6 месяцев полной зарплаты сотрудника со всеми налогами.
Я начал изучать, как был сделан этот ИИ-помощник, и сразу увидел проблему — по сути, все инструкции были свалены в один файл, и если во время тестов ИИ-помощник как-то путался, то в файл просто еще раз дописывался «усиливающий текст». Но тогда модели были тупее, плюс объем текста был немаленьким, и такой подход не работал.
Как я сделал это сам
Я решил сделать эту задачу самостоятельно. Я понял, что один файл не работает и нужно как-то по-другому организовать базу знаний. Поэтому прежде всего я начал с составления базы знаний для бота.
Для этого я выгрузил все старые телеграм-чаты, которые у меня были (а это миллионы сообщений), и все наши инструкции. После чего я убрал дубли и оставил только уникальную информацию, которая не повторяется. Потом вся эта уникальная информация была разложена по отдельным карточкам, в основном в виде «вопрос — ответ». И все это было залито в векторную датабазу.
Сама система полностью самописная с нуля. Создавал самостоятельно (по сути, вайбкодом), сначала в Codex с помощью Codex 5.3 xhigh, и допиливал уже точечно в Claude Code с помощью Opus 4.6. Заняло вместе с тестами около 2 недель.
Чтобы бот отвечал точно и без всякой херни, реализована поэтапная обработка вопросов. Например, если вопрос текстовый:
Rewrite (нейронка берет исходный вопрос + переписывает его в двух вариантах, так как не все люди умеют нормально формулировать свои вопросы)
Search (нейронка ищет 20+ подходящих карточек в векторной базе знаний RAG)
Rerank (нейронка оценивает все карточки по 10-балльной шкале, ранжирует 4 подходящих по смыслу и компонует для ответа)
Answer (на основе отобранных карточек нейронка составляет ответ)
Sanitize (ответ дополнительно проверяется по различным правилам, в том числе, если нейронка вставляет ссылки, проверяется, чтобы ссылки соответствовали белому списку из базы)
Так выглядит обработка одного вопроса в админке. Из 26 найденных карточек нейронка отобрала 4 самые подходящие (выделены зеленым), и уже по ним составила ответ. Весь путь от вопроса до ответа — 5,8 секунды.
На каждом этапе для экономии стоимости используются разные нейронки. Например, на тот момент в Answer использовалась более сильная и дорогая Sonnet 4.6, а в Rewrite — более дешевая Gemini 2.5 Flash.
В итоге стоимость 1 ответа составляла около 0,5–1,5 цента, или около $100 за 10 000 ответов. Для справки, 10 000 ответов — это плотная месячная нагрузка для 3-х саппорт-менеджеров.
Была сделана продвинутая админ-панель, где сотрудники могли редактировать карточки и отправлять на проверку администратору.
Фактически, чтобы бот покрывал 100% вопросов, нужно было просто добавить больше карточек в базу знаний. При этом если бот отвечал, но понимал, что ему при ответе не хватало знаний, он сохранял такие вопросы со своими ответами отдельно. Из них можно было в пару кликов создать новые карточки в базе знаний. При создании или редактировании карточек можно было прямо в редакторе использовать ИИ-помощника на базе Opus 4.6.
Редактор карточек: категория, вопрос, ответ и, если нужно, скриншоты с шагами. Кнопка AI — тот самый ИИ-помощник в редакторе.
Что в итоге
Конкретно эти скромные успехи с нейронкой позволили в свое время экономить в рамках компании более $4 000 ежемесячно. А бот-помощник забрал на себя 90%+ ответов саппорта🙂
При этом бот не галлюцинирует, не выдумывает, отвечает строго по базе, а если в базе знаний нет контекста по вопросу — отправляет к человеку.
На вопрос про сахарозаменители при грудном вскармливании ИИ-помощник отвечает строго по данным из базы и рекомендует проконсультироваться с врачом.
Мгновенные ответы в 01:53 ночи, развернуто и с учетом всего, что человек о себе рассказал. Но начиналось все с полного провала.
Могу сказать, что реакция на ответы бота была даже более положительная, чем на ответы живого человека в саппорте, поскольку бот дает более развернутые ответы, среднее время ожидания ответа было на тот момент — 5–10 секунд (сейчас — 2–6 секунд), работает ночью и без выходных💪
Изначально бот работал только в телеграме, но его легко было внедрить в рамках встроенного чата внутри приложения. Сейчас в телеграме мы его уже не используем: мы перенесли его в приложение, доработали, и там уже используются другие модели. И стоимость ответа снизилась до 0,1–0,2 цента, или $100 за 50 000 ответов.
По моей оценке, такой ИИ-помощник может закрывать 99% всех обращений, и сейчас мы вместе с командой разработки дорабатывем его так, чтобы он закрывал прямо все вопросы, за исключением слишком личных. И там есть, где в этом плане развернуться, он потенциально может отвечать еще лучше😏
Кстати, девочку мы не уволили. Она в итоге стала заниматься монтажом видео, и тот опыт с нейронками все-таки не прошел даром: сейчас она хорошо это делает и многие моменты в монтаже автоматизировала.
Выводы
Если вы просто хотите, чтобы кто-то разобрался с нейронками за вас, далеко не факт, что это получится, даже если вы попытаетесь "закидать этот вопрос деньгами". Я считаю, что собственнику нужно самому заниматься и разбираться в этой теме, возможно, даже лучше всех в компании.
Если вы пытались решить какой-то вопрос с помощью нейронок, но у вас не получилось и вам показалось, что они очень хреново работают, то вполне возможно, что проблема не в нейронках, а в том, как их использовали, и, грубо говоря, в прослойке между нейронкой и задачей. У меня задача была одна и та же: в первый раз — один файл с инструкциями, во второй — база знаний из карточек и поэтапная обработка. А результат совершенно разный.
Надеюсь, кому-то этот текст будет полезен😎