Платформа оптимізації для генеративних систем
- Період
- Груд 2025 — зараз
- Роль
- Full-stack · ядро
- Компанія
- Geniusee
- Стек
- TypeScript · BunNext.js · ReactTailwindFirebaseAI-SDK · Langfuse
Що це було
Платформа, яка відстежує, як контент бренду з'являється у відповідях AI-систем і допомагає маркетинговим командам це покращувати. TypeScript-монорепозиторій на Bun: вебзастосунок для клієнтів, адмін-панель і сервіси за ними.
Проблема
Кожна відповідь, яку показує продукт, коштує виклику моделі, а корисне покриття означає повторювані запити до кількох систем з одним і тим самим питанням. Зроблено наївно — рахунок росте разом із цікавістю клієнта, і ніхто не може сказати, яка функція витратила гроші.
Що я збудував
Ядро оптимізаційного рушія: запити маршрутизуються до найдешевшої системи, здатної на них відповісти, зібрані сторінки кешуються замість повторного завантаження під кожен запит, а кожен виклик моделі трасується через Langfuse разом із функцією, яка його зробила.
Відкинутою альтернативою була одна преміальна модель на все — простіше в осмисленні й саме той варіант, який обирає більшість команд. Він ламається тієї миті, коли покриття важить більше за відшліфованість окремої відповіді, бо клієнт купує саме покриття.
Що це дало
Нові системи можна було додавати без злому кривої витрат, а вартість стала числом на кожну функцію, про яке команда могла сперечатися, замість одного рядка в місячному рахунку. Розробка триває.