Timo AI
AI-ассистент на FastAPI с интеграцией OpenAI и интерфейсом в Telegram. Личный проект, который я ещё разрабатываю: диалог и бот работают от начала до конца, но это стадия демо, а не запущенный продукт.
- Год
- 2025
- Направление
- AI
Обзор
В Timo AI логика LLM остаётся на сервере: промпты и контекст каждого пользователя собираются в асинхронном сервисе на FastAPI, ответы стримятся токен за токеном, а история диалога сохраняется и подрезается под бюджет токенов, поэтому разговор остаётся связным и не выходит за контекстное окно модели. Вызовы OpenAI спрятаны за одним интерфейсом, так что провайдера можно будет заменить.
Ключевые моменты
Стриминг ответов
Ответ идёт токен за токеном по асинхронному конвейеру, не дожидаясь полной генерации.
Память контекста
История каждого пользователя сохраняется и подрезается под бюджет токенов, чтобы диалог оставался связным.
Честный статус
Работающее демо, которое я ещё разрабатываю, а не запущенный продукт.
Стек