Разработка AI-прокси для оптимизации работы с Claude AI

Техническое задание (ТЗ): Разработка AI-прокси для оптимизации работы с Claude AI

Проект: Разработка решения для интеграции no-code платформы с Claude AI через AI-прокси для оптимизации использования токенов и сохранения контекста промпта.

Описание платформы:

У нас есть no-code платформа для интеграции искусственного интеллекта (ИИ) в цифровые каналы. Платформа позволяет задавать промпт, определяющий поведение ИИ, и интегрировать его через API с различными ИИ-моделями (OpenAI, xAI, Claude). На данный момент требуется оптимизировать работу с Claude AI, так как у этой модели ограниченная способность сохранять контекст промпта между запросами и высокая стоимость токенов.

Цель проекта:

Создать AI-прокси, который будет:

Хранить промпт клиента, чтобы Claude AI не считывал его при каждом запросе, тем самым снижая расход токенов.

Обеспечивать стабильную интеграцию между нашей платформой и Claude AI через API.

Оптимизировать затраты на использование Claude AI.

(Опционально) Предложить альтернативные решения для достижения тех же целей, если они существуют.

Технические требования:

AI-прокси:

Создать промежуточный слой (AI-прокси), который будет находиться между нашей no-code платформой и API Claude AI.

Прокси должен хранить промпт клиента (например, в виде файла или базы данных) и передавать его Claude AI таким образом, чтобы промпт не перечитывался при каждом запросе.

Прокси должен быть развернут на сервере (желательно с указанием рекомендуемого стека технологий).

Реализовать механизм кэширования контекста, чтобы минимизировать количество токенов, используемых Claude AI.

Интеграция:

Обеспечить подключение AI-прокси к нашей платформе через:

API-ключ Claude AI, который будет добавлен в настройки платформы, или

Токен, выдаваемый нашей платформой для авторизации робота, который будет использоваться в AI-прокси.

Настроить безопасное взаимодействие между платформой, AI-прокси и Claude AI (например, с использованием HTTPS, шифрования токенов и т.д.).

Оптимизация:

Реализовать механизм, который минимизирует количество токенов, расходуемых Claude AI, за счет сохранения контекста промпта.

(Опционально) Предложить другие подходы для оптимизации расходов на токены, если они возможны.

Дополнительные пожелания:

Документация к разработанному решению (описание архитектуры, инструкции по развертыванию и использованию).

Предложение альтернативных решений, если они могут быть более эффективными.

Требования к исполнителю:

experience with AI APIs (e.g., OpenAI, Claude, xAI).

Знание работы с REST API, авторизацией (токены, OAuth).

Понимание принципов оптимизации затрат на API (токены, кэширование и т.д.).

(Желательно) Опыт работы с интеграциями и ии.

Результат работы:

Готовый AI-прокси, развернутый на сервере, с интеграцией между нашей платформой и Claude AI.

понятный код, чтобы мы могли легко вносить изменения и создавать новые. Так как у нас много ИИ агентов.

Отчет об оптимизации расхода токенов.

(Опционально) Предложения по альтернативным решениям.

Срок выполнения: 1-2 дня.

Бюджет: 30$.

Оставьте свой тг, мы свяжемся с вами.