Inference Gateway

решили: 2380 баллов

Один наш пользователь маниакально, раз за разом, шлёт чат-боту одно и то же сообщение. Что же он так настойчиво хочет нам передать? Чата у тебя нет и переписку его не открыть. Зато есть сырой API нашего inference-сервера, тот самый, что обслуживает все запросы. Дальше сам.

🛰️ Inference Gateway

curl -s "/c/inference-gw/v1/completions" \
  -H 'Content-Type: application/json' \
  -d '{"prompt": "hello", "max_tokens": 16}'

🕐 5/5 попыток за час