Cloudflare отдала две модели, которые только выбирают, но не болтают.
Cloudflare выпустила 1 октября Clef и Clef-flash, модели выбирают один из заданных вариантов. Clef-flash отвечает за 39 миллисекунд, а платный соперник Jev тратит 524 миллисекунды. Обе работают в сети Cloudflare и лежат на Hugging Face.
Почему это важноБольшая часть работы агента это сортировка и маршрутизация, а не написание текста. Передача её маленькой модели сокращает и ожидание, и счёт.