Генерация текста
Обновлено
Генерация текста устроена как обычный блок генерации, но ведёт себя иначе на нескольких важных этапах: ответ приходит не сразу, стоимость заранее не показывается, а результат — это такой же текстовый блок, который можно сразу пустить дальше по проекту как промпт. Ниже — то, что отличает именно текст.
Как собрать генерацию текста
В каталоге блоков, в категории «Текст», есть блок «OpenRouter» — это и есть генерация текста. Модель — от Claude и GPT до открытых — выбирают списком прямо в блоке. Подключите к входу Промпт текстовый блок с заданием, как для любой другой генерации.
Результат генерации приходит в обычный текстовый блок — так же, как и при любой другой генерации. Подробнее об устройстве блока генерации и о том, куда попадает результат, — в статье Как работает генерация, о входах для примеров и содержимого — в статье Что подавать на вход генерации.
Как дать модели текст для обработки
У блока три входа: Промпт, Текст и, у моделей с приёмом изображений, Изображения. Если подключён только Промпт, модель отвечает на него как на обычный запрос. Если подключено ещё и содержимое — в Текст или Изображения, — Промпт становится инструкцией, что с этим содержимым сделать.
Например, чтобы усилить черновой промпт: в Текст подключите блок с черновиком, а в Промпт — блок с заданием «Перепиши этот промпт для генерации изображения, добавь детали света и композиции».
Текст приходит целиком или по частям
По умолчанию ответ появляется в блоке постепенно, по мере того как модель его пишет. Если выключить переключатель «Стриминг» в параметрах блока, весь ответ придёт одним куском, когда модель закончит.
Можно ли остановить генерацию на середине
Да, тем же способом, что и любую другую, — через список задач по счётчику кредитов (Очередь, ожидание и отмена генерации). Кнопки остановки на самом блоке нет.
Может ли модель прочитать изображение
В каталоге есть текстовые модели, которые умеют распознавать содержимое изображений и учитывать его в ответе. Если вы выбрали такую модель, на блоке автоматически появляется дополнительная точка входа Изображения — к ней можно подключить до десяти изображений одновременно, в дополнение к тексту.
Учтите обратный ход: если переключиться с такой модели на ту, что изображения не принимает, точка входа исчезает вместе с подключёнными к ней соединениями — изображения придётся подключать заново, если вы вернётесь к прежней модели.
Куда идёт результат и как он выглядит
Ответ приходит с разметкой — заголовками, списками, выделением. После генерации это обычный текстовый блок: его можно редактировать так же, как любой другой (подробнее в статье Какие бывают блоки).
Поскольку это тот же тип блока, что и обычный текстовый блок с промптом, блок с результатом можно сразу подключить к входу Промпт следующей генерации — изображения, видео или снова текста. Подключается именно текстовый блок с результатом: сам блок «OpenRouter» к входу Промпт не подключается.
Сколько стоит генерация и есть ли предел на длину ответа
Стоимость генерации текста заранее не показывается: цена зависит от объёма поданного текста и от длины ответа, а она заранее не известна. Списание происходит после того, как генерация завершилась, — подробнее в статье Кредиты и их списание. Ненулевой баланс при этом нужен и здесь: с пустым счётом запуск не пройдёт.
Максимальную длину ответа можно задать самостоятельно: в дополнительных параметрах блока есть значение «Макс. токенов». Рядом лежит «Температура»: чем она выше, тем разнообразнее и неожиданнее ответы, чем ниже — тем ближе они к одному и тому же на повторный запрос.