Amazon Titan.

Разные модели под одним названием

Amazon Titan является семейством моделей AWS, доступных через Amazon Bedrock. В актуальном обзоре перечислены текстовые эмбеддинги, мультимодальные эмбеддинги и генерация изображений. Это не один чат с одинаковым набором возможностей. Перед интеграцией нужно выбрать модель, которая соответствует входу и нужному результату, а затем сверить ее идентификатор и доступность в выбранной среде.

Модель эмбеддингов преобразует текст в набор чисел, отражающий его смысловые особенности. Она не выдает готовый ответ пользователю и сама не ищет документ в базе. Сравнение векторов и выдачу подходящих фрагментов выполняют другие части приложения. Такая граница особенно важна, когда планируется поиск по внутренним инструкциям или каталогам.

Пример поиска по короткой базе знаний

Для учебной проверки возьмите несколько собственных описаний услуг и вопросы к ним на одном языке. Получите эмбеддинги фрагментов и вопросов одной моделью, затем сравните их в приложении. Сохраните связь каждого числового представления с исходным текстом: иначе найденную близость нельзя будет проверить по содержанию.

Проверьте вопрос с отрицанием и два похожих описания с разными условиями. Ближайший вектор не равен правильному деловому ответу. Для сложного поиска понадобятся отбор фрагментов, проверка прав доступа и собственная оценка качества. Документация отдельно предупреждает об ограничениях межъязыковых запросов: близкие темы на разных языках не обязаны находиться одинаково хорошо.

Что сохранять вместе с индексом

Нужны не только сами векторы, но и идентификатор модели, размерность и правило разбиения исходного текста. Если позже изменить один из этих параметров, прежние и новые записи могут перестать быть сопоставимыми. План обновления индекса стоит определить до загрузки полного набора документов.

Сохраняйте также источник фрагмента и его редакцию. Иначе правильное совпадение по смыслу может вернуть отмененное условие из старой инструкции. Контроль актуальности и прав пользователя относится к приложению поиска; модель эмбеддингов не определяет сама, какой документ разрешено показывать конкретному человеку.

Доступ и технические ограничения

Bedrock предоставляет программный вызов моделей, но оплачиваемой операцией может быть не только итоговый ответ приложения. Индексация набора документов, повторные вызовы и выбранная модель тоже влияют на бюджет. До обработки большого архива определите, какие фрагменты действительно нужно индексировать и как обновлять их после изменения исходников.

У моделей есть ограничения входа, размерности результата и способов выполнения. Векторы разных моделей или разной размерности нельзя бездумно смешивать в одной базе. Для генерации изображений предусмотрен отдельный тип входа и оценки результата. Пример с поиском не подтверждает качество картинки, а пример с изображением не доказывает надежность поиска.

Для каких задач подходит

• Строить смысловой поиск по своим текстам
• Получать эмбеддинги для обработки данных
• Подключать модели изображений через Bedrock