Большая языковая модель: что означает LLM
Модель получает входной контекст и формирует продолжение в виде последовательности текстовых элементов. Качество результата зависит от обучения, переданного контекста, задачи и способа проверки.
Связный ответ может содержать ошибку или вымышленную деталь. Уверенный тон не подтверждает истинность, а отсутствие отказа не доказывает, что модель располагает нужными сведениями.
Модель, интерфейс и прикладная система
LLM — часть прикладной системы. Интерфейс чата, поиск по базе, подключённые инструменты и правила доступа задаются вокруг неё и могут существенно различаться у разных продуктов.
Условный пример: один интерфейс позволяет только редактировать текст, другой дополнительно ищет документы, третий создаёт задачи. Одинаковая модель внутри не делает возможности этих систем одинаковыми.
Большая языковая модель и проверка ответа
Ответ проверяют по назначению: факты сопоставляют с источниками, расчёты — с исходными данными, проект решения — с условиями задачи. Для существенных действий определяют ответственного и точку подтверждения.
Конфиденциальность также зависит от всей системы: куда передают сведения, кто получает доступ, как устроены хранение и обработка. Название модели само по себе этих вопросов не решает.
Чем LLM отличается от RAG и ИИ-агента
RAG добавляет получение внешних фрагментов для ответа. ИИ-агент связывает модель с инструментами и последовательностью действий. Эти подходы могут использовать одну LLM, но выполняют разные функции.
Для выбора решения сначала описывают рабочую задачу, данные, разрешённые действия и критерии результата. Затем определяют, какие возможности действительно нужны помимо генерации текста.
Связанные услуги
Статьи по теме
Материалы по теме
- ИИ в работе компании: данные, права и контроль действий — разбор по теме