Диагностика: внедрение ИИ в проекты (продвинутый уровень)

Какой метод HTTP используется для потоковой передачи ответов от ИИ (streaming) через OpenAI API?

GET с параметром stream=true

POST с телом {stream: true} и заголовком Accept: text/event-stream

PUT с заголовком X-Stream: true

DELETE с body stream

Выберите вариант

Что такое token в контексте LLM и как он влияет на стоимость?

Токен = слово. Стоимость зависит от количества токенов в запросе и ответе.

Токен = часть слова (от 1 до 4 символов на английском). Стоимость = (input_tokens * цена_input) + (output_tokens * цена_output).

Токен = символ. Стоимость фиксированная за запрос.

Токен = запрос. Каждый запрос стоит одинаково.

Выберите вариант

Что такое RAG (Retrieval-Augmented Generation) и зачем он нужен?

Метод дообучения модели на своих данных (fine-tuning).

Архитектура, где сначала ищутся релевантные документы (векторный поиск), затем они добавляются в контекст промпта для генерации ответа.

Способ сжатия промптов для экономии токенов.

Метод аугментации изображений для мультимодальных моделей.

Выберите вариант

В каком случае лучше использовать fine-tuning, а не RAG?

Когда нужно изменить стиль ответов или обучить модель специфическим форматам, а объём данных позволяет (сотни+ примеров).

Всегда, потому что fine-tuning дешевле.

Когда данные часто меняются (каждый день).

Когда у вас нет доступа к API.

Выберите вариант

Что такое embedding и для чего он используется в ИИ-проектах?

Это способ сжатия изображений для экономии места.

Векторное представление текста (массив чисел), которое отражает семантический смысл. Используется для поиска похожих документов, кластеризации, RAG.

Это настройка температуры модели.

Это максимальная длина ответа модели.

Выберите вариант

Какой промпт эффективнее для получения структурированного ответа (JSON) от LLM?

'Дай ответ в формате JSON'

Указать явную схему JSON в промпте, добавить пример (few-shot), попросить не добавлять пояснений, установить response_format: { type: 'json_object' } (для API).

'Верни JSON' без схемы

Использовать только GET-запрос

Выберите вариант

Как защитить API-ключ к OpenAI в production-приложении?

Хранить в .env файле на сервере, не коммитить в репозиторий, использовать прокси-бэкенд для вызовов API (не вызывать с фронта напрямую).

Прямо в JavaScript на клиенте, но зашифровать.

Разместить ключ в URL и передавать как параметр.

Хранить в cookies с флагом httpOnly.

Выберите вариант

Что происходит, когда промпт превышает context window модели?

Модель автоматически сжимает промпт.

Модель игнорирует начало промпта (обрезает слева). Нужно укорачивать контекст или выбирать модель с большим окном.

Возвращается ошибка 400 Bad Request.

Запрос выполняется медленнее, но результат тот же.

Выберите вариант

Что такое function calling в OpenAI API и для чего он нужен?

Возможность модели вызывать внешние функции (API, базы данных) по описанию, возвращая структурированный JSON.

Спобы вызвать одну модель из другой.

Метод оптимизации кода внутри ИИ.

Это дебаг-режим для отладки запросов.

Выберите вариант

Вы проектируете RAG-систему для 100 000 документов. Какие компоненты нужны?

Только LLM и API

Vector database (Pinecone, Qdrant, pgvector) + embedding model + LLM + chunking strategy + ретривер + промпт с контекстом.

SQL база данных и полнотекстовый поиск.

Redis и очередь сообщений.

Выберите вариант

Электронный помощник

Диагностика: внедрение ИИ в проекты (продвинутый уровень)