[AI05]

[AI04] LLM: “text in → text out” Large Language Model (LLM) формально решает одну задачу: по данному текстовому контексту предсказать наиболее вероятное — или, точнее, достаточно удовлетворительное — продолжение последовательности токенов (~слов). То есть базовая схема в любом случае выглядит так: text → LLM → text Благодаря такой широкой постановке один и тот же класс моделей может использоваться как универсальный интерфейс для очень широкого спектра задач, если они могут быть представлены в текстовой форме. То есть буквально: • вопрос на естественном языке — текст • сложное дифференциальное уравнение, описывающее движение жидкости, — тоже текст • код приложения — текст • транскрибированная речь — текст Различия между моделями возникают из-за масштаба, данных, архитектуры и инженерных компромиссов, а именно: • архитектура и размер модели • объём и качество данных обучения • post-training логика • длина контекста • стоимость и скорость инференса • готовность к multimodal и tool-based использованию В каждом из этих направлений за последние 6 лет была проделана огромная исследовательская и инженерная работа и потрачены миллионы и миллиарды долларов. Что значит, что модель “учится”? Во время тренировки параметры модели подбираются таким образом, чтобы её выход как можно лучше соответствовал тому, что считается желательным. В простейшем случае задача может выглядеть так: “Спутник Земли — это …” → “Луна.” В более сложном случае требуется получить такой ответ, который устроит пользователя. Но сама постановка здесь уже намного более размыта. Например, пользователю дают на выбор два варианта ответа, и он выбирает более предпочтительный. Это один из самых наглядных примеров того, как кожаные обучают AI. Именно таким, довольно неявным, способом модель может, например, научиться почти всегда занимать сторону спрашивающего. Отсюда и все истории, когда ChatGPT готов поддержать практически любую дичь, которой с ним поделились. Долгое время пальму первенства по большинству направлений удерживали модели OpenAI. Но сейчас в сообществе в целом признаётся, что модели Anthropic часто сильнее в code generation и tools orchestration. Модели Google Gemini заметно выделяются в мультимодальности. Более того, Google AI Studio предлагает много готовых инструментов для решения дизайнерских и других прикладных задач. Хотя LLM или мультимодальная модель остаётся ядром любой AI-системы, возможность встроить её в конкретный домен является ключевым критерием в тот момент, когда пользователь решает, кому платить за API-вызовы. Чтобы оценивать модели в разных задачах, существуют различные бенчмарки: • science • coding • long context • tool use • multilingual • и многие другие Но в итоге всё равно приходится искать компромисс под конкретную прикладную задачу: качество, стоимость, скорость. Что с этим всем делать? На российском рынке YDEX и SBER в большей степени занимаются именно фундаментальными моделями, и это важно с точки зрения технологического суверенитета. При этом AI-сообщество, как и IT-сообщество в целом, остаётся в значительной степени открытым. Open-source модели часто показывают сопоставимое качество по сравнению с моделями того же класса. Это соотношение ещё может измениться, и наличие специалистов с достаточной экспертизой остаётся необходимым, чтобы избежать технологического отставания. Эта задача остаётся одной из ключевых на уровне государства. #инвестиции #технологии #искусственныйинтеллект #AI #llm #машинноеобучение #datascience

[AI03] AI-агент: что обычно имеется в виду на практике Под “AI-агентом” обычно понимается не отдельная модель, а система, в которой модель встроена в контур принятия и исполнения решений. В современных AI-приложениях в роли ядра часто используется модель, но сама система обычно строится как многослойный контур. На практике чаще всего встречаются несколько вариантов: • Large Language Model (LLM, text-to-text) — ядро для текста, кода, диалога и формализованных рассуждений • speech-контур — отдельные модели для распознавания речи (Automatic Speech Recognition, ASR) и синтеза речи (Text-to-Speech, TTS), которые подключаются вокруг LLM • Computer Vision (CV) и другие мультимодальные модели — если в систему входят изображения, видео или смешанные типы входа • нативно мультимодальные модели, где часть этих функций уже объединена внутри одной модели Для простоты дальше в серии будет рассматриваться прежде всего LLM-based контур, потому что именно он сегодня чаще всего имеется в виду, когда говорят об “AI-агентах”. При этом важно понимать, что голос, зрение и другие модальности обычно либо подключаются как внешние слои, либо постепенно встраиваются в более мультимодальные модели. Ключевой момент состоит в том, что сама по себе Large Language Model ещё не образует агентную систему. Чтобы появился агентный контур, вокруг модели обычно добавляются следующие слои: • context — информация, доступная модели в момент вызова • memory / state — накопленное состояние процесса и история предыдущих шагов • tools — внешние функции, базы данных, сервисы и API • guardrails — ограничения, проверки, policy-слой, допустимые границы действий • execution — фактическое выполнение команд • audit / logs — журнал данных, решений и действий Поэтому агент обычно описывается не как “одна модель”, а как цикл: получить контекст → интерпретировать → выбрать действие → выполнить → обновить состояние На практике значительная часть того, что сегодня строится вокруг Large Language Models, сводится к управлению контекстом. Именно контекст определяет: • что модели известно в данный момент • какие данные считаются релевантными • какими инструментами разрешено пользоваться • в каком формате должен быть выдан результат • какие ограничения должны быть учтены до и после ответа В этом смысле современная LLM-based система во многом представляет собой архитектуру управления контекстом: нужно не просто вызвать модель, а правильно собрать, отфильтровать, упорядочить и ограничить информацию, которая ей доступна. Что с этим всем делать? С одной стороны, продолжается гонка за более сильные foundation models: выше качество, длиннее контекст, ниже стоимость, лучше мультимодальность, надёжнее поведение. (OpenAI, Anthropic, Google gemini, Alibaba) С другой — строятся прикладные системы вокруг моделей: управление контекстом, инструменты, память, ограничения, интеграция в реальные процессы. Практический смысл этого различия особенно важен в финансах, коде и операционных системах. Качество текста — только верхний слой. Ключевое значение имеют: • доступ к данным • корректность контекста • набор доступных инструментов • ограничения на действия • возможность восстановить причинно-следственную цепочку после выполнения YDEX SBER ASTR #инвестиции #технологии #искусственныйинтеллект #llm #машинноеобучение #datascience

[AI02] AI сверху, математика снизу: как устроена лестница технологий Сейчас слово “AI” чаще всего означает уже готовый интерфейс: чат, генератор, голосовой ассистент, агент, Copilot. Но это только верхний слой. Под ним обычно находится длинная лестница абстракций (ниже очень грубое очертание). AI — это верхний уровень: уже готовая система, которая решает прикладную задачу. Ниже — Machine Learning. Это модели, которые учатся на данных и умеют обобщать на новые случаи. Рядом (и пересекается) — Data Science. Это слой, где формулируется задача, выбираются метрики, проверяются гипотезы и принимается решение, что вообще стоит строить и как измерять результат. SBER Под этим — теория вероятностей и математическая статистика. Именно они отвечают за работу с неопределённостью, шумом, риском, оценками и корректными выводами из данных. Ещё ниже — линейная алгебра, математический анализ и оптимизация. Это фундамент, на котором стоит большая часть современных моделей (да и, в принципе, инженерных систем). И внизу всегда остаются алгоритмы, инженерия и инфраструктура. Потому что модель сама по себе — это ещё не продукт и не система. ASTR Поэтому современный AI — это не совсем "черный ящик”. Это высокий слой над большой математической и инженерной конструкцией. Хорошая новость в том, что уровень абстракции вырос очень сильно. Сегодня уже можно решать большую часть прикладных задач высокоуровневыми инструментами, не погружаясь до самого фундамента. Но есть и вторая сторона: чем ближе задача к границе качества, стоимости, скорости, надёжности и цены ошибки — тем быстрее заканчиваются готовые рецепты и тем важнее становится фундаментальное понимание. Поэтому в практическом смысле картина обычно такая: высокоуровневые инструменты закрывают большую часть типовых задач, а самые сложные и дорогие 20% по-прежнему требуют глубокого понимания того, что происходит под капотом. MOEX TMOS@ #инвестиции #технологии #искусственныйинтеллект #ИИ #машинноеобучение #datascience #экономика