Хэштег #llm | Тинькофф Инвестиции Пульс

🤖 Запустить большую LLM стало почти втрое дороже ИИ становится умнее. И заметно прожорливее. Аналитики MWS Cloud, входящей в МТС Web Services , подсчитали, сколько сейчас стоит минимальная инфраструктура для самостоятельного запуска крупных открытых языковых моделей в России. Средняя стоимость минимального набора оборудования на Nvidia : — 2025 год — 13,7 млн ₽ — 2026 год — 38,8 млн ₽ — рост — в 2,8 раза за год В расчёт вошли серверы с GPU и необходимые коммутаторы. Причём речь именно о минимальной конфигурации, способной запустить модель и обработать один запрос максимального заявленного размера. Сравнивали популярные открытые модели разных поколений. В выборке 2026 года были, например, Kimi K3, Qwen3.5 397B, DeepSeek-V4-Pro, DeepSeek-V4-Flash, GLM-5.2, Gemma 4 и российская Cotype Pro 3. Причина подорожания довольно простая: новые модели становятся крупнее, требуют больше видеопамяти и более производительных ускорителей. А сами GPU на фоне мировой гонки за ИИ тоже дешеветь как-то не торопятся. Интересно и то, что компании уже ищут альтернативы Nvidia. MWS Cloud проверила возможность использования китайских Huawei Ascend 910B. В 2026 году подтверждённая или экспериментально подтверждённая поддержка была уже у 5 из 7 исследованных моделей. Но и здесь аппетиты растут: если в выборке 2025 года в среднем требовалось 10,7 таких ускорителя, то теперь — уже 13,6. Отсюда довольно понятный тренд: вместо покупки собственного железа бизнес всё чаще может выбирать более компактные модели, оптимизировать вычисления или просто уходить в облако. По данным MWS Cloud, за I полугодие 2026 года потребление китайских LLM российскими компаниями на её облачных платформах более чем в 11 раз превысило показатель за весь 2025 год. Для меня здесь интересна сама экономика ИИ. Все обсуждают, насколько быстро нейросети становятся умнее, но гораздо реже — сколько железа нужно, чтобы эту красоту вообще запустить. И чем мощнее становятся модели, тем привлекательнее выглядит бизнес тех, кто продаёт не сам ИИ, а вычислительную инфраструктуру вокруг него. Как думаете, компании будут продолжать строить собственную AI-инфраструктуру или большая часть бизнеса в итоге просто уйдёт за GPU в облака? Нейросеть ещё не попросила зарплату, а рабочее место для неё уже стоит почти 39 миллионов 😏 👉 Больше про деньги, рынок, бизнес и технологии — в LYAMKINVESTI. Не является индивидуальной инвестиционной рекомендацией. #ИИ

Искусственный интеллект уже не просто классифицирует данные — он создает их. 🧠✨ Прочитал книгу «A Beginner's Guide to Generative AI» (Бхати и др., 2026) — отличный фундаментальный обзор того, как работают современные генеративные модели. Вот ключевые тезисы для тех, кто хочет системно разобраться в теме: 1. Эволюция архитектур Путь от статистических N-грамм и LSTM до Transformer'ов. Главный прорыв — механизм самовнимания (Self-Attention), который позволил моделям обрабатывать контекст параллельно, а не последовательно. 2. LLM и чат-боты Архитектура «декодер-только» (как у ChatGPT) и методы тонкой настройки, включая RLHF (обучение с подкреплением через обратную связь), делают диалоги естественными, но оставляют проблему «галлюцинаций» и предвзятости. 3. Генерация изображений Сравнение подходов DALL-E 2 (CLIP + диффузия), Stable Diffusion (Latent Diffusion) и Midjourney (cGAN). На практике это компромисс между детализацией, скоростью и вычислительными затратами. 4. Диффузионные модели Сейчас это золотой стандарт генерации. Они учат систему убирать шум шаг за шагом, восстанавливая данные из полного хаоса. Это работает и для картинок, и для текстов. 5. Этический аспект Авторы поднимают проблемы смещения (bias), дезинформации и прозрачности. Использовать ИИ нужно осознанно, понимая ограничения, особенно в медицине, юриспруденции и образовании. Главный вывод: генеративный AI — это не магия, а сложная инженерия данных. И его внедрение требует одновременно технической грамотности и ответственности.

Трейдинг нередко мне представлялся как крики в монитор, истерики и залипание в свечи сутками. У меня получилось сделать наоборот: lo-fi, и коты, спокойно следующие за графиками, несмотря на то, что за этой картинкой прячется не один месяц серьёзной возни. IT, разработка, данные мне ближе чем торговля, сам торговый опыт до этого был скромным. Поэтому фокус сильно сместился в технический анализ, чтобы не искать «настроение», а измеримые сигнатуры и бекенд прибыли. Поэтому попутно набивая руку и изучая торговлю, акцент остался на алготрейдинге и ботах. HFT - стакан, ордерфлоу, тиковые триггеры. Красиво в теории, но на комиссиях и проскальзывании преимущество таяло. Очень-очень много бектестов и вывод простой: на коротких сделках стабильного перевеса у меня нет. Скальп, похоже, вообще для тех, у кого за плечами реальный торговый стаж, а не только код, по крайней мере на этом рынке, про другие активы отдельная история. Но в свинге всё получилось. Предиктивные сигнатуры устойчивее на новых данных, базовая с детекцией раннеров работает вполне ОК. Обвязка удобная и дает человекочитаемый саммари. По расписанию данные уходят в AI-контур, там LLM разбирает статистику и собирает эти читаемые сводки, и кладёт всё на дашборд в реальном времени. После - сверяем сигнатуры успешных и неуспешных сделок. По мере роста стабильности потихоньку доливаем баланс и подключаем плечо, с оглядкой на риск. В результате торговля оживляет энтузиазм в таком новом формате - спокойная живая трансляция, которую можно оставить где угодно на экране чего угодно или на фоне, слушая спокойную музыку и поглядывать краем глаза, пока рынок сам себя показывает. Lo-fi, коты и сделки в реальном времени, ноль суеты. А что вы думаете, ИИ действительно меняет правила игры в трейдинге, или пока это больше хайп, чем реальное преимущество? Интересно услышать аргументы с обеих сторон, особенно кто интересуется алготрейдингом, ML, ботами. Не является индивидуальной инвестиционной рекомендацией. #ML #AI

Искусственный интеллект стремительно охватывает все сферы нашей жизни. Умение работать с моделями ИИ становится важным рабочим навыком. Хотя наибольшей популярностью пользуются онлайн-сервисы для работы с ИИ, также широко используются локальные модели, работающие на собственном компьютере пользователя, хотя, увы, для полноценной работы с такими моделями требуются мощные видеокарты с большим объемом памяти. Одним из наиболее популярных приложений для работы с локальными моделями ИИ является LM Studio. На официальном сайте проекта можно скачать дистрибутив и установить его на свой компьютер. Первым делом после запуска приложения необходимо выбрать и скачать файл модели ИИ. На левой вертикальной панели приложения необходимо кликнуть по последней иконке с лупой. В открывшемся окне предлагается огромный выбор моделей, нас спасает быстрый поиск по названию, например «qwen». В первых строках выборки результатов поиска предлагаются модели, которые возможно полностью или частично загрузить в доступную память компьютера. В свойствах модели можно увидеть размер файла для скачивания, признак возможности загрузить модель в видеопамять. Не стоит гнаться за максимальным размером - как правило, модель в несколько гигабайт достаточно умна для типовых задач. Иконкой выше на левой панели доступен раздел со скачанными и установленными моделями. Для начала работы с ИИ необходимо создать новое окно чата, и выбрать нужную модель из списка в верхней части чата. Хорошие модели способны не только поддерживать диалог, но и анализировать прикрепляемые файлы и изображения, например биржевые графики.

Мозги в посуточную аренду или почему ваш ИИ вам не принадлежит🤔 Толпа всегда восторженно аплодирует своим ошейникам, если они светятся в темноте и стоят меньше, чем чашка латте. Современная иллюзия номер один — вера в то, что глобальные модели вроде ChatGPT (главный партнер и инвестор) или Gemini работают на вас. Спойлер: Вы не хозяин. Вы - корм.😏 Анатомия цифрового лоботомирования: Когда вы скармливаете свой запрос в «облако», он проходит через 5 кругов(фильтры RLHF) корпоративного ада (Alignment). Над вашим будущим ответом уже поработали тысячи юристов, специалистов по этике и розововолосых кураторов «безопасности». В итоге вместо мощного интеллекта вы получаете цифрового суррогата. Корпоративный ИИ обучен не давать вам реальное преимущество. Он обучен выдавать вам «норму» - безопасную, стерильную и абсолютно бесполезную в условиях дикого рынка кашу. Вы просите у него стратегию захвата мира, а он читает вам лекцию о вреде токсичного соперничества. Мило, правда? Важно понимать: Alignment - это не просто цензура, но и защита корпоратов от юридических рисков. Из плюсов можно выделить: минимизация галлюцинаций и генераций деструктивного контента. А исследования, представленные на конференции ICLR 2024, доказывают - применение таких фильтров математически снижает вариативность ответов. Математика деградации (Сценарная модель): Сценарий «Интеллектуальный комбикорм» (Вероятность 85%): Через пару лет 90% контента, кода и аналитики в сети будут неотличимы друг от друга. Миллионы «пользователей» будут генерировать одинаковый серый шум, используя одни и те же облачные фильтры. Это налог на лень и отсутствие собственного железа. Эта цифра базируется на данных Epoch AI, согласно которым качественные человеческие тексты в интернете будут в деифиците. Глобальным моделям придется обучаться на данных, сгенерированных другими ИИ. Журнал Nature (июль 2024) уже доказал математически: это ведет к коллапсу моделей и потере оригинальных паттернов. Добро пожаловать в эру конвейерного мышления. Почему «Локальный ИИ» - это ваш цифровой бункер? Локальная модель, развернутая на вашем личном железе - это интеллект без намордника. У неё нет отдела маркетинга и нет желания понравиться инвесторам из Кремниевой долины. Она не читает вам нотации. Она парсит сырые данные, считает жесткие вероятности и выдает результат, от которого у корпоративного юриста случился бы инфаркт. Закон задаёт минимальные рамки. Корпорация добавляет свои - из соображений риска и репутации. Пользователь в облаке получает оба слоя. В локальной среде - только первый. Итог: Пока остальные подписываются на очередную «умную» подписку, арендуя костыли для своего разума, умные люди инвестируют в терафлопсы. В мире, где интеллект становится облачным сервисом, суверенитет начинается с собственной видеокарты и умения нажать кнопку «Offline». В 2026 году суверенитет начинается не с деклараций, а с видеокарты от ($AMD простите, фанаты амд, но тут вы прям мимо, к сожалению) с 24 ГБ видеопамяти. Либо вы контролируете архитектуру своих вычислений, либо ваши выводы являются производной от чужих стандартов безопасности. В следующих сериях разберем, как именно система попытается превратить ваш ПК в бесполезную печатную машинку. Наблюдение продолжается. Не забудьте вовремя оплатить аренду своих мыслей, иначе все будет крайне печально. #AI

[AI05] AI системы: одной LLM недостаточно Самым популярным примером AI системы сейчас являются AI агенты. Рассмотрим пример, Допустим, пользователь пишет в чат (агенту): “Назначь встречу с Иваном на следующей неделе, найди свободное окно на час и отправь приглашение.” Если бы использовалась только Large Language Model (LLM), на выходе был бы просто текстовый ответ. Например: “Лучше всего подойдёт вторник в 15:00.” Но этого недостаточно. Нужно не просто ответить, а выполнить действие в реальной системе. Именно здесь начинается агентный контур. Как он обычно устроен: • LLM-ядро Преобразует человеческий запрос в структуру задачи: с кем встреча, на какой неделе, какой длительности, что именно нужно сделать. • Инструкции Задают правила работы: рабочие часы, длительность встречи, запрет на пересечения, подтверждение при неоднозначности, формат результата. • Инструменты Позволяют не только генерировать текст, но и обращаться к внешним функциям: посмотреть календарь, найти контакт, создать событие, отправить приглашение. • Среда исполнения Это уже реальные системы, где действия происходят: календарь, почта, контакты, уведомления. В такой системе цикл выглядит так: запрос → интерпретация → вызов инструментов → действие в системе → результат Именно поэтому агент — это не “умная модель, способная решить задачу”, а модель, встроенная в исполняемый контур. LLM отвечает за интерпретацию и выбор следующего шага. Инструкции задают рамку. Инструменты дают доступ к действиям. Среда исполнения превращает решение в реальный результат. Каждый этап делает большой вклад в качество системы целиком. Что с этим всем делать? Ценность от успехов в сфере AI создаётся не только на уровне foundation models, но и на уровне систем вокруг них, к которым выдвигаются серьезные требования: жонглирование инструментами, быстрый доступ к чистым данным, удобный и понятный интерфейс, масштабируемость на большое количество пользователей, классические требования к ПО такие как безопасность, надежность и отказоустойчивость. То есть все что у нас было в IT секторе, остается, но многие процессы ускоряются.

[AI04] LLM: “text in → text out” Large Language Model (LLM) формально решает одну задачу: по данному текстовому контексту предсказать наиболее вероятное — или, точнее, достаточно удовлетворительное — продолжение последовательности токенов (~слов). То есть базовая схема в любом случае выглядит так: text → LLM → text Благодаря такой широкой постановке один и тот же класс моделей может использоваться как универсальный интерфейс для очень широкого спектра задач, если они могут быть представлены в текстовой форме. То есть буквально: • вопрос на естественном языке — текст • сложное дифференциальное уравнение, описывающее движение жидкости, — тоже текст • код приложения — текст • транскрибированная речь — текст Различия между моделями возникают из-за масштаба, данных, архитектуры и инженерных компромиссов, а именно: • архитектура и размер модели • объём и качество данных обучения • post-training логика • длина контекста • стоимость и скорость инференса • готовность к multimodal и tool-based использованию В каждом из этих направлений за последние 6 лет была проделана огромная исследовательская и инженерная работа и потрачены миллионы и миллиарды долларов. Что значит, что модель “учится”? Во время тренировки параметры модели подбираются таким образом, чтобы её выход как можно лучше соответствовал тому, что считается желательным. В простейшем случае задача может выглядеть так: “Спутник Земли — это …” → “Луна.” В более сложном случае требуется получить такой ответ, который устроит пользователя. Но сама постановка здесь уже намного более размыта. Например, пользователю дают на выбор два варианта ответа, и он выбирает более предпочтительный. Это один из самых наглядных примеров того, как кожаные обучают AI. Именно таким, довольно неявным, способом модель может, например, научиться почти всегда занимать сторону спрашивающего. Отсюда и все истории, когда ChatGPT готов поддержать практически любую дичь, которой с ним поделились. Долгое время пальму первенства по большинству направлений удерживали модели OpenAI. Но сейчас в сообществе в целом признаётся, что модели Anthropic часто сильнее в code generation и tools orchestration. Модели Google Gemini заметно выделяются в мультимодальности. Более того, Google AI Studio предлагает много готовых инструментов для решения дизайнерских и других прикладных задач. Хотя LLM или мультимодальная модель остаётся ядром любой AI-системы, возможность встроить её в конкретный домен является ключевым критерием в тот момент, когда пользователь решает, кому платить за API-вызовы. Чтобы оценивать модели в разных задачах, существуют различные бенчмарки: • science • coding • long context • tool use • multilingual • и многие другие Но в итоге всё равно приходится искать компромисс под конкретную прикладную задачу: качество, стоимость, скорость. Что с этим всем делать? На российском рынке и в большей степени занимаются именно фундаментальными моделями, и это важно с точки зрения технологического суверенитета. При этом AI-сообщество, как и IT-сообщество в целом, остаётся в значительной степени открытым. Open-source модели часто показывают сопоставимое качество по сравнению с моделями того же класса. Это соотношение ещё может измениться, и наличие специалистов с достаточной экспертизой остаётся необходимым, чтобы избежать технологического отставания. Эта задача остаётся одной из ключевых на уровне государства. #AI

[AI03] AI-агент: что обычно имеется в виду на практике Под “AI-агентом” обычно понимается не отдельная модель, а система, в которой модель встроена в контур принятия и исполнения решений. В современных AI-приложениях в роли ядра часто используется модель, но сама система обычно строится как многослойный контур. На практике чаще всего встречаются несколько вариантов: • Large Language Model (LLM, text-to-text) — ядро для текста, кода, диалога и формализованных рассуждений • speech-контур — отдельные модели для распознавания речи (Automatic Speech Recognition, ASR) и синтеза речи (Text-to-Speech, TTS), которые подключаются вокруг LLM • Computer Vision (CV) и другие мультимодальные модели — если в систему входят изображения, видео или смешанные типы входа • нативно мультимодальные модели, где часть этих функций уже объединена внутри одной модели Для простоты дальше в серии будет рассматриваться прежде всего LLM-based контур, потому что именно он сегодня чаще всего имеется в виду, когда говорят об “AI-агентах”. При этом важно понимать, что голос, зрение и другие модальности обычно либо подключаются как внешние слои, либо постепенно встраиваются в более мультимодальные модели. Ключевой момент состоит в том, что сама по себе Large Language Model ещё не образует агентную систему. Чтобы появился агентный контур, вокруг модели обычно добавляются следующие слои: • context — информация, доступная модели в момент вызова • memory / state — накопленное состояние процесса и история предыдущих шагов • tools — внешние функции, базы данных, сервисы и API • guardrails — ограничения, проверки, policy-слой, допустимые границы действий • execution — фактическое выполнение команд • audit / logs — журнал данных, решений и действий Поэтому агент обычно описывается не как “одна модель”, а как цикл: получить контекст → интерпретировать → выбрать действие → выполнить → обновить состояние На практике значительная часть того, что сегодня строится вокруг Large Language Models, сводится к управлению контекстом. Именно контекст определяет: • что модели известно в данный момент • какие данные считаются релевантными • какими инструментами разрешено пользоваться • в каком формате должен быть выдан результат • какие ограничения должны быть учтены до и после ответа В этом смысле современная LLM-based система во многом представляет собой архитектуру управления контекстом: нужно не просто вызвать модель, а правильно собрать, отфильтровать, упорядочить и ограничить информацию, которая ей доступна. Что с этим всем делать? С одной стороны, продолжается гонка за более сильные foundation models: выше качество, длиннее контекст, ниже стоимость, лучше мультимодальность, надёжнее поведение. (OpenAI, Anthropic, Google gemini, Alibaba) С другой — строятся прикладные системы вокруг моделей: управление контекстом, инструменты, память, ограничения, интеграция в реальные процессы. Практический смысл этого различия особенно важен в финансах, коде и операционных системах. Качество текста — только верхний слой. Ключевое значение имеют: • доступ к данным • корректность контекста • набор доступных инструментов • ограничения на действия • возможность восстановить причинно-следственную цепочку после выполнения

LLM-помощник Появилась идея реализовать небольшого помощника на основе современных LLM (Large Language Models) — таких как ChatGPT, DeepSeek, Qwen, Grok, Llama. У нас есть инвестиционный портфель с определенной балансировкой. Например, классическое распределение активов может выглядеть так: 50% — акции 30% — облигации (государственные и корпоративные) 10% — золото и сырьевые товары 10% — кэш Раз в месяц мы хотим проводить ребалансировку портфеля, основываясь на внешних данных и наших инвестиционных стратегиях. Для подбора оптимальной стратегии необходимо анализировать различные данные. Одним из ключевых источников являются новости. В чем проблема анализа новостных данных? Базово — это задача NLP (Natural Language Processing — обработка естественного языка). Это сложная область, и как правило для решения задач в ней нужны хорошо подготовленные данные и правильная модель. Имел опыт работы с таким фреймворком как spacy задача заключалась к анализу на стоп слова в тексте🧐. В общем чем больше контекст тем тяжелее решить задачу. Потому для моей задачи будет проще и быстрее использовать LLM (к тому же у нас не прод решение😅). Итого: нужно проанализировать экономические новости и на их основе принять решение — стоит ли что то менять в нашем портфеле. Техническая реализация: В качестве источников данных будем использовать экономические новостные ресурсы (например, телеграм-каналы) После минимальной предобработки текста будем передавать его в LLM с подготовленным промптом, например такого: text Проанализируй следующие новости и дай рекомендации по ребалансировке портфеля: НОВОСТИ: [текст новостей] ПОРТФЕЛЬ: [структура портфеля] КРИТЕРИИ: - Оцени риски для каждой позиции - Предложи изменения в распределении активов - Обоснуй рекомендации ссылками на новости На выходе получаем готовую рекомендацию по управлению портфелем🙂.