Дмитрий Колодезев

Анализирую данные. Консультирую и учу.

Капитанский мостик 2-29


Двадцать девятый выпуск второго сезона подкаста "Капитанский мостик" про искусственный интеллект, будущее и все такое. Ведущие подкаста — Валентин Малых и Дмитрий Колодезев

Площадки
Содержание
  • 00:00:00 введение
  • 00:00:59 Anaconda и Kilo Code
  • 00:07:07 Stripe и OpenRouter
  • 00:12:13 Amazon против AGI
  • 00:15:49 вышел KodaCode 1.0
  • 00:20:18 Cerebras и AMD
  • 00:24:06 Microsoft и Kimi K3
  • 00:26:17 Илон Маск и будущее
  • 00:39:04 Claude, Sakana и уязвимости
  • 00:50:27 Cisco и уязвимости
  • 00:53:13 ЦОДы в РФ для Китая
  • 00:58:27 китайские модели в США
  • 01:01:33 Google запечёт модели
  • 01:06:04 Z.ai и китайский ЦОД
  • 01:09:55 HuggingFace взломали
Новости этой недели

Валентин Малых 0:00
Всем привет! С вами, как всегда, Валентин Малых и Дмитрий Колодезев. У нас снова выпуск Капитанского мостика. Я вернулся, поэтому условия у меня больше не походные, а вполне себе стандартные рабочие. Вот из важных новостей, наверное, ничего более важного, того, что у нас открылась регистрация на DataFest, ничего нет. планету

Дмитрий Колодезев 0:25
А у нас в Новосибирске на Датафесте будет секция. А Про ИИ для неспециалистов. Вот мы ещё не придумали, как её назвать. Назвать ИИ для нормисов кажется слишком сурово. Вот мы какое-нибудь хорошее название придумаем, будет у нас секция.

Валентин Малых 0:44
Сейчас я вспомню, это называлось пориджи несколько лет назад. Сейчас я думаю, зумеры прямо просто как проказанные от экрана такие, а-а, господи, не я зачем это сказал. Ну ладно, это я думаю, переживут. Я решил начать с этой новости. Она так получилось, что была первая новость после выпуска. Нашего прошлого, и, ну, звучит так, что Anaconda покупает Kilocode. Kilocode, если кто-то забыл, это ещё один клиент или не клиент, harness, агентский. Да, то есть это ещё один редактор умный, да, который вот на волне популярности. Которая пару лет назад была, появился. Сейчас они тоже переквалифицировались в агентский редактор, и Anaconda решила его купить. Anaconda, опять же, если вдруг кто-то не в курсе, это один из способов. Контейнирование в питоны, и не только питоны, на самом деле довольно много чего. И они решили себе ещё агентскую штуку прикупить. На мой взгляд, в принципе, понятно почему, но народ тут выставил опасение, что халява закончится в Kilocode. Ну, посмотрим.

Дмитрий Колодезев 2:12
Слушай, я с Kilocode недавно познакомился, нечаянно. Один из наших общих знакомых разрабатывает для Kilocode систему с бесконечной памятью контекста. Там хитрость сделана, и я решил попробовать Kilocode просто. И он у меня решил проблему, с которой GLM-5.2 не справлялась, хотя решил, ну, в... Claude Code, хотя использовал тот же самый GLM-5.2, только просто другой harness. Он её под другим углом видит, то есть что-то в нём такое есть. Как-то он эффективно, на самом деле, контекстом управляет. Так что Kilocode стоит того, чтобы его попробовать. Про анаконду, анаконда же это не столько. Способ контейнизировать питоновские приложения, сколько способ для большой организации катить питон в прот. То есть ты делаешь питоновское приложение, и у тебя все зависимости работают, всё собирается, есть поддержка, есть кому обратиться. Это такой своего рода Red Hat в мире питона. Вот, то есть, когда ты ставишь open-source библиотеки, с тебя никто не просит денег и никто не поможет, если что, и никто не отвечает за косяки, а Anaconda. Закрывает эту историю в мире Python. И при этом они делают удивительные вещи. То есть, например, у них есть там договор с Intel, насколько я помню, они вставляют вот эти высокопроизводительные библиотеки. В питоновскую стандартную сборку, поэтому в принципе Anaconda, когда это ещё имело значение, когда не было Rust, она работала сильно быстрее, питон Anaconda, чем остальной. Но свои собственные инструменты у них всегда были кривые, то есть у них был свой редактор и так далее. Да-да-да, то есть, ну, потому что тебе это было не нужно. Вот, то есть, они пытались делать инструменты, все они получались такие очень топорные. Ну, не получались, знаешь, в Stradivari барабаны. Вот, и вот так, ну, я надеюсь, что Kilocode не постигнет эта тяжёлая судьба. А так-то хорошо, когда open-source проекты получают деньги.

Валентин Малых 4:37
Ну, тут надо понять, как они идеологически это будут заворачивать, да, то есть, Kilocode им зачем в этом смысле? То есть, то, что они контейнеризуют как раз передачу, ну, то есть, они фиксируют окружением, собственно, есть контейнер, да, это понятно. Но как это с Kilocode связано напрямую, я не очень понимаю.

Дмитрий Колодезев 4:59
Я думаю просто, что сейчас в большинстве новых сценариев использования так или иначе существует разработка с помощью LLM. Большие компании часто тащат это дело in-house и будут тащить in-house. То есть, когда у нас есть Kimi-3, которую можно развернуть, то есть дома ты её не поднимешь, но большая организация вполне может это сделать. То же самое, GLM и так далее. Вот, встаёт вопрос, что хорошо бы контролировать весь стэк, наверное, то есть от harness до... Ленки и библиотек. Ну, не знаю, может быть, в эту сторону не думают. Я, честно говоря, думаю, что сама по себе Anaconda закрывала дыру, которой я исчезла, то есть, ну. Никому особенно она сейчас не нужна, мне кажется. То есть она позволяла работать, разрабатывать хорошо и деплоить Python, допустим, под Windows и Mac. Но под Mac сейчас он так хорошо работает, под Windows, но зачем он там?

Валентин Малых 6:07
Слушай, ну в этом плане я тоже хотел сказать, что я от Anaconda ушёл. Не то чтобы сознательно, но просто оказалось, что уве просто удобнее, поэтому я ну да, я просто уве использую. И особенно так как сейчас я основным агентам пишу, а агентам уве ещё удобнее использовать как-то на общее. Anaconda исчезла в моей жизни. Да, поэтому они ищут, скорее всего, новое место в жизни как поставщика in-house инструментов. Ну, так говорится, пожелаем удачи. Почему нет?

Дмитрий Колодезев 6:40
Вот, и я не вижу на самом деле проблемы особенной в том, что какой-то из харнесов уйдёт под какое-нибудь крыло. Харнесов много, всех не перепокупают. Вот, то есть открытые харнесы останутся, а то, что ребятам скиллы достанется финансирование, ну, клёво.

Валентин Малых 7:01
Тут у нас ещё будет новость про харнесов чуть попозже, ещё обсудим. Вот тут народ точно напрягся. Stripe начала переговоры о покупке OpenRouter за 10 миллиардов долларов. Значит, платежный сервис Stripe. Я, честно говоря, никогда не пользовался. Вот какая-то американская тема, совершенно никогда меня не касалась. Ну, видимо, в США популярно. Они решили, соответственно, что есть большое число людей, которые платят за OpenRouter. Было бы неплохо, чтобы платили им. И, ну, в каком-то смысле я их могу понять, но народ как-то сильно напрягся от того, что как же это так? Теперь, соответственно, все наши транзакции с OpenRouter будут проходить через Stripe. Не знаю, что напрягаться, потому что и так ваши транзакции где-то проходят. В общем, что переживать?

Дмитрий Колодезев 7:59
Слушай, ну про Stripe он на самом-то деле в Штатах в своё время произвёл фурор, потому что вместо того, чтобы подключать платёж за несколько месяцев, ты его подключал за несколько часов. Вот если у тебя рукастые разработчики, поэтому у них это одно время был просто де-факто стандарт. То есть, если ты делаешь стартап, то у тебя Stripe — это твой процессинг. Вот и... Там это как Mac. А про OpenRouter. У OpenRouter же есть интересная история, которой не все пользуются. Мы как-то, кстати, пользовались. То есть можно создать ключи и на этот ключ поставить запись всего трафика. Вот, и потом ты можешь его политиками безопасности исследовать, ты можешь учить модели на этом трафике свои, что-то ещё. Ну, то есть, ты можешь его полезно использовать. А вот и поскольку там есть просто не только эта галочка, но вообще инфраструктура над этим, то судя по всему, многие так делают. То есть, многие используют OpenRouter как базу данных по промоутам. Ну и вот как-то, наверное, напряг отсюда и идёт.

Валентин Малых 9:13
Ну, надо сказать, что мы тоже активно пользуемся OpenRouter, потому что нам надо активно сравниваться с коллегами из-за рубежа, и это, в общем, действительно очень важная история. Поэтому я не то чтобы напрягся, я, честно говоря, не понимаю, в чём проблема от того, что ну, купит OpenRouter кто-то, ну, ну, ничего.

Дмитрий Колодезев 9:35
Я думаю, халявные планы отрежут. Я в свое время весной сделал библиотечку, которая позволяет на халяву гонять OpenRouter через Anthropic и OpenAI совместимый интерфейс, при условии, что у тебя там 10 долларов есть хотя бы на балансе. Вот я думаю, что эту штуку отрежут.

Валентин Малых 9:59
Ну да, я так понял, что народ именно этого боится, но мне, честно говоря, даже, ну, видимо, это как-то особенность моего восприятия, потому что для нас OpenRouter всегда это деньги, да, то есть мы всегда это за деньги делаем, но может быть, это того, что мы с топовыми моделями работаем, не знаю.

Дмитрий Колодезев 10:16
Слушай, ну мы тоже за деньги делаем, то есть, грубо говоря, это на сдачу. То есть мы достаточно много им платим, поэтому, может быть, они мои шалости и игнорируют.

Валентин Малых 10:25
Ну вот я про то же, да, то есть ожидать, что вы там, заплатив три копейки, будете на 300 долларов пользоваться, ну, мне кажется, мы сейчас уже не можем, да, то есть это уже пройденный этап в индустрии.

Дмитрий Колодезев 10:40
Да, ну хотелось бы на самом деле сказать, что у начальства психологический порог-то сломан. То есть народ понимает, что за подписки надо платить, что за токены надо платить. Просто теперь стоит вопрос, а сколько кому и как обосновать?

Валентин Малых 10:55
Ну да, сейчас сколько и кому — это важный вопрос. Я тут, кстати, по поводу подписок хотел подписаться на Kimi, а у них там переделка тарифных планов, и сейчас подписаться нельзя оказаться. Это как-то грустно. Да-да-да, вот так вот не получили они вывести 10 долларов, а могли бы.

Дмитрий Колодезев 11:24
Он же переделал точно так же тарифные планы и переделал. И у них сейчас новая схема тарифных планов, то есть ты не получаешь тарифные планы непонятно сколько за сколько, типа хороший, очень хороший и вообще хороший. То есть они продают условные кредиты, и кредиты эти в токены пересчитываются более-менее прозрачно. Мне кажется, что Китай тут спереди планеты всей.

Валентин Малых 11:51
Ну, я тоже согласен, что вот к этому всё и придёт, потому что, ну, с одной стороны, давать много токенов компаниям невыгодно, им надо отбивать инвестиции. С другой стороны, добывать мало токенов, народ пользоваться перестанет. Поэтому проще дать прозрачный инструмент, чтобы понимать, сколько ты токенов покупаешь. поишь

Валентин Малых 12:12
Угу.

Валентин Малых 12:15
А Следующая новость — то, что Amazon сокращает команду по созданию AGI. Из этой новости я узнал, что у Amazon такая команда была, во-первых. Во-вторых, мы узнали, что он сокращается. Это мне кажется довольно понятно, потому что какое-то время назад AGI был прям очень модным, все хотели его достичь и быстро делать. У меня ощущение, это ощущение, что AGI как таковой, в принципе. Недостижим, то есть, если помнишь, мы с тобой обсуждали, мне кажется, полгода назад обсуждали работу от Яна Лекуна, где он говорил, что AGI — это бессмысленное само по себе понятие, а надо говорить про суперинтеллежен, да, то есть сверх. Он будет специализирован на определенных задачах, потому что общего интеллекта не существует. На мой взгляд, это более правильный подход, и такое вполне себе достижимо. А вот эта история про AGI, она, на мой взгляд, какая-то, ну, как бы это сказать, ни о чем. Слушай, ну, то, что Amazon сократил подразделение AGI General Intelligence, Artificial General Intelligence, я думаю, что просто про него вспомнили.

Дмитрий Колодезев 13:39
И увольняли тех, увольняли всех. Кстати, а чем занимаются эти чуваки? Непонятно. Вот, устроили ревью и уволили. А по поводу AGI, по поводу Общего искусственного интеллекта с суперинтеллект и так далее и тому подобное. У меня тут анекдотик Эвиденс, личный опыт. Я стал читать статьи с Fable. Угу. Вообще-то я очень быстро читаю статьи, много их читаю, а тут я решил выпендриться. Кинул статью в Fable, говорю, давай, говорю, сделай мне десять. пункты Пунктов для самопроверки и пойдём по ней. Я буду читать прямо сейчас, и тут же с тобой обсуждать. Испытал тяжёлое интеллектуальное унижение. То есть он меня хвалит, буквально, знаешь, как студент-второкурсник с хорошим матерым профессором. Вот столько вещей, на которые я не обратил внимания, которые там действительно есть, и на которые авторы статьи не обратили внимания, понимаешь? Вот, то есть, и я причём смотрю, вот здесь вот у авторов статьи вроде дырочка. Он говорит, да, очень хорошо, что ты заметил, но это не дырочка, это ворота туда КамАЗ проезжает. Понимаешь, вот я такой, с одной стороны, я, конечно, очень продуктивно стал читать статьи, с другой стороны, как-то немножко непонятно, зачем мне их теперь читать, когда есть он.

Валентин Малых 15:03
Ну и да, и нет. Тут я тоже испытал интеллектуальное унижение. Я тут писал с помощью Джейленк и позволил себе печататься в паре мест. И он написал, что тут внизу какая-то фигня написана. Я, пожалуй, проигнорировал и просто напишу ревью. Мне было прямо стыдно просто.

Дмитрий Колодезев 15:29
Вот, но я потом понял, на самом деле, зачем нужен я, почему я должен читать статьи, а не он, потому что я же хочу, чтобы денег платили мне.

Валентин Малых 15:40
Ну, в целом, в целом, я согласен. Это достаточно такой прозрачный способ. Да, я обещал ещё одну новость про Харнеса, она действительно есть. Есть такие чуваки. Codacod — это люди, которые раньше делали Giga IDE и потом, соответственно, ушли. Сделали свою отдельную компанию, и вот у них есть. Кода они уже вроде как год назад выпустили. И они продолжают делать это действительно именно Harness. Да, то есть это некий плагин, который позволяет агентно использовать модельку на VS Code. И они тут, соответственно, показывают, что у них есть свой Harness. И если Harness используется хорошей моделькой GLM-5.2, то у них получается ещё более хороший результат и при этом сильно дешевле. Причем, допустим, Клод. Вот, соответственно, больше, наверное, тут сказать особо нечего, кроме того, что порадоваться за ребят, что они продолжают дать им работать, большие молодцы. Вот, и будем посмотреть, как у них всё будет развиваться. Слушай, но тут интересно, что они не только Харнес пилят, интересно, что они GLM тюнят. Да-да-да, тюнерят, я не сказал, ты прав. Вот, и это вообще-то говоря.

Дмитрий Колодезев 17:15
А в харнесостроителях, по-моему, так курсор этим занимается. Ну да, только теперь курсор, соответственно, Грок будет пилить дальше, да, а тут вот только ребята из CodeCode. Да, ну то есть все харнесы, они, в общем, строились, разбивались на две лиги. Первая — это создатели моделей пилят свой харнес, как там, скажем, Клод, там, да, Claude Code или там, скажем, Codex, вот или GigaIDE.

Валентин Малых 17:45
А второе — это есть люди, которых своей модели нет, ну и они только управление контекстом пилят. И вот Кода Код ребята, они как-то умудрились третью лигу изобрести. И они молодцы. То есть я лично очень рад за них, что у них такое есть. В принципе, вот это вот ZTE же вышел в ту же лигу, да, что и Клод Код. То они соответственно сделали сначала свои Свою модель, а потом свой harness. Аналогично с Xiaomi, насколько я помню. Xiaomi сделали свой harness, вот свою модель я не помню. Делали они что-то. Вот я не помню, как она называется и что это такое. Мне почему? А это не затюнивает тот же Kimi случайно. Ну ладно, это всё не так важно. Вот и соответственно, то, что ребята вообще в принципе на этом поле играют, это, на мой взгляд, очень прикольно. Большие молодцы. Угу, да-да, MiMo я помню, да. Ну вот я не помню, она самостоятельная разработка или она всё-таки дотюненная какая-то внешняя. Кстати, я помню, что Cursor тюнил как раз Kimi в своё время. Да, у них было такое, но сейчас они закончили с такими мероприятиями.

Дмитрий Колодезев 19:12
Ага, ну, MiMo надо посмотреть поподробнее, что-то я их как-то не рассматривал. Она, кстати, хороша, нет вообще.

Валентин Малых 19:19
Слушай, я так и не собрал её попробовать. Они тут недавно, ну где-то, может, с месяца назад, запускали этот свой MiMo, типа попробуйте наших новых слонов. И что-то вот я не соблазнился, хотя они даже бесплатно раздавали свою MiMo-модельку. Не знаю, что-то так не собрался. Мне хватает, собственно, J-Lo, вполне себе.

Дмитрий Колодезев 19:43
Слушай, про Cline (Kilocode) хотелось дополнить, что это как раз вот то, что мы обсуждали для Anaconda. Они же предоставляют эту историю в России, то есть ты можешь развернуть полностью свою модель, свой стэк разработки на российских серверах, попадать под все FSA и так далее. Вот, то есть до этого выбор был между GigaIDE и GigaIDE.

Валентин Малых 20:15
Да, сейчас есть ещё альтернатива, это здорово. Ещё один интересный тандем — Cerebras объединяется с AMD для того, чтобы противостоять NVIDIA и Groq, что, в общем, понятно. Некоторое время назад я забыл, сколько, кажется, в начале года, NVIDIA купила Groq через Q, который — это такие железки для более быстрого inference. А тут, соответственно, AMD решила, что хорошо обогниться с Cerebras для того, чтобы сделать объединенную, сильную платформу, на которой, соответственно, собственно, всё ведь тут про обучение, по-моему, ничего нет, но наверняка тоже обучение можно прикрутить. Так вот, на мой взгляд, достаточно понятно, Ильянов, потому что Cerebras — стартап, AMD — большая корпорация, им надо друг другу помогать для того, чтобы отъесть кусочек рынка.

Дмитрий Колодезев 21:11
Ну, они очень удачно целятся в разные стороны пирога. То есть, Cerebras делает большие вафли-сайд-сайз процессоры. Которые, ну, больше никто не делает, а AMD умеет в весь полный стэк платформы, то есть interconnect в процессоры и так далее и тому подобное. И всё это выглядит, что из этого Lego можно собрать высокопроизводительную платформу, ну как вот Vera Rubin, допустим, да, NVIDIA Rubin, вот, и конкурировать с NVIDIA. И конкурировать с NVIDIA — это же на самом-то деле в две стороны, то есть, во-первых, С NVIDIA интересно конкурировать, потому что у них рынок огромный, а во-вторых, NVIDIA сейчас самый зарегулированный производитель чипов у них, так-то. То есть, кого ещё в таких объёмах запрещают покупать или продавать?

Валентин Малых 22:10
Ну, подожди, ну, с одной стороны, я с тобой согласен, с другой стороны, я с тобой не согласен, потому что, ну, как бы, NVIDIA побороть это было бы классно, и кусочек отъезд — это замечательно, но в плане регуляции ты не забывай, что регуляция это и на AMD тоже накладывалась, то есть, я имею в виду, если мы про Китай.

Дмитрий Колодезев 22:31
Ну да, кстати, но просто к тому, что всякая регуляция создает и облегчает выход на рынок маленьких конкурентиков.

Валентин Малых 22:43
Это само собой, но в данном случае AMD в тех же условиях, что и NVIDIA, то есть у них нет облегчения в этом смысле.

Дмитрий Колодезев 22:51
Ну, фиг его знать, если будет выбор между двумя высокопроизводительными системами, действительно высокопроизводительными, вполне возможно, что и NVIDIA как-нибудь начнёт себя вести поиначе. Может быть, и цены упадут и так далее. То есть это в любом случае очень интересно, потому что это большой проект. На высокопроизведительных вычислениях до этого, ну опять же, тут я небольшой специалист в этом деревне, но мне кажется, что вся идея шла сейчас как? Либо ты собираешь просто процессоров очень много, и тогда у тебя гулит интерконнект, если ты смог это сделать. Как почти все суперкомпьютеры устроены. Либо ты скидываешь много GPU, и тогда ты сталкиваешься с тем, что на самом деле на GPU не всё удобно считать. И у тебя большая проблема как с interconnectом, так и с управлением всей этой историей. Вот, либо, ну вот, третья история. То есть у нас есть огромные совершенно процессоры Cerebras и хороший интерконнект, и, в общем-то, неплохие процессоры AMD, ну, в общем.

Валентин Малых 23:56
Да, посмотрим. Я думаю, что альянс действительно интересный. Если он сможет составить конкурент в своём виде, ну и хорошо, от этого всем будет немножко лучше. Следующая новость из разряда топ-10 аниме предательств. Соответственно, AMD может сэкономить 600 миллионов долларов, заменив GPT и Claude на китайскую модель Kimi K3 в Copilot. Ну, собственно, вся новость заголовки. Если предположить, что действительно такое будет, то денег может экономить довольно много. Microsoft решил протестировать, а что бы нет, мощности у них есть. Если кто забыл, Microsoft, это один из топовых поставщиков собственно, облачного железа. Я забыл, насколько они большие. По-моему, они номер два или максимум номер три. И, соответственно, они могут эту самую кимию у себя крутить вообще без проблем и ни от кого не зависеть. В этом плане, если пересадить пользователя Копайлота на эту самую кимию, то можно сэкономить довольно большие деньги на выплатах наружу. Вот, так что, на мой взгляд, ход достаточно очевидный. Пойдут ли они на это или не пойдут, не берусь сказать.

Дмитрий Колодезев 25:15
Ну, по-моему, Azure не первый по. Объём, но первый по прибыльности, то есть по доходам. Вот и более того, когда мы думаем про Microsoft, мы думаем по старинке про операционные системы, Word, там Excel и так далее, и тому подобное. У нас именно прибыль им сейчас прилетает из Azure. И соответственно, у них это прямо цветущий золотой бизнес. Если они могут поднять ещё его доходность, конечно, им будет очень хорошо от этого.

Валентин Малых 25:51
Ну, я бы по умолчанию на самом деле на каких-нибудь дешёвых планах этого Copilot переключил на Kimi K3 и сэкономил на довольно приличные деньги на этом.

Дмитрий Колодезев 26:00
Да, я бы тоже так сделал. Ну, посмотрим, что они сделают.

Валентин Малых 26:05
Да, у нас с тобой нет, к сожалению, такой возможности сэкономить.

Дмитрий Колодезев 26:10
Потому что некоторые предсказания прямо сбываются, больно уж быстро.

Валентин Малых 26:17
Следующая новость про Илона Маска. Тут, соответственно, он дал 90-минутное интервью Экономисту, но у Экономиста это, к сожалению, ой, простите, не Экономиста, а инсайдер. И, соответственно, в этом интервью он там достаточно много рассуждает. Я, честно говоря, всё интервью не читал, не слушал. Но если по-простому, то он там говорит, что через пять лет, как это правильно сказать, через пять лет вот эти все модели превзойдут интеллект всего человечества. Я не очень понимаю, что такое интеллект всего человечества. Может быть, это из-за того, что я не слушал в интервью целиком, но сама по себе постановка вопроса интересна.

Дмитрий Колодезев 27:11
Уверен, что общая мощность двигателей внутреннего сгорания превосходит всю мускульную мощность человечества, и никого это не парит. На порядке, я бы даже сказал. Поэтому само по себе заявление красивое, человек умеет очень красиво выражаться, но что из этого следует, я не понимаю.

Валентин Малых 27:31
Слушай, мне кажется, что задача Валентин Малых не для того, чтобы не в том, чтобы что-то следовало из его слов, а в том, чтобы создать некоторый информационный фон, на котором уже делать какие-то свои дела. Да, то есть, он же достаточно много про Grok делает всяких вещей. Я думаю, что Имеется в виду, что он выступает как, я не знаю, как это правильно сформулировать, ну то есть он просто выступает как некоторые. Создатель большой картины, да, вот как, я не знаю, ты, наверное, не был, но в Москве недавно открыли обновленный Ленинградский вокзал, и там по бокам зала огромные такие панно с видами Москвы Петербурга, соответственно. И эти панно, они вообще говорят. Не для того, чтобы их там сильно разгадывать, они просто создают некоторый фон. Да, то есть это такая большая, огромная картина, они классные. Но смысл твоего пребывания на вокзале в том, чтобы ты прошел к своему поезду и уехал, куда тебе надо. А соответственно, вот я думаю, что Маск, он в принципе, то же самое делает. Да, то есть он рисует большую картинку, которая просто должна присутствовать, а на этом фоне он, соответственно, решает свою конкретную проблему там с тем же самым Grok Build, например.

Дмитрий Колодезев 28:55
То, что называется Аженда-монгер или человек, который создает. Повестку, которую все обсуждают, пока он не занимается своими делами. А вообще, эта вся история, она отражена в двух мировых анекдотах. Одному, примерно, наверное, четыре тысячи лет, второму чуть-чуть поменьше. То есть, в «Одиссее» и «Илиаде», книгам, которые очень я люблю, камеры часто перечитываю, там есть момент конкретный в Илиаде, Когда о доспехе убитого героя, конкретно Ахиллеса. Притащил Аякс Большой, а Одиссей стоял у него за спиной, значит, защищал его. Вот, и говорил, да вот туда ходи, сюда ходи, влево побежали. Когда они начали их делить, Аякс говорит, ну слушай, ну я же их утащил. Одиссей говорит, ну вот если бык, говорит, тащит плуг, кому потом достаются урожай. Быку или тому, кто пахал. Вот, ну а по-русски это в колхозе больше всех работала лошадь, но председателем так и не стало. В том смысле, что то, что я и будет совокупно всех нас лучше считать чиселки, ну и отлично, нам меньше хлопот.

Валентин Малых 30:08
В целом, да, знаешь, была такая песенка, это навекая её, помнишь, «Вкалывают робота, не человек». Но тут действительно история про то, чтобы ИИ остался инструментом. Да, то есть тот же самый Маск, например, может быть, я сейчас совру, но мне казалось, что он такое заявлял по поводу того, что надо, соответственно, Всем людям раздать денежек от искусственного интеллекта и, соответственно, дальше, чтобы искусственный интеллект просто работал, а люди немножко сами по себе как-то жили в уголку. Получается, что анекдоты с одной стороны очень похожи на которую ты говоришь, а с другой стороны, там уже больше напоминает другое произведение мировой художественной культуры, а именно Герберта Уэллса. Забыл, как оно правильно называется, ну, про путешествие во времени. Да-да-да, и суть в том, что у нас получается, что есть люди, которые вообще ничего не делают, и есть люди, которые всем владеют. И это немножко напрягает, по крайней мере, вот в это виденье, да, вот эта большая картина, которая задана, мне бы не очень хотелось, чтобы мы туда пришли.

Дмитрий Колодезев 31:19
Тут есть две проблемы. Проблема номер один — она из серии Кольт «Господь Бог сделал людей слабыми и сильными», Кольт сделал всех равными. То есть, если, скажем, во времена, ну, допустим, не знаю, там, триста лет назад, если ты хорошо умел драться и у тебя был длинный меч, то ты, в общем, был в какой-то безопасности от большинства угроз, да. Вот, а теперь же любой Тонконогий панк может купить пистолет и, в общем, устроить тебе проблемы. С ИИ мы имеем то же самое, да, то есть раньше. А чтобы всех перехитрить, нужно было быть прямо нереально умным, а теперь можно просто хорошо модельку запомнить. Вот, и вот тут меняется баланс сил, то есть собственный интеллектуальный уровень перестаёт быть. Это, я думаю, во многих случаях, страшно. Вот. А во-вторых, вот эта вся история про экономику, что всем раздадут бесплатно деньги и будет вкалывать робота, не человек, она у меня вызывает большие вопросы чисто политэкономического свойства. То есть весь текущий бизнес сейчас устроен вокруг того. Что одни люди платят другим, либо налоги платят, а потом из этих налогов платят другим. Вот, и другие производят товары и услуги, чтобы те продолжали им платить. Когда этот баланс ломается, то есть, когда покупательная способность, скажем, нижнего. Нижняя страта населения падает, случается Великая депрессия, когда никто ничего не покупает, потому что ни у кого денег нет. И те люди, которые в верхней страте, они просто перестают суетиться. Ну, мы сидим, нам хорошо. Так вот, предположим, что у нас начинается раздача. Бесплатных слонов, да, зачем, собственно, верхней страти суетиться? То есть государство должно принудить их к тому, чтобы у них была необходимость суетиться, например, посредством инфляции, чтобы их капиталы постоянно обесценивались. Но это такой механизм, который давно придуман австрийцами, по-моему, что типа если мы хотим... Ну, это деньги, которые каждый месяц обесценивались. Ну вот это, я говорю, Гизельские деньги, называется. Если верхняя страта не имеет власти, это очень странно, да. Если она имеет власть, почему она эту штуку не остановит? То есть, ну как бы, мне это кажется очень странной конфигурацией. Я не понимаю, почему это будет работать. То есть, зачем роботы будут вкалывать? То есть, понятно, что кому-то захочется, чтобы ему красиво почесали спинку и приготовили вкусную еду, но площадь спинки и объем съедаемой еды всё равно ограничен.

Валентин Малых 34:18
Ну да, тут на мой взгляд действительно ломается экономический механизм. И вот то, о чем говорит Маск, на мой взгляд, это отвлечение на негодный объект. В том смысле, что когда он говорит о том, что вам будут платить деньги просто так, это обращено как раз к людям, у которых нет капиталов, то есть те, которые... Работают зарплату, они такие, вот бы классно, мне платили зарплату, а делать ничего при этом было не нужно. Но это же на первом такте так работает, а на втором такте у нас оказывается, что у нас, соответственно, деньги тебе платят просто так. Этими деньгами ты уже не можешь заплатить за нужные тебе услуги, потому что эти деньги и так есть у всех. Да, зачем тебе что-то делать? Ответ, что роботы это будут делать, но роботом ты не владеешь. Да, зачем роботу это делать, если он принадлежит другому человеку, у которого, собственно, всё остальное есть? Вот тут. Для меня большой вопрос, что в этом получится. То есть, то, что Маск лично занят тем, чтобы заработать ещё немножко денег для себя и семьи, это понятно и даже не то чтобы осуждаемо, но вот рисуемая им картина, она какая-то, на мой взгляд, ну, неубедительная, давай так скажем. Типа, небольшой такой апокалипсис, который должен случиться перед этим.

Дмитрий Колодезев 35:41
Не знаю, или личная армия, которая живёт на эти деньги, или как-нибудь ещё. То есть, изменение общественного строя необходимо для того, чтобы эта штука работала.

Валентин Малых 35:51
Угу, слушай, тут вот в моём детстве популярная, не знаю, как у наших слушателей, книжка «Сто лет тому вперёд», которая, по которой снято замечательное кино «Гости из будущего». Она на самом деле довольно страшная, никто об этом не задумывается, но книжка страшная, потому что там во всём мире, получается, не очень много людей живёт. Да, то есть всем людям всего хватает, а люди как-то маловато. И там, если задуматься, получается, что есть некоторые события между нашим временем и временем, соответственно, Алисы, в котором произошло что-то, что людей стало много, а ресурсов, точнее, мало, а ресурсов много. И вот это ровно та же ситуация, про которую говорит Elon Musk. Да, для того чтобы всем всего хватало в этой парадигме, нас вот этих вот всех должно быть не очень много. И мне вот такой, как бы, такой трек событий кажется несколько, ну как бы это сказать, не тем, к чему бы я бы хотел стремиться.

Дмитрий Колодезев 36:53
Очень здорово! Ты вспомнил, на самом деле, сто лет тому вперёд. Про них была статья, по-моему, на Пикабу внезапно или где-то ещё, где как раз вот эту историю разбирали, что смотрите, у нас есть маленькая девочка, которая дерётся так, что космические пираты не в состоянии с ними справиться. А у нас есть Робот-вернер, который на самом деле влёгкую противостоит боевым лазерам, да, работает уборщиком, то есть он списанная техника, списанная после чего. Вот и много других интересных вопросов, вплоть до того, что вот те вот. Флайеры, на которых они летают, они устроены совершенно не как пассажирские флайеры, а как боевые платформы. Потому что у них нет закрытых окон, у них очевидное совершенно значение — это пулемётное летающее гнездо. Вот, и я хотел сказать, что Экономика, то есть, экономическое устройство общества непрерывно меняется вслед за производительными силами. Привет, Карл Маркс. И вот у нас сейчас очередное какое-то производительное сила появилась. Ну, неизбежно, неизбежно как-то экономика подыграет. То есть я тут не говорю про мировую революцию. Мы можем и не заметить, что общество здорово изменилось, в котором мы проснулись, но оно как-то вынуждено измениться, я думаю.

Валентин Малых 38:16
Да, но только смысл, собственно, политэкономии, он же в том, что у тебя неизбежно меняются социальные отношения после изменения производственных отношений. В этом идея, да, то есть там революция — это следствие второго порядка, что у нас текущее устройство социального общества не хочет меняться. Да, если оно меняется, да, если люди не против, то, в общем. Революции быть не обязательно. Другой вопрос, что то, куда мы идем, может быть несколько не то, чего мы хотим, но это уже какая-то отдельная история.

Дмитрий Колодезев 38:49
Ну, я считаю, что политика — это не наша история, а так, конечно, мир меняется. Я чувствую это в воде, чувствую это в земле.

Валентин Малых 38:58
Вот уже и в воздухе чем-то запахло, да, всё так, всё так, да. Но мы тут, да, не про политику, мы тут про е. Для Cloud Code вышел плагин, который с самой счету уязвимости чинит код. То есть история про то, что на В старших подписках у Claude появляется плагин, который позволяет автоматически искать в разработанном коде уязвимостей и автоматически предлагать для них решения. В целом, штука достаточно понятная и понятно, откуда взялась. Да, то есть весь этот хайп про Mythos и Fable, про то, что они там взломали сети Пентагона, он проявился тому, что типа парни, а если вы такие умные, что же вы в стройме ходите? Да, почему вы? Соответственно, можете это взламывать, но почему вы не предложите сразу защиту, раз вы, собственно, и хотите быть у начала этой цепочки?

Дмитрий Колодезев 39:50
Слушай, ну вообще-то Anthropic. Claude Opus, я Fable для этого не пользуюсь, потому что опасаюсь, что меня сразу заблокирует. Очень хорошо ищет уязвимости, то есть ты выкладываешь конфигурацию. Серверов, например, да, ему в доступ, ну, разного рода ключи убираешь оттуда и говоришь, давай посмотрим, что тут не так. Он говорит, знаешь, вот есть вот такая дырочка, вот это вот, давай поправим. То есть, этим реально пользуются, и если для этого раньше нужна была какая-то небольшая изобретательность, ну вот они сделали это как готовый продукт. Как бы, напрашивается, не только у них такие системы есть. Sakana, которую, может быть, мы тоже будем сегодня обсуждать, это сделала. Вот тут, если помнишь, в кошмаре Европа-30, да. Один из ключевых моментов вот этого апокалиптического сценария был в том, что инструменты кибербеза и... пентестинга достигнут таких высот, что все, у кого не будет доступа к свежим секьюрити решениям, будут беззащитны и их растопчут. Это просто основа этого сценария. Ну вот, возможно, что мы подходим к этому моменту нашей жизни.

Валентин Малых 41:11
Ну, кстати, я бы тогда сразу переключился на следующую историю. Это вот Claude Opus 5, да, то есть до этого был совсем большой, вот этот вот Fable, а Opus, он, я так понимаю, чуть поменьше, но во многом прям хороший. И тут из важного, что ты отметил у нас в первую очередь, это то, что в каких-то значениях оно специально сделано так, чтобы быть похуже, да, то есть.

Дмитрий Колодезев 41:40
Да-да-да. Здесь диалайминты с афики, да ещё ниже.

Валентин Малых 41:47
Соответственно, основная тут идея в том, что они специально сделали эту модель похуже для того, чтобы, ну как бы, не вызывать лишних подозрений. Да, а вот только что упомянутый сценарий Европа 20-30-1, по-моему. Он как раз про то, что нам нужны топовые модели, которые могут закрывать уязвимости. Такие топовые модели есть, как мы понимаем, в США и Китае, в Европе их нет, в России, к слову, тоже нет. Но тут я не знаю, как наши коллеги будут с этим бороться. Ну, в общем, суть в том, что пытаются сделать вид, что мы не страшные, не надо нас пугаться, у нас, видите, мы почти ничего не умеем. Да, и пользуйтесь нашим, и дальше.

Дмитрий Колодезев 42:31
Слушай, ну тут есть надежда, и надежда как раз идет от последних решений Саканы и Hugging Face, где они очень успешно Строили ансамбль, причём сложный ансамбль, который с декомпозицией и сборкой назад из других чужих моделей. То есть, Sakana, например, она утверждает, что их последняя модель, Fugu 1.1, что она превосходит Fable, при том, что Fable даже не включает в себя. То есть на более слабых моделях мы, взяв задачу, разобрав её на простые предложения, порешав каждое простое предложение своей, вот именно в этой новости они говорят, да. Вот. Порешав каждую из своей моделей и потом умело объединив результат, мы можем превзойти топовые модели. И тут немецкое выражение старое — порядок бьёт класс. И тут, если для разработки топовой модели. Предtraining нужны просто какие-то гигантские усилия, то есть не всем странам это доступно. Ну вообще-то говоря, оркестратор разрабатываем в пределах. Ну, допустим, его промсофт он, наверное, не разработает, но ваша лаборатория вполне бы могла, да.

Валентин Малых 43:49
Ну, мы даже занимаемся этим. У нас есть уже работа, отправленная на Гимноупи. Я надеюсь, её возьмут, и тогда я про неё всем всё расскажу. Вообще, в целом, ты прав. И я тут, знаешь, мне только что пришла в голову идея. Интересно, что ты про неё скажешь, что мы пришли к тому, что повторили на самом деле исторический путь человечества. Я сейчас поясню, что имею в виду. Помнишь, ты сегодня упоминал Илиаду и Одиссею, и вот в той же самой, ну, собственно, в обеих произведениях, там исход битвы, ну не то чтобы целиком, но во многом зависел от схватки. Главных героев, да, то есть у нас есть с одной стороны у троянцев был Гектор, а со стороны греков был, соответственно, Ахиллес, и их свадка решила исход сражения, а потом уже веку так, к девятнадцатому, у нас получилось. Я тут немножко прыгнул на четыре тысячи лет, но это мелочь. Соответственно, там уже, когда вот эти вот большие батальоны появились, собственно. Наполеон говорил, или то, что Господь на стороне больших батальонов, да, то есть, что дальше решала упорядоченность действия отдельных солдат, которые, да, должны быть в целом хорошими, да, то есть, это не просто человек с улицы, а он должен обладать определенными навыками. Но важно, что этих солдат должно быть много. Может быть, мы сейчас подходим как раз к тому перелому, что... У нас должно быть много достаточно умных, но не супер-топовых моделек для того, чтобы решить те же задачи, которые раньше решала одна супер-большая модель. Может быть, у нас вот в эту сторону всё пойдёт, как ты думаешь?

Дмитрий Колодезев 45:45
И вспомнились звёздные воины и воиноклонов. Вот, но в целом смотри, что когда люди дрались на кулаках, грубо говоря, они... Дрались стаями, потом появилось оружие, и умение владеть оружием тебя здорово возвышало. То есть, собственно, Ахиллес был славен умением своим владеть оружием и чудесной бронёй, наполовину от мамы, наполовину от Гефеста, который ему сказал. Вот, да, что его повышало его производительность в бою, то есть он, так сказать, был 100x воин, если в терминах современной нашей мифологии говорить. Вот. Получается, что в значительной степени владения инструментами делают из тебя как раз бойца или разработчика, или, может быть, ученого. Вот про ученых я ничего не знаю. Но предполагаю, что такое тоже может быть в каком-то смысле. Вот, что да, если ты умело направляешь большие батальоны, хорошо их организовываешь, то есть вот эта композиция, это harness. Это фреймворки работы, это сами процессы, за которые я всё время топлю, что мы научились клёво, как человечество делает модельки, научились готовить к ним контекст, а процессы разработки по-прежнему у нас плавают под всё это дело. Ну да, то есть я ожидаю коммандитизации pretrains, что какая разница, какой pretrains ты используешь, важно, как ты его используешь.

Валентин Малых 47:28
Ну, я вот пока этого не ожидаю, да, что какая разница, разница будет. То есть мы тут можем вспомнить готовящийся у нас закон, его, кажется, уже в третьем чтении приняли и сейчас должны быть подзаконные акты по поводу суверенных и национальных моделей. Да, то есть у нас в законе проводится довольно четкое разграничение между Соответственно, pretrain отечественным и pretrain зарубежным, и, на мой взгляд, это вполне себе понятно, потому что если предположить, что у нас случится что-то, что нам закроет доступ к китайским pretrain, то, собственно, что мы с этим делать будем? Кстати. Стали появляться американские pretrains, но других pretrains я как-то не слышал, кроме GigaChat. Я не говорю, что их нет, просто про них что-то не слышно. Может быть, только с моей позиции. Если вы знаете какие-то pretrains за пределами США, Китая и России, пожалуйста, напишите в Mattermost, я буду рад просить всё это почитать.

Дмитрий Колодезев 48:33
Качественная модель рулит, но тут у тебя в блоге как раз было обсуждение, и по-моему, Влад Голощапов говорил про это. Мы же легко можем представить себе ситуацию, то есть пока не можем сделать, мы уже легко можем себе представить, когда берётся претрейн, и один из экспертов в МОЭ, который срабатывает в определенных условиях, заменяется на то, что надо. И детектировать такие вещи сейчас очень трудно. И в нужный момент он, допустим, что-нибудь неправильное сделает, и такой спящий агент — это реализация вот этой страшилки про спящих агентов в нейронках. И суверенные модели — это не только про защиту от того, что нам снаружи отрежут, а это защита, скорее всего, от того, что завтра все модели возьмут и будут застирены как-нибудь не очень удачным для нас образом.

Валентин Малых 49:27
Ну, конечно, это в этом и есть суть всего происходящего, это же очевидно. Ну, будем надеяться, что действительно у нас будут несколько pretrains в стране, чтобы было что оркестрировать. Кстати, слово «оркестрация» мне лично не нравится, потому что это калька с английского неудачно. У нас есть слово «дирижирование», мне кажется, слово «дирижирование» гораздо более приятное. Чуть ли не с итальянского, но это, в общем, совершенно не важно. Важно, что зачем ещё одно, как бы, если так уже это самое. Соборный, да-да-да. Это, кстати, вот хорошее, это самое, надо предложить тему для конференции провести. Ну, понимаешь, Дима, слово-то уже сказано, вырезать мы это не будем. Ну всё, это уже пошёл в народ, ждём, когда осуществится. Следующая история про вот эту вот OpenWake модель. Я говорил, что американские модели OpenWake стали появляться и появилась OpenWake модель от внезапно Cisco. Это совершенно непонятно, откуда взявшаяся история. Ну, то есть, то, что Cisco может себе позволить, это понятно. А то, что они действительно стали Соответственно, это делать для меня было неожиданно, хотя понятно почему. Они сделали две маленьких модельки на 350 миллионов и 1 млрд, и показывают, что они по эффективности, ну, по эффективности на вес, суперклассный в этом плане, что, в общем, понятно, и детектируют всякие хорошие штуки.

Дмитрий Колодезев 51:19
Я не помню, у них есть же решение по безопасности, которое мониторит трафик и ищет в нем уязвимости.

Валентин Малых 51:25
Ну, конечно, это их, тот самый, их хлеб один из.

Дмитрий Колодезев 51:30
Вот, да, и большую модель ты на таком потоке не загонишь. Вот поэтому маленькие модели тут логично, и сам по себе выбор 350М и 1Б тоже норм. Как мы на прошлый раз обсуждали про вот эти нейропроцессоры, да, или позаправленный раз, что в 0.6B можно получить удивительные результаты, если хорошо их запромтить в узкой области. Ну, единственный вопрос у меня тут, что переобучить такую модель под какой-нибудь бенчмарк очень легко, а вот насколько она хорошо будет устойчива.

Валентин Малых 52:10
Ну, тут я не знаю, у меня, честно говоря, нет представления о том, насколько Cisco хорошо умеет обучать модели. Это первая модель от них. Достаточно специфический данный мы не выбрали, а CVE, CWE и детектирование. Посмотрим. На самом деле эта тема становится все более и более горячей по понятным причинам.

Дмитрий Колодезев 52:29
Ну и это вот реализовавшаяся уже история про малые языковые модели, про то, что в прошлом году все говорили, что вот малые языковые модели пойдут, и вот они пошли. То есть в разных историях, то есть Fugue, допустим, она же тоже малая сравнительно со всеми. Да-да, 06.

Валентин Малых 52:49
Да, да, это действительно кажется, что мы действительно переходим к... От модели генералистов к модели специалистов, ну, как бы, цикл повторяется, да, то есть мы переходим к специализированным моделям, которые дестилируют большие модели, судя по всему, потому что большие модели слишком дорого, а маленькие модели — то, что нужно. Воспользуюсь служебным положением и обслужу новость. Точнее, как новость, тут высказание от нашего генерального директора Павла Воронина, генерального директора VK. Он говорит следующее, что РФ, Российская Федерация, может предоставить Китаю, соответственно, возможность для строительства дата-центров. Он тут ещё говорит, что у нас хорошая инженерная школа, и мы можем соответственно отвечать за часть обучения моделей. Именно наши инженеры. У меня, честно говоря, вот в этой части есть определенные сомнения, но в плане того, чтобы предоставить свои свои электричества, землю и воду для дата-центров, это я вполне легко верю. Мне кажется, даже это уже обсуждали. Идея сама по себе правильная и хорошая. Единственный вопрос — нужно ли это нашим китайским товарищам? Потому что у них тоже есть свои соображения о том, чего нужно и что не нужно в этой жизни. И сама по себе идея того, что давайте вы у нас будете размещать соды, потому что у нас дешево и классно. Мне кажется, очень хороший. Другой вопрос, что у нас, допустим, есть требования о размещении персональных данных только внутри страны, на территории. Что-то мне подсказывает, что в Китае это тоже есть, и в Европе точно такое есть. В США я не помню, но не исключено. И соответственно, не очень понятно, как бы, какой реальный объём можно вывести из-под действия этого закона, да, то есть где не будет персональных данных для этой самой обработки. А сама по себе идея, повторюсь, классная.

Дмитрий Колодезев 54:53
Тут я пессимист. Если я правильно понимаю, то в значительной степени вот этот плурализм моделей и дата-центров в Китае обусловлен конкуренцией между провинциями, да? Ага. Вот, но до тех пор, пока Сибирь не провинция Китая, ха-ха, в чьих кипяя она будет.

Валентин Малых 55:14
Так вот, в том-то и дело, да, я об этом же. То есть у них там, в общем-то, своих есть, своих есть, кто хочет разместить у себя этот центр, даже несмотря на то, что у них сильно теплее и менее выгодно. Но извините, одно дело менее выгодно, а другое дело, что вы это всё под контролем держите. Да, то есть это немножко другая история. Я вот лично не понимаю, почему это нужно нашим китайским товарищам. То есть с нашей стороны я понимаю, зачем нам это нужно, зачем им это нужно, я не понимаю.

Дмитрий Колодезев 55:42
А то есть это может быть либо дешёвая электроэнергия, но по поводу генерации Китай нас превосходит.

Валентин Малых 55:50
Превосходит, да, но у них же всё равно дороже.

Дмитрий Колодезев 55:53
Это может быть дешевое строительство, например, но в основном не занятые области у нас в районе вечной мерзлоты и так далее и тому подобное, где строить очень дорого. Вот, ну, хороший сценарий, про который ты сейчас сказал, это обработка. Персданных этого рынка, то есть если китайцы плотно заходят на российский рынок, то им нужно иметь свое оборудование для того, чтобы наши персданные тут обрабатывать. Но это обусловлено тем, что они плотно зашли на этот рынок и под себя его подмяли. Это, наверное, совсем не тот сценарий, о котором мы стремимся.

Валентин Малых 56:37
Я согласен, то есть, ну и плюс, ну давай по-честному, ну сколько тому российскому рынку надо этих обработчиков? Ну прямо скажем, не очень много, да, то есть, Санька себе. Сам по себе российский рынок для обработки, ну не очень большой. Имеет смысл, если у нас будут размещать мощности для обработки данных какого-нибудь, не знаю, крупного региона, там, не знаю, например, Индии. Ну, условно, такого никогда не будет, конечно, но тем не менее. Вот тогда это имеет смысл, да, и дешево, и вообще всё хорошо. Единственный вопрос, что когда Индии сигнал идёт, получается долговато. Но я вот не понимаю, повторюсь, зачем это нужно в каких-то промышленных масштабах китайским товарищам. Да, размещение, ну, допустим, той же J.Lenke, пусть она у нас крутится где-то локально у нас, ну хорошо, допустим, но это всё капля в море и что-то я не очень понимаю, зачем всё это нужно.

Дмитрий Колодезев 57:34
Тут, знаешь, скорее всего, есть какие-то соображения, которые могут сделать это возможным, просто я их не вижу. То есть, знаешь, 12 правил Amazon, инженеров Amazon, и первое из них — ты думаешь, что другие инженеры не тупее тебя. То есть, какие-нибудь есть варианты, но я вот что-то их не вижу пока. Если нам их в комментариях подскажут, будет здорово.

Валентин Малых 58:00
Да, пожалуйста, пишите в Mattermost, будем рады. Но тут единственное, что я могу упомянуть, это то, что на прошлой, по-моему, неделе была создана организация Вайко, да, Всемирная Организация по ИИ. В рамках которой какое-то взаимодействие предусматривается, бог его знает, может быть, имеется в виду в рамках этой организации, как-то так, не знаю. Следующая история, тоже отчасти связанная. На прошлой неделе были слухи о том, что Китай запретит скачивание своих моделей. Но это были слухи из западной прессы. Теперь другие слухи в ту же историю, что администрация президента США, Дональда Трампа, собирается запретить сервить китайские модели на территории США. Это вполне легко поверить, что они собираются так сделать. И тут, казалось бы, такой мостик предыдущей новости, что вот смотрите, у нас же есть возможность, давайте вы у нас на Чукотке будете сервить, там же до Аляски близко, и раз-раз, и всё, все в дамках. Боюсь, что так не работает, но сама по себе идея неплохая. Вот, но если серьёзно, то идея здесь про то, что... Администрация Дональда Трампа попытается бороться с тем, что китайские модели становятся всё лучше и лучше. Ну вот, Kimi K3, пожалуй, один из лучших примеров в этом плане. И одним из способов борьбы, в общем-то, довольно понятным является запрет на их использование. Да, то есть, с одной стороны, мы запрещаем использование. Китайских моделей из Китая, с другой стороны, запрещаем использование китайских моделей с территории самих США. Ну и остается, что можно использовать только американские модели. Ну, довольно логично, потому что у них нет. И вот здесь вот стратегия вполне понятная. Проиграют в этом случае в основном пользователи самих США, но тут уж как известно, у всех своих сложностей в жизни.

Дмитрий Колодезев 1:00:04
Так что лобби фронтирных хочет остаться монопольным поставщиком на рынке Штатов. И дело тут не в китайских моделях именно, а в открытых моделях в целом. Просто так получилось, что Говоря открытые модели, мы практически всегда имеем китайские. Были бы открытые американские топовые, они бы и американские топовые попытались. Позапретить. И механизм тут, скорее всего, не то, что они запретят их сервить, а механизм, скорее всего, будет. Что они запретят крупным учреждениям, ну не запретят крупным учреждениям, а потребуют от крупных учреждений подтверждать stack, то есть та же самая политика, что у нас про суверенные модели. И вот ровно то. Подход законодательный, который используют у нас, просто используют у них. И ты не сможешь ни покупать, ни продавать, если у тебя нет знака на руке или челе твоём. То есть, вот так.

Валентин Малых 1:01:03
Да, да, я думаю, что так всё и будет, потому что, ну, как бы, у государства есть достаточно ограниченный набор инструментов, как проводить свою политику и требования по Там подтверждение, она, собственно, одинаковая, что в Китае, что в России, что в США, что, не знаю, в Замбии какой-нибудь. То есть она везде примерно одинаковая. Другой вопрос, что где осмысленно эти требования, применять, где не осмысленно, это отдельная история, про которую можно отдельно поговорить. Следующая новость, мы уже как-то раз это обсуждали, но она достаточно интересна и вообще не первый раз уже всплывает. Идея в том, что можно просто прошивать ИИ модель прямо в чип. Такая большая корпорация, как Google, может себе позволить такое сделать, при условии того, что у нас сейчас И модели могут помогать и разрабатывать чипы, то есть раньше это было сложно, а сейчас мы можем. В полуавтоматическом режиме собрать новый чип, куда прямо прописать языковую модель, да, уже готовую, и за счет этого получить ускорение там на порядок или на два, что делает идею очень привлекательной, с одной стороны. С другой стороны, есть, конечно, недостаток, заключающийся в том, что эта модель, она там гвоздями прибита, и после выхода новой версии модели можно просто Выкинуть этот чип и делать новый, но такая корпорация как бы может себе позволить. Может, я тут что-то не вижу, какого-то второго.

Дмитрий Колодезев 1:02:37
Ну, у нас полгода занимает с момента появления топологии до момента появления чипа. Нет или сколько сейчас?

Валентин Малых 1:02:49
Ну, это зависит от доступа, соответственно, к печам, к тому, насколько они загружены. То есть, если у тебя есть своя печка, ну, технически, я думаю, что это и за месяц можно сделать.

Дмитрий Колодезев 1:02:59
Да, и вот тут интересный момент, что впервые за много лет у... США есть собственное производство GPU на своей территории тоже. Вот и получается, что вот пока у нас вот этот цикл был долгий, с момента, когда ты сделал топологию, момента, когда ты получил. Модельку при таком темпе роста развития моделек это было реально, но не экономично. Вот, но теперь предположим, что мы с двух сторон эту штуку подправим. То есть, во-первых, у нас уменьшается time-to-market для прошитой модели, а во-вторых, замедляется по какой-то причине рост pretrains. И тогда вот эта история становится просто логичным следующим шагом сразу же. Поэтому я думаю, что это тот айсберг, который торчит верхушкой из-под воды. И как только начнётся малейший отлив на рынке «Фронтир Моделей», то есть все говорят, что они упрутся. Пока непонятно, куда же они конкретно упрутся, но вообще-то понятно, куда они упрутся в данное. И вот как только они на самом деле упрутся, по идее, должны Замороженные в чипах модели полететь, но пока мне кажется, что модели, упершись в данные, будут дальше. Пока ещё там есть и оптимизаторов. В архитектурах там ещё много, где, мне кажется, можно улучшаться. То есть я лично не ожидаю, что модели прямо так отупеют. Хотя вот если посмотреть на размеры последних фронтирных моделей, почти в три терабайта, то как бы возможно, мы к этому подходим с другой стороны, что даже какие-нибудь вафли Cerebras не смогут это тащить.

Валентин Малых 1:04:50
Ну, всё так, да, я согласен, что тут в плане того, что замороженные модели всплывают, но слушай, они уже всплывают. Маленькие модели — это почти то, о чём мы говорим, на самом деле. То есть мы сделали маленькую модельку, хорошо решающую задачу. Давайте мы её на маленький чип прождём, ну, относительно хотя бы маленький, и пусть она там на нём и работает. Я думаю, в этом идея.

Дмитрий Колодезев 1:05:14
Ну, в шестнадцатом году я беседовал с людьми, рассказывал уже об этом, которые дообучали ResNet под конкретную задачу и прошивали его в чип, и получались под пятнадцать центов за чип, и с этим не спорить не можешь. То есть вместо того, чтобы ставить GPU, ты ставишь пятнадцатицентовый чип, и он у тебя распознаёт кошечек, отличая от собачек. Он больше ничего не может, но за пятнадцать центов что тебе?

Валентин Малых 1:05:38
Да, что ты ещё хочешь за 15 центов, как бы, да. Ну, мне кажется, действительно, вот в эту сторону мы всё равно придём рано или поздно, и для этого, в общем-то, не нужны даже. Ну, супертехнологии, типа. а Вот этих двух нанометров или сейчас уже, по-моему, 1.6 ангстрема или сколько там, я забыл. В общем, да, уже все эти вещи. Аммм. Кажется, что это может. Можно делать и более дешевыми способами. Следующая новость, пардон, Bloomberg что-то решил со мной пошутить и не хочет, соответственно, давать читать текст, но и бог с ним. Собственно, суть новости в заголовке, что ZTE, которые тут внезапно стали супер популярны, да, и стали одним из китайских бигтехов, они Заявили, что создали целый дата-центр, который использует только китайский, китайскую инфраструктуру исключительно, что достаточно интересная заявка, потому что никто до этого такую заявку не делал. Даже DeepSeek, который говорил, что обучался на Huawei-чипах, они не заявляли, что всё остальное у них китайское. А тут вот полностью произошёл тот самый bootstrap. Да, если кто-то забыл, то слово bootstrap происходит от... Приключений барона Мюнгаузена, который вытягивал себя из болота за шнурки от ботинок. То есть, идея в том, что мы потихонечку, как бы, шаг за шагом подбежаемся к тому, чтобы Полностью отвязать один stack от другого, да, то есть у нас получается один полностью независимый stack и другой полностью независимый stack, один, который сейчас является общемировым stack, имеется в виду западных технологий. Там Intel, NVIDIA и иже с ними. А с другой стороны, появляются китайские стеки. Тут скорее всего имеется в виду Huawei и может быть какие-то прямкуши к нему единомышленники, но в основном Huawei, потому что он сейчас самый топ по железу в Китае. И вот у нас два стека, которые всё дальше и дальше друг другу отходят. Как-то так выглядит. Разлом, помнишь, как там было в той песне, что из треслений мир напополам дымит разлом? Вот это оно.

Дмитрий Колодезев 1:07:52
Слушай, ну у меня вопросы к статье Bloomberg. Там у меня некоторые цифры не сходятся друг с другом. То есть там установлено 10 тысяч китайских чипов на 1 гигаватт, да. Вот и как-то арифметика мне подсказывает, что один чип должен сто киловатт потреблять. Вот мне кажется, что это даже для Huawei.

Валентин Малых 1:08:16
Ну да, 100 киловатт — это как перебор небольшой. Я думаю, что оно имеется в виду, ну да, даже если там взять с охлаждением совсем на свете.

Дмитрий Колодезев 1:08:27
Всё равно, ну, ну да, в общем.

Валентин Малых 1:08:31
Не энергоэффективно, но три — это ужасно. Ну да, но сто — это перебор, да. Ну, может быть, они так пытаются унизить конкурента, не знаю.

Дмитрий Колодезев 1:08:41
Я думаю, что это отражает уровень проработанности новости. То есть новость прилетела, и её особенно не считая выкинули. Вот, потому что главная новость тут скорее не то, что они поставили сколько-то и какая-то мощность, а то, что китайцы могут запускать дата-центры полностью на своём железе, и это не какой-нибудь оборонный проект, это вот конкретно ZTE, которым все. Мы можем пользоваться. И вот хотелось бы вспомнить твое собственное утверждение, что внутри Китая оно работает быстрее, да, ZTE-модельки.

Валентин Малых 1:09:21
Да, это наблюдение довольно интересное было для меня.

Дмитрий Колодезев 1:09:23
Да, и вполне возможно, что снаружи и внутри Китая она сервится на разном железе.

Валентин Малых 1:09:28
Ну, кстати, вполне себе, вполне себе, да. И интересно, на каком же NVIDIA для внешних пользователей? Можно предположить, что в NVIDIA, а может, наоборот, известно.

Дмитрий Колодезев 1:09:39
Ну, так как для внешних она сервисов в Виши в Сингапуре, а для внутренних она сервисов внутри, то я бы скорее предположил, что на внешних она NVIDIA работает.

Валентин Малых 1:09:51
Да, скорее всего, конечно, то есть это была попытка пошутить. Иначе, как в разряд приколов, я не знаю, как отнести эту новость. Довольно широко прозвучало, что Hugging Face сказал, что произошел секьюрный инцидент безопасности. И что, собственно, случилось? Оказалось, что Panaya, значит, тестировали свою модель, якобы, и эта якобы модель случайно нашла дырку в инфраструктуре Hugging Face и там что-то поломало. И при этом из забавного то, что с той стороны Hugging Face, то бишь, они боролись с этим с помощью GLM-5. Такая вот получилась американо-китайская дружба.

Дмитрий Колодезев 1:10:33
Мне, поскольку мы пользователи Hugging Face, корпоративные, то мне приходили отчеты от их security команды, которая четыре раза сказала, ваши данные не затронуты, всё хорошо, то что они не смогли использовать. Я не знаю, скорее всего, Claude Opus они не смогли использовать. По-моему, там было так в отчете, что не пытались, потому что он их заблокировал. Это да, это вот как раз. В копилку суверенных моделей, то есть если ты хочешь, чтобы у тебя модель работала каждый раз, когда она тебе нужна, она должна быть у тебя на твоём железе. Валентин Малых, как раз есть возможность, вот они и делают. Ну и если уж Hugging Face взламывают моделями, там-то по сути так-то не очень много мест, где можно взломать, и она достаточно свежая, вся инфраструктура вся достаточно просмотренная, проработанная.

Валентин Малых 1:11:35
Слушай, я не согласен. Мне кажется, Hugging Face сам по себе просто никому не приходило в голову взламывать. Ну, потому что, ну, а смысл, что ты с него такого снимешь интересного?

Дмитрий Колодезев 1:11:46
Давай сравним Hugging Face и какой-нибудь SAP. Так, вот. То есть, Hugging Face, весь код написан недавно. У них нет фактически legacy, у них достаточно изолированные пайплайны, у них. Достаточно простые сценарии использования, и не то чтобы много таких вот, ну это компактные пайплайны, то есть сильно связанные, плохо сцепленные, сильно сцепленные и плохо связанные, допустим, вот, то есть у них свежая, хорошая архитектура. И если взять какую-нибудь компанию, которая органически наматывала изоленту 30 лет на свои системы, то они в принципе не могут позволить себе такую чистоту архитектуры, а Hugging Face пока ещё может, они ещё маленькие.

Валентин Малых 1:12:42
Согласен, я тут с тобой согласен, но тут есть аргумент против, хотя он может быть и слабый, но тем не менее, всё-таки. SAP — это огромная корпорация, у которой есть огромный security отдел, который, ну, теоретически, теоретически должен заниматься тем, что эти самые дырки искать и устранять. То есть они тратят много денег на то, чтобы быть в этом плане устойчивыми. То есть твои аргументы понятны, но с другой стороны, из, как бы, знаешь, Чисто не там, где не ссорят, а там, где убирают. Да, то есть, на мой взгляд, первый случай, там, где не ссорят, это вот как раз Hugging Face, что там просто ещё не успели намусорить. А в SAP там активно убирают, несмотря на то, что там, конечно, мусорная гора размером там, не знаю, с... Не знаю, чем тут сравнить.

Дмитрий Колодезев 1:13:35
Есть своя LM. Subbot, много делает исследований в интерпретируемости. Я и моделей, в том числе и LM, откуда, собственно, я про их модельку и знаю. Ну, вообще-то, Subbot, они выглядят и всю жизнь были, как бы, таким примером неповоротливого гиганта, почему я всплыл, но вообще-то они бодрые сейчас. Они очень много интересного делают.

Валентин Малых 1:14:00
Нет, Сапта молодцы, мы им всяческих успехов желаем, но я считаю, что они действительно активно убирают вот эти свои косяки в архитектуре. Я подозреваю, что их взломать не проще, чем Hugging Face. Это моя гипотеза, понятно, что мы её проверить не то чтобы не можем, а не хотим. Да, вот это вот ты правильно сказал. Я думаю, что даже, знаешь, вот на этой ноте можно даже и закончить, не станем и всё. Вот, соответственно, наверное, я бы хотел сказать спасибо всем, что нас послушали. Подписывайтесь на нас везде, где нас видите и слышите. ВК-видео есть YouTube, есть, соответственно, подкастные площадки. Пожалуйста, везде подписывайтесь и обязательно приходите в Mattermost, рассказывайте всё, что мы где были неправы или что-нибудь забыли. Присылайте новости. Вот так. Да, обязательно с вами там увидимся. Тогда всё, спасибо и пока-пока.