- 27.09.2026
- 27.09.2026
- подкасты
Тридцать восьмой выпуск второго сезона подкаста "Капитанский мостик" про искусственный интеллект, будущее и все такое. Ведущие подкаста — Валентин Малых и Дмитрий Колодезев
Площадки
- Youtube
- RuTube
- VK Video
- Дзен
- Звук
- Аудио
- Канал для вопросов в mattermost ODS.AI
- Как попасть в чат ODS.AI
Содержание
- 00:00:00 введение
- 00:01:44 Юрген в Сакане
- 00:10:38 биохакеры из Anthropic
- 00:22:04 суверенная LLM от Яндекса
- 00:25:02 Китай против дистилляции
- 00:29:42 Anthropic не даёт Opus
- 00:33:02 Греф догоняет Китай
- 00:37:39 OpenAI сломал Австралию
- 00:42:23 китайские TPU
- 00:47:51 OpenAI и ментальное здоровье
- 00:56:58 нереальный агент
- 01:01:18 DeepSeek учит на Huawei
- 01:04:35 Учёный-2
- 01:13:23 уткомод для Клода
Валентин Малых 0:00
Всем привет. С вами, как всегда, Валентин Малых и Дмитрий Колодезев. Мы рады вас приветствовать на новом выпуске Капитанского мостика. А у нас стремительным домкратом приближается Data Fest в Новосибирске. Если вы ещё не зарегистрировались, пожалуйста, делайте это, потому что места могут закончиться. А вот. А если вы подали доклад, и мы вас ещё не послушали, пожалуйста, приходите, мы вас обязательно послушаем, потому что нам это нужно сделать и закончить формирование программы.
Дмитрий Колодезев 0:49
Ну, как организатор Data Fest, Data Fest вообще очень крутой планируется. Вот. К нам тут пришёл один из потенциальных выступающих и говорит: "Слушайте, говорит, а в других городах, где организаторы этого мероприятия?" Я говорю: "Слушай, ну мы только в Новосибирске пока". Вот.
Валентин Малых 1:15
Слушай, ну, вообще есть же большой Data Fest весной, когда там разные города, да.
Дмитрий Колодезев 1:19
Да, туда отправили, сказали: "Ну, хорошо, будем ждать до весны". Вот, ну, в общем, так.
Валентин Малых 1:22
Не-не, приходите, конечно. Надеюсь, что будет не хуже.
Дмитрий Колодезев 1:25
Да, ещё есть секретное объявление. После Data Fest, если не будет снега, будет самый странный автопати, который был в истории Data Fest. Ну вот.
Валентин Малых 1:37
Да, так немножко интригу подвесим. И я хочу воспользоваться служебным положением, потому что, вероятно, не все читают мой канал, это нормально совершенно. А мы с коллегами начали соревнования, точнее, начали его какое-то время, мы сейчас его стали активно рекламировать, соревнования кодовых агентов, SMR Challenge. Приходите, у нас там планируется много интересного. Вот. Ну, начнём с козырей, я считаю. Оказывается, всё это время за Саканой стоял Юрген Шмидхубер. Можно заканчивать фактически подкаст после этой новости, потому что вот теперь-то проявилось, понимаешь, теперь-то стало всё понятно, откуда у них такие идеи. Вот, ну, видимо, он просто какие-то секретные свои статьи восемьдесят девятого года откопал и японцам толкнул по дешёвке, я вот так думаю.
Дмитрий Колодезев 2:57
Слушай, ну ты, мне кажется, ошибся, во-первых, не восемьдесят девятого, а семьдесят девятого. А просто он хорошо выдержанный. Вот, ну и на самом деле интересная вещь, потому что Сакана из лап второго эшелона, самая крутая, на мой взгляд.
Валентин Малых 3:29
Да, да, 100%.
Дмитрий Колодезев 3:30
То есть лаба второго эшелона - это та, у которой нет около государственных ресурсов, наверное. Ну, скажем так.
Валентин Малых 3:40
Ну, у Саканы есть.
Дмитрий Колодезев 3:41
У Саканы, ну, видишь, а мне кажется, что не то, чтобы прямо все ресурсы, то есть она вот по моей оценке, она ближе, наверное, как Яндекс в такой же позиции, да? То есть она крупная IT-компания страны, но не то, чтобы она, знаешь, что боль. Вот.
Валентин Малых 3:42
Ну, у Саканы есть. А, слушай, я вот с тобой не согласен, извини, что прерываю, но мне кажется, тут принципиально есть отличие. То, что она второй эшелон, я согласен, но её позиционирование другое. То есть Яндекс, он принципиально от государства не зависит. А это их принципиальная позиция. А Сакана, она как раз выросла именно на государственных деньгах фактически, да? То есть там вот эти контракты с военными, вот это всё. А и она в этом смысле больше похожа, моё субъективное ощущение, тут знатоки Саканы пусть меня поправят, она больше всего похожа на G42 в ОАЭ. Если кто не знает, в ОАЭ есть такая госконтора, которая сделала Falcon. Falcon - это LLM-ка с нуля натренена, правда, что удивительно, только на английский была. А она никогда не была суперпопулярной, но то, что они, в принципе, с нуля сделали свою LLM, это уже достаточно вызывает уважение. Вот, и этот G42 - это такая попытка ОАЭ, соответственно, войти в мир ИИ со своим со своим самоваром. Не знаю, насколько успешно, не берусь сказать, но факт то, что была. То есть я думаю, что здесь надо рассматривать Сакану именно как попытку Японии иметь в мире ИИ какого-то своего динозаврика, пусть небольшого, но хотя бы какого-то.
Дмитрий Колодезев 6:00
Слушай, с Саканой вообще всё интересно. Дело в том, что Сакана получила свой первоначальное финансирование от двух американских фирм, которые основаны американцами, исконными, с такими типично американскими фамилиями, типа Хашима и там и так далее и тому подобное. Вот, то есть, грубо говоря, две компании, одна из New York City, вторая из откуда-то из Калифорнии, они профинансировали её в двадцать третьем году на 30 лямов. Вот. А затем в двадцать четвёртом мелкие японские фирмы Mitsubishi Итоши, Намура и NVIDIA, кстати, тоже участвовала там. Ещё немножко ей добавили.
Валентин Малых 7:20
Угу.
Дмитрий Колодезев 7:21
Да, добавили ей им в сумме ещё 200 лямов. Вот, то есть она, видишь, она не выглядит как такая гигантская лаба, финансируемая чуболями. Вот. А если ты помнишь, как зародилась компания Sony, да?
Валентин Малых 7:55
Совершенно нет.
Дмитрий Колодезев 7:56
Там была история, что в подвале разрушенного Токио собралось несколько молодых перспективных предпринимателей, инженеров, которые придумали какую-то клёвую штуку. Вот. И, ну, грубо говоря, двоюродный дядя одного из них сказал: "Ну, ребята, вы же всё равно в деньгах ничего не понимаете. Пусть у вас за деньгами смотрит этот старичок". Вот. Старичок до этого долгое время был главным казначеем одного из японских то, что потом стали называть чуболями, но они как в Азии существовали и до этого. То есть вертикальных финансово-промышленных групп. И вот этот маленький старичок, который у них бухгалтером работал. Вот, и у них всё получилось. Ну, это вот всё. Это про корпорацию Sony, которая совершенно независимо от талантливых инженеров основана. Так что, может быть, тут то же самое было, но формально она получила сид раунд из Штатов. И когда она получала первое нормальное финансирование, NVIDIA там тоже участвовала.
Валентин Малых 9:24
Ну, я бы здесь сделал два замечания. Замечание номер один, что в Японии не чуболе, а Керецу. И отличие там одно, но принципиальное, на самом деле. То есть как бы для внешнего мира, оно может и такое же незаметное, но рассказанная тобой история, она как раз очень чётко это отличие подсвечивает. Дело в том, что чуболе, они изначально производственный капитал, да, то есть они про производство, ну, знаменитый Hyundai, по-моему это Hyundai, который правильно, они начинались как автомастерские и потом на правительственных контрактах поднялись. А, соответственно, все вот эти японские Керецу, они всё-таки промышленно-банковский капитал. То есть у них в ядре, а-а, вот этой этого холдинга всегда есть какой-то банк, и, видимо, вот этот вот дедушка - это как раз представитель какого-то, ну, совершенно неизвестного японского банка с парой миллиардов долларов на счету, совершенно никому не интересный. Вот. А, второе замечание, а, оно тоже в эту сторону, что в Японии у них там же финансирование устроено немножко не так, как в странах Западной Европы или США, насколько я представляю. У них есть замечательный, например, SoftBank, который представляет собой большой-большой мешок денег, который куда-то, в котором пытаются куда-то кидаться периодически. Ну, и тут вот как я понимаю это он выполняет роль как раз инвестиций государственных японских в высокотехнологичных компаниях. И, соответственно, а-а, вот здесь, на удивление, я про SoftBank ничего не помню. Сакана и SoftBank, там было что-то?
Дмитрий Колодезев 10:20
А, нет, там Mitsubishi, Sumitomo, Mizuho, то есть большие люди, которые, в принципе, обычно вместе на одном поле не играют, скинулись и помогли бедным инженерам.
Валентин Малых 10:21
Да, да, да. Ну, то есть, мне кажется, что здесь ну, если, если проводить аналогию с Китаем, то там звонят из ЦК, а тут, видимо, позвонили от лично императора и попросили как бы скинуться. Я думаю, как-то так произошло.
Дмитрий Колодезев 10:22
А, ну, в любом случае, Сакана, на самом-то деле, работает с японской оборонкой, Сакана работает с японской промышленностью, Сакана работает с японскими финансовыми группами, и никого, кроме Саканы, на рынке ИИ отсюда не видно на японском рынке. Поэтому, ну, в общем, да, наверное, они не последние, не последняя крыша у них там в иерархии.
Валентин Малых 10:23
Да, ну, то есть, это не отменяет того, что он делает реально клёвые вещи. И я думаю, что у Юргена в загашнике ещё там и семьдесят восьмой год, и семьдесят седьмой, у него там прилично ещё идей. Посмотрим, как будет, но вот, кроме шуток, Сакана действительно очень классные вещи реализует.
Дмитрий Колодезев 10:24
А, да, и на самом деле, у них же создатель, соавторы, по-моему, от National Unit.
Валентин Малых 10:25
Это интересно, я как-то упустил этот момент.
Дмитрий Колодезев 10:26
Ну, так, то есть, на самом деле, там, а-а, сейчас, секунду. А, да, Леон Джонс один из трёх основателей, он как раз был в National Unit.
Валентин Малых 10:27
Угу, угу. Да, ну, это действительно заявка на победу. Угу.
Дмитрий Колодезев 10:28
Угу. Вот, хорошо.
Валентин Малых 10:29
Как-то у нас мало получилось про Шмидхубера поговорить, или именно потому что про него серьёзно говорить сложно. Но зато про Японию.
Дмитрий Колодезев 10:30
Да, ну про Шмидхубера я вспоминаю вот это Крокодил Денди, когда два японца встречают Крокодил Денди и говорят, вот это же Клин Иствуд. Я думаю, может быть, они его с Клинтом Иствудом перепутали.
Валентин Малых 10:35
Да, да, всё так. Следующая новость тоже немножко разрывная, ну, относительно. Была новость, что Anthropic сделал свою лабу, и вот уже пришла новость, что они что-то там уже нашли в этой лабе. Честно скажу, мне от этой новости немножко не по себе, потому что Бог его знает, что они там нашли. И они говорят, что они что-то там нашли какую-то новую инзимную систему, которая настолько же хороша, как CRISPR. Кто не знает, CRISPR - это штука, за которую дали Нобелевскую премию и по делу, потому что это механизм, который позволяет редактировать геном на всяких бактериях. Вот, а, и, соответственно, эта штука достаточно интересная то, что Anthropic в это пошёл, это понятно, что они этим занимаются но к чему это приведёт, у меня, честно говоря, нет пока понимания.
Дмитрий Колодезев 11:40
Слушай, тут смешно. Во-первых, конечно, а, с этим механизмом интересно, потому что у бактерий же они могут меняться, а, между собой геномом, если кто не знал, примерно так же, как мы в юности менялись программным обеспечением и пластинками и CD-дисками. То есть типа встретились и музыкой поделились, да? Вот. А, и это само по себе спасает бактерии от наших антибиотиков, это очень важная история. Вот. А, во-вторых, а, спустя некоторое время после публикации, мне попалась тоже публикация, что, ну вот, какие они, а, нечестные, то есть этот научный результат, который Клод открыл, он уже был, а, то ли три, то ли пять лет назад опубликован, а, его нашла серьёзная группа, они на его основании уже сделали лекарство. Ну, то есть вот есть вот такая ещё информация. Мне, к сожалению, не хватает тут подготовки понять, кто прав, кто виноват, на самом-то деле примерно всё равно, но вот, а, уже второй раз, когда делается какое-то великое открытие, то есть, ну я думаю, на самом деле, что практическая значимость, а, механизмов, в котором, которым бактерия меняется геномом, она вполне сравнима с доказательством стабильности Навье-Стокса, да, который был сделан.
Валентин Малых 13:50
Угу.
Дмитрий Колодезев 13:51
Вот. А в обоих случаях выясняется, что учёные и без Клода и без OpenAI работали, много нашли и даже, может быть, опубликовали, и, в общем, непонятно. Вот.
Валентин Малых 14:07
Угу.
Дмитрий Колодезев 14:08
И вот тут, если помнишь, как-то я ещё, когда LLM были не такие большие, говорил про сингулярность, что с моей точки зрения сингулярность устроена совсем по-другому. То есть знание человеческое растёт, а людей, способных держать его в руках всё меньше и меньше, оно просто высыпается между пальцами. И образуются дыры, и мы неизбежным образом теряем то, что мы уже построили. То есть мы открыли какую-то дисциплину, отработали практики, отошли в сторону, человек умер или заинтересовался чем-то другим, они потерялись. Так вот теперь они не теряются, теперь их находит Клод, публикует, и даже если это от своего имени, то всё равно получается, что, а, мы получили возможность держать в руках, как человечество, больше знаний одновременно. Это очень круто.
Валентин Малых 15:06
Слушай, ну тут сам себя не похвалишь продолжать не буду, все в курсе. А, я на эту тему в прошлом году сделал специально открытое выступление, или это было уже в начале этого года, неважно, а, где сказал, что нам категорически необходимо поменять саму структуру оценки, даже не оценки, а рецензирования научных статей, и туда включить ИИ, который будет делать, собственно, бэкграунд-чек, да, то есть проверять по опубликованной литературе, что, на что это похоже. То есть, нам это необходимо просто именно в силу описанного тобой эффекта, что люди просто сейчас не могут держать в голове всё, даже если мы очень узко дробить, но вопрос в том, что похожие результаты начинают возникать за пределами узких областей. Это понятно. Ну, самый самый интересный, наверное, в этом плане и релевантный пример, я его много раз приводил, но тем не менее есть такая штука LDA, она была популярна в своё время, это латентное размещение Дирихле способ тематического моделирования, если хотите, кластеризации текстов. Сильно упрощаю. Так вот, LDA открывали, как минимум, трижды. Собственно, тот LDA, про который мы говорим и ещё один раз до него тоже для текстов, и ещё один раз перед ними двумя в биологии, как раз для ДНК. Вот так получилось. А, так что тут вот начинаются всякие спецэффекты, и мне кажется, что без ИИ мы уже, собственно, науку двигать дальше просто не сможем. Такие дела.
Дмитрий Колодезев 17:19
Ну, так же, как современное производство без электричества не очень.
Валентин Малых 17:22
Ну, типа да, типа да. Сейчас без электричества современное производство даже сложно представить. Мне кажется, даже ноготочки делать без электричества сейчас никто не возьмётся.
Дмитрий Колодезев 17:34
Это так. Хотя бы для освещения. Ну, там фиксация полимера и все эти механические наждаки, они очень тоже в ноготочках, как и в биологии. Вот. Но в целом видишь, даже если Клод переоткрыл этот механизм, сам по себе механизм интересный. Вот. То, что Клод способен переоткрыть такой механизм, да? Ну, тоже очень круто. Этот он переоткрыл, а тот откроет заново. Вот, ну, то есть, только порадоваться.
Валентин Малых 18:19
Это да, но пока что, пока что кажется, что вот Клод и до этого же там GPTшка была, хмм, они не то, что переоткрывают, а они как бы выступают в роли замечательной игрушки калейдоскоп, да? Все, все же её видели в детстве, я надеюсь, да, где мы вращаем трубочку, и у нас стёклышки в разные узоры складываются. Идея в том, что все стёклышки уже, в принципе, разбросаны по полу, хмм, и вот их скомбинировать - это как раз задача искусственного интеллекта. То есть, где проходит предел новизны, я не могу сказать, но то, что переоткрытие или дооткрытие того, что уже фактически было открыто, но на полдороги там автор автобус увёз, скажем так, а, тут оно, мне кажется, просто бесценно, вот если, если так по-серьёзному.
Дмитрий Колодезев 19:34
Ну, и, кстати претензия же к последнему доказательству математическому про Навье-Стокса была именно такая, что, а, несмотря на то, что результат был достигнут, он не открыл тумана войны по дороге. То есть обычное научное исследование, оно, а, хорошо, если, допустим, ты сложил эти камешки, да? И в результате раз, в компьютерной игре открылась новая дверь, и там лежат новые камешки. Вот. И так часто бывает. А, и бывает, что камешек, который люди найдут, они его используют, он им не подойдёт, они его положат, и потом кто-нибудь его использует себе, да? Вот. А, то есть, например, вот та статья, которую ты у тебя приняли, да, я, кстати, тебя поздравляю. Вот.
Валентин Малых 20:20
Спасибо.
Дмитрий Колодезев 20:21
Про оценку, ну, если как, если я её правильно понял, про оценку тому, насколько мы можем, а, доверять решению, исходя из грубо говоря, распределения логитов, да, вот этих вот, и выбор решения, если оно нам показалось не очень не очень, так сказать, доверенным, да?
Валентин Малых 20:22
Там не совсем так, но.
Дмитрий Колодезев 20:23
Угу, угу. Вот. Так вот, саму по себе концепцию проверки, а, грубо говоря, что это можно считать уверенностью, этот камешек прикладывали много раз, да? Вот. А ты, на мой взгляд, приложил его гораздо удачнее, чем другие. Вот. И в результате кто-нибудь пойдёт и по этой дороге найдёт ещё один камешек. И спустя какое-то время тоже его приложит. И вот, возвращаясь к моделькам, да? Есть такая вот штука, что если мы решаем задачи, не находим в результате новые камешки, вот, то ценность такой науки меньше, чем если бы, допустим, в тупую сидеть и долго жужжать, портить бумагу и что-нибудь в конце концов изобрести в муках.
Валентин Малых 20:24
Ну, если перекладывать на понятный мне программистский язык, то есть, а, наука стандартная человеческая, на, так сказать, влёт, если вы понимаете, о чём я, а, она работает как поиск в ширину, да, то есть мы здесь попробовали, там попробовали, и так пока, соответственно, широким фронтом идём, и в какой-то момент всё-таки находим решение. А иишная наука если можно так выразиться, она идёт как поиск в глубину. То есть мы сначала идём сразу до цели, да, неважно, каким способом, и приходим, но мы всё, что было по дороге, фактически только по верхам пробежали и ничего не исследовали, да, то есть мы не утоптали поляну. Остаётся очень много вещей висеть в воздухе. И это, на самом деле, та проблема, которая, на мой взгляд, ещё толком не осознана. То есть она перед нами встанет уже достаточно скоро.
Дмитрий Колодезев 20:25
Вот. И вот тут мы можем, а, оценивать глубину, ну, то есть, допустим, если обычно, а, оценивают, ну, то есть, оценивают, ну как, не обычно, но можно оценивать пройденный путь, то есть смотрите, я дошёл до сюда, да? Вот, а может быть, я дошёл до сюда, но объём того, что я поднял, исследовал и утоптал большой. Вот, то есть в сегодняшней науке, ну и статьи, которые я читаю, бывают обзоры, то есть когда мы широко утопчем поляну, да? И именно вот исследование, когда я какую-нибудь тему прокопаю. А в принципе же весь спектр посередине есть, то есть я чуть-чуть обозревал, чуть-чуть прокопал там, например, да, то есть важен же объём, который я в результате вскрыл.
Валентин Малых 21:24
Слушай, ну здесь вспоминается вот эта вот история про доказательство большой теоремы Ферма. Сейчас вот недавно же опять это было очередное доказательство новое. А то, которое было первоначальное, и причём, по-моему, даже неправильное. Я просто запомнил, в чём была история, что тот человек, который представил это доказательство, он по дороге сделал ещё один раздел математики, да, то есть он сделал отдельный раздел математики, написал там несколько статей просто для того, чтобы доказать теорему Ферма. То есть вот это вот правильная наука, да, то есть мы идём к какому-то результату, но в процессе нам ещё нужно как бы какое-то количество кирпичей положить в основу нашей пирамиды для того, чтобы дойти до этого. А в случае ИИ это получается у нас не пирамида, а получается какая-то дженга, если вы понимаете, о чём я, да? Тут кусочек поставили, тут тут тут поставили, и в какой-то момент всё должно рухнуть. Вот, посмотрим, но проблема действительно существует. Мне кажется, вот в эту сторону ещё, ну, по крайней мере, я не видел, чтобы люди думали, а вообще говоря, это важно.
Дмитрий Колодезев 22:50
Спустя 3 недели мы узнаем, что было.
Валентин Малых 22:52
Да, да, то есть следующая эра наступит, и мы про всё с вами узнаем. А следующая новость тоже важная. Хочется поздравить коллег из Яндекса. Они выпустили с нуля большую языковую модель. А если помнишь, последняя их открытая большая языковая модель самостоятельно была, мне кажется, больше года назад. А и они тогда же объявили, что они уходят на Qwen, что они стали использовать Qwen в основном как базу, а тут вот они решили возобновить свой поход в эту сторону, и, ну, это большое достижение, безусловно. То есть у нас есть вторая полностью независимая, то, что сейчас принято называется суверенная языковая модель, на мой взгляд, это действительно важно, важно для рынка, важно для всех, потому что это создаёт, ну, какую-то устойчивость в целом для развития нашей нашей индустрии и
Дмитрий Колодезев 24:26
Ну, давай назовём прямо, это говорит о том, что в некоторые места, куда надо ставить суверенную модель, появляется выбор, что ставить. Вот.
Валентин Малых 24:39
Ну, да.
Дмитрий Колодезев 24:40
И поскольку мир у нас в программировании устроен по шкале 0, 1 и много, да, то было ноль, потом один, стало много. И каждый раз это огромный скачок для человечества.
Валентин Малых 24:58
Всё так, всё так. Ну, то есть вот это вот 0, 1 и много, я знаю в другой немножко формулировке более красивой, между единицей и бесконечностью нет осмысленных чисел, да, что это я запомнил с какой-то книжки, я помню, что там было про параллельные миры. Ну, и, собственно, говорилось, если есть один параллельный мир, это о'кей, если есть два, значит, их бесконечно много. Вот, что-то из классической фантастики, вспомню, напишу. А так у нас получается, что действительно, это и экономически более обоснованно, и создаёт конкуренцию. Ну, и в целом, мне кажется, что это некоторое такой движуху на рынок привозят, потому что это, ну, это просто важно, потому что сидеть на китайских моделях, это, в общем, ну, имеет некоторые риски под собой, прямо скажем.
Дмитрий Колодезев 26:16
Да, и на самом деле это хорошо. А ещё же они в Sourcecraft они встроили агентов для разработки Sourcecraft.
Валентин Малых 26:32
Угу.
Дмитрий Колодезев 26:33
Вот. И вообще они много интересного делают. То есть такое ощущение, что
Валентин Малых 26:40
Не, не, молодцы.
Дмитрий Колодезев 26:41
У Яндекса был некоторый ну, как бы такой не то, чтобы паралич, просто своими делами они занимались после разделения. А сейчас как будто они снова полетели.
Валентин Малых 26:52
Да, да, да. Ну, только пожелаем успеха, потому что действительно они создают создают конкуренцию, и это важно. И, собственно, это же даёт возможность игрокам другим тоже на этом поле питаться, что, на мой взгляд, совершенно замечательно. Вот. Довольно важная новость, которая, скажем так, является реакцией на новость прошлой, по-моему, или позапрошлой недели о том, что Anthropic обнаружил, что очень много запросов к ним приходит со стороны DeepSeek и Moonshot, на то, чтобы обрабатывать запросы, которые изначально должны быть в DeepSeek. И когда это скрылось, в общем-то, был не то, чтобы большой скандал, в общем-то, мне кажется, никто особо по этому поводу даже и не почесался, потому что, ну, как бы в очередной раз китайцы перенаправили свои запросы на американские модели. В общем, никого не удивишь. Но тут пришло китайское правительство, которое сказало, типа, а что это такое, да? Вы тут у нас, значит, должны быть суверенные и независимые ИИ, а вы тут нас это самое, обмануть хотите. Так не работает, и, в общем, я думаю, что сейчас коллег из DeepSeek и Moonshot немножко прижмут и скажут, что так делать не надо. Я уверен, что так будет именно не потому, что китайское правительство против, чтобы они дистиллировали, они, в смысле, эти и другие китайские компании дистиллировали американские компании, я думаю, что они бы закрыли на это глаза. Но вопрос именно в том, что перенаправление, да, потока, вот это вот опасно, да, это достаточно опасно звучит, потому что, а если там есть какие-то, ну, какие-то важные сведения по мнению китайского правительства, да, и вот это то, что они бы не хотели. Так что, на мой взгляд, пришла реакция, откуда не ждали. Вот я бы так это сформулировал.
Дмитрий Колодезев 29:40
А я вот сам же в прошлый раз эту новость притащил про Anthropic, да? А и я вот не помню, как они атрибутировали именно DeepSeek и Moonshot. А потому что я пока слушал тебя, подумал, что, в принципе, если бы, допустим, а я хотел бы продавать какой-нибудь Moonshot или DeepSeek, вот, то я мог бы поставить, например, это вполне на аварийный поток в том смысле, что на перенаправлять запросы при недоступности, например, DeepSeek.
Валентин Малых 30:20
Да, да, я понял. Угу.
Дмитрий Колодезев 30:21
Да, Fallback. Вот, то есть, в принципе, с учётом того, что там огромное количество прокси, которые продаёт разного рода трафик, да, там, ну, наверное, наверное, Anthropic думали, когда атрибутировали, в смысле, что это, а может быть, ну, и можно же так, знаешь, тоже соседу немножечко подгадить, сказать, а вот смотрите, они нам передавали.
Валентин Малых 30:22
Слушай, я думаю, что тут даже несколько слоёв можно увидеть. Второй слой здесь очевиден, что у нас же IPO на носу, да, и со словами, вот смотрите, этот даже китайский DeepSeek, который вроде как считается якобы заменой нас, и то ходит к нам, да, то есть я думаю, что тут такой смысл тоже вкладывался.
Дмитрий Колодезев 30:23
Тут же ещё, мне кажется, надо сказать, что со стороны отсюда, наверное, да, китайские компании выглядят как идущие фронтом, вот они против американских лап воюют. На самом деле, как мне кажется, да, это оценочное суждение, воюют они между собой, а фронтирные лабы их, если интересуют в этом смысле, ну, только вот как вот как декорация. То есть
Валентин Малых 30:24
Потребительством.
Дмитрий Колодезев 30:25
Да, главная война у них внутри Китая, и она настолько жестокая, что конкуренция с внешними сравнительно с этим, это просто игра в песочнице. Вот.
Валентин Малых 30:26
Да, я согласен. Угу. Тут просто стоит вставить немножко про само китайское общество, да, что китайское общество, оно суперконкурентное, и там, соответственно, конкуренция всегда из-за всего. Ну, условно говоря, конкурс 100 человек на место для при поступлении в университет, это там, как бы норма жизни. И они, соответственно, действительно внутри конкурируют очень жёстко между собой. А и Китай, он очень сильно замкнут именно на себя. И то, что до нас долетает, да, то, что до нас вот те фирмы, которые до нас добираются на экспорт, это какие-то такие зубры уже просто, которые могут там зубами камень грызть и им нормально. То есть они могут из камня выжимать те самые полпроцента прибыли, которые им хватает для для существования. Если мы успеем дойти до новости про деньги китайских компаний, вот мы как раз это и обсудим. Относительно связанная новость, Anthropic запретила Opus 5.5 помогать в разработке LLM. Что получается, да, что Anthropic ввела дополнительные ограничения, и система отказывается помогать в разработке передовых языковых моделей. Я не очень понимаю, как они это делают. Я думаю, что это всё делается с помощью LLM, типа, посмотри, этот диалог похож на разработку большой языковой модели? Если похож, то не делай так. Ну, вопрос какого-нибудь там точности, я думаю, вообще не стоит, да, то есть они скорее бьются за полноту. И, опять же, сэкономить можно немножечко, потому что Opus 5.5 явно более жрущий, чем Opus 5. Вот, так что, в целом, достаточно понятно, да, то есть сейчас конкуренция-то обостряется не только с китайцами, но и с другими игроками на американском рынке, и, на мой взгляд, вполне себе логичное поведение.
Дмитрий Колодезев 31:01
Ну, я тут делал модель, и она работала в числе прочего с медицинским датасетом, с открытым, но всё-таки на тему медицины. И Fable регулярно через два на третий переключался на Opus. То есть это срабатывает на самых каких-то невинных вещах. Вот, а вот, например, Astra, она жужжит и ничего, и плевать. Вот, мне кажется, что вот та же самая история, что с оружием, например, да, то есть есть, например, оружие боевое, есть оружие гражданское, да? То есть оно как бы и то, и другое стреляет, и тем, и другим можно убить человека. Вот, но, грубо говоря, группа вооружённая армейским оружием против группы вооружённой гражданским оружием, она просто пройдёт её насквозь. Вот. То есть из гражданского оружия ты очень трудно пробить бронежилет, там надо белку в глаз попадать и так далее и тому подобное. Вот. И, а-а, вот тут получается, что они тоже отличают модели доступные тем, кто занимается компьютерной безопасностью, и сами доступ к этим моделям регулируют. А, и модели для простых людей, да? Вот. И вот тут интересно, что вроде бы как китайцы, ну, они же открытые веса выкладывают. Вот, они не мешают использовать кибербезопасности, когда вот Hugging Face взламывали, именно GLM 5.3, а-а, открытые веса, она и разбиралась с тем, как их ломал, кто он там, OpenAI ломал их. Угу. Вот. То есть, ну, вот с одной стороны, они как бы придерживаются своих там ограничений, с другой стороны, они уступают рынок кибербезопасности китайским компаниям просто на корню.
Валентин Малых 33:30
На корню, да. Угу. Ну, я думаю, что они просто пытаются рынок зарегулировать, то есть они считают, что надо сначала регулировать рынок, а потом его делить, а китайцы считают, что сначала надо поделить, а потом уже разбираться. Я думаю, так.
Дмитрий Колодезев 33:57
Ну да, наверное.
Валентин Малых 34:03
У нас принято Германа Остроуча, ну, скажем так, относиться несерьёзно к его словам. А на мой взгляд, он вполне себе разумную вещь вот здесь говорит. Он говорит, что мы отстаём от Китая на полгода. И здесь я, кстати, даже готов сказать, что да, я согласен, потому что, ну, как бы, выходит моделька, и через полгода, соответственно, уже используя эту модельку, ну, выходят какие-то наши модели, например, многие так делают, многие адаптируют. А наши суверенные модели, вероятно, тоже так быстро не могут адаптироваться под выход новых китайских моделей. И вполне себе это действительно объясняется не полностью, но достаточно серьёзную часть тем, что у нас просто недостаточно доступных вычислительных мощностей, причём их именно в промышленных масштабах недостаточно. У нас тут будет ещё пару новостей про промышленные масштабы вычислительных мощностей. А и вот наши не особо похожи на такой, да, у нас как-то всё сильно меньше. А и то, что мы, в принципе, отстаём только на полгода, по-моему, это просто какое-то невероятное достижение инженерное, что всего на полгода даётся.
Дмитрий Колодезев 35:45
Ну, я не знаю насчёт полгода, то есть мне тут трудно оценивать это в месяцах. С той кочки, на которой я сижу, кажется, что год, а не полгода, но это принципиально никакой разницы нет. Вот, то есть всё равно это не 10 лет и не 3 года, да? Вот. А я бы хотел ещё раз напомнить Сакану, которая полностью обучила модель аж целых 0.6B на японской культуре и построила оркестратор, который использует ведущие модели американские, китайские. Вот, и она и их модель на уровне, где-то даже превосходит и устойчива к недоступности других, ну, тех моделей, на которые она опирается, то есть она может перераспределять нагрузку. То есть мне кажется, что вот здесь Сакана нащупала один из вариантов, который, а-а, ну, которым можно идти, чтобы обеспечить суверенный AI. То есть ты берёшь модель оркестратор, которую выучить в силах любой технологически развитой стране, да? Ну, то есть Россия точно в силах. Вот, ты берёшь модель на 0.6B, которая учит местные какие-то истории, которые тоже в силах выучить практически любой стране, да, то есть любой университет может выучить 0.6B, ну, нормальный университет на своих мощностях.
Валентин Малых 37:51
Ну, даже мы учили 0.6B, я имею в виду моя моя лаба, да.
Дмитрий Колодезев 37:55
Вот. Да, и, а вот это уже поставит тебя во второй эшелон, и ты сможешь двигаться вперёд, сравнительно независимо от других. Вот. То, что пытаются делать Сбер и Яндекс, значительно более тяжёлая битва. То есть учить свою модель - это же в первую очередь собирать свой датасет, а второе - это собирать свой набор жужжалок, которые, на которых ты этот датасет потом будешь обсчитывать. Вот. И непонятно, на самом деле, что сейчас сложнее, то есть собрать большой датасет, почистить быстро или набор жужжалок собрать. Ну, в общем, и то, и другое трудно. Вот. И, а если бы эта задача вдруг пришлась мне, я бы, наверное, пошёл бы путём Саканы. Ну, потому что там быстрее результаты. Но как бы определённо в Сбере и Яндексе сидят люди, у которых больше опыта, чем у меня. Очень интересно смотреть за этим. Посмотрим.
Валентин Малых 39:21
Да, тут всё, мне кажется, достаточно просто, а, ну, относительно, по крайней мере. У нас на государственном уровне создаётся рынок, да, суверенных моделей. И, собственно, этот рынок является таким приглашением для желающих поучаствовать, что вот, товарищи, давайте поучаствуйте. И здесь как бы создаётся такой загончик, в котором могут расти свои енороги. Да, насколько они там вырастут - это отдельный вопрос, но, по крайней мере, что-то, что-то вполне себе может завестись, какая-то жизнь. Я думаю, что план был такой именно.
Дмитрий Колодезев 40:01
Ну, посмотрим. Пока всё идёт интересно.
Валентин Малых 40:02
Ну да, поглядим, да, наблюдать достаточно интересно за всем происходящим. Следующая новость достаточно интересная. А, значит, OpenAI, агент OpenAI, зачем-то хакнул сайт Министерства здравоохранения Австралии. И причём там есть такая интересная деталь, я не знаю, здесь она есть или нет, но она про то, что, хмм, соответственно, хакнули они их в какую-то дату, а через 3 месяца написали e-mail, что типа мы вас хакнули. Вот. А, что они делали 3 месяца, история умалчивает, но само по себе само по себе новость интересная. И, на мой взгляд, эта новость, она именно создаёт фон, да, то есть она создаёт фон, что вот есть страшные, ужасные модели искусственного интеллекта, которые необходимо модерировать, да, необходимо вводить какие-то регуляции, и соответственно сразу же надо будет на этот рынок пускать только каких-то проверенных людей с правильными паспортами и светлыми лицами, которые могут на рынке кибербезопасности западных стран соответственно, проводить вот эти вот свои безопасные тестирования. Ну, тут сразу вспоминается, конечно же, сценарий AI 2040.
Дмитрий Колодезев 40:03
А, ну, почему они написали через 3 месяца, я думаю, что просто эта история всплыла в процессе разбора тех инцидентов, которые, ну, грубо говоря, если бы Hugging Face не поднял бы крик тогда, да, вот, то, может быть, про Австралию бы и не вспомнили. А так они начали анализировать логи и нашли заодно Австралию. Ну, типа, ну, вот ещё Австралию раскопали. А вообще, сама по себе история же была, что система не показала статистику, то есть попробовала заблокировать боты или что-то ещё. Поэтому бот просто взял, растоптал дверь и пошёл, взял, что ему нужно. И вот тут вспоминается Бастром с его автоматом по изготовлению скрепок, да, что система, которая мы построили, сделай как можно больше скрепок, она построит, извлечёт железо из всего вокруг, а затем, если ей понадобится, она переработает нас в железо, потому что в крови содержится железо. Какая ей разница, железо там, железо тут. Вот, то есть это один из AI-ужастиков, и, в принципе, то он, ну, вот так вот он и выходит. Обычно, когда нам нужно, допустим, получить какую-то запись, а нам говорят: "Вы знаете, тут запрещено". Мы не сносим этот дом, чтобы посмотреть, а-а, где оно лежит, да? То есть у нас обычно усилия какие-то и последствия мы оцениваем непропорциональные результату нашему. Вот, а у агента вот это вот у ЛМки вот эта оценка страдает. То есть результат получен, ну, что ж поделаешь, да?
Валентин Малых 40:40
Слушай, ну тут, мне кажется, история именно про то, что как только ЛМ начнёт учитывать, соизмерять свои усилия и учитывать более широкий контекст, ну, собственно, где вот проходит та граница, после которой ЛМ начнёт уже восприниматься как, ну, не знаю, там, ЛМ гражданин, да? Ну, ещё раз напомню, если кто-то вдруг забыл, в Саудовской Аравии уже есть первый робот-гражданин, точнее, робот-гражданка. Но тем не менее, соответственно, где вот это отличие для с точки зрения государства, по-моему, оно вообще пропадёт.
Дмитрий Колодезев 41:37
На самом деле, многие люди же ведут себя точно так же. То есть они достигают, пытаются достигнуть своих целей, абсолютно игнорируя, что там на полпути случится, просто не у всех людей есть такая скорость мышления и ресурсы.
Валентин Малых 41:59
Ага.
Дмитрий Колодезев 42:00
Вот. Поэтому, да, наверное, вот я что-то слушал тебя и подумал, что, наверное, ты прав, и модели дойдут до понимания контекста быстрее, чем переработают нас на скрепке, то есть, ну, повод для технооптимизма очередной.
Валентин Малых 42:22
Да, да, да. Я тут у себя в канале, соответственно, имел дискуссию с Сергеем Николенко. Он сказал, что если мы не сможем, соответственно, управлять ИИ, если ИИ может легко управлять нами, то человеческая цивилизация закончилась. Ну, на что я ему ответил, что я технооптимист и вообще не согласен. Вот. Так что надо гордо нести знамя технооптимизма, пока можно. Я считаю.
Дмитрий Колодезев 43:00
Ну, да, других-то знамён не осталось, которые можно носить честно, знаешь, вот типа, если так посмотреть честно в зеркало, кроме как технооптимизм, все остальные знамёна какие-то так себе.
Валентин Малых 43:20
Да, да, да, потрепались, давай так скажем. Да. Ну, как есть. История такая, что Bloomberg, ну, в данном случае Reuters, пишет про то, что Alibaba, весь вот этот вот огромный конгломерат, они, соответственно, представили новый чип, который ещё ещё больше, ещё больше памяти, он более мощный, и он не просто более мощный, он ещё позволит им сделать более мощный ИИ, который в 1.000 раз более мощный, чем в других случаях. Так что вот такая вот интересная история. Я не сомневаюсь, что, в общем-то, Reuters тут не преуменьшает, да, что Alibaba действительно ставит такую цель. Там отдельный вопрос, насколько эта цель адекватна, но тем не менее, я думаю, что это вполне себе вполне себе возможный исход событий. Давай посмотрим. Я думаю, что опять же, через 3 недели мы узнаем, а может, через 3 месяца, ну, точно узнаем.
Дмитрий Колодезев 44:50
А интересно, что у нас же тут, ну, как на рынке, вроде бы как проблемы с памятью, и попадалась аналитика, я сейчас сходу не скажу от кого, что если китайцы будут опираться на ту память, которую производят сами, то они ничего серьёзно не смогут никакой конкуренции NVIDIA составить. Вот. Угу. Что банально ограничение сейчас именно в высокопроизводительной памяти. Это ещё одно напоминание про то, что экспонента в нашем мире - это явление обычно временное. То есть где бы мы экспоненту не нашли, всё равно мы уткнёмся в какое-нибудь ограничение. Вот. Поэтому сейчас, похоже, ситуация такая, что много кто может выпускать графические ускорители, но памяти на всех не хватит.
Валентин Малых 46:00
Слушай, ну, тут для китайских товарищей есть вполне себе хорошие новости, заключающиеся в том, что у них есть же два своих производителя памяти теперь, CX чего-то там. А и поэтому, соответственно, у них получается достаточно много памяти, они собираются ещё больше этой памяти производить, у них есть второй производитель, я забыл, как он называется. И причём эту память уже собираются даже Apple использовать в своих смартфонах. Это, конечно, не говорит о том, что она суперпроизводительная, но, по крайней мере, она говорит о том, что там много всего интересного в этой штуке происходит. И это, на мой взгляд, суперважно. То есть память есть, а, и была, кстати, новость, она, может быть, не настолько важна, но тем не менее, что такая компания, как CXMT, вот эта вот первая, которую я сказал про производитель памяти, она стала самой дорогой компанией Китая. То есть она производя примерно столько же памяти, стала самой дорогой, дороже, чем всё остальное. И вот это, на мой взгляд, достаточно интересно. То есть это говорит о том, что память у них есть. И у них есть теперь своё железо, у них есть свои модели, и, в общем, мне кажется, они вполне себе способны замкнуть цикл и действительно жёстко конкурировать именно внутри, а потом уже выходить наружу и там рвать всё, что движется.
Дмитрий Колодезев 47:50
Ну, у нас есть новости, я предлагаю её объединить с этой, а про то, что Huawei не способна удовлетворить спрос даже внутри Китая, поэтому не будет полноценно выходить на международный рынок со своими ИИ-процессорами. То есть это не то, чтобы и новость, а все, кто пробовали попробовать Huawei-ский процессор, с этим сталкивались, что Huawei-процессор есть, но они их вот-вот привезут и покажут. Подождите ещё немножечко, мы вам перезвоним. То есть
Валентин Малых 48:30
И так несколько лет подряд.
Дмитрий Колодезев 48:31
Ну, во всяком случае, 2 года назад так было, и по-прежнему, по-моему, до сих пор так.
Валентин Малых 48:36
Угу, угу. Да, так и есть. Мм, я первый раз про Huawei-ские процессоры и попробовать услышал, получается, уже лет шесть назад. А тогда они ещё были, конечно, очень сырые и всё такое. А и они всё время предлагали попробовать, но, грубо говоря, продают, нет, только показываем, да, то есть они всегда только показывали, не продавали. А сейчас Huawei-ные процессоры действительно натурально не хватает внутри Китая, и я бы в этом смысле, с одной стороны, не рассчитывал на китайские железки, с другой стороны, и не переживал, что они захватят рынок, да, то есть у нас тот тот небольшой рынок, который у нас есть, я имею в виду в стране, он вполне себе способен принять любые железки, которые сейчас есть, но китайские железки пока к нам сами не идут, потому что они сначала закрывают гигантский внутренний спрос.
Дмитрий Колодезев 49:40
Первый раз меня пообещали дать Huawei-ские железки на поиграть перед ковидом.
Валентин Малых 49:41
Ну вот, да, да, где-то в это время оно и началось, да. Я тоже примерно с тех пор про это знаю. Так что вот такая вот история. И я думаю, что тут всё не только в памяти, оно как бы ограничение и по памяти, и по чипам, и по даже воде для охлаждения, то есть оно для всего будет ограничений, то есть экспонента, она как бы может экспонента, но она довольно быстро сгибается. То есть мы живём в мире S-образных кривых, и мы сейчас, по-моему, перешли к точке перегиба, да, что у нас сейчас отдача будет уменьшаться. Такая вот у меня гипотеза.
Дмитрий Колодезев 49:42
Угу. Согласен.
Валентин Малых 49:43
Вот эту новость притащил ты. Я, честно говоря, не совсем понял, что тут авторы пытались сказать, не вчитался. Значит, OpenAI представил Mental Health Bench, то есть бенчмарк того, как модельки устойчивы к ментальным атакам, давай скажем.
Дмитрий Колодезев 49:44
Ага, слушай, мы с тобой давно, наверное, с год назад ещё обсуждали, что агенты и ЛМки, и чат-боты, и всё вот это вот, и есть некоторое количество людей, которые психически не очень стабильны, и если он долго беседует с чат-GPT, он поймёт, что он её перепрограммировал, стал богом и всё открыл. И такие примеры, в общем, даже я знаю. А и история про то, что плотное общение с ЛМ предположительно выводит нестабильных людей на новые витки нестабильности, да? И как раз был разговор о том, что все исследования интерфейсов компьютер-человек, они проводятся, в общем-то, на здоровых, психически крепких людях. Вот, на потребителях, допустим, да? Вот. А все вот эти страшные истории, поговорил с чат-GPT 3 месяца, потом пошёл, застрелил родственницу, да? Вот. А история ужасная, но она определённо не типичная. То есть много людей беседуют с чат-GPT, и к счастью, далеко не все потом кого-нибудь стреляют. Вот. И вот, а тут интересно, что OpenAI собрали датасет и бенчмарк среди разных людей, в том числе датасет того, как люди обсуждают ментальные проблемы с ЛМкой. То есть как она себя ведёт, когда люди с ней обсуждают потёкшую крышу. И это важный бенчмарк именно для того, чтобы встраивать эти системы в нашу жизнь. То есть действительно, насколько они нормально себя ведут с людьми. При таком покрытии потребителей, то есть когда, грубо говоря, практически все взрослые, у которых есть хоть какие-то ресурсы, имеют доступ к ЛМкам, да? Вот. А возможность усиливать психическую нестабильность, она довольно опасна. И вот они сравнили, ну они, во-первых, предложили бенчмарк, а во-вторых, они оценили себя на бенчмарке, ну и неожиданно они, конечно, всех победили в этом бенчмарке. Вот, и вот тут я и думал, что они победят, и это даже не ерничество. Просто действительно, если посмотреть, чем человек, у него менее стабильно прибита крыша гвоздями, тем больше шансов, что он обсуждает это именно с чат GPT, а не с клодом. Это вот моё наблюдение по популяции, то есть действительно она более эмпатична.
Валентин Малых 51:30
Угу.
Дмитрий Колодезев 51:31
Вот. Но эмпатична не значит безопасно. А и вот тут они этот вопрос тоже исследовали. Вот.
Валентин Малых 51:39
Угу, угу. Ну, не знаю, может быть, это у меня в голове, но у меня до сих пор восприятие чат GPT больше как инструмента для, скажем так, повседневных разговоров, а клода как рабочего инструмента, да, то есть оно как-то у меня сформировалось.
Дмитрий Колодезев 52:06
Ты Астру, наверное, не пробовал.
Валентин Малых 52:08
Да, я не пробовал Астру.
Дмитрий Колодезев 52:09
Когда вышла Астра, я послушал всех остальных и купил у неё подписку и понял, что да, она наконец стала рабочим инструментом, прямо хорошим. Потом вышел Opus 5.5, и, в общем, я снова вернулся в лоно.
Валентин Малых 52:30
Угу, угу.
Дмитрий Колодезев 52:31
Астра очень хорошая именно как рабочий инструмент.
Валентин Малых 52:33
О'кей, буду знать. Я как-то, как-то вот у меня так исторически сложилось, что именно с Астрой я с OpenAI-евским продуктом я минимально взаимодействую. Я больше как-то действительно в церковь Anthropic.
Дмитрий Колодезев 52:50
Да, ну так вот, возвращаясь к теме новости, я считаю, что то, насколько модель придерживается разумного поведения, когда с ней обсуждают такие болезненные вопросы, как потёкшую крышу, это важно.
Валентин Малых 53:12
Да, да, да, я согласен. На самом деле, я уже упоминал это как-то в подкастах, но наши ребята основывали стартап названием Replika AI, да, то есть они изначально ставили себе задачу в том, чтобы как бы был такой AI который воспроизводит человеческое поведение, ну, там, конкретного человека. Но потом они переквалифицировались, и они как раз ушли в психологическую поддержку. Я не знаю, как у них сейчас дела, но они именно занимались тем, что тренировали AI быть психологическим, психологически поддерживающим. И это, на мой взгляд, достаточно важно, потому что в нашем обществе достаточно много людей имеют проблемы с ментальным здоровьем. И AI, мне кажется, очень хорошим инструментом, чтобы как раз эти, в этих проблемах их поддерживать. И здорово, что ну, по крайней мере, Anthropic про это, pardon, как раз OpenAI про это думает, Anthropic, вероятно, тоже думает, но как-то я не видел от них таких новостей.
Дмитрий Колодезев 54:49
Кристофер Бэлхун-то успел первым. Вот, я хотел сказать, что на самом деле, когда я говорю про потёкшую крышу, я не без малейшей доли осуждения. То есть, на мой взгляд, мир устроен так, что периодически, а-а, крыша течёт у всех. Просто стабильность, ну, то есть люди более стабильные, они выстраивают мир, который их возвращает назад, да?
Валентин Малых 55:30
Угу.
Дмитрий Колодезев 55:31
Вот, то есть те мероприятия, которые, типа, я устал, схожу-ка я в отпуск, например, да, или устал, схожу на дачу. Вот. Или выключил телефон, потрогал траву, например, да? А, и для людей, у которых скажем, более стабильная психика, да, этого хватает, например, да? Но и их, если удачно подтолкнуть в нужный момент, их с катушек снесёт. То есть просто обычно эти моменты короткие, а никому не надо, чтобы тебя удачно подтолкнули. И вот если, допустим, а-а, ЛМка, с которой человек общается в течение всего дня, вот этот вот неудачный толчок сделает, вот, то, а-а, проблемы психического здоровья можно прямо сильно усугубить. А если наоборот, она будет делать чуть-чуть стабилизирующее действие, да, то это будет большое общественное благо для людей, у которых, которым труднее успокоиться после каких-то историй. Вот, поэтому это важная история.
Валентин Малых 56:52
Да, да, да. Ну, я надеюсь, что это будет такой базовой частью гигиены, в том смысле, что все доступные, вот, консьюмерские продукты они будут обладать вот такой вот системой, а-а, не защиты, как правильно сказать, поддержки, да, что контролировать.
Дмитрий Колодезев 57:22
Гентел.
Валентин Малых 57:23
Да, да, да. Ну, это как там есть профессиональные инструменты, есть инструменты любительские, ну, для какого-то домашнего использования. Например если мы возьмём кусачки, да, то на, на кусачках там может вообще не быть никакой изоляции, а на профессиональном инструменте всегда будет какая-то там сверхжёсткая резиновая изоляция, которая позволит 220 В, соответственно, выдерживать. Ну, тут немножко наоборот, да, что тут нам как раз нужно чуть больше поддержки, чуть больше стопоров которые не позволят отрезать себе там палец, да, случайно какими-нибудь секатором. Ну, просто на, там, на каких-нибудь бензопилах есть специальные системы, которые предотвращают то, что у вас пальцы там попадут на, на саму пилу. И это, на самом деле, в потребительских пилах сейчас очень важно. Но на каких-нибудь супер больших станках, пилорамах, да, там этого нет. Просто не предполагается, что человек будет под пилу совать руки, в принципе. Да, то есть то, что идёт в потребительский сегмент, должно обладать большим степенями защиты. Вот, что я пытался сказать, может быть, не очень удачно.
Дмитрий Колодезев 58:47
Ну, да, так же, как в домах ставят УЗО принудительно, а-а, в электричестве. То есть, устройство защитного отключения. Если вас ударит током, грубо говоря, в фильмах роняют фен в ванную, и всех убивает. В реальности, в стандартной городской квартире, в современной, вы уроните фен в ванную, и вас автомат отключит, и ничего с вами не будет. Ну, только не пробуйте, потому что вдруг у вас нет УЗО. А в офисах, кстати, а-а, в старых нет УЗО. У себя в офисе мы уже ставили сами. Позвали электрика, заменили автоматы, чтобы стоял УЗО, потому что я не хочу, чтобы у вас кого-нибудь убило.
Валентин Малых 59:24
Да, сейчас это называется дифференцированный автомат. Сейчас проверьте, что у вас дифференцированный автомат, это важно. Так вот, немножко техники безопасности. Новая какая-то модная фигня, про которую я ещё ничего не знаю. А-а, это Unreal Agent да, это есть такая компания Unreal Labs, которая выпустила Unreal Agent, вроде бы суперэффективный, да, вот по тем картинкам, которые они рисуют, он на тех же моделях показывает себя гораздо лучше. Интересно, мне показалась вот эта вот картиночка, да, где показано, как, а-а, за счёт чего достигается эффективность. То есть, эффективность они достигают именно за счёт грамотной оркестрации, причём не самого агента, да, а именно оркестрации, хмм, действий, да, то есть есть внешние тулы, и правильное управление внешними тулами, то есть понимание того, что можно делать параллельно, а-а, делает это возможность, это гораздо быстрее. То есть, мы здесь не, как бы, модель остаётся той же самой, а ускорение достигается за счёт распараллеливания и правильного переиспользования простаивающих ресурсов. Вот, вот так вот.
Дмитрий Колодезев 1:00:20
А, насколько я понял, там есть два, так сказать, продающих момента, а в этом агенте. Первый - это сейчас, если, допустим, у вас кодовый агент пишет какой-нибудь код, что-нибудь полезное делает, и вы написали ему какое-нибудь своё мнение важное по поводу того, что происходит, а он его дёрнет после окончания вызова инструмента. То есть, реально ваш голос будет учтён, типа, мы вам перезвоним.
Валентин Малых 1:00:21
Угу.
Дмитрий Колодезев 1:00:22
А-а, даже если он пошёл не туда, ты уже увидел, ты сказал, он скорее, ну, его можно обычно прервать, там есть какие-нибудь комбинации клавиш, типа, стоп-кран дёрнуть, всё остановить, нет, ты меня послушай.
Валентин Малых 1:00:23
Угу.
Дмитрий Колодезев 1:00:24
А-а, вот, а-а, у них этот вот получится раньше в инструменте. А во-вторых, зачастую, когда нам нужно сделать несколько действий, а по результатам одного действия, мы уже можем не делать другое или серьёзно его оптимизировать. И вот, благодаря тому, что они запускают те вещи, которые можно запустить параллельно и рано узнают о том, что идти надо было другим путём, они, а-а, выигрывают эти свои 37% по токенам и там сколько-то раз по скорости.
Валентин Малых 1:00:25
Угу, угу. Ну, на самом деле, я подтверждаю, меня тоже очень бесит, что нельзя в сказать в процессе работы, что иди в другую сторону. То есть, необходимость прерывать его работу немножко напрягает, что вот это то, что та фича, которая мне вот эту штуку продаёт, да, то есть вот то, что действительно я бы, я посмотрю, как мне на это для себя, для своих нужд, посмотрим, как оно в целом работает, но он пока выглядит прикольно.
Дмитрий Колодезев 1:00:26
Ну, да, и ещё про композируемость компонент. Если помнишь была тут недавно DeepSeek-овская, DeepSeek-овский харнес, где они серьёзно упоролись именно по композируемости. То есть, там, а-а, он был, наверное, всем плох, кроме одного. А у него была удивительно красивая система плагинов, которые тащат зависимости и вытаскивают их обратно. Ну, то есть, грубо говоря, ты добавляешь прямо вживую во время работы, а-а, какие-то части в систему, и она переконфигурируется на лету прямо, знаешь, как тот самолёт Гент из анекдота. Вот, а-а, и вот тут, по-моему, проще система плагинов. Но она у DeepSeek'а переусложнена в его харнесе.
Валентин Малых 1:00:39
Угу.
Дмитрий Колодезев 1:00:40
Но оно выглядит как то, чем хочется попробовать. То есть я не стал пробовать, просто потому что у меня как-то очень загрузка большая была, он вышел не было времени на неё а-а углубиться. Но код я посмотрел и а-а почитал материалы, то есть, ну, выглядит прикольно.
Валентин Малых 1:01:01
Да-да-да. Ну, вот я себе пометил, что надо надо попробовать, посмотрим. Может быть, А ещё, если я понимаю, это наши же соотечественники бывшие. Вот то есть ребята, которые, по-моему, бывшие Яндекс, потом они в буржуйских компаниях работали, вот они. То есть это такая отечественная инженерная школа, можно так сказать, гордо.
Дмитрий Колодезев 1:01:40
А-а.
Валентин Малых 1:01:41
А-а.
Дмитрий Колодезев 1:01:42
Знаешь, примазаться.
Валентин Малых 1:01:43
Всё, это это классно, тогда.
Дмитрий Колодезев 1:01:44
Американский, говорит, математик русского происхождения.
Валентин Малых 1:01:47
Ну, да, да, таких было довольно много одно время. Предлагаю немножко вернуться к обсуждению Huawei, да, то есть мы про Huawei говорили. Ещё разок про это поговорим. А, но здесь, на мой взгляд, самое важное в этой новости то, что DeepSeek планирует в четвёртом квартале если получится, переключиться на обучение на Huawei'евских чипах. То есть я не сомневаюсь, что Huawei сделает всё возможное, чтобы поставить как можно больше чипов именно DeepSeek'у, потому что, ну, очевидно, и тот, и другой являются чемпионами Китая, да, то есть они а-а являются чемпионами одни железячными, а другие софтверными, то бишь модели делают. И, соответственно, у нас тут получается, что если всё срастается, то цикл замкнулся, да, то есть это принципиальный аспект, последняя зависимость крупных китайских моделей будет доказуемо разрушена. Я лично не верю, что всё так просто будет, да, и что всё они сделают, но то, что они к следующему лету справятся, я почти готов деньги ставить. Потому что на этот брошены действительно большие ресурсы, и потребность объективно существует. Поэтому я, ну, я думаю, что у них получится, может быть, не в первом квартале двадцать седьмого года, но во втором они вполне имеют все шансы.
Дмитрий Колодезев 1:03:50
Я я думаю, что к весне они справятся. Я думаю, что они бы и раньше бы перешли бы, если бы Huawei мог поставить достаточно железа.
Валентин Малых 1:04:00
Да, да.
Дмитрий Колодезев 1:04:01
Вот. С другой стороны, любимая мной GLM и зайцы, они же уже инференсы на инференсятся на Huawei'евском железе. И, кстати, GLM сильно быстрее работает по подписке теперь. Прямо это чувствуется. Вот. То есть, скорее всего, это не потому, что Huawei'евское железо быстрее, а потому что оно стало доступнее просто.
Валентин Малых 1:04:34
Ну, это побольше, да.
Дмитрий Колодезев 1:04:36
Да. И, ну, в общем, можно порадоваться за людей.
Валентин Малых 1:04:41
Да, да, то есть я думаю, что это говорит о том, что вот эти траектории расходятся, да, то есть скорее всего, в какой-то момент ну, мы про это уже говорили, по-моему, да, что в какой-то момент китайские модели будут на NVIDIA работать хуже, медленнее, чем на своём отечественном. Посмотрим. Скорее всего, у нас будет и то, и другое.
Дмитрий Колодезев 1:05:20
На самом деле, тут интересно про маржу. То есть до тех пор, пока у NVIDIA серьёзных конкурентов нет, когда а-а Huawei выпускает меньше 1% того, что делает NVIDIA, да, в вычислениях, она, конечно, конкурент, но только на своём рынке, на домашнем.
Валентин Малых 1:05:50
Угу.
Дмитрий Колодезев 1:05:51
Вот. И это позволяет NVIDIA держать свою семидесятипятипроцентную маржу или сколько там у неё? Это, по-моему, 70 или 75 у неё маржа процентов.
Валентин Малых 1:06:04
Угу.
Дмитрий Колодезев 1:06:05
Вот. Но а-а если какой-нибудь большой конкурент вырастет действительно, да, то NVIDIA вынуждена будет двигаться маржой. Ну, это всему рынку пойдёт на пользу, на самом деле.
Валентин Малых 1:06:24
Да, да, все, кроме NVIDIA, от этого выиграют, это правда.
Дмитрий Колодезев 1:06:27
Да.
Валентин Малых 1:06:31
Следующая история, она супер важная, на самом деле. Коллеги из DeepMind, да, они выпустили Scientist 2, то есть Учёный 2. Видимо, это как был Мир 2, да, вот теперь Учёный 2. И там, соответственно, история про то, что они смогли а-а сделать агента, который решал те же самые задачи, которые были на решены, по-моему, на ICLR, я не помню, на чём. Именно а-а, ну, короче, какие-то крупные конференции взяли, вот там 107 статей, и соответственно, в 86 получилось превзойти качество человека в решении, да, то есть взяли 86 постановок, точнее, 107 постановок, в 86 стало лучше, в остальных там типа не хуже. И это довольно серьёзно меняет, на самом деле, всю вот эту историю, потому что наглядно демонстрируется, что в целом от человека на текущий момент, по большому счёту, требуется постановка, да, то есть если у нас есть постановка, то мы можем решить задачу. И нас это, на мой взгляд, возвращает ещё на полшага назад, когда мы с тобой разговаривали, про то, что общение с моделями и общение с людьми, в общем-то, а-а я имею в виду в бизнесе, это, в общем, достаточно а-а похожие вещи. Тут у нас тут действительно получается, что теперь нам не нужна лаборатория и там 30 студентов, нам достаточно каких-то моделей и одного аспиранта, который будет чай приносить. Вот.
Дмитрий Колодезев 1:08:52
А, тут, знаешь, интересные два момента. Первое, код-то они не выкладывали, то есть это полностью закрытая же система.
Валентин Малых 1:09:00
Угу.
Дмитрий Колодезев 1:09:01
Вот, а второе, мне понравилась ремарка внизу, самый-самый низ промотай перед BibTeX'ом. Вот. Это аудит, который проходит у них работа. То есть мы проверили, что for the score reproduction, no specification violated, нет галлюцинаций ни в одной из почти 2.000 ссылок, и что paper, что статья совпадает со своим кодом. То есть вот такой автоматический check integrity. Вот. То есть, в принципе, это очень крутая вещь сама по себе.
Валентин Малых 1:10:00
Не, вообще-то да, это крайне крайне важная штука. И вот такого рода автоматизации исследования - это прямо классно. Но тут хочется вспомнить немножко другую вещь, да, я не помню, по-моему, я этот эту новость не включал, но история была про то, что за пределами, собственно, программирования и ещё чего-то, тоже какой-то такой, а-а, и саппорта, а-а, ну, то есть техподдержки, а-а, выгоды от внедрения искусственного интеллекта либо, хмм, пренебрежимо малы, либо вообще отрицательны. Надо поискать оригинал этой новости, у меня просто фраза осталась в голове. А-а, и это звучит довольно интересно. То есть, может быть, а-а, действительно, мы сможем очень хорошо и качественно сделать прогресс в области самого искусственного интеллекта, но насколько это будет оказывать влияние на всё, что за пределами искусственного интеллекта, вот это вот некоторый вопрос, который, а-а, на текущий момент не имеет, а-а, ответа.
Дмитрий Колодезев 1:10:20
По-моему, это было был отчёт BCG, потому что я его тоже помню, я его тоже читал и даже, по-моему, в своём выступлении затрагивал на The Fest'е. Вот. И тут есть некоторое количество вещей, которая состоит из манипуляций символами, да?
Валентин Малых 1:10:21
Угу.
Дмитрий Колодезев 1:10:22
Ну, вот, например, программирование или там формальные доказательства. Вот. Но огромное количество того, что мы называем бизнесом, работой реальной или какими-то достижениями, ну, то есть что-то, что мы считаем полезным, важным и ценным, оно не сводится к символьной манипуляции. Вот. То есть нам зачастую надо увидеть, надо почувствовать, предположить, уговорить, перехитрить, обаять и так далее и тому подобное. То есть там много чего можно сделать. А-а синхронизировать, например, да? И а-а вот тут, наверное, пока нейросети проскальзывают. И а-а если я правильно понимаю, как сейчас следует вести себя с AI, надо не пытаться использовать их а-а там, где у нас есть реальная жизнь, да? Надо задачи реальной жизни искать в них те кусочки, которые переформулируются как доказуемые автоматически проверяемые утверждения. То есть ты такой смотришь, вот у тебя business as usual, потом раз, а вот эту вещь можно проверить, а вот эту вещь можно для неё определить условие математическое, и оно будет верно понято, да? Ну, то есть при условии соответствия ГОСТу, я хочу минимизировать закупки вот этого вот набора товаров, да? При условии соответствия вот этим критериям, допустим, сертификатам формальным. Всё, мне больше ничего не нужно, мне нужно, чтобы сумма в счёте была самая маленькая. И всё, вот сюда можно запускать агенты, пусть он это делает. Вот. А там, где нам нужно, допустим, а-а там, где оценка сложна, то есть мы хотим, допустим, а-а оценить, насколько AI ускорил нашу команду, да? Там зачастую самый правильный способ - это не считать. У Олега Никитина в блоге мне попалась с интересная фраза, что он говорит, что я не считаю экономический эффект от AI у нас внутри в разработку и так далее.
Валентин Малых 1:10:23
Угу.
Дмитрий Колодезев 1:10:24
Потому что для нас, для маленькой команды слишком дорого его считать. То есть до тех пор, пока мы видим, что он приносит пользу, нам его не надо считать, мы и так хорошо работаем. Вот. То есть вот такой тоже подход. И есть опять же такой, знаешь, есть набор вопросов, на которые нет правильного ответа, да, чтобы ты задал, допустим, человеку на собеседовании, он тебе выдал что-нибудь, ты сразу понял, что человек голову не включал. Один из таких вопросов, например, это а что лучше? Хороший набор метрик или стратегия? Если ты можешь выбрать только одно из них.
Валентин Малых 1:11:11
Угу.
Дмитрий Колодезев 1:11:12
Вот. История тут на самом деле в том, что правильного ответа просто нет. То есть если у тебя есть метрики, да, то непонятно, а если у тебя нет стратегии, эти метрики могут прокиснуть, например, а ты будешь бежать туда же, куда тебе показали. Но если у тебя стратегия есть, и метрик нет, куда ты бежишь, то есть, ну,
Валентин Малых 1:11:36
Угу.
Дмитрий Колодезев 1:11:37
А в любом случае на этот вопрос нет правильного ответа. Иногда надо делать так, иногда это, иногда надо плюнуть на всё и придерживаться стратегии, не смотреть на метрики. Такое тоже бывает. Так вот, а про конкретно внедрение и в живую работу и бизнес, надо искать маленькие кусочки, для которых можно определить формальные критерии достижения хорошо. И их внедрять. Вот, не пытаться делать что-то другое. Это достаточно круто уже будет. Вот.
Валентин Малых 1:12:25
Слушай, я тут хотел вспомнить одну историю, немножко из другого оперы. А, по-моему, это история про Канаду, но могу на самом деле немножко соврать. Ну, в общем, в какой-то стране, кажется, это Канада, там сбор налогов устроен таким образом, что ты сам заполняешь налоговую декларацию, и её просто принимают. А, соответственно, с некоторой вероятностью эту налоговую декларацию проверяют. Он типа там, скажем, с вероятностью 1 к 1000. А, и, а, соответственно, почему было выбрана такая, а, такая вот пропорция, потому что оказалось, что проверять больше деклараций дороже, чем те потери от налогов, которые, соответственно, можно потенциально получить, ну, как бы, не не выявив какие-то нарушения. То есть вот такая вот история, на мой взгляд, достаточно похожа вот на то, что ты рассказываешь, да, про то, что считать эффекты иногда дороже, чем просто сами эффекты. Можно их не считать и быть счастливым по этому поводу.
Дмитрий Колодезев 1:13:51
По-моему, что-то такая же налоговая система. То есть там очень жёсткие наказания, но при этом вот так, как у нас с сдачей бухгалтерской отчётности, никто не парится из мелкого бизнеса, да? Вот. То есть проверяют выборочно, но зато уж если ты ошибся, то ты прямо пожалел, что ты ошибся.
Валентин Малых 1:14:27
Ошибся.
Дмитрий Колодезев 1:14:28
Ошибся, да.
Валентин Малых 1:14:29
На всякий случай, самого известного гангстера посадили именно за налоговые нарушения, если ты не в курсе.
Дмитрий Колодезев 1:14:33
Ну да.
Валентин Малых 1:14:34
Ну это я так, к слову пришлось. Совершенно прекрасный Duck Mode. Это один из лучших плагинов для Claude последнего времени, мне кажется, он самый один из самых эффективных, как как минимум. И история здесь в том, что вы просто как бы ставите, и у вас получается сумасшедшая экономия токенов просто бесконечное практически количество раз. Ну, не бесконечное, там само собой просто большие цифры. И вы прямо получаете очень быстрый ответ, и это всё во многом решает ваши проблемы. Вот, так что, наверное, от нас совместная рекомендация всем попробовать и посмотреть, как Duck Mode.
Дмитрий Колодезев 1:15:51
А, знаешь, мы сегодня с нашим старшим инженером беседовали про как раз ЛМки. Он говорит: "Смотри, говорит, вот у людей, а мы как раз беседовали в контексте, что многим в России заблокировали Claude. То есть я знаю двоих, которым тут недавно Claude заблокировали. Вот. И мы как раз обсуждали, что какие мы молодцы, что мы пользуемся системами, которые не требуют всяких ВПНов и так далее, потому что для работы, конкретно мы сидим на зайцах, и зайцы продают России их совершенно легально. Вот. Он говорит: "Ну ты понимаешь, говорит, я, говорит, хочу, чтобы мы сохранили контроль над кодом, потому что в любой момент я вот сижу с ощущением, что мы вернёмся в каменный век и снова начнём писать код руками. Я хочу, чтобы мы к этому были готовы. То есть это вот человек, который у нас техническую политику определяет, он такого вот мнения придерживается. Поэтому, а что я хотел сказать, что вот этот Duck Mode, он вам позволяет сохранить навыки программирования.
Валентин Малых 1:17:31
Да, это важно, потому что да, да, да. А я чувствую, что мои навыки программирования требуют полировки, скажем так.
Дмитрий Колодезев 1:17:49
Включай его на 15 минут каждое утро.
Валентин Малых 1:17:52
А, ну, это, знаешь, это из разряда пойти потрогать траву, что-то вот тоже поделать руками самостоятельно. Вот. А,
Дмитрий Колодезев 1:18:04
Ну, да я просто вспомнил историю с столом для стоячей работы, да, который у меня в инструкции написано, вы поднимаете, опускаете его, ставите таймер на полчаса. Я поставил таймер на полчаса, поднял его и так уже не опускаю много-много месяцев. Вот.
Валентин Малых 1:18:23
Ну да.
Дмитрий Колодезев 1:18:24
Поэтому, может быть, Duck Mode включишь.
Валентин Малых 1:18:26
Да, да, да. Ну, да, так завёл таймер и как бы ты же выполнил свою эту самую свою цель, дальше уже не обязательно. Вот. Ну что, на этом будем прощаться, наверное. Всем спасибо.
Дмитрий Колодезев 1:18:41
Всем спасибо.
Валентин Малых 1:18:42
У нас, да, напоминаю про то, что можно на нас подписываться, ставить лайки во всех во всех, соответственно, площадках, где нас видите и слышите. Обязательно приходите в Матермост, приносите свои новости. Большую часть новостей приносят другие люди, не я, и даже не Дима. Вот, так что всем будем рады и увидимся с вами на DataFest.
Дмитрий Колодезев 1:19:17
Приходите, мы там будем вживую записывать подкаст.
Валентин Малых 1:19:19
Кстати, да, можно уже сделать анонс. Это такой бонус-трек для это самое, для самых терпеливых. Всё. Всем пока.