Капитанский мостик 2-22

07.06.2026
18.10.2026
подкасты

Двадцать второй выпуск второго сезона подкаста "Капитанский мостик" про искусственный интеллект, будущее и все такое. Ведущие подкаста — Валентин Малых и Дмитрий Колодезев

Площадки

Содержание

00:00:00 введение
00:01:04 24 робота в сутки
00:05:25 ИИ-сообщество и преступления
00:08:55 BYD оплатит ДТП
00:11:50 NeurIPS против ИИ
00:19:33 Святой Престол и ИИ
00:25:24 писать код и делать продукты
00:32:05 европейский ИИ
00:35:05 россияне доверяют ИИ
00:37:39 больше кода от Cursor
00:45:11 X5 и прибыль от ИИ
00:48:30 подростки и ИИ-психолог
00:57:39 Mythos распространяется
01:04:30 новая модель от Microsoft
01:10:28 Anthropic и тормоза

Валентин Малых 0:00
Всем привет! С вами, как всегда, Валентин Малых и Дмитрий Колодезев. У нас сегодня очередной выпуск «Капитанского мостика». Всех поздравляю с прошедшим Дата-фестом. Кто ещё не посмотрел, обязательно посмотрите, там было много прикольного. Я сам для себя много интересного нашёл.

Дмитрий Колодезев 0:22
Ну, Датафест на самом деле выложили на ВКонтакте у VDS, и там он уже лежит, его можно смотреть.

Валентин Малых 0:31
На YouTube, я знаю. Ну, там не всё на YouTube, там большинство трансляций. Они все на этом самом, на ВКшечке, а соответственно, все видео, ну их пока делают, и они будут и там и там. Хороший беда сейчас получился, вот что. Неплохой, да, тут надо сказать неплохой, хотя я к концу уже подустал, честно скажу. Скажу тебе что-то, я что-то это уже всё, короче, уже не смог. У меня был третий день, и я понял, что мне надо это. Сделать перерывчик от Датафеста. Так, ну, я решил начать вот с этой новости. Есть такая компания Figure. Насколько я представляю, она китайская. Может, меня поправят, но она увеличила производительность своего конвейера, соответственно, с... Одного робота в день до одного робота в час. Ну, то есть, неплохо так в 24 раза. Да, ну и тут какая-то характерная картинка, как из картины ««Я, робот»», если кто-то помнит. Вот, и соответственно, тут дальше описывается, что чем больше роботов работает, тем больше робот, соответственно, лучше понимает, как ему вообще в реальном мире взаимодействовать. И за счёт этого, соответственно, можно ожидать, что они Будут только улучшаться. Я почему взял эту новость, которая, хотя казалось бы, ну а что такого? А кто этих роботов сейчас не делает в наше время? Но это просто для показания масштаба, да, то есть сейчас уже роботов производят тысячами штук. В месяц, ну несложно посчитать, что в месяц получается 720 роботов только у этой компании, у других компаний и того больше, может быть. В общем, роботизация просто заполоняет планету.

Дмитрий Колодезев 2:22
Ну, я согласен, что роботизация заполняет планету, но и с другой стороны, PR тоже никто не отменял, то есть они всего 350 роботов выпустили. Соответственно, производительность у них в месяц — это за последние 15 минут. Но в целом, всё, что они обещают, через месяц будет правдой у них и у всех остальных, то есть действительно. Отрасль начинает выпускать тех самых человекоподобных роботов, несмотря на то, что человекоподобные роботы может не самый удачный формат, то есть, может быть, собаки гораздо удачнее, но вся вот эта инфраструктура заточенная под людей, она... Требует двуногого двурукого, а это прикольно. А больше роботов, больше датасетов, больше моделек, больше инженеров, которые этим занимаются. Кто-то их ремонтировать должен, кстати.

Валентин Малых 3:21
Ну да, да, ну то есть, если там сто лет назад был один трактор на деревне, это была просто какая-то космическая штука, то сейчас у нас будет один робот на, не знаю, на подъезд, да, и все сначала будут удивиться, что же это такое, и что он делает, и как он ходит, а потом все просто привыкнут. Просто будет какая-то очередная штука, которая тебе помогает в жизни, ну как, я не знаю, как посудомоечная машина.

Дмитрий Колодезев 3:49
Ну, как мобильный телефон. На самом деле, первые мобильные телефоны, когда появились, но людей смотрели так слегка странно, когда у них мобильный телефон звонил.

Валентин Малых 3:59
Вот, а сейчас, ну, слушай, даже я это помню, хотя я человек, конечно, девятнадцатого века, не восемнадцатого как-то, но в наше время тоже смотрели достаточно криво, хотя я ещё, это самое, я ещё вот только в школу пошёл, они стали появляться, ну, в массовом порядке.

Дмитрий Колодезев 4:18
Вот интересно, ну, это компания американская, а про китайские мы знаем, а кто ещё интересен? Ну, японцы, понятно, да. Кто ещё человекоподобных роботов выпускает? Выпускают ли их европейцы, например, да?

Валентин Малых 4:33
Хороший вопрос. Ну, тут, знаешь, если нас считать европейцами, то да, у нас Сбер выпускает. Тут отдельный вопрос, из каких комплектующих, но по крайней мере, заявляют, что это их разработка.

Дмитрий Колодезев 4:47
А ещё интересно, что повсеместно же автомобильные заводы перепрофилируются под роботов. И вот тут у нас есть отечественные автопроизводители КамАЗ и АвтоВАЗ. И, в общем, напрашивается в «Вольтроны» отечественные.

Валентин Малых 5:03
Ну, я думаю, что мы это, в принципе, увидим через какое-то время. Но, возвращаясь к европейцам, точно была новость про компанию Bosch, которая хочет переключиться на поставку запчастей к роботам. То есть, вот это точно было. То есть, они в целом Тоже в эту сторону смотрят. Я не очень понимаю, насколько они идут в эту сторону, но по крайней мере смотрят точно. Следующая новость достаточно прикольная, по-моему, ты её принёс, что исследователи стали симулировать некое сообщество. Из какого-то небольшого числа людей, ну, как бы, людей я плохо выразился, имеется в виду, что некоторое количество моделей изображает из себя разных персонажей, и эти персонажи живут между собой, как-то взаимодействуют. Они сделали несколько таких симуляций, и они пришли к тому, что те симуляции, в которых Был Grok, то там они достаточно быстро заканчивались плохо, эти симуляции. Наилучшим образом, насколько я помню, был Claude, наиболее устойчивое общество построил, и, по-моему, Gemini. Но Gemini там было сказано, что у Gemini сообщество устойчивое, но за счёт тоталитаризма. Я запомнил это красивое выражение, решил его вам с вами тоже поделиться. Вот, соответственно, я, в принципе, основное рассказал. Да, это с этой новости. Ну, почему-то она свежая, конкретно вот в этом источнике, но, в принципе, эта штука, по-моему, месяц назад мелькала. Я не помню, почему я её не стал брать в мостик, но я помню, что она была.

Дмитрий Колодезев 6:42
Но модели воспроизводят обучающую выборку и alignment, то есть если в обществе были какого рода преступления, то, ну, в общем, они и в модели должны возникать. Причём у alignment есть такое свойство, насколько я помню, я его не проверял, но в статьях неоднократно эта история всплывала, что если много-много-много раз модели принимать решения, постепенно alignment размоется. Вот, то есть, собственный вектор всё равно вытащит исходное, так сказать, сколько волка не кормя, всё равно в лес смотрит. Вот, и вообще, это большой бизнес сейчас про моделирование людей, их поведение, отклики через стадо агентов.

Валентин Малых 7:37
Да-да-да, это, по-моему, сейчас уже остановится, ну, может, еще не мейнстримом, но где-то уже близко ко второму эшелону маркетинговых исследований, когда, соответственно, берем стабы агентов и пытаемся понять, на нем работает, сработает ли какая-то маркетинговая история, ну, там, не знаю, рекламная компания или что-то такое. Я точно про такое уже слышал.

Дмитрий Колодезев 7:58
Интересно, как они калибруют эти модели? У меня ощущение, что ну никак. Ну, это... Вот то самое правило, что ей лучше всего внедряется в места, где очень легко проверить результат, или если никто его не собирался проверять.

Валентин Малых 8:16
Ну да-да, всё так. Да, то есть, ну это, слушай, тут надо говориться. Может быть, я ничего не понимаю в маркетинге. Да, я в эту сферу не лезу. У меня сложилось такое впечатление, что никак, да, но может быть, там есть какие-то умные, соответственно, исследователи, которые вот чётко показали, что оно коррелирует. У меня ощущение, что нет, но мало ли, может быть, нам в комментариях подскажут.

Дмитрий Колодезев 8:38
Хорошо, да мы, кстати, собираемся со следующего выпуска обсуждать комментарии, поэтому пишите, мы их обсудим.

Валентин Малых 8:46
Да, не задавайте вопросы. Если стесняетесь спрашивать в канале, можете спрашивать лично, но мы постараемся, соответственно, на вопросы отвечать. Вот в прошлый раз мы с тобой обсуждали наш закон про беспилотные всякие истории. Да, он был, конечно, про роботов, а не про автомобили. Но про автомобили наш закон уже есть, насколько я помню. А вот тут вот. BYD — это на всякий случай крупнейший поставщик электромобилей, в том числе занимающийся активной роботизацией своих электромобилей. BYD пообещала оплачивать ущерб от ДТП с её автопилотом. То есть это такой маркетинговый ход, да, что типа не бойтесь, берите автопилот, если, соответственно, вы попадете в ДТП. С нашим автопилотом, то мы выплатим издержки. На мой взгляд, это действительно прежде всего маркетинговый ход, с одной стороны. С другой стороны, может быть, именно для того, чтобы способствовать массовому продвижению вот такого вот автопилотирования автомобиля, мне кажется, это очень полезно. Да, то есть в Китае народ очень прижимистый, они на китайскую публику в первую очередь ориентируются. И то, что они Предложили такое. Я думаю, что с одной стороны, они в себе уверены, и с другой стороны, это реально может пособствовать тому, что люди просто это будут больше покупать. Мое мнение такое.

Дмитрий Колодезев 10:10
Ну и автопилот — это одна из историй, в которых человек, ну, аварии, не станет читерить, потому что это же он в своей собственной машине будет разбиваться. Поэтому тут была же история про Теслу, которая отрубала. Автопилот за три доли секунды до удара. Да-да-да, была такая, да. Да, но китайцы, мне кажется, так не станут делать. Больно уж, что-то всё шито белыми нитками. Вообще, китайцы же, у них автопилоты очень крутые. Ну, в смысле, не автопилоты, вообще вот это вот, а автовыезд с парковки, все вот эти вот истории. То есть, то, что в Европе прямо хай-тек, в китайцев более-менее быт.

Валентин Малых 10:56
Ну, это реально обыденность. То есть у них вот эти вот все AI-приблуды, да, с автоматической парковкой, вот с этим всем, со всякими там, ну, это уже не про ИИ, но тем не менее про всякое мультимедиа, там люки на крыше, всё на свете. Вот все свистелки и перделки, которые вы можете придумать, китайцы засунут в автомобиль, они там будут. То есть то, что в европейских автомобилях это какой-то там премиум-премиум, у китайцев это база. Тут отдельный вопрос, почему это так? На мой взгляд, это из-за того, что им надо чем-то выделяться, да, и поэтому они... Говорят, что наши автомобили нафаршированы всем, чем можно. Может быть, они там не имеют такой репутации, да, но просто потому что за пределами Китая эти марки знают там довольно мало, ещё лет. А надо за счёт чего-то выезжать. Ну, вот я думаю, что вот такая история. Следующая история, она на самом деле достаточно интересная. Я расскажу некую предысторию, а потом, собственно, покажу, что здесь написано. Значит, предыстория такая, что на NeurIPS, простите, не NeurIPS, для конкретно position paper — это что такое? Это такая, как бы сказать, специальная история про то, что у вас нет никакого эмпирического подтверждения, вы просто описываете. Некую свою гипотезу, которая вам кажется правдоподобной. Да, то есть, я даже не знаю, что тут привести. И никогда мы не видели никаких LLMов. И тут у нас, соответственно, уходит Yann LeCun и говорит, что сверточные нейронные сети всех победят. Вот это был бы position paper. Да, то есть это вот то, что он написал, не имея под это основания. Ну вот у него такое видение. Понятно, что это некий специальный пример, да, наиболее очевидный. На самом деле, position paper — штука достаточно экзотическая, их не так много, но тем не менее, они встречаются, как правило, от крупных учёных. Но важно тут то, что по каким-то мне не совсем до конца ясным причинам, люди Которые отвечают за принятие вот таких вот статей потребовали, чтобы вот такие статьи, именно NeurIPS, не были написаны с помощью ИИ. Мне совершенно непонятно, почему именно в этом треке это нужно делать. Может быть, потому что его не жалко или что-то такое, но сам факт. Теперь перехожу, наконец-то, к новости. Новость заключается в том, что есть гражданин, который, соответственно, говорит, что Вот такая политика от NeurIPS, вообще говоря. Ну, скажем так, неосмотрительное. И в качестве примера, в качестве доказательств своего тезиса, он приводит то, что автор этой политики, ну, точнее, ну да, соавтор политики, по-моему, Eric Cheyre как раз вот здесь. Он написал, типа, год назад статью, которая была определена, как и сгенерированная, с некоторой вероятностью. И он говорит, что Ну, тут классический анекдот, да, или трусы наденьте, или крестик снимите. То есть, получается, что вы запрещаете другим то, что сами делаете, либо тут надо как-то всё это немножко по-другому решать. На мой взгляд, очень верное замечание, в том смысле, что Скорее всего, где-то есть ошибка, да, то есть, может быть, та статья, которая была написана там два-три года назад, она, вероятно, не содержит и можно предположить, но. Те инструменты, которые, соответственно, используются, они, ну как ни странно, это тоже инструменты машинного обучения. Машинное обучение не обладает абсолютной точностью. Оно всегда имеет какую-то ошибку по определению. И это просто яркий пример того, что может быть, здесь машинное обучение ошиблось, а мы, соответственно, будем людей мурыжить. Я, собственно, уже в это попадал. Не в таком виде, конечно, не NeurIPS, но вот отправлялись в журнал с коллегами, и коллеги ко мне пришли со словами, что вот нам тут надо переписать два абжаса, потому что система говорит, что у нас статья сгенерирована. Хотя писали сами, но как бы я им помог, переписал статью. То есть она стала чуть более написана человеком, в смысле, мной. И, соответственно, после этого все успокоились и статью приняли в журнал. Но, в общем, история вполне себе актуальная, и я бы, наверное, хотел её именно здесь подсветить у нас, потому что если мы полностью слепо доверяемся и инструментам, это может вести ко всяким интересным последствиям.

Дмитрий Колодезев 15:54
Ну, во-первых, я согласен с позицией Сергея тут полностью. Вот, во-вторых, Я считаю, что отличить сгенерированный LLM-кой и человеком текст невозможно и не будет возможно никогда. То есть это возможно только для частных случаев, которые там типа работают 20 минут. Вот, то есть ты сделал детектор, и через две недели или месяц или самое позднее, два месяца, он перестал работать. И нет никакой причины, по которой бы он больше одного цикла выпуска LLM проработал. Вот и никакая магия, ни топология, ни статистика, ни байсовский, ничего не спасёт. Ну, просто по построению задачи, если немножко подумать, как оно устроено, это невозможная задача. Вечный двигатель невозможен, просто вот. Вот, и существует при этом общественный спрос на выявление такого рода статей. И существует огромное количество, во-первых, просто мошенников, которые делают сервисы. Ну, то есть нужно рубить бабки, срочно сделали и начали продавать это. А вот, во-вторых, есть куча людей, которые вполне квалифицированные, но не понимают, что это вечный двигатель. То есть, ну по-честному не понимаю, так же как многие инженеры и физики не понимали про вечный двигатель, пока наконец Французская академия наук не запретила об этом говорить вслух вообще. Вот и вот тут та же самая история, то есть всякая детекция и я сейчас — это история про вечный двигатель. Виктор

Валентин Малых 17:42
Ну, я тут, может быть, именно Вечный двигатель, наверное, не согласен с формулировкой. Да, то есть мне казалось, что Вечный двигатель немножко про другое, но тут классическое соревнование счета и мяча. И у нас просто получается, что щит сделан из меча, да, и, ну как в том анекдоте, знаешь, да, пряник жёсткий, и им тоже бьют, но как бы так получается. Поэтому, как бы, когда вы пытаетесь перековать щит в меч, а меч в щит, и вот это вот всё, оно, ну, ну. Работает некоторым образом, и, как Дима правильно заметил, недолго. Да, то есть все статьи, которые детектировали, они не детектировали на относительно старых моделях, потому что на новых это просто не работает.

Дмитрий Колодезев 18:23
Если кто-нибудь вам будет продавать детекцию. Прогоните какие-нибудь тексты 70-х годов вот прежде чем покупать. Убедитесь, что в 70-х годах люди не использовали ChatGPT, потому что это сплошь и рядом с этим. Серверами детекции, что получается, и в XIX веке уже с помощью ChatGPT писали и так далее. Вот, но в целом это, конечно, сменная масса. Вот про вечный двигатель, история тут про то, что это круговорот информации, как бы, понимаешь, то есть информация теряется, как энергия при каждом обороте. Вот и рано или поздно она должна потеряться полностью. Ну да, есть. Аналогия такая была, да.

Валентин Малых 19:09
Да, да, я понял. Есть, соответственно, такой способ как бы показать, как что такое энтропия. Да, можем взять картинку, сжать её JPEGом, потом сохранить, ещё раз сжать JPEGом, и ещё раз и так по кругу сжимать JPEGом, пока она совершенно не превратится в белый шум. Ну вот здесь вот фактически это и происходит. А тут немножко. Такой кричащий заголовок, но суть новости достаточно понятная. Некоторое время назад, две-три недели назад, вышла энциклика. У меня, кстати, в канале присудились, что я слово энциклика написал с ошибкой. Извините, ещё раз. Да, я стараюсь умные слова писать правильно, но не всегда у меня получается. Вот, а соответственно. Вот ренциклика, Magnificat Humanitatis, да, то есть величественное человечество. Но вот эта энциклика вроде как на существенный процент написана. С помощью ИИ. И на мой взгляд, ну, во-первых, я не вижу ничего плохого в том, чтобы писать большие тексты с помощью ИИ. Я продолжаю настаивать на том, что использование ИИ — это как использование любого инструмента, например, текстового процессора. Да, там текстовый процессор — это Word, например, да, или. И Латех, и что угодно, то, что вы пишете, это всё равно как-то вам облегчает работу. Да, если вы писали текст, не знаю, выбивая его на камне, да, ну, много текстов вы бы не написали, во-первых, и, во-вторых, сцена ошибки там гораздо больше. Но я про другое. Про то, что не вижу никаких проблем с тем, что при подготовке данной данного письма открытого, можно сказать, был использован. Но с другой стороны, тут стоит ещё одно замечание сделать. Вот эта детекция сделана с помощью Той же самой программы, которая называется Pangramm, что и, по-моему, в предыдущей новости. То есть, они там собираются Pangramm применять. И этот Pangramm имеет свои ошибки. То есть, во-первых, может быть, что она написана целиком человеком, это просто ошибка. Во-вторых, даже если написано с помощью «и», я считаю, что это окей.

Дмитрий Колодезев 21:34
На презентации этой энциклики был человек от Claude, от Anthropic. Вот, то есть его позвали туда и с ним. Святой престол говорил и пробовал. И если он на самом деле показывал, как вычитывать текст, ну, вполне возможно, что это и было. То есть, Pangram, конечно, клёвая история в том, что в послании папы Римского расставили типографику. ИМХО, я не вижу никакого ереси. К тому же, на самом деле, папа римский, он безгрешен по построению.

Валентин Малых 22:16
Да, если что, если кто-то не знал, то есть такой догмат католической церкви, что папа римский всегда прав.

Дмитрий Колодезев 22:25
Ну а в целом, конечно, детекторы — это сейчас новая такая вот беда. То есть сначала мы страдали от ChatGPT, а потом мы начали страдать от детекторов ChatGPT.

Валентин Малых 22:39
Ну, я думаю, что мы будем острадать ещё от чего-нибудь через какое-то время, потому что я бы не расстраивался. Ну, типа того, да, то есть, рекурсия такая, рекурсия, посмотрим, что будет дальше. А по поводу того, что человек от Клода, в смысле, от Anthropic был. На презентации этой энциклики я лично ничего вообще криминального не виза. Во-первых, почему бы и нет? Да, то есть, ну а что такого? Может быть, конкретно данный гражданин, он католик. В общем-то, католиков в США достаточно много. Например, предыдущий президент США, который Джозеф Байден, он тоже католик, ну так, на всякий случай. А с другой стороны, если я правильно улавливаю, я тут, кстати, сейчас могу ошибиться, да, и... Я не настолько прямо глубоко вчитывался в эту энциклику, не настолько глубоко вчитывался в то, что говорит Anthropic, да, в всех манифестах. Может быть, я не улавлю какие-то основные идеи, но мне казалось, что их идеи, ну скажем так, гораздо ближе друг к другу, чем те же самые идеи Palantir. Да, то есть идея Palantir явно противоречит вот той же самой энциклике. А вот идеи Anthropic энциклики не противоречат, а наоборот, противоречат Palantir. Так что я вижу для них какой-то естественный союз.

Дмитрий Колодезев 23:58
Ну, хотелось бы, конечно, чтобы как-то все эти около-ЛН вещи нормально интегрировались в нашу культуру и общество. Вот я не католик ни в каком месте, но католиков достаточно много в мире. Здорово, что они могут с этим как-то смириться, подружиться.

Валентин Малых 24:19
Слушай, ну, конкретная энциклика, и мы её, по-моему, не обсуждали. На мой взгляд, она очень толковая. То есть, я, ну, там, может быть, я не все положения из неё поддерживаю, но то, что там написано про общую работу и про то, что надо к ИИ относиться как именно к помощнику. А не как заменить человека, ну, на мой взгляд, довольно, ну. Такой понятный тезис, и я готов его поддержать.

Дмитрий Колодезев 24:43
Слушай, ну я как застарелый атеист скажу, что это Эта корпорация существует пару тысяч лет, и она очень устойчивая и многому научилась. И, в общем-то, все с ней хорошо, очень зрелая организация.

Валентин Малых 24:58
Видимо, у них есть какие-то правильные корпоративные институты. И если хотите ритуалы, которые, соответственно, позволяют им быть источным, ну, может только порадоваться. И я считаю, что то, что они выпускают, ну, как минимум, достойно внимания. Да, то есть эти люди явно что-то понимают в том, как существовать долго. Это то, чего, наверное, она бы всем хотелось. Следующая история, точно помню, что ты её принёс. Она про то, что внезапное открытие, что, оказывается, написать код недостаточно. Это на всякий случай уберите джунов от экрана. Да, люди ещё не готовы к восприятию этой информации. Но что хочется сказать, что на всякий случай, если кто-то не в курсе, то... Код, который написан, ничего не стоит. Стоит чего-то тот код, который представляет собой упакованный продукт, который доставлен заказчику, и заказчик из него заплатил. Вот тогда у него появляется стоимость. То есть сам по себе код не стоит ни единой копейки. И соответственно. Тут показывают, я даже не стал скачивать PDF, может, и дополнишь. Соответственно, тут показывают, что да, можно быстро написать код. Ну, там, раньше писали месяц, теперь мы пишем его за три дня. Но зашипить, то есть упаковать всё в продукт вместе со всеми тестами и регрессиями всем на свете всё равно это будет те же самые два месяца, как было раньше. То есть, вот основная идея именно в этом.

Дмитрий Колодезев 26:32
Ну, у них они построили такую несколько искусственную модель, что сначала у нас появляется строчка кода. Из них складываются файлы, файлы в коммиты, коммиты в пулреквесты. Пулреквесты, собственно говоря, образуют проекты, проекты-релизы. И шесть таких уровней, и заметь, измерили продуктивность на каждом из уровней. И получилось, что, например, Claude релизности увеличивает на 30%, например, да, а количество написанных строк-кодов 17 раз. И когда непосредственно программист пишет вот эти километры кода, он видит вот этот 17x. А когда я на всё это смотрю, я вижу вот эти 30%. А с другой стороны, так сказать, прилавка. И тут, с одной стороны, У нас большая переоценка эффекта на местах. С другой стороны, огромное поле для улучшений, то есть наши процессы, которые были. Придуманные для ручной разработки программного обеспечения не соответствуют процессам, которые оптимальны. Они неоптимальны для агентской разработки. Как сами Claude говорят, Anthropic, что прекратите бобеситить агентов. То есть, строите процессы, в которых вам не надо смотреть на каждую строчку, написанную агенту. Он пишет их быстрее, чем вы читаете. И сколько бы вы ни старались, всё равно он вас обгонит. Строите процессы, в которых это необязательно. Вот, ну, это совсем другие уровни изоляции, совсем другие уровни QA, обеспечения качества. И, в общем, ну мы как отрасль к этому движемся. То есть я думаю, что агентская разработка способна ускорить на порядок конкретно релизы. Но для этого надо много работать, а не с программистами. Вот и даже не с... И даже не с QA, то есть, если мы программистов просто уберём из этой цепочки, мы всё равно на 9-10 раз не ускорим. Вот, то есть, у нас есть действительно поток создания ценности от того, что как слово вылетело из рта заказчика, типа хочу, и до слова вылетело из рта заказчика хорошо. Вот и вот этот поток создания ценности, на самом деле, его надо оптимизировать. И очень часто именно программистам и никогда не было узким местом. А сама по себе постановка, согласование, доступ к данным, диплой, отладка и так далее, развертывание. Вот тут было много времени, уходило всегда.

Валентин Малых 29:30
Ну, слушай, мы это пять раз уже обсуждали, но не лишним будет ещё раз повторить, что внедрение ИИ в программирование оказалось настолько эффективным, потому что это относительно легко измерить. Вот сам по себе количество строчек кода легко измерить, поэтому и туда легко внедрить ИИ. А вот как мы, соответственно, измеряем вот эту вот релизность, да, качество релизного цикла, это мерится как-то очень тяжко, поэтому и туда внедряется с большим скрипом.

Дмитрий Колодезев 29:59
Но есть метрики такие, как Time-to-Market, да, допустим, вот у нас есть хотелка, есть фича, и насколько быстро она ушла в релиз, да. Вот, и есть метрики качества, например, да, то есть насколько у нас, например, код. Был дорог в поддержке, и сейчас мы пытаемся ускорить первую часть. Вот про вторую мы даже не задумываемся сейчас. Когда LLM начали писать код, все говорили, что ну вот вы погрязнете в поддержке этого кода. Дело в том, что чтобы он начать поддерживать, он его сначала выкатить. Ну, еще это толком не ногти не сделать.

Валентин Малых 30:44
Ну да, ну когда-нибудь мы к этому тоже придём. Ну честно говоря, я думаю, что... Здесь действительно всё просто упирается конкретно в процессы, то есть процессы того, как мы делаем продукт. Пишем код, писать код мы многие умеем. Некоторые даже уже разучились практически, но всё равно всё ещё помнят. А соответственно, самое важное, как мы продукт делаем. А вот как мы делаем продукт, это, ну если по-честному, не так много где хорошо умеют. Да, то есть это реально та экспертиза, которая прям очень ценится на рынке. Это вот на всякий случай, если вы думаете, что. Ценится умение писать код. Умение писать код и раньше ценилось очень относительно. Всегда ценилось умение создавать ценность для конкретно там заказчика, для конкретной компании, для чего-то. Да, то есть, если вы конкретно можете с помощью кода принести пользу, вот тогда вас ценят. А то, что вы код можете писать, ну, это в принципе не настолько интересно.

Дмитрий Колодезев 31:44
С точки зрения программистов древности, код у нас давно все пишут компиляторы, а мы пишем только инструкции для компиляторов, по которым они пишут код.

Валентин Малых 31:56
Первое грехопадение произошло, когда Ассемблер придумали. Это уже тогда всё пошло по наклонной, как мы знаем, а сейчас просто не останавливается. Вот тут вот, пардон за политику, но просто, на мой взгляд, это довольно актуально. У нас, у них в Евросоюзе. Происходит следующее, что у них, соответственно, есть еврокомиссия, ну, в общем, скажем обобщенно. Некоторое правительство Евросоюза, которое Валентин Малых, Дмитрий Колодезев, планирует внедрять, собственно, свое же импортозамещение. Да, то есть, если вы думали, что импортозамещение — это исключительно российская фишка, то я вас, в общем, разочарую, потому что импортозамещением занимаются нынче все — и Китай, и США, и вот Евросоюз. И Евросоюз занимается импортозамещением в каком смысле? Они планируют запретить американцев. Африканским компаниям предоставлять услуги определённого рода для европейских потребителей. Ну, там конкретно, по-моему, европейские правительства, ну что-то такое. Важно, что это конкретно вот это про. По-моему, облачные провайдеры, но там и про ИИ тоже что-то есть, чуть-чуть ниже, насколько я помню. То есть у них история в том, что они говорят нам ваш этот хай-тек американский ненужённый, нам нужённый европейский. Вот они пытаются, соответственно, европейский хай-тек откуда-то достать путём того, чтобы запретить закупки американского хай-тека. И, соответственно, передать деньги своим производителям. В целом, очень понятная позиция. Поскольку политика будет успешной, я не берусь сказать, но то, что Евросоюз тоже этим озаботился, на мой взгляд, примечательный факт.

Дмитрий Колодезев 33:44
Там есть интересный момент, что он неинтересный, он просто уточняющий, что... Европа требует сейчас от облачных провайдеров доступа к данным которые хранятся на территории США к данным клиентам. На что облачные провайдеры, наверное, чаще всего отправляют их в суд. Ну, то есть, я сам посылаю данные. Вот, потребуйте через американский суд у нас что-нибудь открыть. Вот и это потеря суверенитета. Ну вот насколько Европа сможет отстоять свой информационный суверенитет после того, как она утратила, например, энергетический, ну это большой вопрос.

Валентин Малых 34:31
Ну, это не наш с тобой вопрос, поэтому мы можем пожелать успеха обеим сторонам.

Дмитрий Колодезев 34:35
На самом деле, интересно, потому что если они отстоят свой суверенитет, то там будет отдельный парк юрского периода, в котором будут рождаться интересные решения.

Валентин Малых 34:49
Ну, в целом, ты прав, что если они такие отстоят, то это будет. Но тут, знаешь, бабушка надвое сказала, стоят, не отстоят, надо посмотреть. В Европейском союзе всё не быстро происходит, ну вот, может, к 30-му году до чего они договорятся. Помнишь, на встрече с Пашей, мы с Пашей Петраченко, мы обсуждали использование ИБИ, ну конкретно там, по-моему, речь шла про гроб в той новости, но тем не менее, для того чтобы управлять деньгами. И я тогда высказался, что я вообще это не понимаю, но многие понимают. И в общем, оказалось, что... В принципе, 45% наших своим сограждан согласны доверить Neurosity Rol. Тут написано очень хитро «консультантов финансовых вопросов». Да, то есть, не то чтобы доступ к кошельку дать, но проконсультироваться. Да, то есть, у нас получается, что... 45% наших сограждан сделали шаг к тому, чтобы и допустить к своему кошельку. Я не знаю, хорошо это или плохо, но я просто в эти 45% не вхожу по очевидным причинам.

Дмитрий Колодезев 36:04
Это всё на сайте БКС Экспресс, то есть на сайте брокера, а которому, в общем, выгодно, чтобы это так было. Но вообще-то я бы определенный бюджет нейросети выдал, чтобы она им распоряжалась. Просто я бы его контролировал, да и всё. Более того, я, скорее всего, в ближайшее время так делаю. То есть я начал делать своего. Свою агентскую систему, то есть посмотрел, как устроен Hermes, построен это, начал делать себе цифрового ассистента, потому что существующий мне не понравился. То есть я придумал, как его сделать по-настоящему надёжно, то есть такой на всю голову релайбл, и делаю его, и какой-то бюджет у неё будет, да. Ну, не знаю, заработает, расскажу.

Валентин Малых 36:49
Это, кстати, интересно, а почему именно Hermes? То есть я тоже сейчас много про Hermes слышать, но я как-то так и не понял, в чём там прикол.

Дмитрий Колодезев 36:56
Я его рассматривал именно как технические решения, то есть сам по себе Hermes мне не понравился. Вот, но у него очень много интересных технических решений внутри. Это просто знаешь, как читать чужой код, то есть смотреть чужие решения, потому что сам ты всё не придумаешь. Инженером становится, глядя на чужие решения, а не выдумывая свои, вообще так говоря. То есть потом, когда ты насмотрелся на чужие, ты можешь свои попридумывать. Вот, нельзя быть умнее всех людей на свете, поэтому вот я читаю чужой код, смотрю код Hermes, смотрю код OpenClaw и так далее.

Валентин Малых 37:31
Ага, ага. Ну, окей, убедительно. Действительно, будет интересно послушать, когда ты к чему-то придешь. Следующая новость. Про Cursor. Cursor, если кто-то уже успел забыть, это такая контора, которая занималась. Выпуском своей IDE почему занималась, потому что сейчас они... Туда прикручивают агентов и в целом становятся просто ещё одним провайдером агентов. Не знаю, как правильно сформулировать, но в общем, ещё одним разработчиком агентов точно. И вот они выпустили интересное исследование, в котором они говорят, что только один процент разработчиков пишет 46 раз больше кода. И это как раз про то, что ты говорил про Anthropic. Anthropic говорит, что не надо бы обвестить агентов, и вот люди, которые смогли таки научиться работать с агентами эффективно, они могут себе в актив записать 46-кратное увеличение производительности труда, ну, с помощью вот этого внешнего инструмента. А в других местах, на самом деле, Увеличение производительности труда, померенное в объёме и кода, хотя это отдельный вопрос, насколько это так разумно мерить, но тем не менее, оно составило какие-то там совершенно нормальные цифры, там типа до, не помню, процентов тридцать, что ли. То есть не очень много. Да, то есть получается, что... У нас большая часть людей, да, используют и, ну, в общем, не особо, чтобы много используют. Да, какие-то дополнительные истории она делает с этим, но не так, чтобы прямо вау. А вот часть людей, соответственно, используют быстро. Ну, здесь я бы вспомнил одну штуку по поводу. Того, как устроено человеческое общество, в каком смысле? Дело в том, что у нас есть в обществе всегда плюс-минус одинаковый процент изобретателей. Да, это вот где-то один процент. У нас есть процент так называемых первопринимателей. Это люди, которые, увидев какую-то новинку. Вот изобретатели её принимают и начинают применять в жизни. И, соответственно, ещё это уже так называемый длинный хвост, когда все остальные люди, которые приходят совсем Совсем потом, после того как уже первоприниматели все давно попробовали, все у них получилось, и они теперь начинают принимать. Ну и, конечно, всегда есть какой-то процент людей, которые просто не используют данную технологию. Да, ну вот как сейчас до сих пор есть люди, которые не пользуются мобильными телефонами из принципиальных соображений, но через какой-то В промежуток времени таких людей просто не останется физически, просто потому что все дети будут расти с телефонами. Вот это я всё к чему? Это я к тому, что есть один процент людей, которые уже распробовали агентов и поняли, что с ними делать, и все остальные пока ещё только подтягиваются.

Дмитрий Колодезев 40:32
Ну, на самом деле, и не так, и так, и не так. Может быть, только одному проценту разработчиков надо писать столько кода. А вообще, если посмотреть на то, как пишет код руками джуны, медлы и сеньоры, то сеньоры пишут меньше кода, чем медлы.

Валентин Малых 40:56
Они просто задач больше решают. Ну, это вот да, про то, что сеньоры создают ценность именно за счёт решения задачи, а не за счёт написания кода, в первую очередь.

Дмитрий Колодезев 41:08
Да, и именно больше всего кода с помощью LLM, по моему мнению, пишут именно кода вот такого в строчках, пишут как раз джины, потому что они пробуют решение, типа написали, снесло, написали, снесло, написали, снесло, ну так вот. Вот, и вообще-то говоря, хороших инженеров мало, и вообще-то говоря, не у всех есть. Ресурсы на работе, чтобы тратить столько токенов на код. Поэтому тут много факторов. И как бы я сегодня дискутировал, кстати, у нас в канале с своим же собственным соратником. Вот по поводу того, что такое vibe coders, да, и понял, что я-то за неделю, наверное, если десять строк кода пишу, то они все на bash. Вот, да, то есть я пишу, я произвожу вместе с Claude довольно много кода, но пишет его сейчас код. При этом я довольно-таки неплохо и быстро умею писать код, просто гораздо. Разумнее, когда он его пишет. Вот поэтому, как бы, тут тоже вопрос навыков. Кто на чём сконцентрирован? Опять же, мы можем написать много кода и сделать кучу вещей, которые, может быть, бесполезны. Вот такая история. То есть, тут строки кода — плохая оценка продуктивности разработчиков и эффективности работы.

Валентин Малых 42:41
Ну, слушай, это к вопросу о том, где искать ключи. Да, удобнее всего искать ключи под фонарем, очевидно, потому что там светло. Вот это не совсем про то.

Дмитрий Колодезев 42:53
Каждое выпущенное новое средство разработки всегда увеличивало количество строк кода производимых, потому что в ней был встроенный boilerplate. То, что ты раньше руками набирал, теперь тебе кнопкой «Создай проект на основе Qt». Это раз тебе полторы тысячи строк шаблон закидали, и он у тебя уже есть. Я бы тут даже копнул чуть глубже.

Валентин Малых 43:17
Если мы сегодня поминали уже ассемблер, то ассемблер в машинные коды ну, плюс-минус однозначно можно перевести, и его объём понятен. Если мы си переводим в машинный код, то его объём довольно сильно увеличивается, то есть производительность. Программист на C была сильно выше, если мы меряем в строчках ассемблерного кода. Потом появился C++, который, соответственно, ещё больше ассемблерного кода стал порождать. Потом появился Java какая-нибудь, да, которая ассемблерного кода напрямую не порождает. Отдельный вопрос, не будем его касаться. Но тем не менее, производит очень много всякого кода, который в итоге работает. Да, то есть это ещё более многословный язык. И вот эта наша многословность, она только нарастает. То есть были попытки. Всё время это снизить, но оно так не работает. В строчке ассемблер нового кода мы пишем всё больше и больше, хочешь не хочешь.

Дмитрий Колодезев 44:18
Ну, там есть проект, я сейчас не помню, как он называется, где можно посмотреть, сколько строк на ассемблере сгенерирует тот или иной язык, функция на том или ином языке. Неожиданно компактный COBOL.

Валентин Малых 44:41
Да-да-да, ну, в общем, посмотрим. Мне кажется, что LM — это просто ещё один шаг в эту же сторону, да, то есть это немножко не так, не то, как мы себе представляем, будут выглядеть языки будущего, языки программирования, но вот теперь они выглядят вот так, тем не менее.

Дмитрий Колодезев 44:58
Ну, можно же ещё киловаттами мерить, допустим, производительность труда программиста. Вот такая же примерно осмысленная история.

Валентин Малых 45:06
Ну, кстати, да, киловаттами хорошо, он ещё это самое окружающую среду греет, это же здорово! Следующая новость. X5 получила 5 миллиардов рублей операционной прибыли от масштабирования в 2025 году. Ну, новость на самом деле сама по себе, может быть, не очень интересная. Ну, кто-то там получил 5 миллиардов рублей прибыли. Ну, то есть, я могу за людей порадоваться, но лично меня эти 5 миллиардов рублей прибыли никак не коснутся, может быть, даже если бы не этого хотелось. А соответственно. Сама по себе новость, на мой взгляд, и показательна, что есть некоторые ИИ-решения, да, которые были обкатаны на, ну, например, на одном магазине, да, ну, скорее, там на десятки магазинов, а потом их отмасштабировали на целую сеть, кстати. Была новость, что они, по-моему, какие-то новые истории с компьютерным зрением стали делать. Я забыл, что именно. По-моему, проверять товары на полках, что-то такое. И, соответственно, вот они это отмасштабировали на магазинах и получили существенный прирост по деньгам просто за счёт масштаба. Да, то есть экономия в каждом магазине может быть там, например, по тысяче рублей. Да, но учитывая, что у нас 5 миллионов магазинов, я специально утрирую, то вот такая вот прибыль получается на круг. В целом, на мой взгляд, важная новость именно с той стороны, что ИИ таки может приносить деньги.

Дмитрий Колодезев 46:33
Может приносить, а может и не приносить. И тут, опять же, как считать в том, что конкретно у X5. Эффект был, в это легко верится, потому что X5 одним из первых на рынке стал много вкладываться в людей, в процессы. В системы и ещё до того, как это стали называть искусственным интеллектом, они делали ML, они делали АБ-тесты, они строили инфраструктуру. И много наших общих знакомых в X5 так или иначе над этим трудилось. То есть X5 им не с неба на блюдечке это упало, они в это дело вложились. Поэтому если они заработали эти пять миллиардов, то они, в общем, заработали их вполне заслуженно. Но с оценкой эффекта от внедрения и всегда есть проблемы. Я как-то написал методичку на эту тему на базе методической финтеховской от Ассоциации «Финтех», как оценивать эффект. Финдиректор одного нашего клиента сказала, что если бы по АБ-тестам посмотреть, кто что нам принёс, то, в общем, мы получили прибыль в девять раз больше, чем наш оборот от всех наших подрядчиков. Поэтому эффект надо считать очень сложным, очень аккуратным. Но конкретно в случае X5 я тут никаких сомнений не выдвигаю. Именно X5 они очень долго шли к этому.

Валентин Малых 48:03
Это правда, то есть я помню, как всё начиналось, всё было и впервые, и вновь, если вы понимаете, о чём я. Они, соответственно, действительно были одними из первых, именно в ритейле, кто стал этим заниматься. Пока это ещё было на заре всего нашего сообщества десять лет назад. Да, то есть они действительно начали довольно рано. И за счёт этого я подозреваю, что они сейчас выходят на то, что отбивают из инвестиций. Вот у меня такая гипотеза. Следующая новость. Мы уже как-то раз это обсуждали, или, может, даже больше, чем один раз, но это было ещё в прошлом году, поэтому не мешает обновить. Пятая часть американских подростков просила у неких чат-ботов, ну, вероятно, это ChatGPT и другие боты, совета по поводу психического здоровья. И две трети из этих людей, да, то есть у нас есть 20%, две трети из них, то есть примерно вы 12-13%, никому об этом не рассказывали. И на мой взгляд, тут с тех пор мало что поменялось, потому что... Я имею в виду с прошлого года, потому что у нас получается, что подростки — это как бы они уже почти взрослые, но не взрослые, да, и у них есть свой набор проблем, которые. Они хотели бы решать самостоятельно относительно, могут ли они их решить или не могут решить. Это отдельный вопрос. Вот свой набор вопросов у них существует. И так как их никто ещё не считает взрослыми, довольно сложно подросткам решать эти вопросы, не имея ресурсов взрослых. Да, то есть у них нет возможности там, например, пойти. К врачу или, там, не знаю, уехать в другой город, как некоторые решают проблемы. Но вопрос в том, что подростки, они в этом смысле менее ресурсны. И в этом смысле чат-бот для них это, ну, некоторый выход, да, то есть это способ с кем-то поговорить, с кем-то пообщаться и не встретить некого осуждения, которое легко можно встретить у взрослых и даже у сверстников.

Дмитрий Колодезев 50:09
Тут есть цифры, но такие вот такого рода цифрам верить трудно, то есть это же опрос, self-report. Я, исходя из того, как я думаю о мире, думаю, что все подростки, которые задумались о психическом здоровье своем, спрашивали об этом у чат-бота. То есть, скорее всего, всё было так. То есть, задумались не все, спросили не все, но из тех, кто задумались, и у них был доступ к чат-боту, спросили, наверное, все. Вот просто исходя из того, как устроены подростки и современное общество. И, ну, это... Неплохо. То есть, например, если в нашем детстве мы сталкивались с проблемой, у нас был вариант сходить в библиотеку. У меня поискать в интернете вариантов не было. Либо найти кого-нибудь из знакомых, кто решал эту проблему, либо спросить у сверстников. Вот, все эти варианты были чем-нибудь чреваты. И, наверное, даже читать в библиотеке было самое безопасное социально. То есть, ну, пошёл, прочитал там. Вот. И вот сейчас у людей есть способ решать эти проблемы быстрее. Ну, здорово!

Валентин Малых 51:23
Ну, тут, как всегда, знаешь, с одной стороны, я с тобой согласен, с другой стороны, вызывает некоторый вопрос, потому что ChatGPT, как мы помним, не является сертифицированным психологом. На эту тему уже был какой-то скандал. Ну и то, что она им нарекомендует, это какой-то отдельный вопрос, насколько это всё правильно. Я вообще не берусь судить о том, как правильно делать психологические консультации для подростков. Я вообще совершенно не моя тема, но кажется, что ChatGPT об этом знает примерно столько, сколько я. Поэтому тут большой вопрос.

Дмитрий Колодезев 52:03
Слушай, ну вариант, ну, есть же всегда альтернативы какие-то, да, то есть куда пойдут подростки, если они не пойдут к боту, они пойдут к другим подросткам. А их познание в психическом здоровье, со всякого рода девиациях и так далее и тому подобное, они тоже подчеркнуты, скажем, не из учебников, да. Вот, а ещё они могут пойти в... Альтернативные общественные институты — это секты, скажем, что-то ещё там. Вот. А ещё, например, в Штатах есть такая штука, как бесплатный психолог. Да, то есть, когда ты приходишь, и тебе 15 минут психолога, и за 15 минут ты должен попытаться решить с ним проблему. Вот. Ну что ты там за 15 минут с ним решишь? И, кроме того, я не про всю индустрию психологии, но из тех, кто психолог, не психиатр, а именно психолог, то есть не врач, а многие из них тоже торговцы змеиным маслом. То есть, видишь, ChatGPT тут не с краю спектра, она где-то в середине, мне кажется.

Валентин Малых 53:13
Ну, наверное, наверное, ты прав, что она в этом смысле где-то в середине спектра. Ну, хотелось бы, наверное, для, ну, всё-таки, подросток ещё не взрослый, то есть вот для невзрослых людей всё-таки большего, более такой высококачественной части спектра. А знаешь,

Дмитрий Колодезев 53:38
Если учить детей отличать чушь от нечуши, то им можно доверять общаться с LLM-кой с более чистым сердцем. То есть их надо не запрещать спрашивать о психологии у LLM-ки, а учить отличать чушь от нечуши.

Валентин Малых 53:55
Вот, ну понимаешь, вот как ты отличишь чушь от нечуши в сфере, которой ты вообще не разбираешься.

Дмитрий Колодезев 54:01
Это базовый навык, как лечить чушь от нечуши в сфере, в которой ты вообще не разбираешься. Это то, чем мы заняты постоянно.

Валентин Малых 54:12
Нет, подожди, я вот не согласен. Мне кажется, тут надо углубить, потому что, ну, тут вопрос в том, что можно применять какие-то базовые методы. Верификация типа наличия внутренней логики. Это окей. Ну, то есть, типа, если тебе рассказывают, что, не знаю, надо сажать огурцы только по первому снегу, да, а потом, соответственно, их усердно поливать, ну, наверное, здесь что-то есть не так, да, в этом всём. Какая-то здесь есть подвох, но, соответственно. Если я вообще ничего не знаю о размножении сипулек, да, и мне ChatGPT рассказывает со всеми подробностями, что нужно делать, чтобы эти сипульки размножились, то кажется, что у меня нет способов верифицировать.

Дмитрий Колодезев 55:03
Для взрослых рекомендуют способ поговорить об этом с пятью разными людьми. Просто поговорить. То есть, например, возникла какая-то проблема. Расскажи ей пяти людям, необязательно из ближнего круга, лучше даже не из ближнего круга, а как-нибудь мимоходом. То есть расширь выборку. И вот этим метанавиком, типа расширения выборки, да, кросс-проверки источников детей, это можно учить с детства. Мы не сильно заморачивались этим, потому что мы как общество, потому что мы контролировали источники, более-менее. То есть у нас была, скажем, семья, школа и уличная банда. Скажем, как бы контролировали, школа у нас законодательно зарегулирована, но про уличную банду мы примерно ожидаем, чего от неё получится. И в общем, как-то пытаемся компенсировать это в семье и школе. А тут в этом компоте появились новые игроки. Сначала интернет, потом соцсети, теперь ChatGPT. И где-то перед этим появились на самом деле художественные фильмы и книги. Нужно учить детей самостоятельно работать с данными, с источниками. И вот я сегодня беседовал со студенткой, мы как раз обсуждали работу над проектом, но говорит, слушайте, говорит, ну вот нас никто не учит тому, о чём вы рассказываете, это именно метанавыком, метанавыком работы над проектом. Не как делать вещи, а как думать о процессе делания вещей. То есть, и вот этих действительно их не хватает.

Валентин Малых 56:45
Тут я с тобой полностью согласен, что вот именно, например, учить учиться никто не учит. Да, то есть, вот как надо учиться, как правильно работать именно базовые навыки. Работы тоже редко где преподают, прямо скажем. Да, то есть это, как правило, просто на практике выясняется. То есть объясняется, как надо делать, как не надо делать. И вот эти вот метанавыки — это действительно самое ценное. Навыки работать с информацией в наше время это просто то, с чего нужно начинать, действительно. То есть даже с маленьких детей, видимо.

Дмитрий Колодезев 57:16
Мы не сможем огородить детей от продавцов чуши, но мы можем попытаться научить их работать с этой чушью.

Валентин Малых 57:26
Угу. Ну да, это правда, что в наше время нет смысла пытаться остановить наводнение. Надо просто дать человеку лодку, чтобы он мог спокойно, спокойно путешествовать. Следующая новость — это про Anthropic. Anthropic расширяет тестирование и модели MIFOS на 150 новых компаний. На мой взгляд, новость не то чтобы прям сильно новость, то есть она просто некоторая, некоторая ожидаемая история, что они, вероятно, стали бы так делать. Да, но тем не менее, было довольно интересно, что они выпустили свой Opus 4.8, и это не Не MIFOS, а MIFOS они, тем не менее, стали потихонечку давать другим людям попробовать. Интересно в этом то, что... На их же графиках, которые мы в прошлый раз рассматривали, у нас получается, что MIFOS, ну, не настолько он лучше. Может быть, это графики специально такой. Контроль ущерба, да, то есть они как бы вот вам Opus 4.8, смотрите, он ничем не хуже, но при этом Opus. А вот MIFOS они пытаются оградить и хотят что-то новое, прям новое представить. Это я не знаю, сколько это всё реально работает, но, соответственно, вот. Здесь получается, что они продолжают программу тестирования MIFOS и планируют его куда-то выкатить. А если верить их же графикам, то получается, что он не настолько лучше, чем Opus 4.8. Почему не выкатить, допустим, сейчас, неясно.

Дмитрий Колодезев 58:59
В битве с щитой и меча перевес в несколько процентов он вполне решает. Вот, а Anthropic выгрыло же лежит для. Опуса скилл по security, и он хороший, мы его используем, он клевый. Я думаю, что эти скиллы по security, они частично следствия вот этих вот работ по MIFOS. То есть там впереди где-то обкатываются практики, и затем они катятся в прот, потому что наверняка большая часть производительности — это не только модель, а это именно процессы. Ресурсы и подходы. И вот сейчас отрабатываются процессы, ресурсы, подходы. И с той и с другой стороны, то есть недавно мы, допустим, всё бросили и патч Nginx. История была какая, что в Nginx, который, по-моему, то ли половина серверов, ну примерно каждый второй сервер в интернете закрытым Nginx. И в нем нашли уязвимость такую очень серьезную. И как положено приличным исследователям, они опубликовали уязвимость, ну в смысле, что вот есть такая уязвимость такого-то типа, через месяц мы её выложим, мы передали. Описание в вендору, пусть он её накатит, сделает патчи, потом успеете накатить. Вот по описанию уязвимости была она реконструирована и был сделан эксплойт. Вот, в течение нескольких часов и пошёл в прот. То есть, начали взламывать серверы с Nginx. Вот, поэтому мы всё бросили, и это буквально то, что он пошёл в прот, застало меня полдвенадцатого ночи. Вот, мы начали аварийную программу накатывания патчей, и всё, патчи. Вот, то есть, я поднял DevOps, мы пошли. Да, всё хорошо. То есть до нас не дошло. Я думаю, что это была внутри американская история в значительной степени. Но к тому моменту, когда к нам пришли с этими запросами, у нас уже все патчи были. Вот. Но видишь, это вопрос на самом-то деле держания носа по ветру. То есть, ну я расцениваю это как конкретно, что всем нам повезло, о том, что о существовании этого скрипта стало известно. Вот, но теперь мы знаем, что по хорошему описанию уязвимости, раньше описание уязвимости же публиковали сразу, просто сам код уязвимости не публиковали. А с реверс-инжиниринг не так и сложно, то есть ЭЛМки вполне это могут. Вот и это ставит под вопрос все современные нам security процессы, то есть вот эти вот реестры безопасности, вот эта публикация, вот этот вот период в ожидании месяца и так далее и тому подобное. Все эти практики с Bug Bounty, то есть, ну вот такая история.

Валентин Малых 1:02:14
А вот те патчи, которые вы накатали, вы их сами писали перед этим?

Дмитрий Колодезев 1:02:18
Нет, мы пошли на сайт Nginx, и Nginx говорит, ну вот, ребята, мы срочно выпустили обновление, то есть Nginx очень быстро отработал. Просто нужно было пойти и раскатать, то есть технически это было очень просто. Ну да, просто надо было. А просто, знаешь, это как собрать коробок спичек. Вот ничего сложного, просто берёшь и пятьдесят раз нагибаешься. Сложность, видишь, была в том, что очень часто ты ставишь какой-нибудь сервис, а в нём Nginx внутри. То есть ты Nginx не ставил, он у тебя не гений прописан в конфигурациях. У тебя прописан какой-нибудь условный Centrify, а у Centrify внутри стоит там ClickHouse, Kafka, Nginx. Вот, или у тебя стоит там ещё что-нибудь, и в нём, ну то есть, у тебя есть какие-то вендоры, у которых Nginx где-то внутри закопан в зависимостях. Вот, и вот именно вот это всё прочесать по нашим всем проектам заняло два дня в общей сложности.

Валентин Малых 1:03:25
Слушай, ну вот конкретно на этом, собственно, делает бизнес наш с тобой общий знакомый, Леша. Да, поэтому вот это не на пустом месте, да, то есть потому что отслеживание всех уязвимостей по всей цепочке поставок — это большое дело.

Дмитрий Колодезев 1:03:43
Слушай, у нас стоит система фиксации Software Bill of Materials при каждом деплое. Мы к этому готовы. У нас есть поиск по исходному коду, у нас есть много чего. И всё равно, зная, где патчить, что патчить, имея всё готовое, имея патч, полностью защитить нашу небольшую инфраструктуру заняло двое суток. Вот, я думаю, что мы могли бы это сделать как-нибудь быстрее, но всё равно это не четыре часа, потому что есть пакеты внутри пакетов, внутри пакетов, если вы помните известный мем, и с ними ты ничего не сделаешь. То есть в некоторые контейнеры от вендоров мы просто заходили руками и патчили Nginx там, потому что, ну как бы, что ещё сделать?

Валентин Малых 1:04:27
Ну ничего не сделаешь, только так, это правда. Я предлагаю обсудить вот эту новость, она мне кажется. Достаточно интересный Microsoft. Они себя теперь называют My, хотя My закончился. Они, соответственно, выпустили модель на моей памяти первую. Может быть, я что-то пропустил, и мне подскажешь в комментариях, но я не помню, чтобы они выпускали модель по подписке. Вот у них есть первая MyCode-1 Flash. Это моделька, которая, соответственно... Для кодирования они сравниваются с Haiku. Как ты сказал, с Haiku они сравниваются, потому что она самая тупая из дорогих, а соответственно, Haiku действительно самая простая модель. Но Microsoft сравнивается, тем не менее, с ней. Он говорит, что вот мы молодцы, у нас всё быстрее, выше, сильнее, и ещё и дешевле. Ну, что в общем, наверное, хорошо. Я просто к тому, что теперь в полку в компании, которая предоставляет свои модели по подписке, в данном случае подписка на Соответственно, Copilot идет. Вот прибыл еще Microsoft. Это, на мой взгляд, сам по себе хорошо увеличивает конкуренцию, всячески здорово. Про Copilot у нас, по-моему, дальше еще есть новость, но можно прямо сразу сказать, что там какая-то большая буча началась из-за того, что Microsoft отменила подписки и стала всех спрашивать по токенам. И оказалось, что по токенам это прямо очень дорого.

Дмитрий Колодезев 1:06:00
Ну вот, если я правильно помню, тут почему-то в этой новости не видно этого, но они у себя в... Карточки модели опубликовали цену. За решенную задачу на SWE-bench. То есть, есть бенчмарк по программированию, и они говорят, смотрите, вот у нас ушло столько долларов на решение задачи в среднем, а у Haiku ушло столько-то, и как раз там получалось величину порядка, вот я сейчас на память скажу, типа 10-20 долларов, вот такие вот величины, такой порядок. То есть, грубо говоря, SWE-bench — это условный тикет программиста. То есть закрыть тикет с помощью модели стоит 10-20 долларов. Вот и помимо того, что эту цифру можно просто держать в голове, когда вы оцениваете работу своих программистов по тикетам. Это хороший способ действительно мерить модели, потому что когда мы меряем, допустим, пассрейт или когда мы меряем цену токенов, да, это не совсем верно. Мы же покупаем не токены, мы покупаем не дрели, мы покупаем дырки в стене, да. И вот конкретно эта дырка от этой модели стоит, допустим, в полтора или в два раза дешевле.

Валентин Малых 1:07:25
Да, ну сейчас я найду эту новость, раз уж мы здесь про это говорим. Тут коллеги из Artificial Analysis. Сравнили несколько моделей, основные американские модели и несколько китайских, Kimmi, Minimax и еще чего-то. Вот, соответственно, они сравнили эти модели с основными американскими моделями, то есть Claude, сейчас GPT, Gemini. Там xAI как-то прокрался, да, и всякие другие. И оказалось, что качество. Моделей по этим замерам не сильно отличаются, да, там на пару единичек. Ну да, Claude там, может быть, на несколько единиц выше, чем весь хвост, но не настолько выше. А вот если мы посмотрим на стоимость, то по стоимости китайцы просто рвут всех как стоячих, что, на мой взгляд, достаточно интересно. И это означает, что китайцы просто экономически пока выигрывают эту конкуренцию. Там есть отдельный вопрос, кто кого как финансирует. Да, то есть у китайцев тоже заканчиваются деньги инвесторские, да, и они переходят на повышение своих подписок, но тем не менее, даже повышенные вот эти подписки, они всё равно сильно ниже того, что спрашивают американские компании.

Дмитрий Колодезев 1:08:59
Слушай, ну мы, допустим, платим за GLM 160 долларов в месяц. Я бы лучше платил Claude 100, но он требует VPN на работе, а мне этого не нравится. То есть, китайцы тоже не то чтобы шибко дешевые. А если так, тот же самый Qwen, по-моему, 50 долларов в месяц стоит Qwen Coder. Но при этом модели у них объективно хорошие, то есть для агентской разработки тут же надо понимать, что есть у нас. Разные слои, где мы используем модели. Одно дело, когда человек лично с моделью вместе что-то творит, тут бы хорошо, полумнее. Другое дело, когда мы отправили сжечь километры токенов агентов, и там мы исходим из предположения, что это достаточно тупые создания. И мы их хорошо регулируем, делаем все вот эти harnesses и так далее и тому подобное. И у нас работает много агентов, большую часть того, что они делают, они делают впустую. И если бы это было дорого, никто бы это не стал делать. Вот, и вот на этих фронтах рулит DeepSeek, свежий четвёртый, просто с гигантским отрывом, потому что он достаточно умён и недостаточно дорог.

Валентин Малых 1:10:17
Это правда, они действительно в этом смысле первопроходцы были, насколько я помню, вот в этой всей агентной истории, и они прям, прям очень много в это вкладываются. Я бы хотел назвать эту новость Anthropic и тормоза. И соответственно, в чём суть вопроса? Суть вопроса в том, что Anthropic решили. Предложить всем окружающим, если они увидят, что ИИ выходит из-под контроля, то срочно, соответственно, перестать его делать. Ты в канале написал, на мой взгляд, совершенно справедливо, что давайте мы зафиксируемся в текущем положении, пока мы лидеры. Да, то есть это предложение, как бы оставить всё как есть, никуда не бежать, и давайте мы, как бы, просто... Посмотрим, какие мы классные, как мы зарабатываем больше всего денег. На мой взгляд, такой подход не совсем работает. Я, может быть, не совсем прав, конечно, но у меня впечатление, что так не случится. По крайней мере, китайские товарищи точно будут так не согласны с этим. Вот, если переходить всё-таки к сути. Этого заявления, что про агентов, входящих из-под контроля, то, на мой взгляд, выходить из-под контроля агентам невозможно просто потому что. У агента нет воли, то есть он ничего не хочет. Он действует по некоторой заданной программе, то есть он может её плохо понимать, он может быть что-то ещё, но тем менее у него есть заданная программа, и он по ней действует. Поэтому выход из-под контроля, ну, по крайней мере, в текущих условиях, это какая-то ненаучная фантастика. Но как пугалка, хорошо, и кажется, как раз перед IPO очень полезно.

Дмитрий Колодезев 1:12:01
Ну, во-первых, про IPO ты хорошо заметил, потому что всё, что сейчас делает антропик, вот прямо всё. Это поддержка PR, поддержка IPO. То есть это просто сейчас самая важная задача. Вот, но есть одна штука, которую твоя речь добилась, наверное, неожиданно. Обратился в том смысле, что когда ты говорил про то, что у ей нет своей воли, я вспомнил, что, в общем-то, и у большинства людей можно сказать нет своей воли. То есть именно воли, знаешь, с большой буквы воли, как и говорили в нашем девятнадцатом и восемнадцатом веке. Вот они действуют по заданной программе и всё такое прочее. Вот. Поэтому тут я, наверное, беру паузу до следующего капитанского мостика подумать, есть ли воля у агентов. Что-то мне, знаешь, стало странно об этом вслух говорить с серьёзным лицом.

Валентин Малых 1:12:56
Слушай, ну раз уж зашёл разговор, я всегда, когда разговор заходит за вот это, вспоминаю книжку. Её, по-моему, Метцингер, да, фамилия, «Туннель Эго». Я её всячески рекомендую. И там, в общем-то, довольно подробно описан феномен сознания, ну насколько мы его ещё в принципе можем понять сейчас. Опять же, не ручаюсь, что там абсолютно всё научно в этой книжке, но тем не менее. И вот по этой книжке получается, что вообще говоря, сама по себе сознание, воля, вот эти все дела, они Довольно расплывчатые понятия, непонятные у кого не есть, у кого их нет, и вообще как это всё устроено. Я предлагаю тогда на этой ноте начать потихоньку заканчивать. Всем порекомендуем эту книжку, сами освежим, и, может быть, на следующем Капитанском мостике сможем обсудить что-то про волю.

Дмитрий Колодезев 1:13:49
Одна из формулировок воли — это способность пренебрегать краткосрочными интересами ради долгосрочных. Это просто переформулировка стоимостной функции, вот и всё. То есть, ну взял и переформулировал.

Валентин Малых 1:14:03
Как бы, что тут с агентами-то? Ну, само собой, то есть я поэтому на вопрос наличия и отсутствия Сознание у искусственного интеллекта всегда отвечает тем образом, что мы не знаем, что такое сознание, поэтому ответить на этот вопрос невозможно. Да, то есть, ну как бы мы не можем сказать, что есть что-то или чего-то нет, если мы не понимаем, что мы всё-таки ищем. А есть ли воля у агентов или нет? Хорошо бы, если бы она была у нас. Я согласен, на самом деле, то есть. Искусственный интеллект — это прекрасно, но естественно, и ещё лучше развивайте свой естественный интеллект, и я думаю, что у нас всё будет хорошо. Как-то так. Ну, всем спасибо. Да, всем спасибо. Присылайте новости и вопросы в Mattermost. Будем рады. Посписывайтесь на всех площадках, в том числе подкастных. Мы есть много где. Всем пока!