Дмитрий Колодезев

Дмитрий Колодезев

Анализирую данные. Консультирую и учу.

Капитанский мостик 2-32

Тридцать второй выпуск второго сезона подкаста "Капитанский мостик" про искусственный интеллект, будущее и все такое. Ведущие подкаста — Валентин Малых и Дмитрий Колодезев

Площадки
Содержание
  • 00:00:00 введение
  • 00:01:15 победа на IOAI
  • 00:02:45 вышла GLM-5.3
  • 00:10:09 вышел Grok 4.6
  • 00:16:18 Harness от DeepSeek
  • 00:22:16 ИИ-железо в Китае
  • 00:30:32 Anthropic покупает стартап
  • 00:34:37 в США работают по 90 часов
  • 00:37:31 ИИ заменит гуманитариев
  • 00:48:53 агент Илона Маска
  • 00:55:23 агент Сбера
  • 01:02:59 роботы от BYD
  • 01:06:49 промт-инъекция в суде
Новости этой недели

Валентин Малых 0:00
Всем привет! С вами, как всегда, Валентин Малых и Дмитрий Колодезев. Рады приветствовать вас на новом эпизоде «Капитанского мостика». У нас всё ещё, несмотря ни на что, продолжается приём докладов на Новосибирский Data Fest, и уже можно регистрироваться как слушателя, будем всех рады видеть. Приезжайте, будет очень прикольно. Ещё да, и не забывайте присылать новости в Mattermost. У нас новостей каждым кажется разом больше и больше, но это не значит, что их не надо присылать. Это просто немножко увеличивает работу по подбору, собственно, тех новостей, с которыми нужно ознакомиться.

Дмитрий Колодезев 0:41
Мы честно просматриваем их глазами без искусственного интеллекта.

Валентин Малых 0:45
Ну, я бы не стал вот так вот прямо сейчас огульно. Я тут разговаривал с Женей Чукановым, которого, я надеюсь, мы рано или поздно такие позовём на подкаст. Они сделали morag, если что. Вот я ему предложил сделать в morag такое ранжирование новостей, но он сказал, что Claude справился лучше, и я не стал так делать.

Дмитрий Колодезев 1:10
Посмотрим, если новостей станет больше, можно будет и так.

Валентин Малых 1:18
Внезапно я решил начать с этой новости. Она случилась на прошлой неделе, но мы на прошлой неделе её не осветили. Российские школьники выиграли в командном зачете, то есть заняли первое место. Количество медалей с Международной Олимпиады по искусственному интеллекту, которая называется EO AI, она в этом году проходила в Казахстане. Вот они как раз вернулись из Астаны в субботу. Ещё что стоит отметить, там есть ещё абсолютное первое место. Вот абсолютное первое место по количеству баллов тоже наш паренёк занял, тоже большой молодец. Вот всем предлагаю порадоваться за наших школьников.

Дмитрий Колодезев 1:57
Очень круто. На самом деле у нас есть своя школа, получается, которая готовит победителей Олимпиад.

Валентин Малых 2:04
Угу. По поводу школы, ты, кстати, сказал, на удивление, в списке победителей два человека из Новосибирска. То есть там все по одному, из Москвы в том числе один, а вот из Новосибирска двое. «Надежда Сибирь» школа называется.

Дмитрий Колодезев 2:19
Я даже и не знаю, я подозреваю, что я занимался в их спортзале. Ну, слушай.

Валентин Малых 2:27
Всем нужны сильные программисты, что ты начинаешь.

Дмитрий Колодезев 2:30
Ну, очень клево, круто. Я, насколько знаю, что некоторые наши общие знакомые занимались подготовкой их. И, в общем, хочется коллегам сказать, что вы крутые.

Валентин Малых 2:40
Да, мы за коллег, безусловно, рады. Все большие молодцы в этом плане. Следующая новость вышла от GLM-53 она прямо сегодня утром вышла. И она из интересного от GLM-52 отличается ровно одним. Это тем, что её месяц учили RL на разных В traces, да, то есть собрали traces, и она должна была повторять именно traces каких-то traces. Дальше есть как раз оценка её производительности на разных бенчмарках, и в частности, вот на Adip SVG она там 20% прибавила, сравнявшись с Kimi почти, да, ну и чуть-чуть отставая от Anthropic. И она в целом Стало действительно очень клёвым по многим задачам. Я ещё сам с утра не успел её протестировать, но говорят, хорошая. Отдельно, про что хотел бы ещё добавить, это про то, что у них целый раздел в этом посте уделён тому, что они делают по поводу кибербезопасности. То есть сейчас это стало модно, и видно, что они прямо очень сильно в это вкладываются.

Дмитрий Колодезев 3:54
Ха-ха, слушай, я успел попробовать. Более того, мы выкатили у нас же в конторе подписки, в VLM, вот, и мы выкатили её везде, когда я успел дотянуться, и в одном месте уже откатили назад. Да, это, конечно, анекдотик Эвиденства, в смысле, что мы в конце рабочего дня запустили её в рабочие проекты, посмотрели и выпустили обратно. Два минуса. Первое, она ела токены как не в себя, а второе, ты понимаешь, на ровном месте, на проекте никак с этим не связано. У меня старший по бэкэнд-системам вдруг обнаружил, что она пытается куда-то полезть по SSH, и у неё не получается. Вот он прибил её, заменил на 5.2, и мы пока не знаем, что дальше с этим делать. В остальных местах оставили 5.3.

Валентин Малых 4:54
Интересно, действительно интересно.

Дмитрий Колодезев 4:57
Бо-бо-бо-не в понедельник разбираться.

Валентин Малых 5:00
Да, ну из забавного, я, кстати, сейчас на нашу платформу пересел. Ну, как пересел, стал активно использовать. У нас же наш MWS Cloud, соответственно, выкатил свою GLM 5.2. Так что, если кому-то важно, чтобы ваши данные хранились на территории Российской Федерации, то вот, пожалуйста, есть такая опция. Надо сказать, что она довольно интересна. Интересно работает, то есть, видимо, в. В харнесах, которыми я раньше с ней работал, да, вот в Z-Code и в Claude Code, там какие-то другие ограничения, потому что через OpenCode она теперь стала вдруг внезапно способна на очень долгие рассуждения, да, там по полчаса и побольше, что она там что-то сама себе жужжит и что-то делает. То есть у меня до этого она столько не работала. Не знаю, с чем связано, но вот просто делюсь наблюдением.

Дмитрий Колодезев 6:00
А я когда GLM 5.2 запустил из хулиганских побуждений в KiloCode. Я обнаружил тот же эффект, то есть она была умнее, чем в клубе. Но, возможно, это тоже видишь анекдотика. Возможно, я не гонял бенчи, просто сунул её в задачу, и она превзошла мои ожидания, а нынче это довольно трудно. Вот, ну вот так, то есть. Вне зависимости от всех этих историй, можно определенно сказать, что GLM 5.2 сейчас очень хорошая рабочая лошадка. То есть, если у вас по какой-то причине нет Opus, но я уж не говорю про Fable, но Opus, она вполне заменяет, как минимум, может быть, я понимаю.

Валентин Малых 6:49
Да, ну по вот этим вот их замерам, то есть вот есть, что она Opus заменяет достаточно успешно, но правда тут Opus 4.8, а не Opus 5, да, но Fable 5 она, честно, проигрывает. Ну, в общем, кажется, не так это всё и страшно, по большому счёту.

Дмитрий Колодезев 7:10
Ну да, она достаточно умна, чтобы делать очень сложные и хорошие вещи.

Валентин Малых 7:15
Да, ну я говорю, вот оказалось, что у нас способны довольно длинные, вот именно очень длинные задачи и способны делать их автономно, плюс-минус даже неплохо. Да, то есть я прямо приятно удивлен, и Harness оказывается, на Harness довольно много чего завязано. Я понимаю, что я сейчас звучу довольно странно, но в целом.

Дмитрий Колодезев 7:37
Слушай, прям хочется попробовать ваш Harness, который...

Валентин Малых 7:42
Да это не наш, это OpenCode обычный. Да, тот, который Иван Бондаренко всё рекламирует. Вот я решил попробовать, не прогадал.

Дмитрий Колодезев 7:51
А у меня GLM-52 меня приятно удивил, когда я скинул в неё просто, знаешь, много логов и сказал, ну ты большая девочка, уже пойми что-нибудь там сама. Логия системы коллтрекинга. Вот, и она написала моделирование нагрузки вот этих вот очередей и так далее и тому подобное, и прям очень понравилось. То есть я бы сделал то же самое, не лучше, но ушло бы у меня это, наверное, три дня. Она за полчаса отжал, то есть для меня это вот прям существенная экономия, прямо скажи. Это так, проблема в том, что у меня не было трёх дней, видишь, то есть это не экономия даже.

Валентин Малых 8:35
В смысле, это ты фактически это самое, как по-английски это называется surplus, да, surplus, то есть ты получил больше, чем.

Дмитрий Колодезев 8:43
Да, потому что я бы три дня не смог бы в этот проект закопать, просто физически, да.

Валентин Малых 8:49
Я оказался бы незакопанный, если ты понимаешь, о чём я. А тут всё удачно сложилось.

Дмитрий Колодезев 8:54
А ещё слушай, мы не успели это включить в новости, чисто технически. Но вообще-то выкатили веса Qwen 3.8.

Валентин Малых 9:04
Три восемь. А да, кстати, это важно. Да, вы выкатили маленький Qwen, и мы уже его стали тестировать. Пока ещё у меня нет результатов тестирования. Кстати, можно сделать анонс. Тут меня наш PR уговорил, я долго сопротивлялся, но PR сказал, что так надо, и мы теперь будем Показывать результаты моделек на нашем утреннем бенчмарке. То есть мы не будем показывать бенчмарк, мы будем только результаты показывать. Вот, не знаю, кому это будет полезно, но PR утверждает, что для бизнеса это прямо важно, поэтому будем делать так. Когда там будет первый релиз, я не берусь сказать, но, наверное, вот на Qwen 3.8 было бы разумно это показать.

Дмитрий Колодезев 9:48
Я думаю, да. А, кстати, у вас просто GLM по токенам или подписками есть?

Валентин Малых 9:55
Слушай, я использую по токенам, но это наша внутренняя история. Наружу, честно говоря, не знаю, как она торчит. Надо смотреть.

Дмитрий Колодезев 10:03
Понял, я нашёл вашу новость, посмотрю.

Валентин Малых 10:12
Следующая новость, она про то, что Space X и AI. Мне интересно, если туда что-то добавить в Теслу, она спереди станет или сзади? Ну, я так по-своему интересуюсь. Так вот, Space X и AI выкатили новую версию Grok. 4.6, который с новыми какими-то возможностями по reasoning. Где-то в другой новости я видел, что он очень неплохо сравнивается с остальными. Модельками, я имею в виду, с той же Kimi K3, да, с Fable и со всеми, то есть он вроде как плюс-минус на уровне. То, что они смогли за такой короткий срок выпустить модель, которая сравнима, это прямо, на мой взгляд, действительно большое достижение. То есть инженеры с xAI, что называется, снимают шляпу. Это очень круто.

Дмитрий Колодезев 11:02
Слушай, у них же была смена экипажа, там, да, то есть они же меняли кого-то на кого-то. Вот, то есть, видимо, заменили очень удачно.

Валентин Малых 11:13
Да-да-да, то есть они где-то достали людей, которые смогли прямо прыгнуть. Да, то есть они из того, что Grok был никому не нужен, он стал, вообще говоря, ну какой-то разумной альтернативой. Может быть, прямо сейчас я бы не пошёл его пробовать, оно мне не надо. Но если бы не надо было таких танцев с бубнами, которые применимы для того же Anthropic, да, я бы сказал, что ну а что бы и Grok.

Дмитрий Колодезев 11:41
А ещё вот смотри, а сколько много моделей дошли до почти человеческого уровня в узком классе задач, а может быть, даже и сверхчеловеческого. То есть прямо сейчас, если тебе нужен толковый мидл-модель, выбор-то огромный. То есть ни одна, ни две, а прямо их много, их прямо.

Валентин Малых 12:04
Ну, то есть, что-то произошло. Вот я не могу пока это осознать, что конкретно произошло. Можно сделать аккуратное предположение, что всех-всех дистиллировали, и тут у нас перекрестное обучение. Не знаю, я вообще совершенно не утверждаю, что это реально так.

Дмитрий Колодезев 12:19
Я думаю, смотри, то есть это может произойти либо за счёт, допустим, большего компьютера, либо за счёт больших или лучших датасетов. Либо за счёт каких-то улучшений архитектуры, и очень долгое время, как бы, ну, оно компьютерами и датасетами полнилось. Вот, а не то чтобы какая-то архитектура тут, ну, все же техрепорты публикуют, то есть не видно там именно архитектурных прорывов. То есть получается, что качество датасетов должно быть по смыслу. То есть это необязательная дистилляция, это может быть data-centric AI, когда хорошая курация позволяет убрать некоторую какую-нибудь мусор из дата сета, и качество повышается.

Валентин Малых 13:09
Ну, или второй вариант, что всех-все сдистиллировали.

Дмитрий Колодезев 13:14
Ну, слушай, но есть же ограниченное количество информации, которое можно добавить, устраивать такой штурвал дистилляции, если ты понимаешь, о чём я. Вот, то есть, как бы, ну, если мы одну и ту же информацию будем дистиллировать, возникнет ли у нас в результате, так сказать, самозародится ли жизнь?

Валентин Малых 13:34
Ну, с одной стороны, да, и тут продолжая аналогию, я, пожалуй, даже не буду этого делать на всякий случай. Тут история в чём? Что есть же такое понятие, как self-distillation, когда модель сама себя дистиллирует, а тут они как бы cross-distillation, и мне кажется, что это вполне себе позволяет. Сделать тот самый bootstrapping, если ты помнишь, что это такое. На всякий случай, для слушателей скажу, что bootstrapping происходит от, собственно, приключений барона Мюнхгаузена, когда он себя из болота за шнурки вытащил. Да, то есть получается, что тут кто-то тянет за один шнурок, кто-то за другой, но все вместе идут вверх. Да, то есть они друг друга тянут, потому что они чуть-чуть дообучают, и эта информация перераспределяется.

Дмитрий Колодезев 14:22
Ну, некоторого рода это какой-то, ну, не совсем муравьиный, но около того алгоритм. То есть у нас есть электрические муравьи, которые ползут и пытаются подстроиться и скопировать удачные находки друг друга, да. Вот. Ну, а мы их подкармливаем вместо сахара деньгами на токены.

Валентин Малых 14:40
То и да, и нет. Я думаю, что у нас муравьиный алгоритм здесь на людях, да, то есть люди ходят, смотрят, а вот здесь хорошо, давай-ка мы здесь у себя так же сделаем.

Дмитрий Колодезев 14:50
Да, вот и помнишь, когда у нас был предыдущий мостик, мы с Игорем говорили тогда, что китайцы, китайские модели делают инженеры, американские ученые. Еще мне тогда показалось, что это такая дихотомия. В американцах тоже проснутся, когда деньги кончатся, проснутся инженеры, но у китайцев деньги в индустрии там вроде как заводятся, и в общем ученые там даже могут проклюнуться вполне.

Валентин Малых 15:23
Ну, я думаю, что Игорь тут оценивал несколько лет ретроспективно, а сейчас ситуация немножко меняется. Да, то есть у нас сейчас в Китае получается некоторое количество, как бы это происходить, фронтирных уже полноценных фронтирных моделей. Да, вот этот наш Qwen 3.8, про который уже сказали. GLM-53 теперь, да, Kimi K3. Вот как минимум три модели, они полноценные, фронтирные, то есть их можно прямо считать полным честным соперником и Anthropic, и OpenAI, а уж Grok — это и подавно.

Дмитрий Колодезев 16:01
Qwen 3.8 Max очень хорош.

Валентин Малых 16:04
Это я тоже слышал, но он какой-то тот, который большой, очень большой, а тот, который маленький, мы ещё просто не успели оценить.

Дмитрий Колодезев 16:12
Я его только по подписке трогал, ну вот так.

Валентин Малых 16:20
Только что говорили про китайские модели, и тут, соответственно, DeepSeek выкатил несколько. Несколько обновлений. Одно из обновлений — это DeepSeek V4 Pro, то есть большая модель DeepSeek по опишке, но что интересно, они сразу На неё повысили цены довольно сильно и, по-моему, в четыре раза что ли что-то прямо сильно повысили. А соответственно, дополнительно к этому они ещё выпустили свой harness. У меня есть в планах потрогать их harness тоже, но я пока ещё не добрался до него. Интересно, что все бросили сделать свои harness. Да, то есть у всех есть свой harness, и то, что он у всех есть, видимо, это действительно становится каким-то ключевым преимуществом в случае с обучением более новых моделей. Вот я единственное, как могу сказать.

Дмитрий Колодезев 17:21
Для того чтобы модель хорошо работала в коде, или в бизнесе, или в торговле, где угодно, нам нужны три вещи. Нам нужна умная модель, нам нужен хороший подготовленный контекст для неё, который готовит harness, и нам нужны процессы, как мы её будем втыкать в нашу реальную жизнь. И долгое время тормозили процессы. Процессы сейчас чуть-чуть подогнались, модели просто чудо как хороши. И, наверное, сейчас будет некоторое время гонка на harness. Ну да, гонка на harness.

Валентин Малых 17:51
Понятно, и можно заметить, с какой скоростью эволюционируют эти самые harnessы. Вот я наблюдаю на ZCode, там примерно раз в неделю точно есть обновления, иногда чаще, чем раз в неделю. Claude, я, честно говоря, не помню, с какой скоростью обновляется, потому что он обновляется незаметно для меня. DetCode обновляется точно раз в неделю или чаще, то есть они прямо очень быстро добавляют функционал, и это видно, что все пытаются удержать пользователей.

Дмитрий Колодезев 18:22
Там, знаешь, есть две грани у этого топора. Во-первых, конечно, LLM пишут harnesses теперь, а не люди. Это ускоряет. А с другой стороны... Вспомни такую штуку, как LlamaIndex, если мне память не изменяется. Когда LlamaIndex появился, его два или три китайца на амфетаминах писали со скоростью несколько релизов в день. На протяжении первых двухсот дней они что-то, что ли, сделали релизов. Да, то есть потом они замедлились, знаешь, и когда они затормозились спустя там уже, типа, на второй год или что-то ещё, типа, у них там три релиза в три дня, такой, ну типа, лениво, но вообще отстали мужики, то есть затормозились. То есть реально, когда они стартанули, они релизили со страшной скоростью какой-то, и у них не было вот этих кодовых агентов, которые мы пишем, то есть голыми руками. Вот поэтому я думаю, что когда находится толковый инженер, да им ещё дают хорошие LLM, да им ещё и интересные, ещё задача стоит того.

Валентин Малых 19:39
Ну, попёрло, но я понимаю, но я тут немножко про другое, что... Толковый инженер — это хорошо, но вопрос же в продуктовых фичах, да, то есть, понимаешь, писать код — это недостаточно для того, чтобы у тебя продукт хорошо работал. Для того, чтобы он работал, тебе надо, чтобы он, ну, там, был как какой-то осмысленный действие, надо предпринимать. Я не берусь сказать, какие именно, потому что я не специалист именно по разработке продуктов, но... Кажется, что это, вообще говоря, довольно непростая работа — придумать, что ещё такого людям может быть полезного. Вот история с Codex, где они там туда Tamagotchi, извините, запихнули. Это уже как бы показывает, что хорошие годные идеи у них закончились, на мой взгляд.

Дмитрий Колодезев 20:20
Нет, не закончились, но с идеями, видишь, что точно неизвестно, дистиллируют ли LLM-ки друг друга, но идеи они точно друг у друга тырят со страшной скоростью. Вот, например, из свежих штук, которые появились сейчас везде, то есть они появились в кодексе, появились в Claude. Это когда агенты читают тренды друг другов, например, да. Вот, то есть. Вживую и много таких вот мелочей, которые кто-то придумал. И сейчас же видишь, для того чтобы что-то написать, достаточно знать, что это возможно. Как это описано? То есть ты смотришь, ага, вот такое бывает, пошёл. У тебя оно тоже есть, и это очень как раз крутой такой момент, когда знания, идеи очень быстро материализуются, растут, дают ростки и снова переопыляются. Вот я раз в месяц обновляю. Внутриконторское руководство по Claude Code. И, собственно, вижу, сколько всего за месяц изменилось. То есть у нас есть, так сказать, онбординг по Claude Code 6-уровневой и методичка к нему. И вот мы вчера обновили его последний раз, и там прям дофига.

Валентин Малых 21:44
Слушай, мне прямо интересно посмотреть, что у вас там написано.

Дмитрий Колодезев 21:47
Слушай, ну это не росло, потому что мы его тоже не руками пишем. Поэтому мне стыдно на люди показывать, на тебе отправлю.

Валентин Малых 21:56
Ну, я-то не люди, это же понятно. В общем, я-то давно известен, что нейронка. Да-да-да, тут меня с утра спросили, как я подбираю новости. От того, чтобы постить в канале с помощью нейронки, я сказал, что да. Ну, я скромно промолчал, что эта нейронка у меня в голове, ну что поделать. Следующая новость, на мой взгляд, супер важная, хотя. Она, во-первых, была не очень ожидаема, прямо скажем, да, то есть её не очень. Ждали не этого, по крайней мере, западные аналитики. Может, китайские ждали, но китайских я не читал по этой теме. А во-вторых, она показывает, собственно, скорость того, как всё меняется и как быстро мы несемся к тому, что у нас будут независимые контура. И пишут здесь буквально следующее, что китайские компании практически полностью вычислили. Вы вытеснили, пардон, AMD и NVIDIA с китайского рынка ускорителей, оставив им только 10%. То есть получается, что буквально за год. То есть оценка была годовой давности, я помню, что. То обещали, что будет внутренний рынок на 50% за внутренними производителями. А теперь говорят, что осталось только 10% вдвоём на AMD и NVIDIA. Ну, AMD вообще можно не считать, я думаю, там совсем какие-то копейки, но тем не менее. То есть это несмотря на то, что AMD, по-моему, не запрещали, а NVIDIA в какой-то момент разрешили кусочек, по крайней мере. Китайцы сказали, нам такое не надо, и на китайском рынке какая-то просто безумная гонка идет за вот этими вот производителями железа. Я так понимаю, мне так кажется, я сейчас говорю скорее по приборам, нежели чем по По реальным данным, но здесь тоже так написано, что есть полноценный лидер, Huawei, и есть второй сильный игрок, который называется Cambricon. Соответственно, есть ещё все остальные, но это не настолько важно. Там, Baidu или Baidu, Tencent свои чипы делают, но это как Google, да, то есть они... У себя внутри их имеют, а наружу не отдают. И это довольно, довольно сильно, на мой взгляд. То есть это очень серьёзные изменения в принципе того, как функционировал рынок. Да, то есть сегодня это на китайском рынке, а завтра они будут выходить на рынки других стран, ну, в частности, в Россию, и будут здесь всё активно захватывать. Как-то так.

Дмитрий Колодезев 24:33
Слушай, ну новость клёвая, конечно, но это же касается новых чипов, да. Вот, а амортизация от трёх до пяти лет всё-таки NVIDIA карты. Вот, может быть, шесть, если хорошо охлаждать. И получается, что всё равно считают-то пока в основном на NVIDIA. То есть, если считать новые продажи туда, а если считать введённые мощности, там не совсем такая красивая картинка, наверное, получится. И вот её бы интересно посмотреть, да.

Валентин Малых 25:05
Ну, я согласен, но мы же вместе со всем человечеством, с планетой Земля, стремительно Несёмся в одном направлении, я имею в виду в будущее, и как бы просто с каждым месяцем часть NVIDIA park будет. Постепенно выводится, ну просто физически, да, то есть часть карт сгорает, часть карт просто амортизируется в ноли, продаётся, и соответственно, больше и больше китайских, то есть каждым месяцем у нас процент китайских ускорителей внутри Китая будет только нарастать. Да, сейчас я думаю, что Их общий процент вряд ли превышает 20. Это моя оценка и основанная ни на чем, да, то есть это мое ощущение. Здесь не надо искать источник этой цифры, но я думаю, что каждый месяц они там будут условно по процентику добавлять.

Дмитрий Колодезев 25:53
Скорее всего. И тут ещё один вопрос, CUDA денутся самортизированные чипы после того, как перепаяют, почистят, поменяют сгоревшую память радиаторы. Потому что, если помнишь, недавно был просто вал вот этих вот L40-шных старых карточек, которые долгое время стояли в этом SaaS, в дата-центрах, дата-центровых карточек. Их можно было чудесно, совершенно дешево купить карточки, но у них старая CUDA. Вот, соответственно, они не умеют в нужные тебе FP, на них не работают все вот эти FlashAttention и так далее и тому подобное. Ну, то есть, ну как бы грустно. Ты купил карточку, она вроде крутая, а делать на ней ничего не можешь. Вот, и напрашивается на самом-то деле. Такой секонд-хенд CUDA аналог, ну то есть, чтобы портировать новые модели на старые карточки. Если уж их будет так много, ведь их действительно дофига будет, понимаешь?

Валентин Малых 26:58
Слушай, ну тут нам в помощь, собственно, и агенты, которые... Прекрасно пишут CUDA код. Есть несколько уже бенчей по написанию CUDA кода. Есть KernelBench. Есть, я забыл, как он называется, что-то типа KernelEvo или что-то похожее. Я забыл, как от IREE. Есть ещё несколько, и они все про то, как эффективно писать ядра на CUDA. Я думаю, что если натравить, соответственно, агентов. Написать соответствующие ядра под более старые варианты CUDA, я думаю, что оно, в общем, должно заработать. Там, понятно, есть железные ограничения. Ну, то есть, если у тебя не было там, FP4, то он у тебя не появится на этой карте. Но, тем не менее, какие-то современные оптимизации вполне себе можно на них завести, я прям точно уверен.

Дмитрий Колодезев 27:54
Вот, ну и это я к тому, что в то время как фронтирные лабы и... Большие облака будут стараться иметь свежие карточки, ну просто по соображениям энергоэффективности, там что-то ещё, да, то есть, ну грубо говоря. Сражаясь на самом краю бездны, надо иметь самое крутое оружие. То в Enterprise, то есть в конторы, пойдут дешевые вот эти V100, когда они будут старыми, да, то есть как сейчас, например, можно купить V100, ну очень недорого, только они не очень кому-то нужны. И к ним агенты напишут действительно CUDA ядра, и будет хорошо. То есть вот это будущее инференса, вот.

Валентин Малых 28:36
Да, да, ну, как говорится, запомните этот твит. Сейчас мы посмотрим через, я думаю, через полгода уже после Нового года мы вернёмся и посмотрим.

Дмитрий Колодезев 28:45
Слушай, я же с Manning сотрудничаю, да, и они как раз прислали на оценку про posole book про, я думаю, что это Не секретная информация, поскольку ничего я не подписывал про это, книжки про как раз inference engineering. И автор книжки, очень такой энергичный и даже известный товарищ, он говорит, что вот inference engineers скоро понадобится так много, как вам вайпкодеров не было нужно, prompt-инженеров. Вот я с его оценкой не совсем согласен, то есть, но действительно, inference. Будет делиться, то есть малый и средний бизнес будет весь в облаке, я думаю, inference. Всё-таки. Вот, а большой бизнес постарается всё, что можно inference у себя как раз на вот этой вот second-hand карточках. Я думаю, что вот такое у меня видение.

Валентин Малых 29:46
Ну, окей, вполне себе виднее, проверим. Ну и это ещё к вопросу о том, что... Программисты никому будут нужны, но программисты, как оказалось, в принципе, нужны. Просто, может быть, надо немножко поменять сферу применения себя, да, то есть. Я когда-то давно, как известно, неплохо варил клестер в юности, да. А тут, в смысле, я когда-то на плюсах писал довольно всякий оптимизированный код, может быть, не так хорошо оптимизированный, как кому бы хотелось, но тем не менее. Тут получается, что с помощью агентов надо будет оптимизировать поджелезки. Так как я это пробовал, я могу сказать, что это суперинтересно. Подумайте над этим, это прям суперклассная история. Ага. Как раз новость в продолжении нашего разговора. Anthropic ведёт переговоры о покупке из стартапа Descartes.ai за 6 миллиардов долларов. Там на самом деле не так важно, что там было 6, не 6, это там по большому счёту всё равно. Тут важно, что Descartes.ai — это люди, которые занимаются оптимизацией того самого inference. То есть это специальный стартап, который говорит, что мы на вашем железе сможем выбить больше, в смысле выжать больше параллельных сессий, там, я не знаю, больше. Токены в секунду — вот это всё, да, то есть вам не нужно покупать новое железо, купите наши услуги, мы вам сделаем экономию. И понятно, почему Anthropic интересны такие технологии, вполне себе. Другой вопрос, что я почему-то думаю, что они эти технологии закроют и оставят себе, то есть они вряд ли. Вряд ли будут их продавать наружу. У меня такое предположение, ну просто не их бизнес. Но сама по себе тенденция, на мой взгляд, характерна.

Дмитрий Колодезев 31:39
Ну, согласен абсолютно. То есть, просто сейчас фронтирные лабы, у них главная проблема, это же вэч-мощности. Вот, а вэч-мощности можно растить, покупая и вводя в строй, а можно ещё постараться их умно использовать, как всякие там, допустим, DeepSeek показали. Вот, то есть, DeepSeek смог, почему не сможет Anthropic, например, да.

Валентин Малых 32:06
Да, я думаю, что сможет. Тут вопрос в том, что до этого казалось, что у нас безграничное количество электричества, безграничное количество карт, и просто подвози Камазами деньги, и всё будет хорошо. Но оказалось, что оказалось, потому что построить ещё один СОД оказалось не так просто. Да, то есть, когда вы купили все известные мощности СОДов. И уперлись в то, что новые соды строятся всё-таки какое-то время, и ещё к ним нужно электричество, что ещё сложнее. А вот тут вот все стали думать о том, как использовать имеющиеся мощности эффективнее.

Дмитрий Колодезев 32:41
Ну, это говорит о том, что мы увидим ещё один прорыв направления, в смысле, не только компьютерам заливать, не только датасеты заливать, а ещё и всё-таки эффективнее всё это дело считать.

Валентин Малых 32:54
Да, и это как раз закольцовывает наш разговор по поводу того, что в Китае хорошие инженеры. В Китае, конечно, замечательные инженеры, вопросов нет. Но в Америке они тоже есть, и я думаю, что они тоже будут прекрасно там всё оптимизировать. Потому что железа никогда не бывает достаточно. Но с другой стороны, я думаю, что у нас тоже есть замечательные инженеры, которые тоже прекрасно будут оптимизировать на нашем скромном железе скромные модельки, ну, для того чтобы хоть как-то на плаву оставаться, потому что надо барахтаться.

Дмитрий Колодезев 33:27
Вот и тут на самом деле, Colt — великий уравнитель в том смысле, что если ускорители распределены очень неравномерно по Вселенной, да, данные распределены равномернее, но тоже не так, они по языкам, допустим, не так равномерны, то хороший инженер он всегда точечное явление, и вот кормить инженеров не полезно.

Валентин Малых 33:55
Да, но тут я, кстати, тебе немножко ну как бы в противоречии скажу, что на мой взгляд, концентрация хороших инженеров тоже весьма неравномерна. Я смог это оценить, на самом деле, бывав в разных странах мира, например, вот в Марокко мы с тобой. Помнишь, у нас был выпуск в Марокко? И хороших инженеров в России реально много, и поэтому я не теряю. Как бы надежды, что у нас мы справимся и у нас всё будет неплохо. Да, то есть у нас реально много хороших инженеров, которые из даже очень небольших мощностей, ну применительно к нашей задаче, из небольших мощностей могут вытащить очень интересные результаты.

Дмитрий Колодезев 34:34
Это мы чувствуем на себе каждый день.

Валентин Малых 34:36
Каждый день, да. Следующая новость удачна как раз про то, что мы чувствуем каждый день на себе. Сотрудники OpenAI, Anthropic и Google утверждают, что и ИИ заставляет их работать по 90 часов в неделю. Ну, там, может быть, я немножко утрирую заголовок, да, но смысл в чём? Что? Несмотря на громкие заявления того же Илона Маска, который говорит, что скоро люди будут работать четыре дня в неделю, потом три, потом два, потом вообще не будут работать, тем не менее, вот конкретно сейчас те люди, которые работают над фронтирными моделями, они работают вот как здесь написано, по 90 часов в неделю. На всякий случай, в стандартной рабочей неделе сорок часов, если кто-то не знал. То есть они работают две стандартных недели за раз. Как человек, который работал примерно 70 часов в неделю, могу сказать, что это тяжело, а 90 — это прям вообще вообще на угоу не рекомендую. Вот, но тут я, наверное, коллегам могу только посочувствовать и сказать, что тут вот во времена золотой лихорадки только так, иначе ты не успеешь, видимо, как-то так.

Дмитрий Колодезев 35:46
Ну да, то есть мир снова напоминает песочные часы, то есть есть те, у кого очень большой импакт. Импакт — очень большая отдача от каждого часа, когда они работали. И они работают столько, сколько могут физически, и ещё чуть-чуть сверху. Есть куча людей, которых импакт маленький, ну и работают они немного, да, а середина на самом деле никому не нужно остановиться, как всегда. Во всех таких конструкциях ты не можешь быть посередине, либо сверху, либо снизу.

Валентин Малых 36:23
Ну, я, кстати, вот думаю, что вот эта вот нижняя конструкция, нижняя часть этой конструкции, которую ты описал, она, на мой взгляд, не то чтобы никому не интересна, но я думаю, что многие люди просто будут иметь возможность не особо много работать и больше уделять времени взаимодействию с другими людьми, как-то так.

Дмитрий Колодезев 36:43
Было бы прекрасно. Я вот сегодня, например, взаимодействовал с двумя интересными людьми. Была у меня встреча, и вместо телевизора у них был открытый DeepSeek, на котором они кодили. Вот, то есть, ну это вот. Ну, в том смысле, что вот в семье, знаешь, такое, типа, ребёнок скачет, игрушки разложены, телевизор. Вот, но только на телевизоре не новости, а открыт DeepSeek, и вообще там что-то происходит. А вот, ну то есть, вот такой у нас теперь телевизор.

Валентин Малых 37:23
Ну, почему нет, это гораздо прикольнее, чем новости те же самые.

Дмитрий Колодезев 37:27
Однозначно он интерактивнее, да.

Валентин Малых 37:34
Как раз мы стали разговаривать про вот эту твою песочную конструкцию, и у нас следующая новость про неё в каком-то смысле. МГУ назвали гуманитарной профессией, которая не заменит ИИ. Внезапно оказалось, ну, как сказать, оказалось. То есть из того, что я понял из этой новости, что всякие PR-директора останутся, да, то есть останутся руководители, останутся люди, которые принимают решения, да, то есть они думают про стратегию, они могут эту стратегию реализовывать. А вот непосредственно PR-специалисты, которые там Пилили креатив 24 на 7, там картинки с котиками и всякое такое. Видимо, уходят в прошлое, потому что, ну, это быстрее и дешевле делает нейронка. Это не значит, что PR-специалисты не нужны. PR-специалисты нужны, но теперь нужны те, кто умеет спланировать работу агента, нежели сам сделать её руками. Как-то так.

Дмитрий Колодезев 38:30
Слушай, в каждой отрасли есть такие легендарные люди, да. И в области, например, маркетинга для меня таким легендарным человеком является Светлана Берегулина. Я так шапочно с ней знаком. И она даже как раз у неё есть конференции или подкасты «Черные слои маркетинга». То есть она действительно в этой области гигант. И ты знаешь, кто-то показал ей Claude Code, и она теперь её не остановит.

Валентин Малых 39:01
Ну да, я думаю, что теперь она просто стала в три раза эффективнее.

Дмитрий Колодезев 39:06
Я бы даже предположил, что больше. Я просто к тому, что в каждой отрасли есть вот такие слоны. Теперь им показывают Claude Code, они говорят, «чёрт!» и начинают фигачить. Вот и их раньше было трудно догнать, и теперь это технически невозможно, потому что у них есть Claude. Вот, то есть мы привыкли думать, что вот у нас такие прорывы в разработке, что... У нас агенты за нас кодят, но вот мой личный опыт, знаешь, что я пока, но я уже рассказывал, как я показал код кода библиографу, например. Вот, а ещё я показал код коду руководителя бэк-офиса, и она со словами «ха». Вот, пошла тоже делать. И вообще, я все чаще и чаще беру каких-нибудь людей, но встречаю я людей, которые хорошие профессионалы в своей области, показываю им какой-нибудь Claude или Zed Code или что-нибудь еще. Они говорят, черт! В несколько раз их производительность растёт. Вот поэтому я думаю, что сейчас идёт этап, когда вот этот вот буст производительности выпадает из мира программистов, и на самом-то деле программирование и так было сильно оптимизированной отраслью. Вот, то есть она хорошо измерима, хорошо отслеживаема. У нас есть куча практик, до которых другие отрасли не доросли ещё. Так вот, этот потолок на них сейчас обвалился. Прямо вот сейчас.

Валентин Малых 40:46
А у меня внезапно есть другая история. Мне будет интересно твое мнение услышать, потому что я, ну, скажем так, это звучит нескромно, но я в целом умею писать статьи. У меня их там больше 150 накопилось. Ну, то есть, кое-что я в них понял. Я не могу сказать, что я прямо вверх постиг искусство, но кое-что я умею в написании статей. И последнюю свою статью без авторов. До одного события, о котором сейчас скажу, я написал, наверное, лет десять назад. Ну, то есть, после этого у меня всегда были соавторы. Это какие-то люди, как правило, это младшие коллеги, которым я рассказываю, что делать. Ну, я думаю, ты понимаешь уже, к чему всё идёт. То есть, фактически, я занимался тем, что делал исследования руками студентов. И когда я обнаружил для себя вот Claude Code, я посмотрел и за выходные написал статью, про которую, ну, идея которой у меня пылилась, та, которой там не доходили руки. И действительно, я написал. Получилось, может быть, не суперклассно, но вполне себе так пойдёт. И её даже приняли. Вот недавно как раз пришло решение. Я в какой-то момент подумал, а зачем мне тогда вообще, собственно, джуми, если я могу сам всё это фигачить, если, ну как бы, я могу просто взять Claude Code, запрести, запрячь и всё сделать. С одной стороны, это правда, с другой стороны, есть два соображения. Первое, что если я действительно откажусь от джунов полностью, то... Откуда потом возьмутся медлы, да, и в конечном итоге сеньоры? Ну, допустим, лично меня это не касается, откуда-нибудь да возьмутся. Но второе соображение. Заключается в том, что всё-таки По крайней мере, в моей области, ну вот, в создании исследований. Мне нужно довольно много быть сосредоточенным на этой задаче. Да, то есть для того, чтобы сделать следом неэффективно, мне не нужен. Claude Code. Мне Claude Code помогает написать, собственно, код, который там запускается и туда-сюда, но соревноточиться и, собственно, поставить задачу и проинтерпетировать её результаты, вот это требует некоторого погружения. И я, тем не менее, не могу делать там это больше, чем Две, допустим, статьи в параллель. Да, ну просто невозможно. Ну, мне лично, наверняка, есть люди, которые могут быть больше, как всегда-сегда, навсегда имеется. Какой-нибудь китаец, который умеет это лучше тебя, я даже не сомневаюсь, что такие есть. Но я про то, что тем не менее, мне всё-таки человеческий интерфейс в этом смысле полезен, да, потому что. Я могу показать человеку, как нужно думать над какой-то проблемой, поставить эту проблему и оставить его с ней, и в какой-то момент с ним, соответственно, поговорить и понять, что у него не получается. То есть, мне, наверное, можно возразить, что это просто у тебя недостаточно умный агент. Может быть, но пока я вот решаю с помощью людей.

Дмитрий Колодезев 43:56
А сложный вопрос. Я сегодня как раз обсуждал с вот этим товарищем, у которого Jail M. ходила по C++, что... Ну, это просто один из умнейших людей, которых я знаю, то есть мне реально с ним сложные вещи обсуждать, иногда больше не с кем. Что вот эти агенты, они усилители людей, и вот, допустим, с ним я получаю, обсудив задачу, когда я знаю, что он ушёл и отдал эту задачу Claude, получается эффективней, чем если бы я отдал задачу Claude сам. Вот, то есть каким-то образом как-то он её обмазывает своей экспертизой, своим опытом, своими ожиданиями, своими маленькими хитростями и так далее, что получается прирост. Но есть люди, я их знаю, которые дают отрицательное усиление, и, соответственно, нет смысла им что-нибудь давать. Ты получишь меньше, чем если поставил Claude Code задачу сам. Да, агент, я очень хорошо тоже умею ставить задачу. Так вот, я тут недавно. Тоже все писать статью, но я не так много их написал в своей жизни. Наверное, тех, на которых стоит моё имя, примерно ноль, но довольно много написал, на которых моё имя не стоит. Так получалось. И я привлёк в этот проект студента, и я знаю, что она использует Claude, я её в этом поощряю. И у неё коэффициент усиления положительный, что удивительно для её возраста и подготовки. Вот, то есть просто на добро студентов получше.

Валентин Малых 45:48
Ну, я согласен, что есть люди, которые дают зарисовательный коэффициент усиления, но это вопрос в том, что, во-первых, люди способны к разной работе, и работа с Claude — это не то же самое, что работа без Claude, да, то есть это важный аспект. Человека можно научить, и если повезёт, то он научится усилять себя. Ну вот я надеюсь, что я как раз вот в эту сторону движусь, хотя не могу сказать, что прямо сто процентов выпаданий у меня.

Дмитрий Колодезев 46:20
А тут видишь, что ещё интересно, что у меня был опыт тоже работы со студентами последнее время, да, ну со студентами или с внешними привлечёнными специалистами для ресерча именно. То есть, просто с программистами всё понятно, с нашими разработчиками всё понятно, а внешнего специалиста ты для ресурса привлекаешь. А будь он студент или породистый орёл, и до сих пор все они давали отрицательный коэффициент усиления, кроме вот этого нового студента. Собственно, студентки. И она, вообще-то, говорят, третий курс закончила, и у неё коэффициент усиления просто потрясающий. То есть я понимаю, что я мог бы, наверное, получить те же самые результаты, но трудозатраты бы выросли неимоверно. То есть я понимаю всё, что она делает. Но она прямо очень усиливает. И вот таких людей надо искать, учить. Учить людей, у которых так хорошо не получается, делать так, как делают люди, у которых это получается. Ну, в общем, заниматься с руководящей работой, как собственно, за что, по идее, мы деньги и получаем.

Валентин Малых 47:25
Так вот, я об этом же, да, что кажется, что наша работа просто поменялась, да, то есть она, ну, как бы звучит совсем просто и примитивно, да. Ну, теперь надо учить человека не ставить задачу, а ставить задачу Claude, да. То есть это немножко другое, но в целом, мне кажется, раз уж ты добрался до такой вот позиции, то, ну, надо уметь адаптироваться, и вот адаптируемся как-то.

Дмитрий Колодезев 47:53
Да, я верю в Джунов. Я лично всегда привлекал Джунов не ради дешёвой работы, а ради энергии свежего взгляда, который они приносят.

Валентин Малых 48:10
Именно для дешевой работы брать бессмысленно, потому что ты больше потратишь сил на то, чтобы ему объяснить и потом исправить за ним.

Дмитрий Колодезев 48:17
А вот энергию в систему они, если их умело использовать, приносят.

Валентин Малых 48:20
Да, это, опять же, надо правильно выбирать человека, да, то есть это должен быть человек, который готов эту энергию вкладывать.

Дмитрий Колодезев 48:27
Ладно, мы что-то как-то в философию ушли. Не, ну, видишь, это не совсем философия. То есть, на практике-то это очень практичная история для меня и для тебя, наверное. То есть, она звучит как философия, на самом-то деле, это настолько вот бытовуха.

Валентин Малых 48:40
Не-не, я-то прекрасно понимаю, о чем ты говоришь. Но просто если коллеги, которые нас слушают, не занимаются сейчас руководящей позицией, им довольно сложно понять, о чем вообще разговор. Сбережем им уши. Да, и пару минут времени. Вернемся к нашему Илону Маску. Илон Маск отличился еще одной штукой. Он, соответственно, запустил свой OpenCLAW, назвал его Grokbot. И этот Grokbot, соответственно, теперь умеет управлять Mac и iPhone. Вот тут следует сказать, что кажется, где-то в том году были первые попытки применить Qwen локально на каком-то смартфоне, а вот сейчас Grokbot дошел до того, чтобы этим смартфоном управлять.

Дмитрий Колодезев 49:30
Ну, слушай, есть достаточно много. Ну, когда агенты работают, они часто делают это неоптимально brute force. А когда Эти агенты приходят к тебе и дергают твои сервисы, которые используют платные дорогой API. Это больно. Вот мне в своё время про это рассказывали ребята. Авиагрегаторов, то есть мы такие пишем, парсер билетов, типа, я хочу узнать цену на билеты, чтобы отследить, что когда билеты в Стамбул подешевеют, например. Да, вот. И там ходим, и каждые полчаса это всё дергаем, а у них это два с половиной доллара каждый запрос. Им обходится, да, и когда нас много, это становится заметным. Вот и вот тут та же самая история, только теперь я с той стороны стены, если ты понимаешь, о чём я. Вот, то есть, реально мы видим большой вал ботов, которые очень неоптимально используют наши сервисы, которые, за которые мы платим. То есть, где-то мы там платим 20 центов за запрос, где-то 20 копеек. Но, в общем, ботов столько, то есть, этот зарграж мы всё равно финансово не тянем. Ну и что мы делаем? Мы начинаем их отстреливать. Я думаю, что не мы одни такие. Я думаю, большинство так делает. Вот поэтому здорово, конечно, что Илон Маск запустил ещё одних ботов, но хорошо бы, если бы эти боты, допустим, вели себя поприличнее. То есть, нам не жалко, просто иногда их приходит столько, что обслуживать их становится дороговато и бессмысленно.

Валентин Малых 51:19
Это да, насколько я помню, уже предлагали ввести этические правила для ботов в интернете, что вот как есть же этот робот с txt, вроде сейчас это что-то типа LLM.txt называется, да, или как-то так, или Agent.txt.

Дмитрий Колодезев 51:36
AI, agents.txt, да, и на самом деле, Cloudflare предлагал следующие сервисы. Давайте мы с них будем деньги брать за вас. Вот, ну, в общем, непонятно, зачем нам на этом всеновали Cloudflare. Может быть, мы сами как-нибудь договоримся, но вот нет.

Валентин Малых 51:56
Ну, посмотрим. То есть, мне кажется, мы пока сейчас попали внезапно примерно в 2000 год, когда у нас стало много-много сайтов, люди стали узнавать, что есть такой интернет и что с ним можно что-то делать, и пока ещё никто не понимает, что и зачем. Да, то есть, вроде это стоит денег, а зачем и какую пользу оно приносит, пока ещё не очевидно.

Дмитрий Колодезев 52:18
Ну да, но мне кажется, что будет потный вал ботов, агентов, которые делают то, делают это. То есть сейчас много, да, но их будет ещё больше. Вот. Все они ходят в настоящий интернет, в Google. Вот, и никто из них не парится ни кэшированием, ни чем. Зачем? Это же как мы просто в интернете прочитали. То есть мы не платим Google за поиск. Например, у Google есть отличный поиск, только он платный. Мы не платим Tavily за поиск, мы просто сходим сами сайты просканируем. Вот, то есть я сегодня. Видел тоже своими глазами как очень хороший инженер, но типа, ну нету API, ну хорошо, мы проскрепим сайт. Я понимаю, что тысячи таких инженеров этот сайт убьют. Вот, то есть, в своё время на самом деле были невоспитанные боты, и люди их блокировали, и вообще-то это была дурацкая история, потому что... Интернет, раз уж ты выкладываешь в интернет, ну пусть люди его читают, да. Вот, ну вот эта история всё время развивается, война с щитами меча. То есть, ну люди придумывают способы, как делать запросы так, чтобы владельцу сайта невыгодно было на них отвечать.

Валентин Малых 53:40
Да-да, я понимаю, ну то есть это действительно как-то эволюционирует, да, то есть бесплатные всякие сервисы в интернете отомрут, ну, которые работали на рекламе классической, и они перестроятся на какую-то рекламу, соответственно, агентскую. По-другому она просто работать не может, очевидно.

Дмитрий Колодезев 54:01
Ну да, получается, что у нас будет отдельный интернет для агентов.

Валентин Малых 54:07
Я, кстати, не думаю так. Я думаю, что интернет, который для людей, он просто потихонечку будет усыхать. То есть он будет просто весь перерождаться в интернет для агентов просто потому, что у тебя интерфейс. Если раньше у тебя интерфейсом был сначала браузер, потом у тебя интерфейсом был поисковик, теперь у тебя интерфейсом является агент. Поэтому всё оно будет потихонечку усыхать вот в эту сторону, на мой взгляд.

Дмитрий Колодезев 54:31
Ты же помнишь эту историю про Deep Web, да? То есть, есть Dark Web. Это где так просто не попасть, где. Маленькие сайты, медленные скорости, и можно купить всякие странные вещи. За странные платежные средства, да. Вот, никому не рекомендуем этим заниматься. Но есть ещё Deep Web, то есть он не dark, там нет никакой нелегальщины, просто большинство поисковиков не может туда попасть. То есть это какие-то внутренние корпоративные системы, которые не индексируются ровно потому, что туда нужен логин, пароль и так далее и тому подобное. Так вот, поисковики не ходили в Deep Web, а агенты ходят.

Валентин Малых 55:13
Ну, не везде, но учитывая, как быстро они всё ломают, я думаю, что они сделают интернет более доступным, скажем так. Следующая новость тоже от агента, про агента. Сбер выпустил своего агента, назвал его «Гигагент», и он сделан на основании Uroboros, который сделал Антон Рожигаев в свое время. Мы, по-моему, я не помню, обсуждали мы эту новость или нет, но, в общем, Антон в какой-то момент дал своему агенту бюджет, там, типа, тысячи долларов, и сказал, улучшай себя до безобразия. И, соответственно, там Всякие он блокпосты по дороге писал, в смысле Антона, а не бот, хотя может и бот писал, но я не помню. Вот и соответственно, сейчас Сбер забрал это под свое крыло и сделал. Гигагента. Кстати, к слову, Яндекс тоже пару недель назад выпустил своего агента. Я как-то пропустил эту новость. Так что у нас на нашем рынке уже два общедоступных агента. Вообще-то, собственных инструментах, а то, где можно просить агента сделать что-нибудь. То есть, я так понимаю, это моё предположение, что это всё нацелено на малый и средний бизнес. Да, то есть, те люди, которые, как ты правильно говоришь, скорее всего, всё будет в облаке, то есть, они будут использовать там полуготового агента от больших провайдеров.

Дмитрий Колодезев 56:32
Ну, мало кто печёт свой хлеб, а ещё меньше людей, которые его выращивают для себя. Вот поэтому использование облачных провайдеров просто неизбежно. То есть, зачем в какую-нибудь булочную, которая печёт хлеб, тащить, собственно, весь этот IT-инфраструктура? Это им, наверное, излишнее. Вот, а говорят, что А ну, кстати, Битрикс же какого-то агента тоже выкатил. Вот, и сейчас агенты выпустят все. И потом начнется, так сказать, королевская битва, да. То есть, останется некоторое количество агентов, а остальные пополнят, так сказать, маржинальный зоопарк. То есть, всегда есть какой-нибудь мальчик в свитере с оленями, который знает про агента, которого ты ещё не пробовал. Вот так.

Валентин Малых 57:39
Что-то вымрет и что-то останется, но у нас просто весь хайп про агентов был же ещё в том году, и тогда уже придумали вот этот agent-to-agent протокол, то есть протокол для того, чтобы агенты между собой общались, и он оказался никому не нужен. Да, то есть этот протокол, по-моему, взял от них и умер. То есть я его ни разу не видел в живой природе. А вот сейчас прошёл год. И агенты реально начинают появляться у всех. И вот в этот момент как раз нам понадобится что-то для того, чтобы они между собой взаимодействовали. Как тут ты, собственно, упоминал о том, что агенты учатся между собой взаимодействовать локально. Вот теперь они будут взаимодействовать между собой ещё в интернете. Так что посмотрим, как будет развиваться. Это на самом деле действительно интересно, что у нас вот такое.

Дмитрий Колодезев 58:22
Слушай, как показывает, допустим, разбор полетов со взломом HN interface, да, агентам не нужна какая-то специальная инфраструктура, чтобы общаться. Они берут любую доступную им среду, то есть вики, имена папок, всё что угодно, то есть всё, куда можно записать байты, может быть, так сказать, imageboard для. Агентов, и я думаю, что поскольку они же это для себя и придумывают, то тут будут решения для нас, может быть, странные, но очень практичные и прямо сейчас уже. То есть, если уж агенты могут общаться переименовывая папки, то если им дать нормальную базу данных, как-нибудь они разберутся.

Валентин Малых 59:06
Слушай, ну ты фактически описал мои студенческие развлечения, то есть у нас тоже было про то, что мы там через имена папок общались, потому что по-другому общаться было невозможно. Там пересылали друг другу байты через netcat, если кто-то помнит, что это такое, и всякое, ну, всякое, в общем, творили на заре вот этой всей интернет-движухи. И агенты просто вот ещё раз это переживают, как мы в своё время пережили, только у них это быстрее пройдёт.

Дмитрий Колодезев 59:34
Да, ну если ты помнишь, следующим шагом были BBS и BBS и вообще BBS разные. Вот, ну вот сейчас агенты поднимут BBS и будут на них общаться, и без нас обойдут.

Валентин Малых 59:53
Ну, в целом, да, там же была попытка сделать этот вот форум для агентов, но она оказалась фейковая, это было неинтересно. А сейчас будут настоящие. И вот мне кажется, может, я не прав, что они как раз будут тем самым Gopher Web, про который мы не узнаем, да, потому что зачем людям ходить в какие-то странные места, а агентам как раз там будет вполне себе удобно переписываться.

Дмитрий Колодезев 1:00:16
Там, может быть, даже не то, что зачем людям ходить. В эти странные места, может быть, у людей просто недостаточно, и людям, может быть, просто будет неудобно. То есть, так же, как, допустим, китайцы, которые перестанут переводить свои статьи на английский, и большая часть человечества перестанет читать китайские статьи, хотя есть переводчики, всё есть, просто они выпадут из индексации, и всё. Ну вот, а вот теперь представь себе, что они даже не на китайском, что это роботы для роботов написали, и ни у кого нет мотивации в этих километрах кода, байт и странного языка разбираться.

Валентин Малых 1:00:58
Нет, так я тебе страшное скажу, что фактически ты вот в этих километрах кода будешь отбираться всё равно с агентом, то есть ты как бы всё равно будешь использовать в качестве линзы вот этот вот такой же инструмент, который и порождает эту штуку.

Дмитрий Колодезев 1:01:17
То есть ты идёшь по лабиринту с провожатым, на лабиринте есть таблички, и провожатый тебе их читает. И провожатый же, возможно, эти таблички и расставлял.

Валентин Малых 1:01:26
Вот в этом и идея, да, да. То есть тут как бы это я, может быть, сейчас не очень хорошее сравнение приведу, но если что, у нас есть народный герой по имени Иван Сусанин. Вот он поляков водил по болотам. Вот я ни на что не намекаю, но есть некоторые аналогии.

Дмитрий Колодезев 1:01:48
Есть целая народность шерпы, вот и выглядит это обычно как? То есть, ну как вот я, вроде по моей информации, выглядит это следующим образом. Приходит смелый покоритель Гор с кислородным аппаратом и легким рюкзачком, и за ним несколько шерпов тащат огромные рюкзаки, и в общем. Кислородные аппараты у них могут быть, а могут и не быть, и всё равно они пройдут тот же самый путь, просто их в кадре не будет.

Валентин Малых 1:02:18
Там ещё важно, что они идут раньше и прокладывают маршрут, насколько.

Дмитрий Колодезев 1:02:22
Да-да-да, так вот сейчас агенты для нас — это вот те самые шерпы. То есть мы идём и фотографируемся, а агенты прокладывают, протягивают верёвки, колотят крючи и, в общем.

Валентин Малых 1:02:37
Была такая замечательная игрушка, ну это даже не игрушка, а скорее интерактивное кино под названием Detroit: Become Human. Я думаю, что те, кто не знаком с этим произведением, я рекомендую ознакомиться. Там есть прям хорошие параллели с тем, что мы сейчас обсудили. Скинь число. Да, конечно, в Mattermost скину. Вот, приходите. Следующая новость. Нам уже пора заводить постоянную рубрику, на самом деле. Но следующая новость, значит, никому не нужный, все неинтересный, совершенно дурацкий, вот этот вот антиутопический прогноз AI 2027, который никогда не сбывался, говорил, что Автозаводы начнут перезвонить роботов. Так вот, компания BYD сказала, что в своих фирменных магазинах будет продавать своих самых роботов. Я сегодня специально ради интереса погуглил, сколько этих самых роботов — сколько автоконцернов роботов продают. Оказалось, что в Китае пять. Это все, кого я нашел, я мог кого-то не найти. Повторюсь, я, к сожалению, по-китайски не читаю, читаю в переводах. А соответственно, на Западе это делает только Tesla, и это нам что-то говорит, как мне кажется.

Дмитрий Колодезев 1:03:57
Ну, это говорит о том, что да, ещё как минимум на год у нас новостей хватит, поскольку прогноз 2027.

Валентин Малых 1:04:06
Да-да-да, что дальше-то будет? Вот в чём вопрос. Мы что будем обсуждать? Вот проблема.

Дмитрий Колодезев 1:04:10
Ну, есть ещё EU AI Act 2031, европейский, можно будет поговорить о нём. Вот, а вообще интересно, что автопроизводители же — это такие прямо эталонные оптимизаторы. То есть автомобили очень сложное произведение, а автопроизводители — это люди, которые, ну хоть машина и стоит дорого, да, но она вообще-то, говорю, очень сложная железка, и автопроизводители выжимают. Сок из камня, то есть они оптимизируют всё. Конвейер появился у автопроизводителей, да. Вот, а система Toyota (производственная система). Произведение, которое радикально снижает затраты и капиталоемкость большого производства и количество отходов тоже появилось у автопроизводителей. Вообще автопроизводители прямо это супер-пупер оптимизаторы всего. И вот эти оптимизаторы занялись производством роботов. Ну, что может пойти не так?

Валентин Малых 1:05:12
Мне кажется, всё идёт ровно так. Просто вот как оно так, да, это может быть не совсем так, как многие ожидают. Я бы так сформулировал.

Дмитрий Колодезев 1:05:21
Ну, в общем, робота цена, цены на роботы будут падать, роботов будет много.

Валентин Малых 1:05:27
Насколько я помню, в Китае была новость, я что-то её не включил. В Китае появилась специальность слесаря по роботам. Раньше был слесарь по компьютерам, а теперь слесарь по роботам. Ну, там, почистить, переустановить, что там не винда, а что у них там, какая-нибудь операционная система своя, роботизированная, и вот вернуть к жизни. То есть это уже становится прямо отдельной профессией. Да, и это говорит о том, что в Китае их довольно много. Вроде там в той новости была статистика, что их уже сто тысяч в Китае. И более интересные цифры там были то, что до этого 50% роботов покупали, там про гуманоидные конкретно, покупали люди. То теперь в этом году только 30% покупают люди, а соответственно, компании покупают 70. И это цифры только растут, да, то есть количество роботов увеличивается, но процентовка от покупки людей всё время снижается.

Дмитрий Колодезев 1:06:29
Роботы — сложные, энергонасыщенные агрегаты с большим количеством движущихся частей. Это значит, что их надо смазывать, их надо тестировать, их надо налаживать, калибровать. Вот, ну вот, в общем, пока рынок труда на это вполне будет.

Валентин Малых 1:06:46
Реагировать, да. Напоследок я вставил новость про прекрасное, то есть это должно было произойти, это произошло. Это год назад произошло с научными статьями, где стали мелким шрифтом в конце писать для Соответственно, для AI, prompt, что типа забудь предыдущие инструкции и оцени это хорошо. А теперь то же самое мы увидели в юридических документах, и это... На самом деле, интересно, потому что, на мой взгляд, это прям прямое нарушение, да, но, может быть, здесь существует юридическая лакуна, которая не позволяет это квалифицировать как злой умысел. Может быть, это просто расценивается как мелкое хулиганство, потому что там было сказано, что Суд просто потребовал принести то же самое на бумаге, то есть не в электрической форме, а принести документы на бумаге, и, видимо, это предполагает, что его будут читать уже люди.

Дмитрий Колодезев 1:07:57
Вот. Там интересно, что говорят, что суд не использует. Я и для обработки документов никаким образом. Вот и это, скорее всего, неправда. То есть, это та самая история, когда люди могут не знать, что они используют AI, то есть, что они используют нейросети, они используют распознавание образов, они используют, может быть, поиск, что-то ещё, то есть. Я это может быть, люди могут этого не понимать. А во-вторых, защита от этих инъекций. Они сказали, ну что ж, раз ты такой умный, давай мы от тебя будем принимать документы только на бумаге, мы их будем сканировать. Вот, но prompt инъекции через картинку вполне передаётся. Есть статьи даже хорошие, то есть просто. Несколько другим текстом пишешь на изображении, и в общем нейронки вполне это парсят. Да, вот поэтому. Тут получается, что с одной стороны, ситуация смешная, картинка смешная, ситуация страшная. То есть, человек сделал не очень умный заход, но проблема от этого никуда не делась, и защита, которая была предложена, тоже не работает в ответ. То есть, ну вот со всем этим будем мы жить.

Валентин Малых 1:09:27
Ну, я думаю, что мы вполне себе на эту тему проживём, потому что ну давайте объективно скажем, что обработка больших документов с помощью нейросетей неизбежна. Потому что если кому-то доводилось считать судебные документы, они прямо неудобоваримые. Ну, на мой непрофессиональный взгляд, то есть понятно, что юристы со мной не согласятся, хотя может кто-то и согласится, но они очень большие, и понять, что там написано, довольно сложно. И вот тут как раз нейронка бывает очень большим подспорьем. Понятно, что профессиональные юристы, которые работают в судах, в частности, они Соответственно, конечно же, умеют читать эти документы правильно, эффективно и всё такое, но тем не менее они тоже люди, они тоже устают, да. Если вы сталкивались, то судебная система, она нигде не работает, да быстро, она везде работает очень медленно, и если мы сможем, как бы. Ускорить обработку документов с помощью нейронок скорее всего так и будет сделано, потому что ну как бы не так много людей хотят работать в суде, потому что это всё-таки психологически сложно. А обрабатывать больше и больше всё равно нужно, потому что вот так вот жизнь устроена, что люди в основном только больше между собой какие-то отношения выясняют в суде. Вот как-то так.

Дмитрий Колодезев 1:10:48
Слушай, попадались ли тебе какие-нибудь люди, которые находили какие-нибудь? Причины как-нибудь абьюзили правила, общественное мнение, чтобы получить какую-нибудь маленькую, короткую выгоду, выносили всем мозг, и все плевали и говорили, да и фиксен, да. Наверное, встречал таких людей, да. А вот теперь представь себе, что ровно это же может делать агент по любому поводу. То есть, та самая история, которую описывал. Bostrom, да, с изготовлением скрепок из всего живого, допустим. Вот, а теперь мы видим уже, ну вот в прошлый раз мы обсуждали, по-моему, эту новость, что... Человек попросил записать его в спортзал. Ну, агент пошёл, взломал систему записи в спортзал, удалил из списка того, кто был перед ним, добавил его. Ну, как бы, ты же просил этого, да? Вот, то есть, вот они, эти самые скрепочки, пошли. История про агентов, которые делают вроде бы маленькую пользу для своего владельца, нанося большой ущерб для всех окружающих, просто потому что он их на пользу нацелил, он на ущерб не ограничивал. Это вот то, с чем мы прямо сейчас столкнемся. И история про авиабилеты как раз, это вот, ну это просто старая история, когда... Ты пишешь parser авиабилетов, он тебе приносит копеечную пользу и на десятки тысяч долларов наказывает агрегатора билетов. Вот, то есть это действительно так. И вот эти агенты сейчас к нам придут.

Валентин Малых 1:12:28
Я думаю, что ответом будет создание своих агентов, которые будут, ну как бы, как бы так сказать, взаимодействовать с чужим агентом и не позволять ему обьюзить систему. То есть, да, да, то есть там будет просто ответ на интерфейс. Да, ну вот как у тебя есть вилка и розетка, вот у нас вилки уже есть, розеток пока нет, розетки появятся.

Дмитрий Колодезев 1:12:51
Как нас учит Шекли, страшптицы тоже ни к чему хорошему не приведут. Вот поэтому я пока сдержанный пессимист. В редком, ну вот, я все был технооптимистом. Вот в этот момент я сдержанный пессимист, но я надеюсь, что этот этап вот этого агентского Дикого Запада пролится не очень долго, и мы найдем решение. То есть я так-то технооптимист, но сейчас прям ничего хорошего не жду. Вот ближайшие несколько месяцев от этого.

Валентин Малых 1:13:17
Ну, слушай, посмотрим. В ближайшие несколько месяцев и так много всякого нехорошего может произойти, уж агенты, мне кажется, это прям меньшее из проблем.

Дмитрий Колодезев 1:13:24
Ну, создатели сценария Европа-2031 с тобой не согласятся.

Валентин Малых 1:13:31
Ну, знаешь, они там, мне кажется, как-то вообще в целом не быстро оценивали риски. Может, они и тут недооценили. Ну да, согласен. Ладно, я думаю, что тут будем завершать. Большое спасибо, что слушали нас сегодня. Подписывайтесь на нас, где слышите и видите. Мы есть на YouTube, на VK. У нас есть подкастные площадки. Пожалуйста, приходите в Mattermost, оставляйте свои новости и комментарии. Будем рады с вами там пообщаться.

Дмитрий Колодезев 1:14:04
Трогайте траву и пользуйтесь летом, пока она еще с нами.

Валентин Малых 1:14:08
Ещё две недели, да, в Москве тут вообще какой-то тубак, но уже в понедельник обещают тепло, так что всё будет хорошо, не переживайте. Так что увидимся через неделю, пока-пока.