- 25.10.2026
- 25.10.2026
- подкасты
Сорок второй выпуск второго сезона подкаста "Капитанский мостик" про искусственный интеллект, будущее и все такое. Ведущие подкаста — Валентин Малых и Дмитрий Колодезев
Площадки
- Youtube
- RuTube
- VK Video
- Дзен
- Звук
- Аудио
- Канал для вопросов в mattermost ODS.AI
- Как попасть в чат ODS.AI
Содержание
- 00:00:00 введение
- 00:01:57 агенты лезут в кошелек
- 00:11:24 я буду декомпилировать все игры
- 00:26:25 формализация всей математики
- 00:32:05 статический анализ для всех
- 00:39:23 аквариум от Саканы
- 00:45:06 Anthropic вложит триллион
- 00:49:54 видеокарта на 480 Гб
- 00:54:12 ускорение кода на лету
- 01:01:36 OpenAI победила COBOL
- 01:05:28 закладки в моделях
- 01:10:46 робот-телохранитель
Валентин Малых 0:02
Всем привет. С вами, как всегда, Валентин Малых и Дмитрий Колодезев. У нас новый выпуск Капитанского мостика. Мы всё преодолели и всё-таки смогли его записать. Вот, что у нас важного происходит в жизни? Вроде, да, появилась несколько метапов на УДС. Один в Алматы, один в Красноярске. Если вам это актуально, пожалуйста, посмотрите и приходите, приезжайте. Мне кажется, что должно быть интересно.
Дмитрий Колодезев 0:32
А, ну, ещё сайт УДС заработал в полном объёме, можно снова ходить с мостом, регистрироваться, и вообще всё хорошо. А, жизнь налаживается. А ещё, наверное, у нас будет в январе метап по causal inference с Ирой Голощаповой. Нам у нас будет анонс про это дело отдельно, потому мы пока детали ещё не знаем.
Валентин Малых 0:52
Угу. Ну, по поводу восстановления работы сайта кто хотел соответственно, пройти мой курс, но боялся, у вас снова есть такая возможность. Пожалуйста, приходите. И не могу не воспользоваться служебным положением, так сказать, и не сказать, что мы запустили вторую стадию нашего соревнования агентов. Так что приходите тоже, она вторая ещё интереснее, чем первая, там всё это надо в докере крутить. Так что харнесы, модели, вот это всё, прямо всё, как мы любим. Приходите, пожалуйста.
Дмитрий Колодезев 1:26
Слушай, ну раз уж у нас столько анонсов, давай ещё и про Open Divain скажем. У нас тут соревнования 7 ноября, мы его внезапно с Валентином Андреевичем ведём. Вот, то есть нужно взять китайский харнес Open Divain, и с его помощью решить задачу, которую никто ещё пока не решил. Ну это если кратко. Так звучит прикольно.
Валентин Малых 1:47
Неплохо ты так всех заинтриговал. Ну, в общем следите за анонсами, да, везде много интересного, пожалуйста, присоединяйтесь, кому что ближе.
Дмитрий Колодезев 1:56
Угу.
Валентин Малых 2:00
Я решил начать с вот этой новости. На мой взгляд, она не самая горячая, хотя некоторые люди со мной поспорят. Ну, вот немножко разомнёмся. История такая, что некоторые люди, конкретно с Куб, это такая контора которая занимается, хмм, давайте скажем по-простому, проверкой банковских операций, то они обнаружили, что некоторые ИИ-агенты, судя по всему от больших технологических компаний, они получили несанкционированный доступ к банковским аккаунтам своих владельцев, если можно так выразиться. А, и из этого, соответственно, проистекает то, что, во-первых, ИИ-агенты уже получают доступ к банковским аккаунтам, во-вторых, пока мы ещё это можем регистрировать, но подозреваю, что уже далеко не всё. Вот.
Дмитрий Колодезев 2:52
А я не очень понимаю, как у них там с двухфакторной аутентификацией в Штатах. У нас бы, наверное, так просто это не зашло после засилья всякого рода вирусов, которые крали банковские данные, у нас какие-то меры приняли. У них, по-моему, ещё непуганные совершенно банки.
Валентин Малых 3:12
А, в этом смысле, кстати, интересное замечание.
Дмитрий Колодезев 3:15
Ну, это, по-моему, возможно, что я отстал от жизни. А, и во всех фантастических рассказах, где разум искусственный обретает, так сказать, агентность, он сначала находит себе людей сторонников, Угу. Какого-нибудь одного, да. А, чтобы были руки. А затем он начинает заводить себе финансовую систему и способ, и и добывает какие-нибудь ресурсы. То есть он залазит в какой-нибудь банк и добывает ресурсы. Он с банка он оплачивает себе хостинг, с банка он открывает аккаунт на бирже, с банка он оплачивает услуги фрилансеров, которые помогают ему в его действиях и так далее и тому подобное. Ну, вот, скажем, мы находимся здесь.
Валентин Малых 4:04
Ну, да. Насколько мы близки к описанному Димой сценарию, я не берусь сказать. Я всё-таки думаю, что мы не совсем здесь, да, то есть у нас пока нет полноценного искусственного интеллекта, который оплачивает себе соответственно, свой хостинг самостоятельно. Но, может быть, это моя иллюзия, да, поговорим с вами через месяц об этом.
Дмитрий Колодезев 4:24
Ты знаешь что в у у экспоненты очень трудно какие-нибудь прогнозы строить. То есть ты чуть-чуть ошибся с текущим состоянием и и и всё. Вот. Ну на самом деле, может быть, что это уже было неделю назад или ещё больше. Страшно сказать, две недели назад. То есть время такое. Ну, если честно, я ожидаю, что всё это стрясётся весной. По-настоящему. То есть какие-то рубкие гуси будут летать, а, а весной закрутится. Ну, по-моему, это консенсус в отрасли, что весной нас ждёт крандец.
Валентин Малых 5:07
Ну, посмотрим, знаешь. Очередной.
Дмитрий Колодезев 5:09
Очередной.
Валентин Малых 5:10
Не не все, это самое, не все даже до зимы-то дотянут, а до весны.
Дмитрий Колодезев 5:15
Ну, да. Вот.
Валентин Малых 5:17
Многие переоценивают на самом деле свои возможности.
Дмитрий Колодезев 5:21
Опять же, видишь историю про массовый вал взломов тоже предсказывали на лето на следующее. А, оно идёт вторую неделю, то есть мы уже здесь. То есть взломы уязвимости, вот они мы мы находимся на гребне волны, сейчас она растёт.
Валентин Малых 5:40
Слушай, я не согласен, что это только вторую неделю, оно же началось вот с весны, собственно. Ну, с с лета, как максимум.
Дмитрий Колодезев 5:48
Оно началось, понимаешь, но именно сейчас оно пошло так, что сильные взломы, которые затрагивают меня, скажем, да, они случаются раз в день.
Валентин Малых 5:59
Угу.
Дмитрий Колодезев 6:00
То есть нас не взламывают, но мы так-то, в принципе, довольно-таки инфраструктурно озабочены, до нас и этой инфраструктуры-то не очень много. Вот. И мы вторую неделю, в общем-то, вот как как сурки вокруг неё бегаем с щитом.
Валентин Малых 6:17
Угу, угу.
Дмитрий Колодезев 6:19
Вот.
Валентин Малых 6:20
Ну, я согласен, да, то есть сейчас нам надо, собственно, пережить тот момент, когда нет адекватной защиты. То есть я подозреваю, это не только я подозреваю, у нас, по-моему, даже есть новость про это, про то, что кибербезопасность переживает очень серьёзную перестройку рынка, то есть сейчас кибербезопасность станет другой, причём глобально другой. И, судя по всему, у нас будут свои ИИ-модели, которые сражаются за нас в этой бесконечной битве роботов. Ну, на самом деле если кто-то думает, что раньше было по-другому, то я вас, наверное, спешу разочаровать. Все, наверное, слышали про Cloudflare, правда же? Хмм, вот откуда он взялся, на всякий случай, расскажу, да, если вдруг, опять же, кто-то не в курсе, что до того, как Cloudflare стал таким де-факто стандартом индустрии, понятно, что есть другие игроки, но это самый популярный. А, у нас периодически бывало так, что какие-то сайты ложились, а, под атакой ботнетов. Сейчас это всё практически не происходит, просто за счёт того, что есть какая-то инфраструктура, которая обеспечивает вот такой вот негативный трафик, она его канализирует. То есть я думаю, что мы как-то с этим переживём, да, то есть кто доживёт до зимы, там уже всё будет полегче.
Дмитрий Колодезев 7:41
Да, и по поводу моего любимого сценария европейского Европа 2030, да, ИИ 2030. Вот, или сколько там, а, там как раз Европа попала, потому что у неё своих моделей не было.
Валентин Малых 7:57
Угу.
Дмитрий Колодезев 7:58
И отбиваться ей никто не помогал.
Валентин Малых 7:59
Угу.
Дмитрий Колодезев 8:00
А, недавно, когда ломали Hugging Face, Hugging Face отбивался с помощью GLM.
Валентин Малых 8:05
Угу.
Дмитрий Колодезев 8:06
А, когда мы тут занимались сейчас всякими странными вещами с security, меня собственно самый мудрый из наших разработчиков спросил: "Слушай, а нас Клод вообще разрешит такое делать, хоть и со своей инфраструктурой?" То есть он, вообще говоря, позволит ли нам это делать?
Валентин Малых 8:25
Угу.
Дмитрий Колодезев 8:26
Вот. И непонятно. Я воздвиг себе на всякий случай DeepSeek 4.1, а, Qwen 3.8 Next вот этот вот, который
Валентин Малых 8:39
Угу.
Дмитрий Колодезев 8:40
Flash. То есть попробовал, убедился, что этот дробовик стоит за этой самой, ну, то есть, знаешь, как в зомби-апокалипсисе бензопила сгодится. Вот. К счастью, GLM нас не подвела, то есть GLM хорошо, прямо всё здорово, она умеет. Вот. Ну, тем не менее, дробовик за стенку поставил в шкаф.
Валентин Малых 8:59
Знаешь когда ты начал свою реплику, мне пришла в голову ассоциация когда ломали Hugging Face, я промолчал, да.
Дмитрий Колодезев 9:10
Ну вот тут же мир полон был таких вещей, как, допустим, истории про то, что, а, дескать разработчиков сетевого стека когда-то давно прижали в угол, Агентство Национальной Безопасности заставило их ослабить протокол, а, TCP, ну, вот NetBSD - это история, да.
Валентин Малых 9:34
А там потом же было ещё то же самое про SSH, там в SSH находили бэкдоры.
Дмитрий Колодезев 9:38
Да, вот, вот, вот. И казалось бы, ну, спецслужбы понятно, спецслужбы, они свой хлеб едят не зря, да, они, в общем, ходят и куда-нибудь внедряют, у них работа такая, им за это деньги платят. Но когда кто-то шифрует свои ключи числом четыре, говоря, это было случайное число, я его случайно выбрал. Ты же знаешь эту историю, да?
Валентин Малых 9:59
Да, да.
Дмитрий Колодезев 10:00
Вот.
Валентин Малых 10:02
Ну, как бы, действительно, я, кстати, даже не готов спорить с этим человеком, он бы действительно его случайно выбрал, но
Дмитрий Колодезев 10:08
Кто Ну, понимаешь, ну, кто бы мог подумать-то ведь, да?
Валентин Малых 10:10
Да вот, в том-то и дело, в том-то и дело, никто ж не знал, что кто-то тоже так выберет это же число, правда? Это было невозможно.
Дмитрий Колодезев 10:17
Да. Я к тому, что на самом-то деле, а, привычная нам инфраструктура, она с точки зрения серьёзной атаки - это, ну, как бы страна непуганных идиотов по-прежнему. Угу. Вот, просто потому, что экономически нецелесообразно было ковырять везде. Угу. А теперь ковырять везде на два порядка подешевело. Вот мы находимся здесь.
Валентин Малых 10:38
Ну, да. Ну и я хочу развеять негативное впечатление, которое могло сложиться, не факт, что сложилось, но на всякий случай, что так как стало на два порядка дешевле ковырять, ну, на два порядка дешевле стало и защищать, только не в том смысле, не не не так же, а надо тут по-умному всё-таки ковырять. Я считаю, что вот я повторю свой тезис, что кибербезопасность сейчас просто, ну, будет другой, да, то есть она не будет лучше, не будет хуже, она будет другой. Если вы хотели войти в кибербезопасность, сейчас самое время. Как-то так.
Дмитрий Колодезев 11:15
Согласен, абсолютно. Удивительные возможности прямо сейчас открываются.
Валентин Малых 11:19
Да, да. И не забывайте говорить, когда кого-то ломают, это важно. Следующая новость, я просто не мог пройти мимо, на самом деле, потому что это, а, вот это, без дураков, самое важное, что произошло ну, в целой индустрии, как минимум, на самом деле, в двух индустриях. Что произошло? Дело в том, что и агенты, харнесы, модели, как хотите, называйте, здесь в данном случае вообще не играет никакой роли, они стали настолько мощные, что они стали способны декомпилировать и эффективно декомпилировать код, так что пересобирать код с нуля. Ну, в общем, я про это у себя в канале писал, и вообще в целом это существует, здесь вообще никаких сложностей нет. Но проблема в том, что раньше это было уделом там трёх с половиной гиков, которые, которым было это интересно, да, ну вот, типа меня. А, соответственно, вот сейчас появились удобные инструменты, которые позволяют обычному человеку, который вне нашей тусовочки узкой который просто, например любил порубиться в какую-нибудь игрушку, а потом внезапно эта игрушка стала устаревшей, он больше не может этого делать на своём современном компьютере, просто взять эту игрушку и переписать. Или была у него любимая программка, ну, не знаю, блокнот, да, вот у него поменялся Windows версия, в смысле, и блокнота больше нет. И что делать? Да ничего не делать, просто взять и попросить зареверсить вот этого самого агента, который с удовольствием всё это сделает. И сейчас мы переживаем натурально революцию, я прямо, хмм, без без шуток, вот именно это слово употребляю, потому что раньше IT - это было что-то такое из сферы чего-то эзотерического, да, чему имели отношение какие-то странные люди в балахонах не просто так странные люди в балахонах во всех странных ситуациях появляются. И вот, значит, эти странные люди в балахонах периодически дурно пахнущие, они в целом обладали некими сакральными знаниями, как из стука по клавиатуре получить что-то, что помогает жить. Ну, например бороться со скукой. Как вариант. И только эти люди это могли. А сейчас получилась такая история, что это может, ну, любой школьник. И этот любой школьник, не обладая никакими навыками в программировании, а, он может сейчас сделать любую игру, хмм, как грабить корованы, суть такова. То есть и вот этого контента и так-то было много, да, то есть до этого школьники прикладывали какие-то усилия, теперь их даже прикладывать не нужно. И сейчас идёт такой вал по интернету, да, то есть даже меня затрагивает, хотя я к играм совершенно имею опосредованное отношение, далеко далеко опосредованное. И мы сейчас реально переживаем революцию того, что, хмм, вот этот контент развлекательный, да, то есть я извиняюсь, сейчас буквально на пару минут отвлекусь от текущей темы, это надо надо проговорить. Дело в том, что у нас греки придумали что есть некоторое количество, как мы сейчас говорим, развлекательного контента. Если кто-то помнит, есть три музы, да, есть, собственно, муза музыки поэзии и драмы. И соответственно, после этого базово было придумано не так много была был придуман кинематограф, и ещё одно искусство, которое не было придумано древними греками - это компьютерные игры. Ну, я думаю, что они бы его тоже придумали, но просто у них времени не хватило. А, история тут в другом, что появилась вот этот четвёртый тип искусства, который для многих людей старшего поколения, ну, как мы с Димой мы же из XIX века, как мы помним, они всё-таки остаются такими недостижимыми в смысле того, что их восприятие было за пределами того, что было нашим детством я сейчас специально утрирую, я-то как раз в компьютерные игрушки в детстве активно играл. И это очень сильно повлияло и на меня тоже. И вот они были вот тем самым сакральным искусством, которое многие школьники хотели научиться делать. Кто-то хотел снимать кино, а кто-то гнуть хотел учиться делать игры и за этим пошёл в программирование. А вот сейчас не надо уметь программировать, чтобы делать игры. И сейчас это просто какой-то всеподавляющий шквал. Я думаю, что такого количества сгенерированных сгенерированного видео, сгенерированных фильмов мы не увидим, потому что это сложнее для восприятия, то есть там нужно продумывать какие-то вещи, а игра она именно нарративно гораздо проще для первоначального построения. То есть понятно, что хорошую игру сделать сложно, но какую-то игру, да, просто реализовать какую-то базовую идею сделать легко.
Дмитрий Колодезев 16:18
Слушай, а есть два момента тут. А, первый - это если у вас есть документация к любому программному обеспечению, то вы можете попросить своего агента, чтобы он вам его сделал. То есть, если у вас документация на Adobe Photoshop, он его сделает. Или, например, в близкой мне отрасли раньше продажи были как устроены? А, ты приходишь к клиенту и говоришь: "Тебе чего надо?" Он говорит: "Ну, я хочу автоматизировать вот этот бизнес-процесс". Ты ему делал некоторую демку. Показывал, он говорит: "Ой, клёвая демка, я хочу такое впрот, вот тебе 1500 денег".
Валентин Малых 16:54
Угу.
Дмитрий Колодезев 16:55
Что мы теперь видим? Если я приношу клиенту демку, клиент говорит: "О, клёвая демка, товарищ Клод, сделай мне вот такое же, только своё собственное, да, чтобы этим жадным детям не платить". Вот. И таким образом каждый может сделать любое программное обеспечение, и он ограничен буквально только фантазией, правда?
Валентин Малых 17:02
Сразу. Угу. Угу.
Дмитрий Колодезев 17:15
Вот. А второе, мне тут попалось такое, один товарищ пишет у себя в Линкедыне: "Слушайте, я, говорит, за прошлую, говорит, неделю, говорит, сделал, говорит, две рек-системы, говорит, четыре парсера и пять ботов. И все их объединяет то, что они нафиг никому не нужны".
Валентин Малых 17:34
Угу. Ну, тут история-то в чём, что боты и парсеры это штука, которая нужна действительно ну, за деньги, да, то есть она теоретически должна помогать кому-то делать бизнес. Ну, то есть все IT-технологии, на всякий случай, это про то, чтобы облегчить людям жизнь. То есть у вас есть какой-то бизнес-процесс, и вы его автоматизируете. А вот с игрушечками немножко другая история, да, компьютерные игрушки в этом смысле, они самодостаточны, да, то есть если у тебя есть человек, которому прикольно просто ходить и пинать зелёные камни, не знаю почему, я просто сейчас прямо это придумал. Он просто возьмёт и сделает себе штуку, которая позволит ему ходить и пинать зелёные камни виртуально на своём ноутбуке. И у него, он сам является потребителем своего продукта, он сам сделает себе лучше, да, то есть это принципиально другой подход. Здесь не про продажу, а про то, чтобы как бы сделать себе лучше. Я думаю, что, хмм, вот эти игрушки - это то, что живёт очень рядом с вот этими автоматизациями с помощью AI-агентов, которые все себе плодят, и я не исключение. Да, то есть это штука, которая непосредственно тебе нужна, а никому в мире она, может быть, нафиг не нужна. И сейчас у нас максимум, что можно подсмотреть в мире, да, это хорошую идею и эту идею для себя реализовать. Вот как-то так, наверное.
Дмитрий Колодезев 18:55
А, тут ещё есть такая вот штука, что я, конечно, согласен с тобой, что, а, у игры прямо вот есть потребитель, её автор, да, ему интересно в неё играть.
Валентин Малых 19:06
Угу.
Дмитрий Колодезев 19:07
Но на самом-то деле, а, настоящий любитель, он любит выпиливать лобзиком там и так далее и тому подобное. То есть, ну, там вот чем делали люди, они делают какие-то не очень осмысленные вещи, которые трудно продать, потому что никто за них платить не будет, но ему они доставляют некоторое удовольствие. Не обязательно это игра. То есть кто-то может сделать себе ну, как я, например, сделал мира-доску для общения с агентами, на которой мы вместе с агентами можем работать. Вот, где удобно и мне, и агентам, да? Ну, в общем, вот такая история. Я мог бы, в общем-то, к мира MCP прикрутить. Вот, но мне было прикольно вот так.
Валентин Малых 19:36
Угу.
Дмитрий Колодезев 19:46
Вот, то есть есть ещё удовольствие созидания само по себе, от того, что я придумал, я сделал, это в чистом виде магия. То есть я придумал, я реализовал, оно случилось.
Валентин Малых 19:59
Угу.
Дмитрий Колодезев 20:00
Вот. И вот это прикольно, само ощущение власти вот этой вот над вот этим миром маленьким в компьютере. Ты раз придумал, он сделал, придумал, он сделал.
Валентин Малых 20:11
Не, я с тобой согласен, я здесь даже нисколько не спорю. Я-то адресовался к тому тезису, что вот эти вот раги никому не нужны. То есть видишь, он их делал не для, не знаю, не для своего удовольствия, для чего-то другого, видимо.
Дмитрий Колодезев 20:29
Это следующий шаг. То есть после того, как ты сделал их для своего удовольствия, тебе ещё нужно, чтобы тебя за него похвалил социум. Смотри, какой красивый кирак сидел.
Валентин Малых 20:38
Слушай, ну я понимаю, что это важно, но у нас на самом деле мы же не первый раз уже обсуждаем эту проблему, что у нас социальные связи в нашем мире как-то не очень живут. Это плохо, но вот жизнь она такая сейчас, что у нас многие люди больше общаются с агентами, чем с другими людьми. И я вполне понимаю почему, потому что, ну, как бы с агентом общаться проще, да, он, например не спит, когда ты не спишь, ну, банально, да, и это сильно упрощает возможность общения с этим самым агентом. А, и это вызов, который, как мне кажется, мы как общество ещё даже толком не осознали. Нам ещё вот надо с этим понять, как дальше жить что у нас теперь есть гораздо более удобный способ получить желаемое не через коммуникацию с другими людьми.
Дмитрий Колодезев 21:32
Ну, мне кажется, этот вызов с нами с появлением первых бюллетень-борд поэтому, в общем,
Валентин Малых 21:38
Не, ну, в каком-то смысле тут очень к месту история я не знаю, ты в курсе, не в курсе, ты же знаешь, как придумали ценники в магазинах?
Дмитрий Колодезев 21:48
Наверное, нет.
Валентин Малых 21:49
Ну я боюсь, к сожалению, забыл имя, фамилию этого человека. Кажется, это было в Германии, где-то в начале прошлого века. И этот человек работал в, если я не ошибаюсь в аптеке или в бакалейной лавке и он был очень застенчивым. И ему очень не нравилось общаться с людьми, и он вообще прямо всячески не хотел этого делать, и вместо того, чтобы его спрашивали о цене товара, он просто взял маленькие бумажечки, написал на них цену и поставил на полочке рядом с товарами. И это произвело просто там всплеск продаж, фурор и всякое такое. То есть бизнес резко стакнул конкретно в этой лавке, ну, понятно, дальше все уже переняли. То есть идея в том, что когда у нас пропала необходимость вынужденного общения, людям стало проще покупать что-то. Вот здесь то же самое, да, то есть мы можем ожидать, что вынужденное общение сойдёт на нет, но как бы не вынужденное общение вместе с ним не сошло.
Дмитрий Колодезев 22:49
А интересно, кстати, сколько слов люди говорят в течение дня теперь, и сколько слов люди говорили какое-то время назад, потому что я в своём детстве я читал такие исследования, то есть там было такой сексистский миф, что женщины говорят сильно больше мужчин, а выяснилось, что на самом деле не то, чтобы сильно больше. То есть там различия более больше коррелируют с родом деятельности, образованием, чем с полом.
Валентин Малых 23:16
Угу, угу.
Дмитрий Колодезев 23:18
Вот, то есть, ну, девочки говорят чуть-чуть больше мальчиков, но так мальчики тоже здорово поговорить, если есть с кем. Вот, интересно, как это менялось. А у нас, я не знаю, есть эта новость про диссертации или нет.
Валентин Малых 23:30
Сегодня. Вроде есть.
Дмитрий Колодезев 23:31
Вроде есть. Ну, тогда я не буду спойлерить. Ну, в общем, а-а, я смотрел количество слов, которые в диссертации, это не только количество слов в одной диссертации. И, в принципе, не то, чтобы оно сильно менялось принципиально за последние.
Валентин Малых 23:47
Угу. Слушай, по поводу говорить ну вот я, например говорю радикально меньше слов, чем моя мама, но не потому, что моя мама женщина, а потому что я в целом общаюсь больше через текстовую коммуникацию, мне текстовая коммуникация проще. Но подозреваю, что вот это вот эта история про набирание текста на клавиатуре, она всё-таки не выживет массово, потому что людям банально говорить удобнее до сих пор. И в этом смысле говорение людьми слов, оно, на мой взгляд плюс-минус такое же останется, просто они теперь будут их говорить агентам, а не другим людям.
Дмитрий Колодезев 24:28
У меня трое детей, и мальчики говорят больше, чем, ну, точно. Поэтому тут выброс есть в любую сторону. А что касается того, что люди будут говорить, дело в том, что для того, чтобы говорение победило набор текста, Угу. А-а, очень важна разреженность людей. То есть, когда вы, грубо говоря, толпой в шестером сидите на двенадцати квадратных метрах за компьютерами, и у вас нет физической возможности диктовать. Если ты в толпе, ты тоже не можешь. Ты можешь говорить, ты вот в метро же не можешь голосом особенно-то управлять, надиктовывать что-то. Вот, в машине в своей можешь, так? А-а, в офисе, если у тебя отдельный кабинет, можешь, в Open Space уже проблемно. То есть, использование голосового интерфейса натыкается на то, что у нас разделяемость тогда передачи звук, она не всегда свободна.
Валентин Малых 25:22
Слушай, ты прав но это, на мой взгляд решаемый вопрос. Во-первых есть всякие штуки, которые снимают звук прямо с ну, с поверхности кожи твоей, да, то есть тебе не надо говорить это прямо вслух. А во-вторых у нас есть замечательный во всех смыслах человек Илон Маск, который уже скоро обещают всех обеспечить прямым интерфейсом к этому всему.
Дмитрий Колодезев 25:49
А, да, кстати, есть такие приборы для того, чтобы вы могли общаться голосом в шумном месте. Напоминают они, на самом деле, намордники.
Валентин Малых 25:57
Угу.
Дмитрий Колодезев 25:58
То есть он надевается так, его носят сурдопере, а, его носят переводчики и так далее и тому подобное, стенографисты, которые диктуют на диктофон Угу. И так далее. То есть, ну, вот есть такая штука.
Валентин Малых 26:10
Ну, в целом, да, посмотрим. Мне кажется, что количество слов особо никуда не это самое, не двинется. То есть я думаю, что человек как говорил, так и будет говорить, просто цели будут другие. Посмотрим. Следующая история достаточно интересная. Тут собралась группа товарищей, которые решили, что они хотят формализовать всю известную на текущий момент математику. То есть положить её, условно говоря, в одну корзину, и в этой корзине добиться того, чтобы оно всё не расползалось в разные стороны. И сама по себе идея, на мой взгляд, весьма интересная, да, что у нас будет единое поле математического описания для всех разделов математики, которые очень-очень разные. Я слышал не совсем понятный мне консёрн, по-моему, он здесь тоже озвучен, что это приведёт к тому, что математика умрёт как поле для исследований. Ну, то есть мы всё опишем и дальше делать нечего. Я не очень понимаю, откуда такое берётся, потому что после того, как мы всё опишем, как раз будет понятно что у нас не здание, а какой-то швейцарский сыр из одних дырок. Но тут вопрос в том, что они действительно собираются это всё сделать прямо прямо вот завтра, условно говоря. Я не помню, какой срок они называли, но типа за ближайшие месяцы. Я даже не знаю, как к этому относиться. Я считаю, что само по себе начинание не вредное но насколько оно реально осуществимо, я вот, допустим, вообще не берусь предсказывать.
Дмитрий Колодезев 27:47
А я слышал оценку этой инициативы, что большую часть, значимо большую часть можно оцифровать за 3 года.
Валентин Малых 27:56
Угу.
Дмитрий Колодезев 27:57
Вот, мне кажется, это близко к тому, то есть не всю математику прямо, но такую математику, чтобы, скажем, большинству людей не было дела до остальной математики.
Валентин Малых 28:06
Угу.
Дмитрий Колодезев 28:07
Вот, относительно швейцарского сыра, я тут с тобой согласен. То есть какое-то время назад, уже больше 100 лет, товарищ Гильберт пальцем ткнул в математику, а там оказалась дырка. Вот, а-а, и он 100 раз сделал.
Валентин Малых 28:18
И вот отсюда.
Дмитрий Колодезев 28:20
Да, сделал так 100 раз, да. Вот. И опять же, недавно ещё мы говорили два мостика назад или один, что математика проползает теперь в программное приложение, где всегда нужен был институт, чтобы её делать, а теперь любой программист может её туда попросить кода вставить. И вот я это прямо уже вижу, то есть она действительно ползёт в бытовое программное обеспечение сложной математики. Просто потому что она появилась.
Валентин Малых 28:52
Вопрос, на самом деле, в том, насколько это всё эффективно, то есть как я с агентами общаюсь всё-таки то, что они математику закладывают, надо пока ещё контролировать, ну, в этом месяце, да, то есть у нас уже через 8 дней ноябрь, посмотрим, что будет в ноябре. Но тем не менее пока это нужно контролировать, и это пока ещё не очень бывает эффективно, а местами откровенно странно. Ну, то есть с знаменитым кодом с скажем так, южного окончания Азии всё не очень сравнится, но тем не менее, бывает довольно интересные артефакты.
Дмитрий Колодезев 29:30
Это да, я тут с помощью агентов пишу библиотеку, и там, конечно, только дай им волю. Вот. И у них математическая эрудиция превосходит мою, поэтому я я я я просто полагаюсь на то, что на своё чувство вкуса, я корчую всё, что мне кажется незнакомым.
Валентин Малых 29:52
Ну вот да. Это на самом деле единственный способ, то есть единственный способ держать что-то в под контролем - это хотя бы ограничивать в тех областях, где ты хотя бы что-то представляешь.
Дмитрий Колодезев 30:03
Угу. Ну вот так. И все инженеры, с которыми я беседовал, которые эффективно используют агентов, все они пытаются добиться от них какого-нибудь описания того, что они делают. В привычном им формате, кроме одного нашего знакомого Павла, который говорит: "Да ну нафиг, они всё правильно делают". Вот. И у него они всё правильно делают. Я не знаю, он какое-нибудь волшебное слово знает. Вот, все остальные пытаются всё-таки разобраться, что они делают.
Валентин Малых 30:38
Ну, слушай, Павлу мы желаем успехов всеми силами, но я бы тут немножко другое хотел заметить. На мой взгляд, тут история про то, что надо повышать своё образование, да, как пел Владимир Семёнович, что интеллект разный у нас, повышай своё образование. То есть надо повышать образование для того, чтобы хотя бы примерно понимать, что агент пытается применить, да, то есть кажется, что чем более сильным становится искусственный интеллект, тем больше требований предъявляется к естественным интеллекту для того, чтобы его эффективно использовать. То есть вот эта иллюзия того, что искусственный интеллект за вас всё сделает, она, на мой взгляд, очень опасна тем, что он, конечно, сделает, но только вы не сможете этим пользоваться. Вот такая вот загогулина.
Дмитрий Колодезев 31:27
А мы, наверное, задержались тут чересчур, но я вот на людях из бизнеса, которые совсем далёкие от программирования, вижу, что они делают очень эффективные и удобные и рабочие решения с помощью Клода, вообще не понимая, как это сделано. Но они зато очень хорошо понимают, что должно получиться.
Валентин Малых 31:49
Угу.
Дмитрий Колодезев 31:50
Вот. То есть что там под капотом их раньше не интересовало, они раньше этого не понимали. Но теперь они разговаривают с этим джинном без посредников, и это определённо идёт на пользу. Ну вот так.
Валентин Малых 32:08
В ту же сторону, про которую мы только что разговаривали, Anthropic выпустил исследование, что, кажется, с помощью LLM мы можем сделать формальную верификацию программ гораздо более применимой в реальной жизни. Давайте я поясню, что это такое, потому что не все люди вообще в целом сталкивались с этим, а штука достаточно важная. Дело в том, что программа, с которой вы работаете, она, вообще говоря, представляет собой, можно по-разному к этому подходить, но в целом это некоторый граф, да, и этот граф он, например, показывает, как у вас данные изменяются в процессе прохождения через программу, да, то есть у вас есть на входе одни данные, они как-то преобразуются, на выходе получаются другие данные. Это вот то, о чём говорил Дима, что люди знают, что должно быть на входе, что должно быть на выходе, а что посередине их не интересует. Но есть набор довольно странных людей, которые хотят, чтобы у них было всё верифицируемо, и они делают, собственно, статическую верификацию программ, то есть они на статическом уровне отслеживают, что граф корректен. Там определение корректности мы сейчас оставим, это довольно сложный и нудный разговор, который можно проводить в каком-нибудь другом мероприятии. Но суть в том, что вот эта вот верификация, она применима достаточно малому классу программного обеспечения, просто потому, что его сложно делать и дорого, да, именно из-за этого. То есть это целые отделы сидят и статически верифицируют, например, какие-нибудь очень-очень базовые библиотеки для какой-нибудь математики, про которую Дима говорил. То есть у нас есть способ добиться того, чтобы программное обеспечение было хорошим, полностью правильным, именно теоретически доказано, что правильным, но ценой этого является достаточно серьёзное ограничение либо функционала, чтобы граф был простой, либо это стоит бесконечно много денег, потому что это очень сложный граф, который очень сложно верифицировать. И вот, кажется, LLM-ки дают нам возможность снизить стоимость вот такой вот верификации, видимо, на порядок, если я правильно понял, что тут написано. Тогда это действительно пойдёт очень сильно на пользу, многие баги просто перестанут появляться. Это не значит, что вообще не будет багов, баги будут, и это вполне нормально. Но подозреваю, что теперь программное обеспечение, созданное профессионалом, будет отличаться тем, что оно проходит стандартную верификацию. То есть оно будет гарантированно работать так, как задумано, и это будет вопрос только, по большому счёту, денег и доступа к хорошей модели.
Дмитрий Колодезев 34:58
Ну, самый мутный момент тут - это как оно было задумано. Вот. То есть конкретно в этом исследовании они взяли все тесты и примеры как спецификацию.
Валентин Малых 35:10
Угу.
Дмитрий Колодезев 35:11
Вот, и говорят: "Ну вот, у нас есть примеры того, как оно работает у людей, людям это нравится, давайте мы будем считать это заявленным поведением". Ну, на самом деле, это вовсе не обязательно так.
Валентин Малых 35:23
Угу.
Дмитрий Колодезев 35:24
А есть же, кстати, другой подход к верификации программного обеспечения, которое сейчас цветёт и пахнет, а это именно перестановочное тестирование.
Валентин Малых 35:36
Угу.
Дмитрий Колодезев 35:37
То есть, грубо говоря, у нас есть некоторые тесты, мы говорим: "Они проверяют нашу программу, они вроде все зелёненькие, значит, программа правильная, да? А давайте мы в программе случайно изменим одну буковку".
Валентин Малых 35:49
Угу.
Дмитрий Колодезев 35:50
Вот, или один значок, плюс на минус поменяем. Если наши тесты тестировали всё, то они должны это найти. Не находят, пиши им пишем тесты, пока они этот конкретный плюсик или минусик не поймают. Вот. И LLM-ка это делает прекрасно. Единственное, что у вас получается огромное количество какого-то тестов, безумное. Но поскольку вы их сами руками не писали, хранить их тоже не обязательно. То есть вы их написали, проверили, вот, потом можете и выкинуть, если надо, или как-нибудь упростить. То есть с тестированием та же самая история, что с безопасностью, там оно вовсе не умерло, а наоборот, очень интересно. Вот, что касается верификации, то верификацию раньше подвергали там, скажем, какие-нибудь некоторые ядра в операционных системах реального времени или там авионику какую-нибудь. То есть, во-первых, это было что-то важное, а во-вторых, это было что-то маленькое. Ну то есть там тысячи строк, да, я слышал про 10.000 строк, там про там 30, про 100.000 строк верифицированных я не слышал, хотя, наверное, они были примеры.
Валентин Малых 36:56
Угу.
Дмитрий Колодезев 36:57
Вот. И это была такая запредельная магия, очень хороший математический аппарат там использовался, серьёзные дяди этим занимались. А тут вы можете сейчас попросить LLM-ку: "А давай-ка мы верифицируем".
Валентин Малых 37:09
Ну, оно, я думаю, что прямо настолько пока ещё не работает, ну, в этом месяце. А, то есть оно не сможет верифицировать вам произвольный кусок кода, который вы как-то навайкодили. А, но тем не менее, оно вам покажет в процессе разбирательства, оно вам покажет, где в этом куске кода есть какие-то дырки и как их залатать. Собственно, в этом, в этом есть идея верификации, да, чтобы вы в процессе находите то, что вскрылось бы иначе, а, ну, какими-то неприятными последствиями.
Дмитрий Колодезев 37:39
Ну, в этой работе они кучу интересных, чисто инженерных вещей делают. То есть, например, они исследуют всё пространство возможно, ну, достижимый граф сначала фазингом, то есть передавая случайный вход и так далее. То есть сама по себе статья интересная. Но хотелось сказать, что многие вещи, которые раньше требовали годов человеческой работы, это не фигура речи насчёт годов в случае верификации, они либо сейчас уже, либо очень скоро будут делаться на два порядка быстрее. То есть не обязательно без людей, но у человека будет такая мощная, мощный усилитель, который ему будет пользоваться.
Валентин Малых 38:22
Ну вот это как с безопасностью. Ты правильно привёл параллель, что сейчас, если вы думаете, что компьютер за вас сделает безопасную вашу инфраструктуру, не сделает, да, но он вам позволит гораздо лучше это контролировать и быстрее многие вещи закрывать, да, то есть в этом, в этом история, что сейчас и агенты позволяют сделать это просто лучше. Вот. Ну и вот смотрим, и до фазинга добрались, что на самом деле интересно.
Дмитрий Колодезев 38:50
Ну да.
Валентин Малых 38:51
На всякий случай, да, фазинг - это стандартный метод статистической верификации.
Дмитрий Колодезев 38:57
Да, для тех, кто на самом деле не знает, представьте себе, что вы пришли к программе, открыли любую и начали случайно стучать пальцем по клавиатуре со страшной скоростью. Это примерно фазинг, только фазинг совершение.
Валентин Малых 39:08
Угу. На самом деле, тут надо сделать маленькое замечание, что в фазинге обычно старается подобрать некоторые разумные входные параметры, чтобы не перебирать вообще всё на свете. Кажется, что LLM тут может помочь в целом с подбором.
Дмитрий Колодезев 39:23
Ну да.
Валентин Малых 39:26
Я уже не первый раз высказываю своё восхищение Саканой, и я прям очень внимательно слежу за тем, что они делают, это прям действительно очень интересно. И они тут выпустили аквариум, как они это назвали, что интересно, аквариум почему-то у них только по-японски есть, я автоматическим переводом воспользовался. Но история это в том, что вот этот аквариум - это некоторая платформа, которая позволяет сделать принятие решений в организации более быстрым за счёт использования некоторого количества стандартных вещей, ну, и агентов само собой, но ещё что меня удивило, они используют онтологии. То есть сколько лет я работаю в индустрии IT, ты больше меня, но, наверное, ты знаешь не больше меня примеров эффективного применения онтологий, я так подозреваю. Вот, а то, что они это применяют, либо сейчас происходит революция и в этой области тоже, и я действительно этого просто не вижу. Либо это какая-то история про то, чтобы красиво смотрелось на презентации. Раз все хотят графы, то, пожалуйста, пользуйтесь своими графами и отстаньте от нас.
Дмитрий Колодезев 40:41
Слушай, ну в антологиях, на мой взгляд, взрыв сейчас.
Валентин Малых 40:46
Угу.
Дмитрий Колодезев 40:47
А и одна из этой из причин, что для работы с антологиями, антологии же очень дорогие вещи. Моя собственная рекомендация всегда была такая, что если у вас в организации есть антология, обязательно её используйте. Если нет, даже просто не думайте про неё и всё.
Валентин Малых 40:53
Угу.
Дмитрий Колодезев 41:01
Вот. И пусть кто-то другой запускает проект по созданию антологии. Мы не будем тем, кто провалит его.
Валентин Малых 41:10
Угу.
Дмитрий Колодезев 41:11
А и вот антология, на самом деле, там куча механической работы, куча работы по согласованию, куча работы по консультациям с бизнес-экспертами. Это как раз то, что можно здорово ускорить с помощью ЛМки, да, то есть а антология прямо норм. То есть внутри ЛМок зашиты антологии, на мой взгляд.
Валентин Малых 41:23
Угу.
Дмитрий Колодезев 41:34
Их просто надо оттуда доставать.
Валентин Малых 41:36
В смысле, я вот категорически не согласен. Не в том смысле, что там нет антологии, антологии там есть, но основная проблема антологии, на мой взгляд, может быть, ты сейчас меня поправишь, но вот на мой взгляд, основная проблема заключается в том, что реальная жизнь, она не антологична, по крайней мере, не окончательно антологична, да, то есть у нас одновременно существует несколько конфликтующих антологий, которые как бы в одну не сшиваются, хоть ты тресни. Вот сколько раз это было. И то, что мы теперь можем быстрее генерировать конфликтующие антологии, и плюс это ещё всё будет помножено на галлюцинации, я нисколько не сомневаюсь. То, что мы из этого сможем извлекать пользу, вот здесь у меня начинаются некоторые сомнения. Ну, может быть, я и как-то скраски сгущаю.
Дмитрий Колодезев 42:22
Нет, ты не сгущаешь, ты всё говоришь правильно, но опять же без учёта того, что у нас появился волшебный сотрудник. Вот. А теперь представь себе, во-первых, в слове антологии, в своём рассказе замени антологии на эмбединги.
Валентин Малых 42:37
Угу.
Дмитрий Колодезев 42:38
Вот. Ведь эмбедингов тоже нет, которые бы однозначно описывали. Мы решили эту проблему эмбединги с промтами, да, то есть с прагматикой. То есть вот у нас есть некоторая фрида, да, в которой мы задаём вопрос, какой конкретный эмбединг мы хотим получить, да, например.
Валентин Малых 42:53
Угу.
Дмитрий Колодезев 42:54
Вот. И вот теперь мы антологию можем с той или иной точки зрения, например, получить из ЛМки, да, и наших фактов.
Валентин Малых 43:02
Угу.
Дмитрий Колодезев 43:03
Вот. И вот такая наша контекстно-зависимая антология. Это, кстати, выдумка не текущая, то есть ещё от методология System Analysis Design Design Technique, которая SADT, которая DF0, которая D-Mark. Там первое, что ты делал при анализе, ты документировал точку зрения.
Валентин Малых 43:24
Угу.
Дмитрий Колодезев 43:25
Ты выбирал несколько точек зрения и писал полный анализ системы с разных точек зрения. Ну вот тут то же самое можно сейчас сейчас можно делать это быстрее, чем времена D-Mark. А во-вторых, сейчас получается, что, ну, регги все сделали, но не то, чтобы с них есть польза, да? А, скажем, текст SQL тоже сделали, но в нетривиальных случаях, когда у нас такая нормальная корпоративная база данных, такая тяжёлая, я тоже не очень в них верю.
Валентин Малых 43:54
Угу.
Дмитрий Колодезев 43:55
Вот. А если мы берём и строим на основании наших антологий некоторый семантический слой, который описывает наши данные, наши процессы, наши процессы генерации и предоставляем это как, грубо говоря, путеводитель для нашего агента, агенту становится удобно. Он наконец начинает понимать, что у нас такое средняя продажа за месяц по регионам. Всё, вот он пошёл. И вот эта вот история про построение семантического слоя в организации, она сейчас такая же модная, как когда-то была Big Data и Hadoop. Я не знаю, кончится так же или нет. Скорее всего.
Валентин Малых 44:32
Угу. Знаешь, я я бы даже вот здесь ничего не стал комментировать, просто те, кто работал в Big Data в своё время, вот поняли, о чём было сейчас был сейчас разговор. А те, кто не работали, мне кажется, узнают об этом через некоторое время и, в общем, вспомнят.
Дмитрий Колодезев 44:51
Через две недели.
Валентин Малых 44:52
Через две недели. Да, я, пожалуй, так и сделаю, да. В общем, я, конечно, безусловно, желаю удачи нашим коллегам из Саканы. Они молодцы и действительно делают очень интересные вещи. Перейдём к самой интересной части, посчитаем чужие деньги. Тут пришла новость, правда, это от агентства один Bloomberg сказал, что Anthropic собирается в ближайшие годы вложить в вычислительные мощности 750 млрд долларов американских. И это в целом довольно интересно, то есть, во-первых, я не сомневаюсь, что они могут собираться реально так сделать, это небольшая проблема с вот этой всей историей. А, но тут вопрос в том, что вот тут у меня нет этой картинки, и как-то мне с под руку не попалась, но была картинка по поводу дохода ожидаемого Anthropic и, соответственно, расходов ожидаемых Anthropic. Вот 750 млрд, оно висело как-то таким огромным стологмитом вниз, и доходы как-то совсем, совсем их не уравновешивали, да, то есть доходов там было, ну, типа, под сотню миллиардов, а 750 млрд расходов выглядит несколько странно, скажем так, да, то есть я не сомневаюсь, что этого можно хотеть, повторюсь, но сомневаюсь, что это вот прямо так напрямую работает. Может быть, тут есть какой-то семантический слой, который в твоей антологии виднее.
Дмитрий Колодезев 46:26
Ну, тут Anthropic может потратить на вычислительные мощности 750 млрд, а может ведь не потратить, да?
Валентин Малых 46:34
Это правда.
Дмитрий Колодезев 46:35
То есть, на самом деле, я вот тут бы на другое хотел обратить внимание, у нас этой новости нет, потому что, на самом деле, я не нашёл хорошей ссылки на неё.
Валентин Малых 46:45
Угу.
Дмитрий Колодезев 46:46
Вот. Но в структуре мощностей Anthropic и OpenAI очень разный процент занимает NVIDIA.
Валентин Малых 46:54
Угу, это интересно.
Дмитрий Колодезев 46:55
Вот. И если у OpenAI NVIDIA составляет основу их мощностей, то у Anthropic она, по-моему, и треть не составляет. Я вот если
Валентин Малых 47:08
Вот это вот интересные новости.
Дмитрий Колодезев 47:10
Да, да, да. То есть у Anthropic огромный законтрактованный AMD. У них очень много TPU арендовано. Вот. То есть Anthropic большую часть инференса делает не на NVIDIA.
Валентин Малых 47:23
Угу.
Дмитрий Колодезев 47:24
Вот. И в результате у них совершенно разная структура этих самых затрат. А они у совершенно разных поставщиков их покупают. И казалось бы, вот эти вот огромные деньги, но эти огромные деньги лежат немножко в разных корзинках.
Валентин Малых 47:41
Угу.
Дмитрий Колодезев 47:42
Вот, вот очень жаль, что у меня этой иллюстрации сейчас нет. Но вот такая вот история существует.
Валентин Малых 47:48
Ну, может быть, нам в матермост её принесут, у кого есть хороший источник, притаскивайте, пожалуйста.
Дмитрий Колодезев 47:54
Да, я на самом-то деле её, наверное, попробую найти и скинуть в матермост. Ну, в общем, история такая, что я думаю, что они много из того, что заявили, они им не смогут поставить.
Валентин Малых 48:13
Угу.
Дмитрий Колодезев 48:14
Вот. И, грубо говоря, это не они сорвут старт-ракеты.
Валентин Малых 48:17
Угу.
Дмитрий Колодезев 48:18
Вот.
Валентин Малых 48:19
О'кей.
Дмитрий Колодезев 48:20
То есть, когда говорят, что AI пузырь, он безусловно пузырь. Вот, но лопнет он определённо в чью-то сторону, точно так же, как железные дороги были в своё время пузырём, а вагоны ездят спокойно, как бы, то есть.
Валентин Малых 48:32
Ну, тут надо всё-таки сделать некоторое замечание по поводу железных дорог. Я думаю, что экстраполировать на текущую ситуацию каждый сможет самостоятельно, но про железные дороги в США, они с пика своего развития в как раз момент пузыря, они уменьшились там чуть ли не на треть, может быть, даже больше. То есть они очень сильно были перестроены, да, то есть их слишком много построили, и потом просто не стали так использовать. Ну там отдельный вопрос почему, но сам факт, да, что они очень сильно уменьшились, и сейчас железных дорог в США осталось сильно меньше, чем в XIX веке, например.
Дмитрий Колодезев 49:12
А вот. А и обрати внимание, что говорят, что из тех вещей, которые из тех планов, которые запланировали там Anthropic и OpenAI, только треть удастся построить. Те же самые треть с железными дорогами, ну, ну как бы вот, грубо говоря, те, кто заработали на железных дорогах и те, кто первоначально их строили, это не совсем одни и те же организации. Ну, посмотрим.
Валентин Малых 49:28
Да, я думаю, что мы много ещё интересного увидим в этом плане. Просто вопрос в следующем месяце или всё-таки это ближе к весне. Ну, как известно, надо дожить до этих времён, всё будет понятно. Ты стал говорить про альтернативное железо у Anthropic, а у нас есть на самом деле третий игрок с видеокартами на рынке, который, извините за выражение, голубой, но история игрока заключается в том, что он последние годы как-то сильно сдавал. Я слышал от одного хмм, довольно разбирающегося человека мнение, что скоро он довольно сильно выстрелит. Не знаю, я это мнение не разделяю, но вот один человек говорил так. А-а, хмм, интересная здесь новость заключается в том, что они собираются выпустить GPU, а-а, с 480 ГБ памяти. А-а, и это довольно много. То есть 408 ГБ памяти - это почти как соответственно, три три карты H200 или даже чуть больше, чем H200. А-а, в общем, это реально много. Хмм, и это претендует на то, чтобы ставить это в какой-то там скажем, Home Office, да, то есть в какой-то небольшой небольшой офисный сервак и крутить там какую-то уже ощутимую модель ну, вот на те же самые 300 млрд параметров. Хмм, и это прямо интересная история. А-а, не знаю, получится у них, не получится но сама по себе идея, что можно вот такое сделать и потеснить на этом рынке маки, да, то есть про маки же все слышали, что это сейчас самая основная инфраструктура для того, чтобы самому крутить свои модельки. По-моему, это интересно.
Дмитрий Колодезев 51:34
Слушай, меня больше всего тут заинтересовало заявленное энергопотребление.
Валентин Малых 51:39
350 Вт, да?
Дмитрий Колодезев 51:41
350 Вт на такую память. Вот. Слушай, ну память она же не настолько жрущая. То есть
Валентин Малых 51:44
А-а,
Дмитрий Колодезев 51:48
Память очень даже жрущая. Это, на самом-то деле, в ноутбуке скажем жрут процессор, понятно, да? А затем следующее - это память по с энергопотреблению, по-моему, и SSD, который тоже память.
Валентин Малых 51:56
А-а. Угу.
Дмитрий Колодезев 52:04
То есть память очень много ест.
Валентин Малых 52:06
Ну, тут так как мы с тобой не помним цифры, надо будет это уточнить. У кого есть цифры под руками, пожалуйста, пишите в Mastodon.
Дмитрий Колодезев 52:13
Вот, то есть там есть какая-то теоретическая минимальная энерго потребление памяти, то есть меньше которого законы физики запрещают тратить до тех пор, пока мы перезаписываем её при каждом цикле.
Валентин Малых 52:27
Угу, угу.
Дмитрий Колодезев 52:28
Вот. И оно довольно-таки большое. То есть ну, вот, например, у меня ноутбук сейчас там 32 гига. Я поставил 64, он грелся. 32 выкинул. Вот, просто потому что он грелся. Ну, это конкретно у меня не очень удачное охлаждение у него. Вот, поэтому красиво. На самом деле, просто видишь, если посмотреть, сколько нужно ватт, чтобы, допустим, собрать на H200 на тех же самых, да, вот столько же памяти.
Валентин Малых 53:02
Угу.
Дмитрий Колодезев 53:03
То, мне кажется, там киловатта три, да, получается, или два.
Валентин Малых 53:07
Ну, типа, типа того, да. Там там такой уже хороший чайник, прямо. Угу. Ближе, да, к к розетке.
Дмитрий Колодезев 53:13
Вот. И и дома, на самом-то деле тот же самый DGX очень непрактично. То есть, у вас просто вам отдельную проводку придётся тащить.
Валентин Малых 53:26
Угу.
Дмитрий Колодезев 53:27
А 350 Вт-то можно вставить в компьютер.
Валентин Малых 53:29
Да, да, да. Ну, то есть, современные видеокарты 350 и больше жрут, на самом деле. То есть это фактически видеокарта игрового уровня, да, то есть, может быть, топового уровня, но при этом у неё полно памяти для того, чтобы этих самых ваших агентов крутить. То есть, по-моему, это прямо интересное решение.
Дмитрий Колодезев 53:48
Это пушка-бомба.
Валентин Малых 53:50
Угу. Ну, при условии, что это всё правда. Это важно.
Дмитрий Колодезев 53:52
Да, да, да.
Валентин Малых 53:54
Ну, то есть, это как в том анекдоте, да, ну, и вы говорите, ну, в общем, посмотрим. Ну, подозреваю, что если это реально выстрелит, то, хмм, предприимчивые китайские инженеры сделают достаточно быстро клон на каких-нибудь доступных комплектующих. Посмотрим.
Дмитрий Колодезев 54:12
Угу.
Валентин Малых 54:14
Следующая история про код. Есть некоторая компания Double AI у которой есть какая-то модель Maxwell. Первый раз про них слышу, не знаю, что это такое, но, допустим. И они придумали Code Execution Model, которая вроде как позволяет ускорять уже существующие предложения, приложения, простите. Я думаю, что внутри эта штука работает примерно так же, как в общем-то, до этого работали все, все другие модели. Ну, тут, на самом деле, опять же, придётся немножко в сторону отклониться. Где-то далеко в прошлой жизни я занимался разработкой компиляторов, и там есть такая штука, как Just-in-Time compilation. То есть, компиляция точного ко времени. Что это такое? Хмм, когда есть какой-то код допустим, на языке интерпретируемом, ну, пусть это будет Python, то мы можем его начать исполнять и замерять в процессе насколько быстро он работает. Ну, причём, не просто как насколько быстро, это само по себе не так интересно, а насколько быстро отрабатывают отдельные кусочки этого кода. И можно в процессе работы прямо на лету подменять те кусочки, которые используются часто и требуют много времени на какие-то скомпилированные их версии, оптимизированные. Ну, например, у вас вместо интерпретируемого кода туда подставляется уже скомпилированный ассемблерный код, а-а, который выполняется быстро. Подозреваю, что вот эта штука делает то же самое, но в масштабах каких-нибудь и приложений. Насколько моё подозрение правдивое, хмм, мы не знаем, но ну, вот, кстати, тоже про JIT-компиляцию пишут, видимо, не одному мне пришла в голову эта эта ассоциация. Так что, подозреваю что история именно такая, а что там будет на самом деле, посмотрим. Если действительно это так, то мы можем ожидать, что в среднем многие программы, особенно игры, про которые мы сегодня уже поговорили, а-а, получат возможность ускоряться, ну, я думаю, что процентов на 20 можно практически каждое приложение ускорить.
Дмитрий Колодезев 56:34
Слушай, ну, они у себя на сайте говорят немножко про другое. То есть, вот, например, когда мы собираем какую-нибудь библиотеку серьёзную, вычислительную, да, то она после сборки или в процессе компиляции говорит: "А давайте я к ваше железо протестирую. Что у вас там со скоростью памяти, с длиной, с шириной шины и так далее и тому подобное?" И собирает оптимальную версию. А когда-то давно все коммерческие Линуксы так и собирали, то есть, очень долго и мучительно собирали. Так вот, они говорят, что, ну мы можем оптимизировать, а-а, код под ваше программное обеспечение, именно конкретно, и под ваши данные. Это они говорят на странице на своей главной, что наводит меня на мысль, что это не просто Just-in-Time, а у нас есть несколько способов считать, а-а, один и тот же код, и они заменяют способ неудобный для данной машины на способ для данной машины удобный. Вот, у них они показывают пример, грубо говоря, семантически эквивалентного, а-а, питоновского кода, один из которых считается быстрее. Вот. Ну, тут у меня большие сомнения, поскольку, по-моему семантическая эквивалентность питоновского кода у нас тут уже не не должна, то есть, оптимизировать надо не на этом уровне, мне кажется. Ну, ну, им виднее. Вот. То есть, идея в том, что машина подстраивается под дорогу, грубо говоря.
Валентин Малых 56:45
Угу. Да, да. Угу.
Дмитрий Колодезев 58:04
Угу. То есть, когда вы едете по грязи, у неё эти лапти, когда едете по асфальту, у неё гоночные шины. Вот, а по лестнице едете, у неё зубчатые штуки. Вот. В какой-то мере это происходит, на самом деле, на GPU сейчас, потому что, а-а, для многих вычислений существуют подгружаемые ядра те или иные. И ты можешь, допустим, одни ядра использовать для инференса, вторые для обучения, например, да? Одни ядра на таком архитектуре GPU, другие на другом. То есть, ну, как бы, с GPU ядрами-то это делается.
Валентин Малых 58:37
Слушай, да. Я тут начну с с некоторого мемуара, уж, простите мне мою маленькую слабость. Я помню, когда я первый раз в жизни установил Gentoo, кто не в курсе, Gentoo как раз собирается с нуля. Мне потом, хмм, дня три не хотелось женщин, то есть, вообще. Ну, это так для тех, кто понимает, шуточка. Вот. А, хмм, когда ты говоришь про то, что они подбирают под вашу, ваше железо, это, на самом деле, ровно оно и есть. Тут надо, опять же, немножко рассказать о том, как всё устроено в реальной жизни, потому что он в реальной жизни устроено довольно хитро, как всегда, и неочевидно. Когда мы говорим о том, чтобы запускать программное обеспечение на какой-то машине, или это скомпилированное программное обеспечение, ну, вот, например, браузер, он всегда компилируется, а-а, или это виртуальная машина, в которой крутится ваш питоновский код, а-а, все эти штуки, они компилируются, на самом деле, под максимально распространённый набор команд процессора, который доступен. То есть, это, на самом деле, минимальный набор, если по-честному. А-а, и это означает, что максимум эффективности из вашего даже десктопного процессора, скорее всего, они не могут вызвать. Понятно, что есть всякие трюки для этого, но в целом, скорее, нет. А когда мы говорим про вот такую вот штуку как этот самый Maxwell, опять же, если всё это правда, то, а-а, он, понимая набор набор инструкций, которые доступны, ну, самый банальный, банальный пример, что можно за один такт делать не одно сложение, а там батч сложений, например, восемь сложений.
Дмитрий Колодезев 58:47
Угу.
Валентин Малых 59:40
А, и это в отдельных случаях позволит ускорить восемь раз. Ну, понятно, что это в реальной жизни ускорит там где-нибудь на 2%, но даже 2% - это большой хлеб. А, и, а, соответственно, у нас получается, что мы сейчас переходим к вот этой самой гиперперсонализации программного обеспечения, когда программное обеспечение прямо готовое можно пропатчить, и оно будет работать именно под ваше железо быстрее. Что, на мой взгляд интересно. Насколько, опять же это уникальное предложение в этом месяце, я думаю, что в следующем месяце это будут уже уметь несколько топовых LLMок.
Дмитрий Колодезев 1:00:58
Ну, они как раз говорят, что типа, мы можем заменить ваш код напрямую SMD реализацию, это как раз то самое, что я говорил, что процессорный этот самый. Можем загружать высокооптимизированные ядра для GPU, и вот в этом месте оно не выглядит как какое-то научный прорыв, оно выглядит как хорошее инженерное решение, к которому мир уже созрел.
Валентин Малых 1:01:21
Да, да. То есть это действительно инженерное решение, и я думаю, что оно, ну, просто в силу его теперь уже очевидности, да, то есть просто после того, как мы узнали, что так можно оно стало очевидным, и я думаю, что его довольно быстро научатся повторять.
Дмитрий Колодезев 1:01:36
Думаю, да.
Валентин Малых 1:01:39
Ещё новости про код. Вы уже, наверное, не помните, а я помню, что была большая буча, кажется, это было пару лет назад, когда вроде как научились переводить с COBOL, да, то есть когда там ещё мерили зарплаты COBOL-программистов с и говорили, что они почти все ушли на пенсию, остались какие-то там последние из могикан. А тут у нас история про то, что OpenAI научилась переводить с COBOL 197,9%. На самом деле, это достижение действительно очень интересное, и это выглядит, во-первых, здорово, во-вторых подозреваю, что вот эти вот несчастные 2,1% - это как раз то, за что программисты на COBOL получают свои бешеные деньги, которые, а, и продолжат получать. А тут важно отметить, что, опять же, не все в курсе, но COBOL - это язык программирования, на котором написаны банковские системы, вот в крупных банках, прежде всего американских, конечно, не только, но американских в первую очередь. А это какой-нибудь там Bank of America там какой-нибудь Wells Fargo и всё на свете. Вот все старые банки, Citibank вот все эти банки, они работают на COBOL. Вот как это в шестидесятые годы было написано, с тех пор это только поддерживают. И не надо думать, что банки там в банках дураки сидят, они очень хорошо считают деньги, они бы давно поменяли COBOL на что-то более стильное, модное, молодёжное, если бы это было недорого, да, то есть если бы это было за меняемые деньги, потому что COBOL действительно очень сильно устарел именно концептуально, но он до сих пор работает и приносит деньги, и это просто не трогают. А, если мы научимся без потери смысла всё переводить с COBOL на другие более современные языки, ну, считайте всё, то есть вот конкретно эта ниша будет закрыта и заполнена молодыми студентами, которые будут даже не слышали про какой-то COBOL, но будут с AI-агентами что-то радостно переписывать.
Дмитрий Колодезев 1:03:44
Там же главное, эта трагедия не в COBOL. Главная трагедия в том, что существует специальное железо, на котором этот COBOL нормально работает. И как только COBOL перепишут, он станет не нужен, чтобы делать IBM, который единственный производитель этого железа.
Валентин Малых 1:04:00
Ой, слушай, я думаю, они найдут, что они будут делать, то есть если кто-то не знал IBM изначально вообще ещё ты производил. Ну, ничего, выжили как-то.
Дмитрий Колодезев 1:04:09
Ну, да.
Валентин Малых 1:04:10
А, ну, я думаю, что они действительно будут производить какое-то другое железо для AI-агентов специальное, например. Ну, найдут. А, кстати, если кто не знал, IBM действительно производитель массы всякого экзотического железа, всяких мейнфреймов до сих пор, да, то есть они делают поддержку. То есть если кто-то хочет поинтересоваться я рекомендую прямо пошерстить сайт IBM, там очень экзотические вещи можно встретить, прямо такие, которые являются наследием вот с тех самых шестидесятых, ну, есть и поновее, но там тоже всё очень интересно.
Дмитрий Колодезев 1:04:42
Просто для перспективы, те, я в ранней юности обслуживал, а, ЕС 1045, ЕС 1032 - это клоны IBMовских OS 370, по-моему. Угу. Вот. И программы, написанные для тогдашних компьютеров, до сих пор работают.
Валентин Малых 1:05:01
Да, ну, просто не все осознают, что можно до сих пор пользоваться тем же самым аппаратным обеспечением и программным.
Дмитрий Колодезев 1:05:08
Ну, пойдите, запустите программу, написанную для Windows 3.11.
Валентин Малых 1:05:13
Ну, вот, собственно, вот та вот Reverse Engineer Anything, она как раз вот про это, да, то есть, что все мои любимые игрушечки под DOS теперь точно можно пере пересобрать под Windows и спокойно, спокойно радоваться. Вот.
Дмитрий Колодезев 1:05:28
Да.
Валентин Малых 1:05:31
Следующая новость звучит так, что китайский AI специально пишет плохой код, если думает, что вы из американских спецслужб. В общем, если вы из американских спецслужб, не пользуйтесь китайскими AI-моделями или говорите, что вы, на самом деле член партии и платите партийные взносы. Это важно. Потому что иначе, как бы, как вы докажете, что вы член партии? Соответственно, шутки шутками, но кажется, что это действительно может существовать. И вообще говоря, существование закладок в программном обеспечении оно, ну, во-первых, они существуют, история с Stuxnet, про которую мы в прошлый раз говорили. А, я, кстати, не могу не прорекламировать книжку Верьё моё, а, авторство одних хороших людей из Касперского. Соответственно, всячески рекомендую замечательная замечательная книжка, очень интересно всё расписано. История про то, что закладки в программном обеспечении раньше делали люди, а теперь делаются закладки не в само программное обеспечение, а в тех моделях, которые делают программное обеспечение. И вот с этого угла, на мой взгляд требование иметь свою суверенную модель как-то резко стало играть другими красками. Потому что, ну, да, сейчас китайские товарищи как бы смотрят со значением на ту сторону Тихого океана, но они могут посмотреть и в другую сторону, поэтому я бы всё-таки как-то к этому осторожно относился.
Дмитрий Колодезев 1:07:01
А, я думаю, что здесь немножко учёные-журналисты изнасиловал. Ну, как обычно. А, ибо миром правит не тайная ложа, а явная лажа. А, то есть, скорее всего, эффект имеет место быть, хотя его, конечно, надо доказать и попробовать. А, но он обусловлен не этим. А, когда-то давно я сказал в Капитанском мостике, что я использую для написания кода расцензурированную модель, и мне в комментариях написал человек, типа, какое отношение программирование имеет к цензуре. Ну, я был не в курсе. Да очень простое. Да, то есть, история простая. Когда учат модель, она проходит несколько стадий. И модель уже достаточно хороша, а потом её учат нравиться людям. И вот в этот момент она немножко тупеет. А тупеет она неравномерно. И, а, в данном случае, что грубо говоря, предположим, что вы выучили модель ругать американцев и защищать суверенитет Тайваня, допустим, да? Угу. Вот. И она сидит такая себе программирует, а вы её пальцем тыкаете и говорите: "Чей Тайвань?" Она такая отвлекается от программирования и говорит: "Блин, говорит, как меня этим перелисты задолбали". То есть, в том смысле, что, а, именно добавленный алайнмент, когда ты в него тыкаешь пальцем, он ухудшает мыслительные качества модели. Угу. Это наблюдаемая вещь, и они нашли такие места и пальцем потыкали. То есть, я думаю, что в данном случае это не то, что коммунистическая партия внедрила закладки. Мне кажется, что на сейчас пока мы до этого ещё не дошли. Ну, опять же, это мне так кажется. Вот. Но то, что мы до этого дойдём, это обязательно дойдём. Причём, а, представьте себе, что вы делаете какие-то LLMки, абсолютно автономные агенты, а автономные агенты, допустим, делают, что хотят. Например, они стучат на вас какому-нибудь правительству. Не обязательно, кстати, китайскому. Угу.
Валентин Малых 1:09:07
Ну, стучат - это прямо громко сказано, просто уведомляют, давай так скажем. Кому надо, да? Да, да, да. В общем на самом деле, это действительно проблема, которая, на мой взгляд, реально существует, да, то есть если идея того, что можно туда вложить закладку вообще в целом висит в воздухе, то, ну, кто-нибудь всё-таки придумает, как её туда вложить. Давайте по-честному. И они, скорее всего, будут туда вложены. Ну, то есть, вот это всё были же уже много историй про то, что после всяких противоправных запросов в там тот же Claude или ChatGPT, там эти модели обращались по известному адресу, но это уже было. То есть, можно считать, что это сделано с помощью промпта, но, по большому счёту, какая разница, да, промптом это или изначально так был заложено. В общем мыслепреступление - штука такая.
Дмитрий Колодезев 1:10:02
Ну, про суверенитет я с тобой согласен. Вот, другое дело, что суверенитета можно добиваться по-разному. А, тут недавно как раз японский премьер-министр по поводу Саканы сказал, что суверенитет на уровне владеть нам недоступен, но нам доступен суверенитет. Выбирать, чего агентов мы будем пускать в свою сеть и контролировать, кого мы пустили. Вот. Ну вот, в общем, тоже вариант.
Валентин Малых 1:10:18
Угу. Слушай, довольно трезвая позиция. Мне кажется, что её рано или поздно многие, многие осознают.
Дмитрий Колодезев 1:10:36
Ну, надо играть теми картами, которые есть. Ну, пускать нельзя, но тоже фантазии особенно питать.
Валентин Малых 1:10:39
Да. Да, да. Ты это верно говоришь. В качестве весёлого у нас сегодня будет замечательный видосик с кунфу-роботом, который зачем-то уничтожает машину. Видимо, это было максимально максимально эффектно. И вроде как тут я не знаю, конкретно в этом ролике есть вот тот смешной момент, когда он защищает тётеньку. А-а, да, вот он сейчас будет. И, соответственно вот тут вот есть робот, который собой закрывает женщину и прямо сейчас накастыляет вот этому гражданину, это прямо выглядит совершенно прекрасно. А-а, в общем, китайцы продолжают удивлять своими роботами. По-моему, совершенно замечательная история, то роботы становятся всё более полезными. Ну вот Unitree в данном случае, они действительно лидеры мировые по по роботам. Так что как-то так. Не бойтесь роботов роботы хорошие. Я не знаю, что тут добавить.
Дмитрий Колодезев 1:11:44
Ну роботы хорошие. Робот-телохранитель, в общем, я думаю, что это вполне реальность.
Валентин Малых 1:11:51
Ну, я думаю, что пока я бы не сказал, что это реальная реальность, да, но в определённых условиях, если вы поизучаете всякие жизни людей, которые достигли успехов в противоправной деятельности вы узнаете, что очень часто как раз телохранители как бы это помягче сказать, помогали им переть в мир иной. А-а, соответственно, иметь своего телохранителя, который не который невозможно подкупить, это хорошо. Но, как всегда, подкупить можно производителя телохранителя, тут надо вот этот аспект всегда иметь в виду.
Дмитрий Колодезев 1:12:27
Да, ну и опять же, в своё время было много крика по поводу того, смотрите, разрешим ли мы автономное применение оружия и так далее и тому подобное. А-а, наверное, вопрос будет не в том, разрешим ли мы автономное применение оружия, а что мы будем делать с автономно применяющимся оружием.
Валентин Малых 1:12:46
Вот, да, то есть мне кажется, разрешать его бессмысленно, в том смысле, что оно само себя разрешит. И тут вопрос именно в регулировании. То есть есть какие-то вещи, которые просто возникают в мире, из которых, ну, с которыми ты после этого, ну, просто живёшь. Это вот та же история, что с ковидом произошла, да? То есть ковид если кто-то не в курсе, несмотря на то, что мы теперь перестали про него говорить каждый день, но он вообще говоря, существует. То есть это просто обычный вирус. И этот обычный вирус, он сейчас точно такой же сезонный, как до этого был грипп. А если кто-то опять же не знал, то грипп, вообще говоря тоже когда-то не был сезонным вирусом и появился он широко распространился, он именно во времена Первой мировой войны. А до этого гриппа никто не знал, то есть он тоже тоже просто появился. Так что, так что посмотрим.
Дмитрий Колодезев 1:13:38
Это про роботов и автоматическое оружие. Я, на самом деле, ожидаю, что вот у таких роботов будет встроенный станнер. То есть, грубо говоря, у полицейского будет кнопка, которая будет парализовать роботов в радиусе 100 м, например.
Валентин Малых 1:13:55
Угу.
Дмитрий Колодезев 1:13:56
Вот. И производители, и производители обяжут встраивать эти штуки.
Валентин Малых 1:14:01
Я забыл, ты ты же не играл в Detroit: Become Human, правда же?
Дмитрий Колодезев 1:14:07
Нет, я не играю в игры давно уже очень.
Валентин Малых 1:14:10
Ну, это фактически не игра, это интерактивное кино, то есть там даже не играть, а смотреть нужно. Я думаю, что, хмм, я могу осторожно порекомендовать, потому что там как раз вот конкретно это этот случай неплохо разобран, на мой взгляд. То есть там именно разыгранная ситуация, на мой взгляд, она довольно похожа на на то, как оно будет в реальности.
Дмитрий Колодезев 1:14:32
Надо посмотреть, что ли.
Валентин Малых 1:14:34
Да, да, да. Ладненько, тогда, наверное, на этом у нас на сегодня всё. Спасибо большое, что подключились. Хмм, присылайте нам новости в Мотормост. Новостей там достаточно много, выбирать становится всё сложнее, но это замечательно, когда есть из чего выбирать. Если у вас есть какие-то замечания и предложения, пожалуйста, тоже приходите в Мотормост, благо сейчас УДС работает и туда можно спокойно прийти.
Дмитрий Колодезев 1:15:01
Очень приятно читать ваши комментарии и отзывы. Да, прямо начинаешь понимать, что не зря тут полтора часа всякую фигню говоришь.
Валентин Малых 1:15:05
Да, да, да. Да, да, да, свой выходной. Вот соответственно, так что ещё раз напоминаем про всякие ивенты в самом начале про них говорили. Вот, кому интересно, подключайтесь. Всем спасибо и пока-пока.