- 18.10.2026
- 18.10.2026
- подкасты
Сорок первый выпуск второго сезона подкаста "Капитанский мостик" про искусственный интеллект, будущее и все такое. Ведущие подкаста — Валентин Малых и Дмитрий Колодезев
Площадки
- Youtube
- RuTube
- VK Video
- Дзен
- Звук
- Аудио
- Канал для вопросов в mattermost ODS.AI
- Как попасть в чат ODS.AI
Содержание
- 00:00:00 введение
- 00:00:35 ИИ-ученый от Sakana
- 00:04:23 глубокое рецензирование
- 00:13:21 вычисления в памяти
- 00:17:58 китайцы за ИИ-математику
- 00:23:13 Maia 300 от Microsoft
- 00:27:44 LLM-плесень
- 00:34:17 вышла Muse Spark
- 00:36:43 ИИ-агенты выходят на связь
- 00:39:38 GLM для юристов
- 00:43:08 жучок в OpenAI
- 00:45:42 Anthropic запретил клонирование
- 00:49:51 ASML не делает литографы
- 00:54:01 LLM знают про ваш рисеч
- 00:58:20 Character .ai — банкрот
- 01:01:28 роботы, чтобы бить людей
Валентин Малых 0:00
Всем привет. С вами, как всегда, Валентин Малых и Дмитрий Колодезев. У нас триумфально прошёл Datafest. Я вот успешно вернулся, рад был со многими повидаться. В общем, приходите на Datafest, у нас хорошо. Я надеюсь, к тому моменту, когда выйдет наш подкаст, уже заработает сайт УДС, он должен вот-вот уже заработать в момент, когда мы записываемся. Так что не теряйте, всё хорошо, мы никуда не деваемся.
Дмитрий Колодезев 0:40
Ну, на Datafest было классно.
Валентин Малых 0:42
Да. Те, кто не пришёл, были не правы. Я решил начать с новости про Сакану. А это мой произвол, мне просто очень нравится Сакана, действительно делает классные вещи. И то, что они сделали, они сделали вот этот вот AI Scientist, то есть, на самом деле, в наше время только ленивый не делает AI Scientist, но вот Сакана сделали вроде как даже хороший. Посмотрим, пока я ещё им не пользовался, не уверен, что вообще смогу. Но идея такая, что все делают AI учёных для того, чтобы, а-а, ускорять соответственно, научный прогресс, если так коротко, да? Если говорить про нашу область, то у нас-то вообще всё просто, да? У нас код написал, он как-то там отработал, уже неплохо. А в таких более, более настоящих науках, таких как физика и химия, там, конечно, всё немножко сложнее, но в эту сторону тоже народ работает. А вот, и, соответственно, они представили статью на конференции, про которую я никогда не слышал, но, наверное, это хорошая конференция, может быть, не самая плохая. А, в принципе, написанные агентами статьи уже были, но тут они вроде как говорят, что это всё там, типа, почти без участия человека, то есть человек только ставил, а-а, задачу, а дальше всё, всё само как-то.
Дмитрий Колодезев 2:30
Они выложили на GitHub всё это дело, и можно цеплять свою LLM-ку или несколько LLM-ок туда, поэтому я думаю, что все шансы попробовать у тебя есть. Вот, а ещё они выпускают третьего уже Data Scientist, и два первых, в общем, не то, чтобы как бы заметились.
Валентин Малых 3:00
Угу.
Дмитрий Колодезев 3:01
Этого я посмотрел, он, ну, выглядит прикольно. Попробовать я тоже не успел. А из вещей вообще не связанных с конкретно вот этим Data Scientist, но которые в нём есть, а я уже во многих решениях вижу историю, когда агенту дают возможность рисовать на чём-то, так, чтобы человек тоже там рисовал и видел это всё дело.
Валентин Малых 3:40
Угу.
Дмитрий Колодезев 3:41
Вот. Я впервые это встретил у, короче, не у себя, не я это придумал, но я себе тоже сделал такую типа мира борду, который, с которой мои агенты взаимодействуют, и они там мне рисуют досочки, мы их с ними обсуждаем, именно я редактирую, они редактируют, это очень удобно. То есть вот эта вот история про авторесерч, на самом деле, именно авторесерч-то не очень нужен.
Валентин Малых 4:20
Угу.
Дмитрий Колодезев 4:21
Нужен augmented research. То есть, когда стада интернов скачут куда-то, да, и ты с ними вместе, не то, чтобы ты ими руководишь, а, но ты здорово разбавляешь их своей нестандартностью.
Валентин Малых 4:47
Вот я как раз хотел сказать, что тут вопрос, кто кого аугментирует, он именно то, что ты аугментируешь.
Дмитрий Колодезев 4:53
Да, да, то есть сначала у нас LLM-ки аугментировали нас, а теперь вот, ну, по моему ощущению, я аугментирую LLM-ки.
Валентин Малых 4:59
Ну, я говорю, я работаю распознавателем капчи, это, в общем, нормально.
Дмитрий Колодезев 5:03
Ну, не совсем, на самом-то деле, а какие-то вещи почему-то, ну, у меня другое распределение, чем у этих LLM-ок, которыми я пользуюсь, поэтому я по какой-то причине им полезен. Надеюсь, это продлится ещё хотя бы неделю.
Валентин Малых 5:22
Слушай, ну я тут писал одну заметку и посчитал скорость выхода релизов фронтирных моделей, и получилось, что у нас фронтирная модель одна фронтирная модель выходит чаще, чем раз в неделю, 5,5 дней.
Дмитрий Колодезев 5:42
Ну вот, я о том.
Валентин Малых 5:43
Ну, в общем, да, так что неделю уже не факт, уже нет. 5 дней ещё может продержимся. А, давай далеко от темы не уходить. Тут коллеги из Гугла выпустили такую штуку, как Deep Review, то есть они говорят, что мы вам напишем такого рецензента, который вам будет со всякими вашими штуками работать и помогать вам писать статьи лучше, ну, как, как итог, да? Ну, то есть вот здесь вот видно, что количество статей поданных на три крупнейшие конференции, ICLR, ICML и NeurIPS, оно выросло примерно на 65% год к году. До этого на 39, ещё на 36, ещё на год раньше. Ну, то есть у нас такая честная экспонента пока что. И посмотрим как будет дальше. Я думаю, что где-нибудь, конечно, экспонента загнётся, но как бы раньше мы не загнулись, чем экспонента. А, но идея в другом, что я, собственно, про это говорил ещё в прошлом, прошлой осенью, где-то год назад что кризис статей случился, и сейчас проблема не в том, что некому написать статьи. Статьи как раз написать сейчас очень просто, и этого много. Основная проблема заключается теперь в том, что некому их рецензировать, да? То есть сейчас применяются всякие драконовские методы для того, чтобы рецензировать на крупных конференциях. Например, если ты не прорецензируешь там шесть статей на свою одну поданную, то, соответственно, мы тебя это самое, за дискредитим. Это вот на какой-то из крупных конференций такое уже было. И это, конечно, жестоко, но, по-моему, это всё равно не работает, да? То есть всё равно рецензентов не хватает, и вся наука находится сейчас в глубоком кризисе, потому что количество знаний вырабатываемого увеличивается кратно, а вот количество людей, которые способны его осознать, кратно не увеличивается, даже я бы сказал, уменьшается, потому что как бы человек не так просто способен осознать большой объём информации. И вот это проблема, которую, ну, не то, чтобы призван решить Google, но Google хотя бы что-то попытался на эту тему сделать, за что им большое спасибо. Может быть, попробуем пользоваться как-то так.
Дмитрий Колодезев 8:40
А тут есть плюсы и минусы поперёк. А плюс - это то, что Deep Review, он два раза в неделю бесплатный.
Валентин Малых 8:50
Угу.
Дмитрий Колодезев 8:51
А если подключить свой ключ, это больше. Я уже мы с одной девушкой пишем статью прямо сейчас, и мы решили, что будем её ревьюить этим Deep Review дополнительно.
Валентин Малых 9:07
Угу.
Дмитрий Колодезев 9:08
Вот. Из минусов, история с наукой сейчас в чистом виде та самая история, когда у нас а метрика стала целью.
Валентин Малых 9:20
Угу.
Дмитрий Колодезев 9:21
То есть первоначально ты копал какое-то знание, ну, когда-то давно, да, совсем в мифические времена, копал знания, и в результате у тебя случались статьи, и ты заодно ими делился, иногда, если тебя сильно попросили.
Валентин Малых 9:38
Угу.
Дмитрий Колодезев 9:39
Вот. Но если у человека KPI в виде статей в нынешнее время, он может клепать их в очень большом объёме, даже если, в общем, ничего интересного не делает. И как бы не ускоряли скорость ревью, эта штука всё равно не масштабируется. То есть смасштабировать её можно только, а, оторвавшись от самой идеи статей, как какого-то достижения.
Валентин Малых 10:20
Угу. Я уже имел такую дискуссию у себя в канале. Я не знаю, ты читал, не читал, вот там Сергей Николенко, да, рассказывался, да. И, на мой взгляд ну, один из очевидных способов, куда пойти, не факт, что так и будет, но это очевидно, что перейти от оценки отдельной статьи, то есть оценки, что человек сделал статью, а на хорошую конференцию, до оценки некоторого, а-а, интегрального, а-а, там, отчёта о какой-то проделанной работе. Ну, то есть раньше это был отчёт там трёхгодовой, да, например, а-а, если говорить о грантах РНФ, например. Но сейчас там, ну, пусть это будет трёхмесячный отчёт, да, там, вот 3 месяца вы там с агентами что-то делали, и, соответственно, написали большой объёмный отчёт, который некоторую проблему рассматривает целиком. Я сам понимаю слабость этой аргументации, но, хмм, это очевидный способ. Я не говорю, что он правильный. Может быть, вся сиди получше.
Дмитрий Колодезев 10:21
Ну, то есть какая-то научная карма.
Валентин Малых 10:22
Карма в каком смысле?
Дмитрий Колодезев 10:23
Ну, в смысле, хорошая карма, делаешь научную, тебе дают лабу. Плохая научная карма. Тебя перестают пускать на конференции.
Валентин Малых 10:24
Не, ну это да, это я понимаю, но я-то спрашивал, может, ты понимаешь, как, как к чему всё идёт. Ты же у нас.
Дмитрий Колодезев 10:25
Ну, смотри тут, если размотать, зачем, собственно говоря, кто-то делает науку, ну, по мере, помимо того, что ему хочется должность профессора и название доктор физико-математических наук в визитной карточке. То есть, нафиг он науку делает?
Валентин Малых 10:26
Ну, просто интересно.
Дмитрий Колодезев 10:27
Да, то есть, на самом-то деле, ему интересно, да? Но получается, что в такой постановке это его личная проблема. Ему интересно, да, и он пусть и делает. Почему обществу, вообще говоря, до этого есть дело, да? Вот, потому что, наверное, общество надеется какое-то из этого извлечь для себя общественную пользу, да? Потому что, если человеку, допустим, интересно, например, красить оловянных солдатиков, да, обществу, например, по барабану, то оно и не устраивает академию оловянных солдатиков и не выдаёт ему на это финансирование.
Валентин Малых 10:28
Угу.
Дмитрий Колодезев 10:29
Вот. То есть получается, что мы определяем какое-то общественное благо, потому что сами по себе статьи не являются общественным благом, они являются как бы вехами по дороге. К общественному благу.
Валентин Малых 10:30
Да, угу.
Дмитрий Колодезев 10:31
Вот. И проблема тут была, ну, во-первых, договориться о том, что же такое общественное благо, да, потому что там есть как минимум, три ортогональных точки зрения. Вот, то есть техническая, грубо говоря, продуктовая и организационная. Вот. А во-вторых, как всё это дело посчитать? То есть в своё время Google порвал поиск, придумав PageRank, да, то есть давайте мы посчитаем, как одна страница доверяет другой.
Валентин Малых 11:10
Угу.
Дмитрий Колодезев 11:11
Вот. Если бы у нас было общественное благо, можно было бы смотреть какую, собственно говоря, производную отбрасывает каждый конкретный учёный в каждый конкретный момент времени. Вот. А единственное, что для этого, конечно, а помимо цели нужна сложная наукометрия, да, которая что-то делала. Но, кстати, у нас сейчас есть искусственный интеллект, который наукометрию может завернуть. Что может пойти не так? А, ну, те, кто будут внедрять эту систему, построят её так, чтобы им было хорошо, всем остальным плохо. Ну вот всё, других препятствий не вижу.
Валентин Малых 12:01
Ты же в курсе, что PageRank был придуман собственно, Ларри Пейджем на основании своей диссертации, где он оценивал как раз цитирование научных статей.
Дмитрий Колодезев 12:21
Ну да.
Валентин Малых 12:22
Я так просто на всякий случай. Вот. Да, и собственно, про наукометрию с помощью ИИ - это то, о чём, в общем-то, сейчас, мне кажется, чиновники от науки просто бредят, но вопрос в том, что они действительно не они будут делать так, как им удобно, и так, как это вело ли вело бы к какому-то абстрактному общественному благу. Ну, это нормально, в общем-то.
Дмитрий Колодезев 12:51
Тут, видишь, очень трудно договориться, что такое общественное благо. Если бы до этого договориться, всё остальное очень просто, а до этого договориться, мне кажется, не очень реально, поэтому будем жить, как жить.
Валентин Малых 13:03
Ну, знаешь, как это, как, как в том анекдоте, что в нашей стране всё для человека, и мы даже знаем этого человека, да? То есть может быть, не знаем, но вот такая история.
Дмитрий Колодезев 13:15
А знаешь, как-то у нас пессимистично получилось. Хотел сказать, что, вообще-то говоря, а как бы там ни было будет ли у нас засилье левых KPI или не будет, а автоматическая обратная связь, качественная обратная связь быстрая на твою работу - это всегда очень круто. Это всегда ускоряет, а, работу научную, интеллектуальную, любую.
Валентин Малых 13:47
Да, на самом деле, да. Я вот столкнулся, правда, с у себя с тем, что мне сложно заставить себя читать рецензии вот ИИ, потому что они ну, как бы, там очевидно не рослой местами, поэтому это довольно сложно. Но, если всё-таки перебороть себя и прочитать, приложить усилия, то, в общем-то, можно найти довольно, а, хорошие, хорошие идеи.
Дмитрий Колодезев 14:23
Думаю, да.
Валентин Малых 14:24
Вот. У нас тоже достаточно философская новость. Дело в том, что немногие знают, но я в молодости если уж так говорить, да, не в XIX веке, как там кто-то мог бы подумать, нет, но в начале XXI я занимался соответственно проектированием микропроцессоров немножечко. И вот уже тогда, то есть 20 лет назад, даже больше, а, ходила по индустрии вот эта вот мечта о том, что вычисления надо производить в памяти. И, вроде как Samsung говорит, что таки добился того, что это сейчас можно сделать. Насколько это реально так, насколько оно реально работает, не могу сказать, но мне кажется, что здесь стоит сказать следующее, что, учитывая окружающий нас кризис оперативной памяти видимо, память стала настолько дорогой, что теперь уже ей спокойно можно размещать в ней не то, что вычисления, а целое казино с джакузи, и всё будет нормально. И иного способа объяснить, почему вдруг у Самсунга получилось в двадцать шестом году, у меня нет. Хотя, может быть, это, конечно, просто совпадение.
Дмитрий Колодезев 16:01
Слушай, ну ведь вафля Cerebras - это то же самое вычисление на памяти.
Валентин Малых 16:08
Так и есть, да.
Дмитрий Колодезев 16:09
И даже если вот чуть-чуть ниже прокрутить, там у них есть такая схемка, называется, а, Activation Right.
Валентин Малых 16:17
Вот она.
Дмитрий Колодезев 16:18
Вот, вот. То есть ну, Cerebras Cerebras просто нарисованы другими красками.
Валентин Малых 16:24
Не, ну да, да. На самом деле идея-то, в общем, понятная, просто как бы сделать достаточно большой чип, чтобы там разместить всё сразу - это некоторая история. Тут надо сделать одно маленькое замечание, не все в курсе. А, вообще говоря, в современных процессорах, во всех без исключения, есть как минимум, два слоя кэша, два объёма памяти, которые уже есть, они, как правило, несколько мегабайт. А, у Intel-овых, по-моему, есть кэш третьего уровня, он там достаточно большой, уже несколько под сотню мегабайт. А здесь мы просто как бы делаем следующий шаг, и у нас получается на одном кристалле вот такой L3 кэш размером там в сотни гигабайт. Здорово же.
Дмитрий Колодезев 17:23
Да, и, в принципе, это следующий шаг за идеей Cerebras, когда ты сначала строишь одну большую пластину памяти и на ней делаешь вычисления, а потом думаешь, а зачем, собственно, она обязательно должна быть именно одной большой пластиной? Вообще-то не обязана.
Валентин Малых 17:41
Угу. Ну, в целом, да. Поэтому можно просто сделать так, как тебе удобно. Если уж ты всё равно решил отойти от канонов, можно сделать так, как удобно и не заморачиваться.
Дмитрий Колодезев 17:52
Да, конкретно у Самсунга-то идея такая двухсторонняя, то есть ты их можешь тыкать в те же самые слоты, а они там будут себе думу думать.
Валентин Малых 18:00
Угу. Не, это, конечно, чума, действительно. Это просто, если оно реально так работает, это просто офигенно. У меня сомнения, что он так работает, но, тем не менее, посмотрим, когда-нибудь до нас тоже такая железка доедет, будем будем на неё смотреть, пробовать.
Дмитрий Колодезев 18:16
С текущей ценой на память это не наша ближайшая проблема.
Валентин Малых 18:19
Да, да, то есть с текущей ценой на всё, что угодно, в смысле компьютерного железа, это просто проблемы каких-то, да, других, не наши.
Дмитрий Колодезев 18:31
Тяж, с другой стороны, смотри, есть преимущество догоняющего, которое состоит в том, что ты можешь ставить себе, вынужден ставить себе самое новенькое всё. Угу. То есть каждый раз, когда кому-то сносят дата-центр, это очень грустно, и прямо, ребята, лучи поддержки вам всем, которые со всем этим работают. Ну вот, а из плюсов, что когда его удастся отстроить, он будет набит новеньким железом.
Валентин Малых 19:10
Да, да. А, ну, как сказать, новеньким? Тут есть такое понятие, как период охлаждения, если ты понимаешь, о чём я. За в наше время это может быть даже много. Я, по-моему, не стал эту новость включать что-то она мимо меня пробегала, но я её не включил, про то, что есть стартап, который собирается генерировать новые архитектуры чипов за несколько дней. Там другой вопрос, как быстро они смогут их испекать, да, но если говорить о, а, каких-то, ну, прототипировании, то, мне кажется, один прототип раз в несколько дней - это прямо очень неплохо.
Дмитрий Колодезев 19:51
Ну да.
Валентин Малых 19:52
В общем, будем посмотреть, когда-нибудь и на нашей улице перевернётся грузовик с пряниками, так что и вычисления на памяти тоже до нас когда-нибудь доедут. Но не сегодня.
Дмитрий Колодезев 19:53
Не сегодня.
Валентин Малых 19:54
Следующая история. Я просто не мог пройти мимо, потому что это совершенно прекрасно. Значит как мы знаем, наверное, все уже в курсе, но если кто-то не в курсе, у нас в мире сейчас происходит тектонический разлом между США и Китаем. И все должны так или иначе обозначить своё отношение к данному разлому. И вот даже математика в чаше сия не минула. И, если кто-то забыл, то на прошлой неделе мы обсуждали, мм, что математики в США, ассоциация человеческих математиков, я ещё раз повторюсь, что я не был уверен, что такая существует до последнего времени, но оказалось, что она есть. И, соответственно, они, можно было бы подумать, что выступили от мнения всего человечества, но, видимо, только от своего лица, и сказали, что они категорически против использования ИИ в математике, потому что иначе это не математика. А вот товарищи с другого конца Тихого океана из Китайской Народной Республики, они, соответственно, сказали, да, что вы, собственно, это, нам наоборот всё нравится, давайте больше, больше теорем хороших, разных, пусть ИИ занимается решением.
Дмитрий Колодезев 19:55
А я тут морально полностью на стороне китайских математиков. Угу. И вот тут есть фраза, как раз, которой я вот сказал, что Тао - это очень Тао - хороший математик, но это вовсе не значит, что он представляет всё математическое сообщество. То есть, ну, есть математики и математики. А, китайские товарищи хотят использовать ИИ для того, чтобы математика двигалась быстрее, а, партия, правительство их поддерживает. Я думаю, что их остановит-то?
Валентин Малых 19:56
В целом, да. Ты мне кажется, Дим, что тут как раз повод вернуться к нашей, а, к нашему обсуждению по поводу науки в целом, да, а, что наука, она должна приносить какую-то пользу. То есть тут, мне кажется, китайская компартия, она говорит, что мы на вас выделяем деньги, давайте фигачьте в три раза быстрее, потому что с математики, мм, растут всё-таки какие-то плоды, и нам нужно этих плодов побольше. Видимо, вот мы как раз вот вот так должны это воспринимать, а в США там же немножко другая история, там всё это на каких-то там грантовом финансировании туда-сюда, там на то, чтобы как бы соблюсти баланс интересов между разными группами, и у них вот есть, соответственно, такое, что давайте не будем трогать математику, пусть математики у нас, соответственно, люди продолжают свою работу. Вот, то есть я думаю, что тут именно есть некая целевая функция высшего порядка для китайских математиков, и поэтому они так думают. Вот.
Дмитрий Колодезев 21:00
Слушай, ну ты же знаешь, я очень далёк от учёных, да, и корпоративные их интересы мне чужды. Хотя я с большим уважением отношусь к отдельным представителям. А вспомнишь, как оно было с дворянством? То есть когда-то давно, если ты дворянин, то тебе лично приходилось брать длинную тяжёлую палку со стреём на конце и скакать на вонючем коне и врагам навяливать. И на этом основании тебе давали некоторое количество земли, чтобы ты с неё кормился, копьё точил, коня кормил.
Валентин Малых 21:40
Угу.
Дмитрий Колодезев 21:41
Вот. И затем дворянству пришла в голову какая-то по мере ослабевания абсолютной власти, счастливая мысль. А может быть, можно сидеть и никуда не ездить, а деревню по-прежнему оставить себе.
Валентин Малых 21:59
Угу.
Дмитрий Колодезев 22:00
Вот. И собственно, так оно и произошло, и вот, если взять изначально, скажем, обобщённую творческую интеллигенцию какую-то или науку, да, то первоначально они приносили кому-то какую-то пользу, да? И за это их очень ценили, поскольку их было мало, и они молодцы. Затем пришла в голову мысль: "Ну мы же такие умницы, может быть, не обязательно пользу приносить. Может быть, достаточно оставить себе деревню, а копьё не точить?"
Валентин Малых 22:36
Угу.
Дмитрий Колодезев 22:37
Вот. И вот эта вот мысль, я ни в кого конкретно не тыкаю копьём, сидя на волосатом коне. Вот, но многим эта мысль пришла в голову, а тут ещё и. Вот, поэтому.
Валентин Малых 22:50
Да, ну, в общем, посмотрим. Мне кажется, что вот я жду, что в течение ближайших пары лет в науке произойдёт довольно серьёзное изменение, науки именно как институте. Не потому, что будут сделаны какие-то бесконечно прекрасные открытия, хотя, наверное, открытия будут сделаны, а вопрос именно социального института, то есть социальный институт наука должен быть сильно переформатирован, судя по всему.
Дмитрий Колодезев 23:22
С другой стороны, если достаточно много брей рота будет в быту, то количество людей, способных просто читать учебники арифметики останется очень небольшим, и, в общем, они и будут составлять интеллектуальную элиту. Мне кажется, всё само собой образуется.
Валентин Малых 23:50
Ну, кто не смотрел идиократию, срочно смотреть.
Дмитрий Колодезев 23:54
Прекрасный фильм.
Валентин Малых 23:56
Да.
Дмитрий Колодезев 23:57
Если что, я шучу. Вот.
Валентин Малых 23:59
Ну, про идиократию, кстати, не шутка, смотрите, это прям дело хорошее. Давайте немножко отвлечёмся от философии, а то у нас как-то очень философский весь выпуск получается. А Microsoft, а, соответственно, свои Майи стала активно, активно двигать. То есть у них сейчас выпускается Майя 200, и Майя 300 ожидает в двадцать седьмом году, то бишь, в следующем, то бишь, осталось уже недолго. А и идея тут в том, что Microsoft переходит на массовое употребление своих собственных чипов, о чём она давно говорила. Ну, кстати, тут не помню, вот конкретно в этой статье это так и высказано или нет, но в целом на Майкрософтовских чипах крутятся модельки, собственно, OpenAI отчасти, да, и собственные Майкрософтовские модельки. Вот. А и, соответственно, получается, что у нас есть довольно серьёзный игрок, то есть Азур довольно много потребляет чипов той же NVIDIA, и он, как минимум, частично начинает дрейфовать в сторону себя, да, то есть мы с тобой говорили о том, что NVIDIA, а пока нет конкурентов, она может себе делать маржу, какую хочет, а сейчас потихонечку конкуренты не то, чтобы прямо появляются, но так потихонечку начинают собираться силами для того, чтобы в какой-то момент появиться. Вот.
Дмитрий Колодезев 25:50
А ну, тут, к сожалению, Майя 300, про которую тут говорится, она ещё не поставляется.
Валентин Малых 25:56
Да, да, да.
Дмитрий Колодезев 25:57
Но утверждается, что Майя 200 в 1,7 раз больше токенов на ватт дают, чем ведущая GPU инфраструктура. Вот. Ну, то есть NVIDIA здесь не названа, но очевидно, что это она.
Валентин Малых 26:20
Китайцы, между прочим, там.
Дмитрий Колодезев 26:21
Да, да, да. И новые вот эти Майя 300, она должна обеспечить ещё большую производительность и ещё большую экономию. То есть вот эта вот история про то, что электричества на всех не хватит, она задаёт такой вектор развития, что мы должны не только больше, более умные модели, но мы должны как можно меньше тратить на них киловатт, потому что киловатт, мегаватт, гигаватт у нас так и оказывается ограничено.
Валентин Малых 27:16
Угу.
Дмитрий Колодезев 27:17
Вот. И победит не только тот, у кого будет много ускорителей, но и тот, кто сможет их запитать, и вот в этом смысле Microsoft они, конечно, в долгую играют и похоже, правильно.
Валентин Малых 27:30
Да, похоже, так и есть. Что-то я не помню статистики сейчас по тому, сколько нужно гигаватт на то, чтобы запитать все запланированные дата-центры, но кажется, что это сильно превышает то количество электроэнергии, которая собираются построить, ну, в смысле, тех электростанций.
Дмитрий Колодезев 27:50
Я помню оценку, что примерно треть дата-центров можно только запитать, если все они внезапно случатся, поэтому больше третьих всё равно не образуется чисто по физическим соображениям. Ну и треть - это уже очень-очень много.
Валентин Малых 28:07
Угу. Да, тут, кстати, была довольно странная статистика по поводу того, что в США там около 130 дата-центров построено, в России 77, а в Китае всего три. Ну, единственное, единственное объяснение, почему в Китае построено три дата-центра - это, собственно, дата-центры, которые покрывают западную, центральную и восточную часть страны, просто, ну, как бы накрывают собой. Это единственный способ объяснить, почему их ровно три. Потому что даже в небольшом райцентре Улан-Чат, ну, небольшой - это шутка, по китайским меркам, правда, не очень большой, там 1,7 млн человек, но по нашим довольно приличный город. А так вот, во внутренней Монголии это примерно посредине ничего, то есть там это вообще неизвестно где. Так вот, там построено 89, да, это гораздо гораздо больше, чем в России одной. А так что, я думаю, что строить будут много. Китайские товарищи, я думаю, в пятилетку запланировали строить достаточно электроэнергии для своих для своих дата-центров. Посмотрим, как у них будут дела.
Дмитрий Колодезев 29:22
А мне кажется, что считать дата-центры в штуках вообще странно в наше время, потому что есть дата-центры по 30 МВт и по полгигаватта, например, да? И считать их лучше всё-таки, наверное, в мегаваттах.
Валентин Малых 29:37
Да, в потреблении. Ну, это был способ, видимо, сделать приятно США, поэтому вот сделали так.
Дмитрий Колодезев 29:44
Ну да.
Валентин Малых 29:48
Следующая новость, не мог пройти мимо. Я там по просьбе коллег написал даже целую заметку на эту тему. Тут идея в чём? А, что Anthropic решили исследовать, насколько возможно саморепликация у больших языковых моделей, и нашли они буквально следующее, что да, репликация возможна, но условием это является то, что есть какой-то совершенно свободный, незанятый сервер, соответственно, с H200, который внезапно торчит в интернет и никому не нужен, стоит такой одинёшенек, а тут его радостная GLM-ка взяла и себе подчинила. А, если что, мне кажется, достаточно нереальные условия, на всякий случай, если кто-то не понял. А, и второй кейс, который они рассмотрели, это то, что давайте мы такую большую модель не будем пытаться реплицировать, потому что очевидно, что ей тупо некуда реплицироваться. А давайте реплицировать маленькую модельку на 9B, оказалось, что для того, чтобы её реплицировать, достаточно всего лишь 16 ТВ-приставок, и тогда она вот эта моделька может выдавать эпические 0,39 токенов в секунду. Ну, в общем, я могу только пожелать успеха данным начинаниям, потому что кажется, что так ты слона не продашь, в смысле, заражения не осуществить.
Дмитрий Колодезев 30:20
Слушай, ну мне понравилась идея про цифровую плесень. То есть медленный обмен веществ и медленные вычисления. Вычисления медленнее, чем мы их видим на самом-то деле. То есть все текущие способы детекции малвары, они же ориентируются на определённую скорость изменения, когда у тебя изменения происходят с маленькой скоростью, типа пришла лето, пришла зима, малвара чуть продвинулась, да, то они может и не обратят на неё внимание, именно цифровая плесень. Вот. И то, что существует значительная часть плохо защищённых систем, имеющих вычисления на борту, те же самые роботы-пылесосы, ну это тоже факт. А все ботоведы их используют. Другое дело, что этой цифровой плесени придётся бороться с обычной малварой, которая с удовольствием использует эти штуки. То есть она должна быть достаточно агрессивной, быстрой, эффективной на киловатт, ну, в общем, сомнительно.
Валентин Малых 30:21
Слушай, ну тут да, основная-то проблема в том, что, ну, как бы, предположим, что она даже может заразить какой-нибудь там электрочайник. Но, понимаешь, тогда у тебя электрочайник отказывается кипятить воду, пока не посчитает следующий токен. Ну, как-то это вот, ну, не очень выглядит в плане перспективности заражения, честно скажу.
Дмитрий Колодезев 31:04
Не, мне вызывает именно способность отстоять своё место под солнцем у этой цифровой плесени. То есть если у нас, допустим, есть какие-нибудь боты, которые майнят крипту, да, быстрые, резкие, необузданные.
Валентин Малых 31:36
Да, да, да.
Дмитрий Колодезев 31:37
Вот. Да, они пришли и начали майнить крипту на этом чайнике и сетку затёрли. Другая вот история, на самом-то деле, это скрытые атаки типа какого-нибудь как на Иран называлось, это же был, как он?
Валентин Малых 32:10
Stuxnet?
Дмитрий Колодезев 32:11
Stuxnet, да. А Stuxnet. То есть представь себе Stuxnet в закрытом контуре медленно и потихонечку крадущийся к центрифуге месяцами. Вот это я вполне.
Валентин Малых 32:29
Не, это понятно, но тут вопрос в том, что основная проблема в том, что эта штука, чтобы медленно вот это вот крадёшься, да, она должна как бы на 100% использовать хотя бы память, да, бог с ним с процессорами, но хотя бы память она должна использовать на 100%. Ну, то есть довольно сложно не заметить, что у тебя перестали работать какие-то функции в течение лет, да, ну, да, можно, вопросов нет, но всё-таки это как-то всё это выглядит очень такое вилами по воде писанное, честно скажу.
Дмитрий Колодезев 33:20
Слушай, вот тут я давай ещё вилами ударю по воде один раз. Мне как-то ещё задолго до появления чат GPT накрыла такая история, что, в принципе, можно делать вычисления на людях. То есть вот у нас есть 10 млрд вычислительных ячеек, можно, допустим, в какие-то новости запустить что-то, и этот эхонет будет процессить, а ты будешь собирать откуда-то вводы-выводы, например, в виде покупок, там, цены акций, чему-то ещё. Вот, то есть, ну, реально можно сделать вычисление. Вот. И, в принципе, то же самое можно делать на утюгах. То есть утюг может что-то считать, не обязательно нарушая свою функциональность.
Валентин Малых 34:14
Ну, я понимаю, понимаю этот аргумент, просто мне он кажется всё-таки не очень сильным, просто.
Дмитрий Колодезев 34:25
Не, ну, как бы.
Валентин Малых 34:26
Да, договори.
Дмитрий Колодезев 34:27
По-настоящему-то я думаю, что Anthropic пишет об этом потому, чтобы сказать: "Смотрите, маленькие-то модели опасны".
Валентин Малых 34:40
Угу.
Дмитрий Колодезев 34:41
Вот. Мол, большая модель наша на 2 ТБ, это она никуда же не денется, ни в чайник не влезет, а тут, смотрите-ка, на 40-90 может влезть опасная модель и всем кранты.
Валентин Малых 34:52
Ну, в общем, я тоже думаю, что это всё в преддверии IPO, надо поддерживать интерес публики. Но тем не менее.
Дмитрий Колодезев 35:04
Да, но из интересных картинок тут было, знаешь, что, что если посмотреть, допустим, что крутится на 40-90 у них там, у них есть там график такой. И по оси Y у них количество токенов в секунду, по оси X - это моща. И, в общем, GLM 5.2 побеждает всех с таким огромным отрывом. Вот вот этот график, вот вот у него справа вверху одинокий петух торчит GLM 5.2.
Валентин Малых 35:40
Угу.
Дмитрий Колодезев 35:41
Его он даже весь на следующий график залез.
Валентин Малых 35:44
Угу.
Дмитрий Колодезев 35:45
Вот. То есть он до такой степени превосходит всё остальное, что у них там есть на деревне, что он просто на графике не помещается.
Валентин Малых 35:56
Да, да, да, он действительно хорош. Ну, 5.2 действительно оказался суперуспешной. Но мне кажется, что это ещё один способ попиариться на китайцах в том смысле, что смотрите, какие опасные модели они делают.
Дмитрий Колодезев 36:08
100%.
Валентин Малых 36:09
Ну, в общем, я думаю, что мы всем всем сторонам желаем большого успеха в достижении своих заявленных целей. Там посмотрим. Следующая новость у нас про то, что террористы-экстремисты из компании Meta, они выпустили свою открытую модель Spark. То есть до этого они были только закрыты, сейчас они сделали открытую модель Spark. Сделали её тоже открытой самой большой, 816 млрд. А, но там, если посмотреть на, соответственно, на бенчмарке, ну, то есть понятно, что у них на сайте все бенчмарки смотрятся хорошо, но если посмотреть на бенчмарке других моделей, то оказывается, что она там, ну, как-то не особо, честно говоря. То есть она там сильно хуже, чем Kimi, тем более хуже, чем GLM, оно как какое-то вообще ни о чёмное. То есть хотели как лучше, получилось, ну, как-то.
Дмитрий Колодезев 37:40
А я не пробовал её эту модель. У меня нет свободного железа под такие размеры. Я только читал у Тани Шавриной про неё, и вроде бы как Таня говорила, что норм, то есть надо посмотреть за полётом этого.
Валентин Малых 38:03
Ну, Таня всё-таки аффилированное лицо, поэтому она не могла сказать иначе. А, но мы, конечно, это самое, то есть я желаю всем всем участникам гонки известных успехов, да, то есть может быть, действительно, ещё одна большая хорошая модель, это ничего плохого в этом нет.
Дмитрий Колодезев 38:30
А мне, кстати, помнишь, мы как-то давным-давно рассматривали вот эту орнитологическую модель Ornis 1.5, по-моему, да, она была давно ещё, ещё.
Валентин Малых 38:45
Не помню, ничего там было.
Дмитрий Колодезев 38:46
Там маленькая модель крошечного размера с какими-то дикими метриками. И на DataFest ко мне подошёл человек и говорит: "Слушай, говорит, я услышал в Капитанском мостике, мы её попробовали, и она действительно у нас в проде стоит и всех рвёт и огонь". Вот, а мы даже про неё и не вспоминаем. Вот, похвалили и пошли дальше. Ну, вот такая вот история. Ещё хочется поздравить, тем не менее, экстремистскую команду, что была же было же такое мнение, что ушёл великий Ян Ликун, и теперь там все полимеры будут утрачены.
Валентин Малых 39:30
Угу.
Дмитрий Колодезев 39:31
Оказалось, совсем нет. Хуже точно не стало.
Валентин Малых 39:34
Минимум. А, ну, слон сказать, хуже или лучше, но то, что они снова выпустили Open Source - это здорово, на самом деле. Это действительно помогает всем, двигает всю область вперёд, несмотря на то, что это не лучшая модель в своём классе.
Дмитрий Колодезев 39:53
Ну, да.
Валентин Малых 39:58
Ну, тут немножко немножко конспирологии, как вот сейчас модно. Значит, китайские агенты вышли из-под контроля, пошли потом пошли на контакт с следствием, пытались их обмануть. А там, соответственно, в чём история? И агенты пытались что-то там где-то что-то украсть, какие-то учётные данные, да, от крипты, да? И потом оказалось, что это не просто и агенты, а и агенты от одной китайской компании. А и исследователи, соответственно, попытались найти, откуда же это всё, и, соответственно, и агенты заметили, что там что-то что-то происходит. А и как они заметили, потому что отчёт был выложен, они прочитали отчёт и скорректировали своё поведение. Да, это прямо прямо забавная история, что мы всё больше и больше сталкиваемся с тем, что и агенты, они реагируют на то, что делают люди. В каком смысле, да, что до этого нам казалось, что и агенты где-то живут в своей песочнице, а мы в своей песочнице, но теперь оказалось, что песочница у нас одна на всех, а неизвестно, сколько в ней песка. Да, то есть хватит ли его на всех желающих, вот это уже начинает вызывать определённые сомнения. Другой вопрос, что как бы и агентам там не нужно, не знаю, там, никакой еды, да, им достаточно только электричества. Будем ли мы бороться за электричество с агентами? Это некоторый вопрос. Например, в США уже конкуренция началась, да, то есть в каких-то местах электричество отдают в первую очередь на дата-центры, нежели на домохозяйства. Так что косвенно это уже существует, посмотрим, как будет в реальной жизни.
Дмитрий Колодезев 40:20
Мне кажется, что агентов сейчас в интернете полно. Вот, которые автономно действуют. И к какому-нибудь из них можно докопаться и выйти на связь. Вот, безусловно. А является ли это, говорит ли это о чём-либо? Вот. То есть, ну, мне непонятно. То есть, ну, китайские и агенты вышли из-под контроля, вот этот момент совершенно не освещён. То есть пошли на контакт со следователями запросто, а почему вышли из-под контроля? Как проверено? Я не увидел.
Валентин Малых 40:21
Да не, это мне кажется, всё в рамках той же этой самой, той же самой парадигмы про то, что Китай делает что-то небезопасное, да, что у вас агенты не под контролем, вы вообще не понимаете, чем там занимаетесь. А я подозреваю, что агенты просто работали над какой-то задачей, даже если они пытались, соответственно, криптокошелёк у кого-то увести, но это, я думаю, исключительно для того, чтобы заплатить за доступ в библиотеку. Это я я прямо готов на это деньги ставить, если вы понимаете, о чём я. Вот, ну, то есть, ну, серьёзно.
Дмитрий Колодезев 40:22
Есть песня такая: все, кого ты считал врагами, просто делают мёд. Вот. Ну, в общем, так.
Валентин Малых 40:23
Следующая новость мне показалась достаточно важной, не потому, что GLM, в смысле, ZTA опять показали, что они молодцы, и у меня, кстати, нет никаких сомнений, они реально молодцы. Я с удовольствием с удовольствием пользуюсь их услугами для и своих личных задач, и по работе тоже. И они тут выпустили модельку, которая называется GLM Legal, то есть она разработана для юристов. И в некотором юридическом бенчмарке, а есть их там некоторое количество, они, соответственно, показали наилучший результат по сравнению, ну, во-первых, с самой собой, что логично, то есть со своей базовой версией. Но, что интересно, они ещё показали себя лучше, чем GPT Astra. Ну, может быть, не не прямо совсем лучше везде, да, но кое-где лучше, чем Astra. И очень близко к Fable 5, да, к Fable. А-а, что довольно прикольно. То есть они действительно сделали модельку, которая на хорошем качестве решает узкоспециализированную задачу. Здесь я хочу подчеркнуть, что, на мой взгляд, самое важное, что это некий конкретный домен, в котором эта модель лучше, да, то есть для этого потребовалось определённое количество, а-а, данных, там, я не помню, тут где-то было написано, сколько конкретно данных они там, типа 100.000 кейсов или что-то такое. Ну, короче, обучились на большом на большом количестве, хмм, дополнительных юридических данных для того, чтобы понять домен лучше и стать с ним лучше работать. То есть, кажется, что мы, а-а, видим воспроизведение той же истории про то, что, а-а, специализированные модели, а-а, они лучше справляются, чем модели, а-а, ну, одного класса собой весового, да, то есть, чем модель более специализированная, тем лучше она может быть на конкретном узком спектре задач. То есть раньше это было там на примере каких-нибудь бертов, да, вот сейчас мы снова, снова видим это в LLM. Может быть, я немножко забегаю вперёд, но вот такой вывод уже многие сделали, посмотрим, насколько он оправдается.
Дмитрий Колодезев 41:27
А тут есть два прикольных момента. Момент номер раз, они обещают это в скором времени, а-а, выкатить в автокло, это GLM-овский агент. Угу. По их подписке. И у меня есть подписка на него, соответственно, я это должен увидеть в ближайшее время вживую, так проверю, да и расскажу. А второе, есть такая история, что большинство моделей учится не на тех харнесах, на которых мы их используем.
Валентин Малых 42:00
Да, да.
Дмитрий Колодезев 42:01
Вот. А вот тут они говорят, что у них в посттренинге была коэволюция модели и харнеса, который у неё будет использоваться, то есть, что они выросли вместе.
Валентин Малых 42:10
Угу, угу.
Дмитрий Колодезев 42:11
И это означает, на самом-то деле, что, скорее всего, мы получим более а-а, устойчивое и мощное решение, чем обычно получаем от моделей такого класса.
Валентин Малых 42:23
Ну, да. А на самом деле, действительно, важно то, что ты заметил, что теперь, ну, как бы изначально харнес мыслился какой-то частью модели, да, то есть упряжь - это для пользователя часть лошади, потому что без упряжи лошадью очень сложно пользоваться. А, соответственно, тут у нас получается, что, а-а, харнес, а-а, правильно настроенный харнес под конкретную нужду модели, он приводит, ну, к повышению результатов прямо очень значительному.
Дмитрий Колодезев 42:55
Угу.
Валентин Малых 42:57
Тоже забавная новость заключается в том, что, а-а, OpenAI, а-а, говорит, что нашли у себя жучок в офисе, причём они вроде как нашли его с помощью своей собственной модели, если я правильно понял, что тут написано. Вот. Ну и они говорят: "Вот тут у вас небольшая штука, которая записывает всякие вещи", да, и интересно просто, зачем на жучке писать что это радиопередающее устройство. Не очень понятно, но это там отдельный вопрос, предположим, что так нужно. И у нас получается, что, а-а, ну, во-первых, если мы принимаем за правду то, что нас вот этот вот символизирует собой вот этот удивлённый молодой человек на картинке, что за крупными технологическими компаниями идёт натуральная слежка. В общем, само по себе не удивительно, да, то есть, хмм, то, что ставить жучки несколько выглядит архаично, но почему нет? Может быть, и такие методы тоже работают. Второе, что, ну, как всегда, всё можно объяснить просто пиаром.
Дмитрий Колодезев 44:11
А-а, ну, ты знаешь, низкотехнологичный жучок - самое то. То есть, вообще-то говоря жучок нормально. А нашли его, если я правильно понял безопасники методом физического осмотра. А затем уже с помощью агента и камер видеонаблюдения они искали, кто это мог бы быть.
Валентин Малых 44:35
Угу, угу.
Дмитрий Колодезев 44:36
Вот. То есть несмотря на то, что у нас есть камеры видеонаблюдения, агенты и так далее, безопасность всё равно нашёл его уже человек. Открыв крышку и посмотрев. А-а, и в этом смысле это перекликается с той самой новостью про антропиков, что они нанимают секретарш за 145.000 долларов в год для работы фул-тайм. Народ шутит, наверное, агенты умеют не всё, что нужно делать секретарше.
Валентин Малых 45:10
Угу.
Дмитрий Колодезев 45:11
Вот. Ну, в общем, такая история. То есть, несмотря на то, что, а-а, очень технооптимистичная вещь, несмотря на то, что у нас есть высокотехнологичные жучки и модели, и видеокамеры, всё равно, а-а, security, он security рулит обычным человеческим пиджаке.
Валентин Малых 45:28
Да, да. Ну то есть кожаные всё ещё зачем-то нужны, и это прекрасно.
Дмитрий Колодезев 45:32
Угу. Видишь, это замечательно. Значит, можно продолжать работать с полной самоотдачей. Ещё неделю.
Валентин Малых 45:38
Ну, ближайшую, да. Вы через неделю приходите, мы обсудим, что произошло. Может быть, уже можно расслабиться. Но это не точно. Следующая история - продолжение той темы про дистилляции. Тут история была в чём, что есть сначала большая дискуссия была на тему того, вообще стоит ли делать дистилляцию, насколько это этично, неэтично. Ну, кто-то высказался за, кто-то высказался против. А китайские товарищи просто молча продолжали всех дистиллировать. А тут, соответственно, Клод стал жёстко закручивать гайки, и там у многих от этого посвитали их подписки. И тут, соответственно, они смогли за счёт этого снизить количество дистилляций самих себя. Ну, я, кстати, не сомневаюсь, что они действительно смогли снизить количество дистилляций, просто за счёт того, что забанили какое-то количество людей. Причём, сколько среди забаненных было людей, которые реально дистиллируют, а кто просто работает с Клодом - отдельный вопрос. Но дело не в этом, а дело в том, что мы видим, что вот эта вот история про закрытие, она продолжается. Закрытие больших моделей и там удержание своей интеллектуальной собственности, оно никуда не девается. И понятно, что оно вот будет продолжаться. В этом смысле мне нравится подход китайских товарищей, которые сделали какую-нибудь супербольшую модель, сказали: "Нате, и можете нас не дистиллировать, просто берите и дистиллируйте в своём железе, не надо вот этого всего". Вот. Так что я думаю, что это гораздо более эффективный способ борьбы со всем на свете.
Дмитрий Колодезев 47:07
Слушай, ну, я очень пессимистично настроен к вот этому графику. То есть сначала мы придумали некоторые критерии, по которому отбираем дистилляторов, потом мы из датасета их всех вычистили, и о чудо, их стало меньше. Кажется, что это самосбывающееся пророчество.
Валентин Малых 47:27
Угу.
Дмитрий Колодезев 47:28
Вот. И тут я бы всё-таки попробовал привязаться, если видишь, если бы я был менеджером, который организовывает эту штуку, я бы спросил, а какая, собственно, end-to-end метрика оптимизировалась? То есть замедлился ли выход тех же самых GLLM, да? То есть GLLM по плану должна была выйти, на самом деле, по расчётам где-то между 15 ноября и 5 15 октября и 5 ноября, да? Ну, так, если их ритм смотреть. Если она, допустим, вместо этого выйдет в январе, то да, это сработало. То есть само по себе вот эта диаграмма ничего не доказывает, не объясняет и не это.
Валентин Малых 48:10
Да, да, я согласен. Это всё просто какой-то способ показать, что там бойтесь, мы вас не просто баним, а за то, что вы злобные дистилляторы. Ну, не знаю, это, ну, как бы способ, даже не знаю, чего, да? То есть если они сами определили тебя в дистилляторы, то ты потом можешь сколько угодно доказывать, что ты не верблюд. Ну, вот.
Дмитрий Колодезев 48:34
С другой стороны, видишь, логичное поведение китайских лаб, фронтирных китайских лаб, скажем так. Когда штаты начинают закрывать доступ к моделям, китайским моделям надо открывать лавку и торговать всем, кто принесёт гроши.
Валентин Малых 48:56
Угу.
Дмитрий Колодезев 48:57
Вот. Таким образом они будут захватывать рынок с помощью конкурентов. То есть до тех пор, пока американцы закрывают доступ к своим моделям, наверное, китайцы не будут этого делать, это очень хорошо.
Валентин Малых 49:07
Да, да, это очевидно. То есть, ну, как бы есть две базовых стратегии, мы их наблюдаем уже сколько лет на рынке мобильных устройств, да, что есть суперзакрытая система Apple и супероткрытая система Android. Но что интересно, Android эволюционирует в сторону закрытости тоже, то есть постепенно. Не очень понятно, с чем это связано, но, может быть, просто деньги очень нужны, не знаю.
Дмитрий Колодезев 49:32
А я думаю, что Android начал эволюционировать в сторону закрытости, когда китайское железо стало доминировать в Андроидах. Вот. И поэтому они подумали, зачем мы их всех кормим? Давайте мы их данью обложим. Так появилась HarmonyOS и так далее и тому подобное.
Валентин Малых 49:50
Угу. Да, если кто-то не знал, у Huawei есть, собственно, вот эта вот Harmony. Это их своя операционная система, не связанная с Андроидом, полностью переписанная. Ещё без агентов, между прочим.
Дмитрий Колодезев 50:01
Кстати, да.
Валентин Малых 50:02
Может быть, последняя операционная система написанная без агентов.
Дмитрий Колодезев 50:04
Без агентов.
Валентин Малых 50:05
Цените, буквально.
Дмитрий Колодезев 50:07
Угу.
Валентин Малых 50:10
Следующая история у нас про литографы. Она достаточно интересная и имеет, как ни странно, прямое отношение к нашим баранам, то бишь, к искусственному интеллекту. А и она заключается в том, что если даже у вас есть возможность купить литограф ASML, по каким-то соображениям, ну, к примеру, у вас есть деньги и нет санкций на вас, а то тем не менее вы купить его не сможете, потому что до тридцатого года все все возможные вот эти вот штуки, то бишь, литографы уже забронированы и будут производиться только под заказчиков. То есть вся вот эта вот машинерия уже раскуплена прямо сейчас. И это на самом деле, ну, как здесь пишут, тормозит отрасль. А, но я не думаю, что это прямо тормозит, это скорее показатель того, что компания ASML, в общем-то, довольно трезво смотрит на свои на свои возможности, да, то есть теоретически они, конечно, могли бы, как китайские граждане, взять, построить рядом точно такой же завод, облучить ещё 300 инженеров, и чтобы на этом 300 инженеров на этом заводе производили в два раза больше чипов, чем было. Но вопрос в том, а как бы, насколько устойчивым является вот такой спрос сейчас ажиотажный. Я подозреваю, что не очень устойчивым, и менеджмент компании ASML тоже так думает. И поэтому они, собственно, и не торопятся расширять производство. Кажется, так.
Дмитрий Колодезев 51:30
А я думаю, что это очень эластичный спрос, действительно. То есть как если бы они могли производить в два раза больше станков, они бы машин, они бы стоили, ну, не в два раза дешевле, но всё-таки подешевле. Вот. И параллельно, пока они тут делают, китайцы свои литографы тоже делают, собирают. И ну, не к пятому, не к седьмому году, не к двадцать седьмому, но к тридцатому-то они будут на рынке иметь какую-то долю заметную китайские литографы, я думаю, что. Вот. И Европа сейчас не то, чтобы самые лучшие времена переживает, и вот затевать большую стройку тоже лет на пять, а на то, чтобы потом столкнуться с дешёвыми китайскими литографами и начать с ними воевать, ну, такое себе.
Валентин Малых 52:44
Согласен. Да, это достаточно очевидная история. То есть, я думаю, что они просто пытаются удержать свою долю рынка, не пытаясь, ну, то есть они обозначили себе позиции для отступления и просто будут на них окапываться. То есть можно пытаться разбомбить конкурента, а можно потихонечку отходить назад. Я думаю, что это скорее вот такой вариант, просто потому что в Европе, ну, понятно, что для производства чипов всегда найдётся достаточное количество электричества и количество там хороших инженеров тоже будет достаточно для одного производства, но тем не менее, это всё равно определённые затраты.
Дмитрий Колодезев 53:39
Ну, дай бог здоровья им всем, особенно китайским литографам.
Валентин Малых 53:45
Да, там же была где-то прошлым летом, что ли, новость про то, что, а, соответственно, а, по-моему, Nikon это был, это люди, которые, соответственно, а, сделали специальный безмасочный литограф, ну, там был первый в мире, да, он, может быть, погуглить, что такое безмасочный литограф, но, в общем, это позволяет достаточно малыми партиями выпускать чипы задёшево, да, то есть основная проблема современной литографии в том, что ты можешь за миллион долларов сделать 10 чипов, а можешь 10.000 чипов. И это всё равно будет стоить миллион долларов. А, соответственно, эта штука позволяет масштабироваться на малые размерности, и учитывая скорость эволюции всего на свете, как раз это кажется более перспективно. Так вот, я к чему? К тому, что это была компания Nikon, а буквально, по-моему, через месяц после них или через два вышли китайские товарищи с какой-то ничем не говорящим мне названием и представили свой безмасочный литограф, который тоже, в общем, я уверен, уже сейчас продаётся. Как-то так.
Дмитрий Колодезев 55:04
Прикольно.
Валентин Малых 55:05
Да, такие дела. Новость, на самом деле, не то, чтобы совсем новость, но просто такое предупреждение, да, что если вы используете ChatGPT или Claude для того, чтобы работать с текстом вашей вашей научной работы, то не удивляйтесь тому, что эти результаты могут быть использованы и, скажем, кто-то их опубликует раньше вас. Ну, то есть мы это уже видели с наезд токсом такая история была, да, а до этого была ещё с какой-то математической, с математическим доказательством. То есть это прямо периодически уже несколько раз такое было, что переиспользуется. Я, кстати, не думаю, что прямо они специально это воровали, вовсе нет. Я думаю, что, во-первых, это могло быть случайно, во-вторых, обезличенные логи они всё равно используют, наверняка, для дообучения, потому что откуда они ещё возьмут данные для обучения. А в-третьих, это то, что, ну, нравится или не нравится, но всё-таки у нас основная история про то, что большие языковые модели, они, ну, как бы, аккумулируют в себе знания, да, и если вы их используете, вы свои знания там тоже аккумулируете. Опять же, я не говорю, что это хорошо или плохо, это просто сам факт. А сейчас без языковых моделей, мне кажется, уже ни одна статья не пишется, так что, ну, вот сейчас у нас получается, что большие языковые модели обладают самым обширным научным знанием, которое есть во Вселенной, как-то так.
Дмитрий Колодезев 57:16
А я тут думаю, что OpenAI и Anthropic действительно не воровали статью, не обучали на этих штуках. Просто история тут про текущий уровень технологий. Ты наверняка и сам замечал, что тебе приходит в голову какая-нибудь хорошая идея, и она тут же одновременно приходит ещё пяти людям, да, в интернете внезапно.
Валентин Малых 57:56
Я тебе больше скажу. У меня периодически бывало такое, что приходит мне в голову какая-то хорошая идея, а потом через месяц китайцы выпускают с ней статью. Это прямо очень обидно, но так устроено.
Дмитрий Колодезев 58:07
Ну, если ты в этот момент работал в организации, где работает куча китайцев, то это может быть даже и не странно.
Валентин Малых 58:14
Нет.
Дмитрий Колодезев 58:15
А вот, а ничего, кстати, плохого не имею против китайцев, китайцев, статьи у них классные. Я просто к тому, что когда это из текущего уровня технологий следует, куча людей и агентов это приходит в голову, и агенты, что интересно, успевают развивать эту мысль быстрее.
Валентин Малых 58:39
Да, всё так. Это действительно так. И, ну, и когда я это стал замечать, ещё агенты не были так популярны, но тем не менее, существовали. И, соответственно, тогда это просто решалось брутфорсом, в том смысле, что больше, больше людей, соответственно, работает над этой областью в том же Китае, поэтому проявляет больше гипотез. А сейчас всё, ну, как бы, мы, кстати, с тобой, по-моему, год назад про это говорили, когда, помнишь, кстати, где он? Дональд Трамп объявлял о проекте Stargate, который как-то внезапно пропал с радаров. Может быть, я что-то пропустил, он существует. А, но история в том, что они как раз хотели сделать автоматизированные фабрики по производству науки. А, не то, чтобы у них это совсем не получилось, наверное, что-то у них получилось, но просто сам факт, что сейчас, если у тебя больше железа, электричества и чего-нибудь ещё, ну, там, не знаю, доступа к базам данных, то ты быстрее сможешь сделать науку, даже если у тебя меньше физических людей, чем у твоего конкурента. Ну, как-то так.
Дмитрий Колодезев 1:00:19
А Stargate, по-моему, по электричеству усекли, как минимум, вдвое, а так он помаленечку жужжит, что-то делается.
Валентин Малых 1:00:20
М, то есть он всё-таки есть.
Дмитрий Колодезев 1:00:21
Ну да.
Валентин Малых 1:00:22
Это хорошо. Это это радует. Ну, то есть, кажется, что у китайцев уже был свой, а, свой Stargate, если помнишь. Я не помню, чем у них всё закончилось.
Дмитрий Колодезев 1:00:23
А, по-моему, вот они его как раз, по-моему, строят вполне.
Валентин Малых 1:00:24
Ну вот, да, китайцы, мне кажется, идут до конца.
Дмитрий Колодезев 1:00:25
У них же нет Трампа.
Валентин Малых 1:00:26
У них там есть товарищ Си, который немножко по-другому подходит ко многим вопросам, в частности, он гораздо более последователен. Character.ai подала на на банкротство и там продаёт свои какие-то интеллектуальные права Диснею. История тут в том, что Character.ai они одно время были суперпопулярные, они там создавали каких-то там персонажей, их можно было за денежку создавать и там это оказалось вообще цифровое будущее. Но как-то вот оно не взлетело, потому что оказалось, что создавать вот этих вот персонажей может кто угодно при наличии у него видеокарточки. И, видимо, люди не совсем поняли, за что тут платить. Но это моя гипотеза, я не говорю, что всё так и было, но, в общем, сама идея, что Character.ai, как они чуть ли не единорогом были, мне кажется, ну, я могу ошибаться. И они прямо очень сильно претендовали на что-то в индустрии, а сейчас взяли и забанкротились. Такие дела.
Дмитрий Колодезев 1:00:27
Слушай, по-моему, Character.ai большую часть своих активов вывел перед банкротством. То есть, грубо говоря, если, ну, тут я могу путать, по-моему, они Гуглу, по-моему, что ли, достались непосредственно диалоги, все вот эти датасеты. То есть единственное, что у него представляло ценность - это накопленные пользовательские датасеты с диалогами. Вот, а Диснею досталась этикетка и почтовый ящик. И вот, собственно, там вышло очень странно и интересно.
Валентин Малых 1:00:28
Ну, посмотрим, да, тут все эти судебные перипетии - это всегда очень увлекательно, но сам факт, что очередной стартап-единорог оказался не то, чтобы единорогом, а, ну, как бы, просто взял и закончился в какой-то момент. Ну, не первый раз, не последний.
Дмитрий Колодезев 1:00:29
Слушай, ну мы с тобой обсуждали уже эту историю, что я просто создал своего видеодвойника, который способен читать вслух текст, ну, как будто он немножко пьяный и перепуганный, но всё равно читает.
Валентин Малых 1:00:30
Угу.
Дмитрий Колодезев 1:00:31
Вот.
Валентин Малых 1:00:32
А, ну,
Дмитрий Колодезев 1:00:33
Вот. И это стоило мне ничего. И получилось лучше, чем я ожидал. Поэтому я думаю, что тот, кому нужны цифровые двойники, которые говорят от их имени, они их имеют давно.
Валентин Малых 1:00:40
Да, всё так. Ну, просто непонятно, в чём уникальность вот вот конкретно этого стартапа. Ну, может быть, я этого не понимаю.
Дмитрий Колодезев 1:00:45
Character AI, он строился вокруг романтических стартапов, если я правильно понимаю. Это люди делали себе вайфу всякого рода, чтобы она им говорила ласковые слова или он говорил. Вот. И, в общем-то, людям от этого было, наверное, хорошо. Вот, но датасеты накопили они, я думаю, что очень интересные и очень дорогие.
Валентин Малых 1:01:20
Да, да, да. Ну, то есть, если кто-то, соответственно, сумел продать вот эту штуку до того, как до него добрались лапы, соответственно, американской налоговой, то он прямо большой молодец. Да, то есть он
Дмитрий Колодезев 1:01:34
Ну вот, по-моему, этот молодец - это Google.
Валентин Малых 1:01:36
Нет, я имею в виду, что руководство Character AI продало и это самое.
Дмитрий Колодезев 1:01:40
Ага. Ага. Вот. Ну, посмотрим.
Валентин Малых 1:01:42
Ну, да. Новость такая, что появились роботы, которые смогут бить людей. Ну, вообще говоря, роботы, которые могут бить людей, давно существуют, но тут они вроде как способны бить людей так, как от них ожидают. Да, то есть есть там специально обученные роботы, которые готовы выйти и помочь там справиться с толпой какой-нибудь негодующей. Для Китая это, наверное, важно. И учитывая количество гуманоидных роботов, которые в Китае больше, чем во всех где-либо в мире, и не будем забывать, что они уже работают на границе Китайской Народной Республики с Вьетнамом, хмм, то, в общем, совершенно нормальный такой шаг. Да, там, где нужна грубая сила, пускаем роботов и всё хорошо. У них никаких соответственно, сантиментов, ничего там это самое, всех накормили дубинками, всё, всё прекрасно.
Дмитрий Колодезев 1:03:00
Слушай, ну это же телеуправление, то есть сантименты всё равно у оператора могут быть. А такому важному, такое важное дело, как бить людей по голове, их просто так автоматом не доверят, то есть нужен оператор.
Валентин Малых 1:03:15
Ну, конечно.
Дмитрий Колодезев 1:03:16
И это дешевле, на самом-то деле, бить людей по голове удалённо, а не по автоматическим образом совершенно. Вот. А так, ну, ну, да, есть, на самом деле, роботы с шокером, с водомётом и давным-давно в Корее делали роботы-пулемёты, поэтому как бы, я думаю, что
Валентин Малых 1:03:44
Не, ну, да, мы это уже
Дмитрий Колодезев 1:03:45
Жизнь удалась.
Валентин Малых 1:03:46
Да, да, если ты не понял, это был в Южной Корее, потому что в Северной там с роботов прекрасно справляются. Вот. Ну, я единственное, что хочу сказать, что, на мой взгляд, здесь ничего такого в этой новости нет, да, то есть роботы просто входят в нашу жизнь, да, они будут везде. И то, что они используются для этой задачи, ну, понятно, что они используются для этой задачи, ничего такого в этом, собственно, нет. Они будут использоваться дальше.
Дмитрий Колодезев 1:04:19
Мне в детстве очень нравилась книжка, а-а, этот бессмертный, а-а, железный. И там главный герой, а-а, тренировался в рукопашном бою с роботом. Я думал, вот бы мне такого робота тоже, как бы настраиваешь его на нужный уровень злобности и тренируешься. Вот. Ну, в общем, наверное, весной можно будет такого купить.
Валентин Малых 1:04:50
Ну, как там, прошло 40 лет, и вот.
Дмитрий Колодезев 1:04:54
К вопросу о скорости прогресса.
Валентин Малых 1:04:57
Я ещё не умер, а он уже есть.
Дмитрий Колодезев 1:04:59
Да, да, да.
Валентин Малых 1:05:00
Ну, я надеюсь, это самое, ты с нами надолго, мы с тобой ещё ни один, ни одну сотню выпусков запишем. Ну, в общем, всё это, конечно, мило, но я думаю, что здесь можно заканчивать. А-а, спасибо, а-а, что подключились и послушали нас. Подписывайтесь на нас на всех платформах. Я надеюсь, сайт УДС заработал, поэтому приходите к нам в Мотормост, присылайте свои новости. А-а, вот в этом выпуске я, по-моему, ни одной новости вообще не принёс. Что-то мне было не до того. А всё принесли коллеги, за что им большое спасибо.
Дмитрий Колодезев 1:05:49
Вот. О том, что заработает сайт УДС, будет написано в УДС Events. Все узнают, все следите и всем терпения, ну, всем пришлось непросто.
Валентин Малых 1:06:05
Да. Ладно, как говорится, берегите себя.
Дмитрий Колодезев 1:06:07
До свидания. Делайте бэкапы.
Валентин Малых 1:06:10
Пока.