Капитанский мостик - 24

Двадцать четвертый выпуск подкаста Капитанский мостик, обсуждение новостей из мира ИИ за прошедшую неделю и не только. Ведущие подкаста - Валентин Малых и Дмитрий Колодезев

Площадки

• Youtube
• RuTube
• VK Video
• Дзен
• Аудио

ИИ-саммари

В этом подкасте обсуждаются актуальные темы в области робототехники и науки, включая возможности роботов Optimus, финансирование исследований в США, качество научных публикаций и необходимость пересмотра системы оценки научных результатов.

Участники подчеркивают важность связи науки с практикой и индустрией.

В этом разговоре обсуждаются изменения в оценке научных статей, контроль Nvidia над видеокартами, влияние китайских видеокарт на рынок, изменения в компании Meta, разработка электромобилей Яндексом и перспективы космических стартапов.

Участники подчеркивают, что количество написанных строк кода больше не является критерием оценки, а научные статьи должны генерировать атомы смысла.

Также обсуждаются возможные последствия контроля Nvidia и влияние китайских видеокарт на рынок.

Содержание

• 00:00:00 Начало
• 00:00:35 Optimus упал
• 00:07:38 США ставят на роботов
• 00:11:25 Китайцы захватили NeurIPS
• 00:31:07 Nvidia следит за твоей GPU
• 00:37:26 Llama раздора
• 00:40:53 Электромобиль от Яндекса
• 00:46:14 ИИ-модели в космосе
• 00:50:59 Альтман хочет в космос
• 00:52:42 Китай собрал ЦОД
• 00:58:16 ChatGPT для подростков
• 01:03:32 Пентагон за AGI
• 01:09:14 100 триллионов токенов
• 01:14:29 Газовая колонка с ИИ

Ссылки

Оставляйте новости к следующему выпуску в нашем канале в Mattermost. Там же мы размещаем дополнительные материалы.

• Канал для вопросов в mattermost ODS.AI
• Как попасть в чат ODS.AI

Валентин Малых 0:01
Всем привет! С вами, как всегда, Валентин Малых и Дмитрий Колодезев. У нас очередной выпуск подкаста «Капитанский мостик». У меня из новостей есть довольно важная новость. Мы продолжаем сбор заявок на премию имени Лёвенштейна. И нас решила поддержать. Компания Selectel выделила 100 тысяч бонусов победителю, лауреату премии. Этого хватит примерно на два месяца аренды от 100. Вот, так что подавайтесь сами или подавайте коллег. Я предлагаю начать с, наверное, ролика, который уже все в мире посмотрели. Ну, покажу ещё разочек. Там история про то, что робот Optimus на какой-то вечеринке внезапно делает такие жесты руками, что кажется, что снимает шлем. И потом падает предположение. Это предположение, это не доказано. То это оператор этого робота снял шлем, и, соответственно, робот отключился и упал. Вот это такое предположение. Насколько это правда, я совершенно не берусь судить, но по-честности сказать, думаю, что это вполне себе похоже на то, что это может быть правдой, потому что... Кажется, что роботы Optimus всё-таки не такие умные, как показывает маркетинг. То есть, Musk не первый раз был замечен за тем, чтобы следовать принципу Fake it till you make it. Так что, гипотетически, такое может быть. Мы, конечно, никого не обвиняем. Это всё досужие размышления, но тем не менее. Мне кажется, что это вполне себе возможная ситуация в условиях нарастающего давления со стороны Китая. Да, то есть мы ещё только в прошлый раз обсуждали то, что будут роботы на границе Китая и Вьетнама стоять, а тут вот хочется сразу догнать и перегнать, и вроде пока вот есть шанс, то пока не получается.

Дмитрий Колодезев 2:13
Ну, скорее всего, они были на телеуправлении, опять же, исходя из текущего уровня технологии, да. Вот. А то, что он мог снять экраны, робот упал, ну, это, конечно, провал. То есть, даже какие-нибудь дроны понимают, что делать, когда сигнал потерян.

Валентин Малых 2:37
Ну да, ну то есть, кажется, что технология просто сырая, вот это вот телеуправление. Может быть, она сырая как раз именно потому, что Tesla просчитывает её скоро забросить и переключиться на управление с помощью ИИ, но сам факт.

Дмитрий Колодезев 2:55
Вот, но вообще, телеуправление в теле робота, хорошее телеуправление по условному 6G, у меня вызывает больше оптимизма, чем человекоподобный робот на автомате. Потому что тут есть огромное количество из кейсов, где он действительно может быть полезен. Вот прямо сейчас, вот без всяких научной фантастики, то есть просто берёшь и появляется куча. Странных мест, опасных производств, рискованных процессов и так далее и тому подобное, где его можно прямо сейчас брать и пихать. Тогда хоть рентгенологом работать.

Валентин Малых 3:28
Слушай, ну тут достаточно привести, по-моему, очевидный пример. Есть такие страны на нашей планете. В которых, например, нет, как бы это сказать, такого понятия, как холод. Да, ну, та же Саудовская Аравия, ОАЭ. И там реально большая проблема. Они её решают по-другому, на мой взгляд. Несколько негуманно, но это, опять же, моё мнение. Так вот, большая проблема того, что просто жарко, и людям тяжело работать при температуре плюс 50. То есть нужно либо обеспечивать им хорошие комфортные условия, постоянно поддерживая и тратя электроэнергию, а либо пусть там роботы работают, а операторы сидят. Где-то у себя дома, где им комфортно. Да, то есть, вот такая вот история, которая, я думаю, что как раз в странах именно с пустынным климатом, вот типа, арабийских, да, вот там, наверное, это будет в первую очередь применимо. Само собой, у нас тоже есть полно мест, где такое было бы хорошо. Учитывая, что там даже меня лично приглашали поработать как-то на этом самом на вахте где-то в глубине сибирских руд, я правда не поехал, но может, я и не прав.

Дмитрий Колодезев 4:47
В юности на Буровой был у меня такой период в жизни, а после того, как у нас квартиру ограбили, я как раз был молодой такой семьянин, только женился. Но дело не в этом. Представь себе, что существует куча промышленного оборудования, и чтобы его посмотреть, обслужить, нужно туда ехать. А прикинь, у них в шкафу лежит такой робот, ты к нему подключаешься, пришёл, открыл распределительный шкаф, нажал пальцем кнопку, и все счастливы. Ну то есть, как бы, юз кейсов полно.

Валентин Малых 5:17
Я согласен полностью, но тут проблема, ну как сказать проблема, тут есть некоторая сложность, заключающая в том, что Нужен хороший канал связи с таким роботом, да, то есть не все задумываются об этом, например. До лунохода, если не ошибаюсь. Сигнал идёт что-то типа пару минут туда-опратно. Восемь, да, а до Марса вообще долго, и поэтому... Причём тут дело в том, что туда, на Луну или на Марс, сложно проложить какой-то хороший сигнал, да, то есть. Да, сложно проложить хороший канал связи просто в силу того, что это просто далеко, туда оптика не дотянется, сколько-то её не тяни. Ну, может быть, пока, опять же. А вот если мы говорим про какие-то удалённые буровые, да, вот там же где-то на просторах, в какой-нибудь Арктике, туда тоже довольно сложно протянуть нормальный сигнал. Сейчас, благо, у нас появляется вот этот вот. Замечательный Starlink, но его аналоги, да, может быть, с его помощью эта проблема будет решена, но пока его в нашей стране точно нет, да и на высоких широтах он не то чтобы работает, насколько я понимаю. Так что вот.

Дмитрий Колодезев 6:28
Слушай, ну с луной я ошибся, я тут посмотрел пока это, то есть несколько секунд всё-таки, восемь минут до Венеры, да.

Валентин Малых 6:36
Да, но тем не менее, несколько секунд — это уже достаточно заметный лаг, да, то есть это всё-таки проблема при каких-то быстротекущих процессах. А вот если говорить про нашу Землю, само собой, конечно, нигде таких расстояний нет, как до Луны, но тем не менее тонкие каналы связи вполне себе существуют, и это тоже может быть некоторой сложностью.

Дмитрий Колодезев 6:58
Ну, поэтому я про 6G и сказал, что условный 6G, он делает это прямо реальностью. Ну, вот можно предположить обслуживание выше к связи, представь себе, там-то связь есть.

Валентин Малых 7:11
Ну, в целом, да, в целом, да, в вышках связи, это правда, она должна быть по определению, но опять же, а вдруг её там как раз и нет, и поэтому нужно обслужить. Да, тут всегда есть вариантики, но в целом, да, я согласен, что роботов. Можно предположить, что роботы будут храниться, условно говоря, в райцентре и из райцентра отправляться чуть ли не пешком до места, чтобы, соответственно, что-то там починить. Вполне себе, такой кибербанк. Следующая история — это про Тоже роботов. Я решил, что мы сейчас немножко сделаем подборочку, да, про роботов. Администрация США планирует ускорить развитие робототехники, несмотря на сокращение и финансирование фундаментальных исследований. Тут нужно немножко отскочить назад и понять, как в США функционирует финансирование исследований. Оно функционирует не совсем так, как у нас в России, ну, в силу, возможно, исторических причин. Что такое финансирование научных исследовательских программ? США. Это значит, что есть некоторое количество разных фондов, ну, довольно известный NSF, NSF, и ещё несколько. Несколько фондов, но именно важно, что этих фондов правительственных даже, их там более десяти, поскольку я себе представляю, я не то чтобы прям глубоко погружу. Есть ещё какое-то количество частных фондов и, в общем, очень много всего. И когда они говорят про увеличение финансирования, это значит, что они Дают установку какой-то части фондов увеличить бюджет на определенную тему. При этом на другие темы бюджет может сокращаться, какие-то фонды вообще могут остаться почти без бюджета. Это абсолютно нормальная история. То есть у нас... Так не делают. Опять же, сложно сказать, хорошо это или плохо, но сам факт. Что мы здесь хотим, наверное, обсудить, это то, что только что вот говорили про робота Optimus, и вот сейчас мы видим, что администрация США тоже понимает, насколько робототехника сейчас является ключевым, ключевым аспектом.

Дмитрий Колодезев 9:22
Но интересно, что заметка — это как раз про каннибализацию финансирования мы переносим. Ресурсы на роботов с фундаментальной наукой. И вот тут на самом деле интересно, что как фундаментальная наука американская на роботов влияет. Я, честно говоря, не знаю. То есть про успехи Соединенных Штатов в IT мы знаем все, а вот с фундаментальной наукой я вот что-то как-то просто не в курсе.

Валентин Малых 9:52
Ну, я тоже не то что прям глубоко погружен, но насколько я себе представляю, там тоже достаточно, ну, наверное, ведущая. Научные школы по всем научным дисциплинам расположены в США, ну просто в силу наличия финансирования и соответствующей аппаратуры, как следствие, да, люди и аппаратура, вот это всё. И, судя по всему, это довольно дорого, да, то есть иметь... Очень большое финансирование науки. Это дорого, ну просто в силу того, что как бы это всё деньги. И в условиях того, что текущая администрация пытается сделать экономию бюджета, они... Соответственно, выбирают самое приоритетное направление, и какие-то менее приоритетные направления оставляют, ну скажем, с меньшим финансированием. Вероятно, полностью не закрывают, но с меньшим финансированием. Ну, мне кажется, что здесь Люди несколько драматизируют ситуацию, потому что что такое остановка финансирования? Это можно посмотреть историю 90-х годов в нашей стране, а вот там, скорее всего, просто срезали финансирование, скажем, процентов на 10-20. Это, конечно, неприятно, никто не говорит, но это, скорее всего, не катастрофа. Но я бы поставил на то, что это будет усугубляться. Да, то есть сейчас взят курс на жёсткую экономию, и так как курс на жёсткую экономию, то, соответственно, действительно какие-то направления будут чуть-чуть менее жирными, чем раньше. Продолжая тему науки. Довольно интересная картинка. Я, честно говоря, забыл, откуда я её взял, откуда из LinkedIn. Это все авторы, ну точнее, не авторы, а организации, с которыми аффилированы авторы, на конференции, по-моему, ICLR или на NIPS, не помню. И если посмотреть визуально, получается, что у нас больше 50% это Китай. То, что синеньким обозначено, это китайцы. Есть, соответственно, желтеньким обозначены. Американцы, да, то есть это не обязательно только США. Ну и скорее всего, не только США, потому что, например, Microsoft, у него есть очень большое отделение в Китае, как вариант, как минимум. И то же самое, кстати, про многие американские университеты, у которых есть кампусы, например, в тех же Арабских Эмиратах. Но обращаю внимание на красные. Во-первых, хочется поздравить коллег из MBZUAI, то есть, по-моему. Этому вузу всего шесть лет, а они уже целый процент от всех авторов на такой престижной конференции. Это прямо очень круто. Они даже обогнали Mila. Mila — это исследовательский центр в Торонто. Там одно время он был прямо очень крутой, и они ещё больше, чем EPFL, и почти сравнялись с ETH Zurich. То есть красненьким — это Европа, а ой, простите, красненьким — это... То, что у нас сейчас, наверное, можно обозначить как всё остальное, потому что мило точно не сложно к чему-то ещё отнести. А зелёники — это Европа, жёлтая — Америка. Вот, и можно заметить, что довольно много. Ну и, кстати, довольно много, большой вклад сделал KAIST. KAIST — это Корейский институт по науке и технологиям. Я там, собственно, стажировался в своё время, тоже крутое место.

Дмитрий Колодезев 13:27
Слушай, тут есть два вопроса по этой штуке. Во-первых, где здесь Индия?

Валентин Малых 13:33
А где Индия? Хороший вопрос. Это, ну, у меня нет на него ответа, прямо скажи.

Дмитрий Колодезев 13:40
Вот второй вопрос. Первичные аффилиации часто аффилированы с несколькими вузами. То есть, например, тот же самый Google вместе с многими китайскими вузами, насколько я знаю, публиковался, я не знаю, как Microsoft. Но Google точно это делал. Вот и как бы, почему бы многим другим не делать? Я точно видел публикации Tsinghua University с ведущими американскими компаниями. Какой такой? Да, и вот тут складываются ли эти проценты в 100%? Я нашёл исходник, это не RIPs, а топ-50 paper contributors. Да, ага, вот, но... Вообще, конечно, когда говорят про то, что сейчас китайцы доминируют в науке, а уже про это в IT доминирует в, так сказать, computer science, всегда там говорят, что качество публикаций низкое, что они... Берут количеством и так далее и тому подобное. Тут хочется сказать, что вообще-то все так поступают. Да, я не уверен, что именно в Штатах. Не так, то есть если у тебя есть KPI по количеству публикаций, ты неизбежно будешь делать фигню. И ты вот, кстати, в своём блоге часто поднимаешь вопрос. Не надо ли что-нибудь придумать такое в науке, чтобы её починить в связи с тем, что наукообразный текст LLM генерирует сейчас легко и часто это же и делают. То есть рецензии пишут через одну LLM или даже чаще и так далее. Ну то есть вот интересно, конечно, сравнить бы какое-то качество, что ли, непонятно, как качество мерить.

Валентин Малых 15:25
Так это на самом деле и есть ключевой вопрос вообще всего происходящего, потому что мы не понимаем, как оценивать качество в науке. Да, то есть, что такое вообще качество? Вот мы можем сказать, что у нас качественная машина, потому что она что? Потому что она, допустим, может далеко проехать, да, может проехать везде. Это уже разное качество, далеко и везде, это не одно и то же.

Дмитрий Колодезев 15:52
У качества есть хорошее определение. Качество — это показатель пригодности к использованию, то есть качество вне use case неопределимо.

Валентин Малых 16:01
Вот это как раз очень верный аспект, ты поднимаешь. И на мой взгляд, тут вся история как раз и сводится к тому, что у нас непонятно. Как та или иная штука, которую придумал конкретный научный работник, как она вообще применима? Во-первых, если мы говорим про фундаментальную науку, это в принципе довольно сложно, да, то есть. Какие-то там кварки, глюоны, вот это вот всё довольно сложно понять, как ими гвозди сбивать. Это с одной стороны, а с другой стороны, в нашей даже области, несмотря на то, что в нашей области... Как бы, путь от такой вот работы научной до практической применимости очень короткий по сравнению с другими областями. То есть у нас всё это в информационном пространстве очень быстро происходит. Но тем не менее, даже у нас большая часть того, что делается. Если не сказать больше, она не особо применима на практике. Да, то есть на практике выживает что-то другое. Но опять же сказать, что оно совсем бесполезно, я тоже не могу. Хоть как-то, каким-то образом, эту задачу пытаются решать. Например, вот на, ну, кстати, на многих конференциях, на MLP тоже такое есть, дают Test of Time Award, да, то есть награду, показавшим своё качество отдельным статьям. Но это вы можете отметить одну статью там в год, да, это очень мало. Кажется, что мы не понимаем, как создать механизм, который бы нам показывал качество работы научной, которое мы можем использовать. То есть сейчас используется вот такой вот проксимметрика — это количество цитирований. Но так как люди давно поняли, что количество цитирований можно накручивать, я при этом даже в этот Термин не складываю негативную коннотацию, это может быть вполне честными методами сделано. То, как бы, показатель цитирования перестал быть той метрикой, которая показывает пользу. Да, и вот другую метрику пока ещё не придумали. Вот я, может быть, у тебя есть какая-то гипотеза, мы можем её обсудить.

Дмитрий Колодезев 18:10
Слушай, я, как может быть, ты в курсе несколько лет очень плотно занимался интерпретируемостью модели машинного обучения, да? Вот, то есть я её копал. Внутрь и рассказывал наружу, и даже какие-то там эти самые. И вообще есть некоторое количество подходов к атрибутированию успеха. То есть, по сути, у нас вот есть, допустим, поехала самоуправляемая машина, и вопрос в том, как поделить награду за него между всеми учеными, которые изобретали электричество. Сколько отдать Максвеллу, а сколько отдать конкретно, допустим, нашему Нобелевскому лариату, любимому? Вот и в моделях машинного обучения там же примерно та же самая история. То есть у тебя есть какие-то штуки, они как-то случились, и ты должен атрибутировать предсказания. То есть почему у нас модель предсказала это? То есть почему у нас случилось то или иное измеримое, так и в деньгах. События, да, то есть, ну, например, мы там изобрели условную вакцину от рака, да, вот, можно, конечно. Заняться перестановочной важностью, да, то есть, например, посмотреть по этому графу цитирования, кого, может, надо было убрать, чтобы этого не получилось, да. Вот самое интересное, что у нас же сейчас есть LIME, и LIME такой-то анализ в полном состоянии выполнить. То есть насколько та или иная статья зависела от того или иного процитированного научного результата. Ну то есть. Про интерпретируемость. Я говорю, что у нас есть некоторый граф зависимости из статей, и этот граф можно довести до какого-нибудь измеримого результата уже, да, и по этому графу каким-то способом оценить насколько тот или иной научный результат был достижим по своему графу цитирования. Без той или иной штуки, какая из них насколько его блокировала? Ну вот, может быть, такое. То есть, это в принципе то, что вот эти индексы цитирования пытаются считать, но их хакают сейчас.

Валентин Малых 20:15
Да, да, я согласен, что это что-то, наверное, более-менее правильно. Тут вопрос только в том, что как бы тут правильно сказать. Вот я думал в такую сторону, что может быть, если мы, допустим, даём какой-то грант, да. Даём грант какой-то конторе, пардон, не конторе, а какому-то учебному или научному заведению, то у нас должны быть фирмы, которые потом скажут, что да, мы это использовали. И фирмы-то для себя финэффекты считают, да, и вот может быть этот финэффект сказать, что там типа вот к этому финэффекту привязана такая-то работа. Это тоже может быть одним из способов оценки.

Дмитрий Колодезев 20:59
Я вчера беседовал вечером с одним экономистом, которого, надеюсь, всё-таки дотащить у нас до подкаста. И он обратил моё внимание, мы как раз обсуждали оценку. Эффекты от внедрения AI. Я по этому поводу пишу шпаргалку и провел тут дата завтрак и так далее. Вот, и он говорит, но ведь его никто не умеет считать, эффект тот самый, о котором мы говорим. И вообще, говорит. Инвестиционные инициативы тоже никто толком не считает. За очень редким исчезающим исключением дальше, чем на три года, никто посчитать не может. И по большому счету, говорит, у нас есть два вида игроков. Те, которые могут быть уверены, что они просуществуют ещё лет пять, да, те, которые в этом не уверены. Так вот, те, которые в этом не уверены, те строят планы. А те, которые уверены, что просуществует, они планов не строят, это бессмысленно. Они строят стратегию, и в эту стратегию, ну, вроде бы, это укладывается в стратегию, и всё. То есть экономическая эффективность посчитать невозможно. Но это я просто передаю слова более опытного в этом вопросе человека.

Валентин Малых 22:11
Не, ну тут я полностью согласен, что наверное. Есть свои проблемы и в таком подходе тоже. То есть это в любом случае какая-то, знаешь, сырая идея. То есть история про граф цитирований правильная, и, собственно, текущий индекс цитирования построен именно на этом. Но вот как, соответственно, распределить, где вот от этого графа сделать привязку к чему-то конкретному, да, там не знаю. Патенты, соответственно, по-моему, на статьи особо не ссылаются. Да, то есть, патенты и статьи. Это две независимых графа, хотя не очень понятно, опять же, насколько это справедливо. Вот, то есть я видел цитаты в патентах, в статьях, и, соответственно, статьи в патентах, но это как какое-то там очень-очень маленькое количество. Почему-то этого избегают делать, видимо, по каким-то внутренним причинам, да, что хочется как раз для патентов суперважно приоритет из отличия, да, а статьи являются принципиально открытой историей, поэтому там. Всё сложнее. В общем, вот этот вопрос я бы действительно максимально широко обсудил. Я даже предварительно договорился с коллегами на широкое обсуждение этого после Нового года. Я про это ещё со временем анонсирую. Надеюсь, получится обсудить.

Дмитрий Колодезев 23:37
Я думаю, что это сейчас одна из самых важных проблем, которые стоят перед наукой.

Валентин Малых 23:44
Да, да, я согласен, что это основная история про то, как нам всё-таки двигаться дальше, потому что очевидно, что в текущем виде мы двигаться дальше не можем. Да, то есть у нас получается текущая конфигурация того, как это всё устроено, она рушится под собственной тяжестью, то есть просто, ну. Вот этот пример с тем, что якобы у китайцев низкое качество работ, на самом деле оно когда-то было низким, это правда. Но это было давно, и сейчас китайцы замечательно пишут хорошие, очень хорошие статьи без дураков. И вопрос-то в чём? Что статьи — это какой-то косвенный признак, да, какого-то технологического развития. Может быть, опять же, не говорю, что это правильно, может быть, перейти от публикации ста тысяч статей, публикации там тысячи каких-то более. Полных отчетов, да, то есть мы взяли не мелкую тему, ее разобрали, а собрали такую полноценную монографию, диссертацию, как хотите, и публикуем ее один раз в год. Я не говорю, что делать нужно, это просто другой подход, и может быть, у него есть свои плюсы. И вот это мне совершенно не очевидно, что лучше.

Дмитрий Колодезев 24:59
Текущая история с цитированием напоминает оценку разработчиков по количеству сток кода написанных.

Валентин Малых 25:06
Она есть, собственно, да. То есть разработчик может написать очень много кода, от которого будет довольно мало смысла. То же самое, собственно, и с научными статьями. То есть я знаю, к сожалению, людей, которые могут писать там десятками эти статьи, которые, скажем так, обладают достаточно посредственной полезностью.

Дмитрий Колодезев 25:29
Ну, дай вам, бог, учёным разобраться.

Валентин Малых 25:33
Ну да, но мне кажется, что здесь как раз принципиально важно, чтобы это было не внутри научного сообщества, а с привлечением как раз индустрии, потому что без индустрии, ну то есть. Наука осмыслена пока она привязана к какой-то практической деятельности. Есть само собой фундаментальная наука, но фундаментальная наука дает почву для припладной науки, да, то есть это она все равно базируется на какой-то припладной деятельности, просто более отдаленной. Мне кажется, вот полностью отвлекаться от практического смысла не стоит. Я бы так сфигурно липал.

Дмитрий Колодезев 26:10
Хочется сказать, что существующая система оценки, и не только науки, она базировалась на фундаментальных ограничениях людей, потому что люди пишут медленно, читают медленно и так далее и тому подобное. Если вдруг люди начали писать в десять раз быстрее, то система... Систему нужно как-то перебалансировать. Это также, видишь, как сейчас есть люди, которые с помощью Cursor пишут, скажем, за неделю 200 тысяч строк кода. Это реальные цифры. Вот. И раньше это количество было немыслимо не потому, что человек не столько не может напечатать, а потому что он столько не может прочитать напечатанно. А теперь вы просто перестали читать, ограничение упало, ушло. То есть, как бы, и в результате оценивать людей по количеству написанных строк кодов, ну, как-то глупо теперь.

Валентин Малых 27:03
Ну да, то есть сейчас это стало очевидно, и мне кажется, мы опять же на прошлой неделе обсуждали вот это вот Agence for Science. Да, после появления такой конференции само по себе ничего не значили. Значит, именно как симптом. Да, то есть то, что у нас теперь есть целая конференция, которая состоит исключительно из одних агентов. Ну, как бы, делает принципиально ставит вопрос о том, что нам делать с научными статьями. Нам что-то с ними нужно делать, пока не понятно что.

Дмитрий Колодезев 27:32
И не только со статьями. Дело в том, что я люблю фантастику, но не всякую. И киберпанк тоже не всякий. Для меня показателем хорошей книги является нехороший стиль. Не интересный сюжет. Для меня показателем хорошей книги являются единицы смысла, которые она привела в мой мир. Присла, и как правило, эти единицы смысла можно просто посчитать. Я эту концепцию у Манна подцепил, тот самый, который Манн, Иванов и Фербер. Единицы смысла в книге, то есть именно единицы смысла пересказывали, такой атом смысла. Неделимый. И вот по-хорошему задачей любой научной работы, как я её понимаю. Является генерацией таких атомов смысла. И опять же, у тебя в блоге мы этого касались. Я предположил, что можно было бы статью делать как набор датасетов. Ну, то есть, мы хотим какие-то данные показать. Мы их собрали в какие-то датасеты, таблички. Когда мы работали, мы хотим сделать какие-то утверждения. Мы их на формальном языке сделали, эти самые единицы смысла. И мы, человека читаемым текстом, это сделали таким красивым, допустим, приятным для чтения. Но в принципе, это должно компилироваться.

Валентин Малых 28:57
Да, ну там тебе Влад Галачайпов уже возразил, что даже в математике, хотя математика самая формализованная из всех наук, это не получилось сделать. Может быть, получится, но на текущий момент не получилось. И я тут хочу ещё, знаешь, кусочек добавить. Есть такое, как бы, негласное правило, что ли, да, это даже не правило, это такое, скорее, пожелание, что когда ты пишешь short paper, то есть короткую статью. Там в зависимости от конференции она либо там четыре, либо шесть страниц, как правило, всякое бывает, но тем не менее. Так вот, на этом short paper в нём предполагается наличие того, что, опять же, в английской технологии называется STEAM, то есть, ну что-то, да, вот какая-то штука, то, что называл смысловым атомом, одно что-то, да, какая-то одна идея показана. А когда ты пишешь long paper, то есть длинную статью, то, что по-английски называется. Это там восемь или двенадцать страниц, опять же, может быть по-разному, но плюс-минус. Там предполагается наличие трёх таких идей. Это абсолютно эмпирика, и ничего такого на самом деле вот именно жесткого правила нет, но общий смысл такой, что есть даже какая-то очень слабая, очень слабая попытка это как-то формализовать в статьях, да, то есть в статьях принято писать в интродакшене в конце, то есть в введении в последней части. Принято писать так называемые «контригьюшн», то есть то, что мы, наш вклад, да, описывать вклад, и как правило, там он состоит из. Одного пункта никогда, но обычно из трёх-четырёх пунктов принято так делать, да, что вот такой вот вклад данной работы. Насколько это? Действительно, приближается к единицам смысл. У меня для меня вопрос открыт. Ну, вот слабая попытка сделала. Да, то есть, по крайней мере, можно от этого оттолкнуться. Я бы, конечно, был рад, если ты оказался прав, что это всё можно написать компилируемо, но мне кажется, что любой формальный язык, который мы это описываем, он по определению будет неполон, потому что, ну, как бы, появляется новая идея, и не очень понятно, как его формализовать. Посмотрим. Следующая новость довольно широко прозвучала, по крайней мере, в России. Думаю, не только в России. NVIDIA собирается встраивать некий механизм того, чтобы контролировать, где находятся её видеокарты. То есть, там будет, как я понял из записания, некоторый. Программный модуль, может быть, даже аппаратный, но речь идет о программной, который раз в какое-то время будет отсылать IP-запрос, да, ну, запрос какой-то по сети. На сервере NVIDIA и по, собственно, по трое суток, я подозреваю, и по длине ответа, да, по пингу, будут определяться примерное местоположение данного устройства. Ну, лично для меня в этом ничего такого нет, потому что промышленное оборудование, а NVIDIA сейчас торгует именно промышленным оборудованием, когда мы про цоды говорим, уже давно имеет такие штуки. То есть, если кто-то помнит, скандал с турбинами для крымских ТЭЦ, да, от Сименса. Ну, там их отключили удаленно, просто детектировав, опять же, удаленно, что они стоят не там, где должны были бы стоять по контракту. И это, в общем, абсолютно не удивительно. Это, в общем, производителя вполне можно понять. Другой вопрос, что я удивлен, что это только сейчас начали делать. Видимо, раньше не задумывались, или какие-то другие были ограничения.

Дмитрий Колодезев 32:36
Последний вот этот вот виток китайско-американских скандалов развивался. Китайцы этим и мотивировали запрет на использование NVIDIA ускорителей в государственных кластерах. Мы об этом говорили, скажем, десять мостиков назад, да, примерно. NVIDIA будет шпионить и отслеживать. С другой стороны, вопрос как конкретно. Я, к сожалению, не очень погружен в эти инфраструктурные вещи. В свое время там были такие вещи, как NVIDIA VGPU, где ты. Покупал на них лицензию постоянно. Ну, то есть в VGPU ты, грубо говоря, покупаешь лицензию, и она разрешает тебе использовать карточку, ну, грубо говоря, в дата-центре её в аренду сдавать. Из неё это проблематично делать. Вот, но вот эти лицензии на VGPU тебя совершенно не ограничивают, если ты её собираешь сам в свой кластер и, как бы, ну, кто тебе помешает. Вот, но вот если речь идёт именно про вот это VGPU, то там это, наверное, технически очень просто. То есть, она действительно ходит на сервер лицензий просто и по Пингу. Опять же, то, что я читал конкретно про вот этот случай, они действительно... Сетевой трейс анализируют, и из него делают предположение о том, где она стоит.

Валентин Малых 34:02
Все так делают, и есть даже уже придуманы методы борьбы с такими вещами, но само собой вопросики. То есть, мне кажется, сам факт, что вот это вот. Сейчас всплыло, оно просто действительно является симптомом обострения борьбы за искусственный интеллект. По-другому не скажешь. Ну, как бы, я думаю, что это не коснется потребительских видеокарт просто потому, что они никому особо не интересны. А вот... Именно эти видеокарты для серверов, да, будут, видимо, отслеживать, и их будет сложнее устанавливать не в том месте, где они куплены. Ну, имеется в виду, залозить, например, в Россию сейчас, ну или в Китай потом. Кстати, я не стал эту новость включать, хотя она тут тоже недавно была, Китай. Вроде как теперь официально выдал рекомендацию своим госучреждениям покупать только китайские видеокарты. Да, то есть понятно, что частным компаниям там запрета нет, а вот только китайские видеокарты для того, чем владеет государство, ну, собственно, как у нас делают, они уже выпустили такое требование. Посмотрим, что будет.

Дмитрий Колодезев 35:15
Слушай, я сюжет фильма тут придумал и пока ты говорил. Помнишь фильм «Джентльмены», где производство коноплю производили в контейнерах, закопанных во дворцах аристократов? Вот я представь себе, что где-нибудь в Англии кто-нибудь покупает последние чипы, собирает из них кластеры, закапывает под дворцами и по оптоволокну прямо в Китай. Китайская компания на них учит свои модельки. Слушай, ну в целом и плохо, но жизнь богаче наших фантазий.

Валентин Малых 35:49
Вроде как были новости о том, что в Малайзии и Сингапуре уже так происходит. Ну, то есть, там уже есть дата-центры, выкупленные китайскими товарищами, в которых стоят совершенно официально поставленные видеокарты, которые работают непосредственно на создание китайских моделей. Сложно сказать, насколько это правда, но, судя по новостям, я вполне лико верю. Ну и опять же, ближе, чем Дунгуань.

Дмитрий Колодезев 36:16
Я бы предположил, что в Саудовской Аравии такой кластер поставить.

Валентин Малых 36:20
Ну, они же даже хотят, ну, в смысле, сама Саудовская Аравия очень сильно хочет это сделать, так что я думаю, что вполне себе.

Дмитрий Колодезев 36:28
Я тут недавно узнал, что главный выгодополучатель серебра, моего любимого, это как раз рабы. А в смысле, акционер главный или что? Да, им там то ли 85, то ли 65 процентов принадлежит. Вот и собственно. Они считают арабские модели, там учат арабская модель свежая, на нем выучена. И их не пустил на IPO-регулятор со словами «Вы врагу сдадите наш суверенный американский IT».

Валентин Малых 37:00
Угу, и нет. Но при этом они уже врагу сдали, суверенно-американской идти. Ну да. Ну как бы, а сейчас-то что уже, собственно? Но тут же была новость, мы опять же её не обсуждали, но тем не менее она пробегала, что Саудовская Аравия закупила эти самые Церебрас для своей для своей компании. Или это был ОАЭ. В общем, кто-то из арабских стран закупал, а уже Церебрас я точно помню. Следующая история про компанию Meta запрещенную на территории Российской Федерации. Это довольно интересно. В каком смысле? Как внешнему наблюдателю, интересно мне смотреть, что у них происходит, потому что Meta была объективно самым сильным местом по развитию ИИ, ну там, скажем, лет семь назад, да, а сейчас вот у них в который раз. Происходят какие-то пертурбации, и сейчас они переходят по модели OpenAI от открытой ставки на открытой AI на ставку, соответственно, закрытого AI. По-моему, они называют Avocado, если я ничего не путаю. И, соответственно, вот Meta в очередной раз меняет политику. Не знаю, получится у них, не получится, но сам факт, что они Тоже пытаются перестроить себя и перестать отставать, потому что действительно, надо сказать, что про компанию Meta мало что слышно в этом плане.

Дмитрий Колодезев 38:22
Слушай, тут пишут, что про разочарование релизом Llama 4. Я с тех пор, как познакомился с Qwen, Llama не интересуюсь, а это действительно был такой разочарующий релиз.

Валентин Малых 38:35
Ну да, то есть это было, по-моему, около года назад, мне кажется, надо посмотреть. Это просто реально новости про Llama 4 как-то вот остановились, и Llama 4 очень многих расстроила. Там, кажется, были обвинения в том, что у них фейковые результаты, что-то ещё. Но сам факт, что модель оказалась довольно слабой и никому неинтересной. Да, то есть китайские модели просто их переплюнули в лёгкую. И поэтому после этого у них начались пертурбации, да, то есть начали всех людей выкидывать. Частично, да, частично пытаться нанимать новых. Ну, в общем, там начались скандалы. Сейчас пытаются эту тенденцию как-то перебороть. Посмотрим.

Дмитрий Колодезев 39:23
Ну, только напомнить тут, что изначально они не планировали Llama делать открытой. Это был хороший PR-ход после того, как висал эти клипы, поэтому...

Валентин Малых 39:33
Ну, слушай, тут, как бы, как сказать, не планировали. Там история-то была какая? Они же её выложили на Hugging Face просто под некоторой лицензией. И ну как бы лицензию надо было принимать, там тыры-пыры. Но понятно, что нашёлся человек, который лицензию принял, но потом выложил её на торрент, а выяснить, кто. Всё-таки я выложил на торренты, ну, оказалось, видимо, невозможно. По крайней мере, я не слышал, чтобы это выяснили. И у них просто сама концепция того, что выложить модель в каком-то доступе и оставить контроль за собой, видимо, у них вот она не сработала. Вот эта концепция, и из этого они уже, из этого они теперь исходят. Ну, мы с тобой, собственно, это обсуждали, наверное, полгода назад.

Дмитрий Колодезев 40:24
Ага, ну, LeCun опять же ушёл оттуда, то есть.

Валентин Малых 40:28
То, что ушёл LeCun, мне кажется, ну это тоже, наверное, следствие, да, что он, видимо, надоело ему бороться в бесконечном вот этом клубке единомышленников, и он решил пойти сделать свой луна-парк, если вы понимаете, о чём я. Мы желаем, конечно, всё-таки, чтобы там коллег закончилось и они смогли нормально поработать, но пока имеем то, что имеем. Тоже нашумевшая новость, буквально вчера, по-моему, она появилась, что Яндекс начал разработку электромобиля для такси собственного производства. Тут она вроде как формально не про AI эта новость, но, конечно же, она про AI, потому что очевидно, что Яндекс будет стараться свой автопилот использовать, ну, для того чтобы, собственно, и денег с этого поиметь. Просто всячески пропиариться, это в общем понятно. Из, наверное, важных деталей то, что это будет конкретно локализованное производство Aion Y Plus. Я, честно говоря, даже не знаю, что это за автомобиль, я не очень интересуюсь. Но сам факт, что вот пошли по пути москвича, да, то есть вот у нас есть электро-москвич, теперь будет, не знаю, как даже назвать, электро-яндекс. Вот, и он будет ездить у нас по дорогам. Я подозреваю, что он сразу, сразу будет пытаться делать вместе с вот этим вот автономным модулем автономного важнения.

Дмитрий Колодезев 42:05
Если я правильно понимаю, то до недавнего времени утильсбор на электромобиле был сильно ниже. Но он тут недавно здорово поднялся. И понятно, что Автопарк большой, они думают о совокупной стоимости владения, то есть по стоимости ввоза, стоимости утилизации или продажи, выводы из эксплуатации, стоимости поддержки. Ну, скорее всего, электромобили наконец-то стали дешевле в совокупной стоимости владения. Это, допустим, те же самые Мерседесы, которые у нас считаются дорогими автомобилями, а во многих странах они как такси работают очень успешно именно потому, что они дешевые на долгосрочной перспективе, когда ты проедешь на нем миллион километров. То есть в расчете на миллион километров он вполне дешевая машина.

Валентин Малых 42:58
Слушай, ну я вчера как раз на эту тему сделал попытку забросить невод информационный и ответ. Интернатов был достаточно однозначный, что действительно уменьшается, ну скажем, стоимость владения электромобилем на пять лет меньше, чем стоимость владения бензиновым автомобилем. Мне сложно сказать, насколько эти оценки Честные, но вот они все источники, которые я видел, они на этом сходятся. То есть, вот это довольно интересно, что все сходятся. Можно, конечно, считать это какой-то проплаченной компанией электромобилей, но не очень понятно, кому и зачем это делать.

Дмитрий Колодезев 43:39
Ну, ты понимаешь, обязанность любого бизнеса посмотреть, какие существуют. Субсидии использовать их для повышения прибыли.

Валентин Малых 43:46
Ну, вот. Не-не, это само собой, да, про субсидии там тоже. Тоже, конечно, пишут, что субсидии получается дешевле, но всё ещё дороже, чем автомобиль с ДВС, но тем не менее дешевле, чем без неё, само собой.

Дмитрий Колодезев 44:00
И вот тут, кстати, есть вопрос. Дело в том, что Автомобили, особенно старые автомобили, это сложные механические устройства, и чем дальше, тем они на самом деле проще. То есть они красивше, навороченнее, но навороченность эта достигается за счёт электричества, процессоров. Электромоторчиков там, тут и так далее, и тому подобное. Вот, и если наша промышленность, допустим. Ну, трудно реально разрабатывать новые двигатели, да, может быть, бензиновые, может быть, с электромобилями попроще будет именно потому, что они технологически проще, как технологический субъект. То есть на всяком таком смене технологий. Всегда, ну, какие-то игроки, которые отстающие, получают преимущество за счёт того, что те, кто уже впереди, они хорошо оптимизированы под свою текущую нишу. Вдруг у нас автопром вырвется вперёд. Клёво было бы!

Валентин Малых 44:59
Ну, было бы клёво, хотя я несколько скептичен в этом плане. Почему? Потому что сейчас впереди планеты всей, как несложно догадаться, китайские электромобили, потому что китайцы вот как раз такую ставку сделали. Они сказали, что да, ваша ДВС, которые вы там 50 лет вылизывали, а то и 70, они прямо настолько прекрасные и замечательные, что мы за ними не угодимся. А вот электродвигатели мы сделаем лучше. И таки сделали. То есть они действительно сделали электродвигатели достаточно компактные и достаточно мощные для того, чтобы вполне себе и вставлять в... Электромобили, и если сейчас приехать в Китай, ну понятно, что зависит от города. В Шэньчжэне, допустим, по-моему, 50% электромобилей в городе, а в других городах, ну их там процентов 20-30. Но тем не менее, это 20-30%, это довольно много. И это как раз показатель того, что действительно китайский электроавтопром, он прям шагает очень усиленно. Я бы, конечно, выступал за то, чтобы у нас тоже наш электроавтопром точно так зашагал. Ну посмотрим, будем надеяться, потому что есть множество ограничений, которые будут мешать исполнению такой мечты. Предлагаю переключиться на другое, более в каком-то смысле забавное. Значит, у нас существуют некоторые стартапы, честно говоря, даже забыл, как он называется. Тут написано Starcloud, называется. Вот. Значит, это люди, которые запустили в космос некий спутник объёмом. Там он вроде как не очень большой, но что-то типа небольшого ящика, потому что любой спутник примерно такого объёма. И там внутри у них была GPU. И они на этой GPU обучили модельку и заодно ещё запустили Gemma. И они, соответственно, на этой Gemma вот сгенерировали послами и землянам начинающиеся слов «Greetings Earthlings», то есть приветствие земляне. Ну, это цитата из типичного этого самого фантастического фильма 50-х годов, которые были популярны в США. Вот, и я бы тут хотел на чём остановиться? На мой взгляд, по-честному, вот сама по себе вот эта вот история. Она яйца выведенного не стоит, да, потому что ну кто-то там что-то обучает. Ну и так было очевидно, что они обучат. Да, ну как бы нет в этом ничего такого. Это как вот наши, я имею в виду, первый канал с Кентатан. Мы запустили в космос Юлию Пересик для того, чтобы снять там кино. Было невозможно снять там кино, да нет, конечно, очевидно, что возможно. В этом нет никакого технологического. Такого челленджа. А вот тут важно посмотреть на перспективу. На мой взгляд, это как раз показывает принципиально не то что возможности раз, а возможность и пригодность текущего железа для того, чтобы это делать. Вот я бы вот так поставил вопрос.

Дмитрий Колодезев 48:09
Ну, в любом случае, прежде чем эти самые дата-центры в космосе возникнут, туда надо будет что-нибудь запускать. Есть два подхода. Либо мы долго думаем, ну, грубо говоря, Amazon с его Blue Origin, допустим, когда ты долго думаешь, проектируешь, запускаешь, у тебя с первого раза всё взлетает. И второе — это, допустим, какое-нибудь. SpaceX какой-нибудь, который запускает, запускает, запускает, запускает, и каждый раз анализирует результаты. В конце концов, он у него точно так же летает в те же самые сроки, что у Blue Origin, только Blue Origin сделал один запуск, у них сто раз полетело. Musk запустил, допустим, тридцать раз у него полетело. Двадцатые попытки, но в результате все спустя одно и то же время и одно и то же количество денег, все нормально в космосе. Вот, и вот тут есть два подхода. Первый — мы будем делать исследовательские платформы, запустим на поверхности Международной космической станции, поставим процессор, посмотрим, как он устаревает под действием радиации и так далее. А второе, мы будем запускать вот эти дешёвые, ну, дешёвые по космическим меркам сундуки. Вот они ломаются, и мы будем улыбаться и запускать следующее. Да, благо вывод сундуков на орбиту дешевеет. Вот, и в результате мы придём к тому же, как если бы мы тщательно всё с проектом произопустили.

Валентин Малых 49:31
Ну, мне кажется, что вот эта история с тем, чтобы сделать побольше попыток, она всё-таки более устойчива. Да, то есть, да, она локально более проигрышная, да, то есть мы делаем сразу. Играть назад, но она в итоге приводит к желаемому результату, хотя вот тоже важный аспект, что. В процессе получения этого результата мы получаем какие-то довольно сложные побочные эффекты, например. Я думаю, многие нахлышаны о том, что сейчас все астрономы всего мира прямо буквально криком кричат от того, что вот эти вот самые спутники от Илона Маска, они... Мешают вести наблюдение за звёздами, потому что они постоянно кадры засвечивают, потому что их тупо много стало. Понятно, что Илону Маску на это наплевать, и он про это не думал, но вот сам факт. То есть, вот здесь вот есть история, что у нас появляются непредвиденные побочные эффекты, которые мы, может быть, и могли бы предусмотреть, а может, и не могли бы предусмотреть, короче. Сам факт, что новые решения, новые вещи, они порождают собой какие-то новые эффекты, о которых мы даже не догадывались сейчас.

Дмитрий Колодезев 50:45
Например, орбитальный колониализм. То есть мы берём и строим над страной какую-нибудь солнечную батарею размером с эту страну, и страна не получает солнечного света.

Валентин Малых 50:55
Да-да-да, и можем ей продавать эту электроэнергию, если хотят. У нас, значит, есть Сэм Альтман, это глава Н, простите, глава OpenAI. Он сказал, что рассматривал. Инвестиции в стартапы по разработке многоразовой ракеты для того, чтобы выходить, выпускать, пищевые мачтетки и за отделы земли. Ну и в целом кажется, что это довольно типичная история. То есть сейчас уже не один Илон Маск про это сказал, уже многие говорят про то, чтобы. Выводить дата-центры за пределы земли. Я лично до сих пор думаю, что это так себе идея, потому что не очень понятно, как там отводить тепло, потому что это нужно делать. Знаете, если эти штуки жрут как не в себя. Но тем не менее, сам факт, что уже многие туда начали готовиться бежать.

Дмитрий Колодезев 51:55
Я бы предположил, что самое разумное место для датацентров — это всё-таки Луна, а не спутники. Вот там и с охлаждением можно что-нибудь придумать, и с этим самым и на Земле строить проще, чем в космосе и так далее. так далее

Валентин Малых 52:14
Не, ну в целом да, то есть Луна — это действительно хорошо, потому что там есть из чего строить, сам реголит. Да, там на теневой стороне, там довольно прохладно, да, кажется, минус сто восемьдесят, что ли. Там, ну, холодно. И, в общем, там действительно в этом плане хорошо и замечательно. Я думаю, что рано или поздно мы до этого доберёмся. Только вот осталось понять, как там заставить яблони цвести. Да, там уже всё будет понятно. На самом деле, достаточно интересно, что пока. Американские товарищи мечтают о том, чтобы вывести свои дата-центры в космос. Китайские товарищи вполне себе полноценно запустили мегапроекты. Китайцы прямо умеют мегапроекты делать. Вот один из мегапроектов — это специальный Суперкомпьютерный AI-хаб, который покрывает фактически всю страну. И в этой В этой вот истории там несколько больших цодов с разных концов страны объединены в единую сеть, которая вроде как даже позволяет что-то единое обучать, насколько реально позволяет. Я не первый сказать, но позволяет по заявлениям. И из этого, собственно, следует, что Китайцы уже сейчас готовятся к тому, чтобы у них было географически распределённое устойчивое обучение. Да, про географически распределённое устойчивое обучение. Может быть, не все слышали, потому что это проблемы, которые волнуют очень небольшое число людей на этой планете. Но тем не менее проблема довольно важная, потому что, допустим, в России у нас периодически случаются наводнения. Да, но многие могут помнить наводнения в Крымске, на Дальнем Востоке периодически происходят. И если у вас дата-центр залило, то ну как бы что хочешь, делай, а он работать не будет. Ну вот мы помним, что в Южной Корее загорелся дата-центр, и века по оказались соседним зданием, и в общем, загорело всё просто полностью. Вот чтобы этого избежать, вот нужна независимая распределённая сеть для того, чтобы в разных концах страны уж точно ничего не произойдёт. Ну, там с очень большой долей вероятности всех сразу не накроют. Да, так что мне кажется, китайцы просто молодцы, можно за коллег порадоваться.

Дмитрий Колодезев 54:38
Ну, тут интересная вещь. Не то, что они смогли на 2000 километров проложить кабель связи и вдоль него поставить дата-центр. Это многие сделали. Вот они тут заметку утверждают, что... У них получилось непонятное, как измеренное, 98% эффективности от одного дата-центра. Ну, тоже эффективность одного дата-центра тоже такая спорная. То есть у нас узлы стоят в одном сервере, серверы стоят в одной стойке, стойки стоят в одной коммутаторе и так далее. И везде у нас. Производительность падает на каждом уровне этой иерархии. То есть, что такое 98% — непонятно. Но, в общем, наверное, это хорошо.

Валентин Малых 55:26
Ну, я бы предположил, что это какие-то специальные китайские 98%. Такое, в общем, я думаю, многие сталкивались с такими единицами измерения, но тем не менее, скорее всего, они действительно добились высокой эффективности. Может быть, там не 98%, да, если считать как-то более корректно, может быть, там даже 70%, но даже 70% при разнесении на 2000 километров, это довольно круто. То есть это прямо очень серьезная заявка, я бы так сказал.

Дмитрий Колодезев 55:54
А ещё интересная вещь. Я почему-то тут вспомнил свою юность с дуплицированными ЕС ЭВМ. То есть на оборонных объектах, если ты вдруг внезапно знаешь, стояли ЕС ЭВМ. В горячем резерве, то есть они либо параллельно считали одну и ту же задачу, либо стояли готовы к подключению. И я как-то их даже видел своими глазами. Вот, то есть одна из концепций, если помнишь совсем недавнего прошлого, давайте-ка мы будем бомбить дата-центры. Давайте мы будем бросать атомные бомбы на дата-центры, чтобы искусственный интеллект оттуда не вылез. Изгнать. Да, вот и причём они предлагали бомбить даже не китайские дата-центры.

Валентин Малых 56:42
По-американски, ну да, мы этот, мы бомбление ядерной бомбами обсуждаем в любом случае, но да, был так.

Дмитрий Колодезев 56:50
Да, вот и распределённая вычислительная инфраструктура первоначально-то появилась, чтобы никто тебе ядерной бомбой не обезглавил. Да, ну и вот интересно, что ну вот снова мы пришли к Арпанет.

Валентин Малых 57:08
Ну да, так Арпанет, если что, кстати, не все знают, Арпанет до сих пор существует. И более того, он встроен в структуру интернета. Собственно, да, давайте ещё на шаг на жак назад. Интернет изначально придуман в качестве арпанета ровно для того, чтобы обеспечивать связь между командными центрами. И дальше уже потом много чего понапридумывали поверх этого, но в своей базе это именно. Система, которая должна работать в условиях того, что у вас какие-то узлы связи внезапно пропадают из системы, ровно потому что её больше физически не существует. А так вот, да, ну, в общем, будем надеяться, что в реальной жизни проверять такое не придётся, не хотелось бы. А, соответственно, то, что китайцы к этому активно готовятся в условиях геополитической напряжённости, ну, видимо, да.

Дмитрий Колодезев 58:01
Тут хотелось бы ещё отметить оптимистичный штрих, что само существование распределённых дата-центров снижает смысл их бомбить. Вот поэтому, как бы, ну это хорошо. В этом смысле да, я с тобой согласен.

Валентин Малых 58:19
У нас периодически эта тема возникает. Это исследование от, по-моему, британских учёных. Несмотря на то, что, как бы, несмотря на всю славу британских учёных, в данном случае, мне кажется, имеет смысл прислушаться, потому что они заявляют, что многие подростки от 13 до 17 лет, они больше общаются с ChatGPT. В плане поддержки их какой-то чем с кем бы то ни было, да, там даже не. Не с друзьями, не с родителями, не с психологами, как у них принято, а с ChatGPT, потому что они, что в общем совершенно нормально для подростков. Не хотят услышать осуждение, и для взрослых проявить осуждение абсолютно неестественная реакция, не то чтобы правильная, но естественная. А соответственно, подросток хочет, чтобы его просто послушали и, соответственно, с ним поговорили о каких-то важных для него вещах. Не все взрослые умеют это делать, а дети умеют это ещё меньше. Поэтому то, что какие-то дети обращаются в ChatGPT за этим, я нисколько не сомневаюсь, что так действительно есть и будет дальше. Вопрос только в том, а к чему это приведёт? Потому что эта штука, как мы знаем, она очень любит соглашаться. Если, не дай бог, у подростка возникнут мысли понятного негативного содержания, то эта штука их поддержит. И вот это нам бы, наверное, не хотелось.

Дмитрий Колодезев 59:51
Слушай, ну тут, во-первых, выборка немножко уже. Это 40% среди тех, кто столкнулись с насилием, то есть, типа, были. Стрельба, там написано, stabbed, в смысле что? Порезан ножом и так далее и тому подобное. Да, вот. И дело в том, что, ну, вообще у подростков большая проблема с коммуникацией в таких ситуациях. То есть их окружение, в котором стреляют и режут непосредственно с ними, они не могут решать эти проблемы. Да, вот. К взрослым они тоже не могут обращаться, потому что... Они убеждены, что взрослые ситуацию только ухудшат, и часто так и бывает. Вот, и тут надо быть взрослым из фильма «Крокодил Денги», чтобы навести в этом порядок. То есть, ну, реально заходить намного дальше, чем позволяет обычный иногда закон, потому что, ну, то есть эта ситуация безвыходная выглядит и для взрослых обычно. Вот, и то, что эти дети взрослым не доверяют, это скорее закономерно. То, что они доверяют ChatGPT, ну хорошо, хоть ему. Вот, а другое дело, что... Можно было бы, наверное, уже раз в эту сторону мир идёт, так и лицензировать в LLM, которая не предлагает застрелиться, когда тебе грустно, и зарезать соседа, да и следить за тем, чтобы эти дети получали к ней бесплатный и неограниченный доступ. Ну, скажем, наверное, так.

Валентин Малых 1:01:28
Слушай, ну я думаю, что как-то так и будет на самом деле. Потому что у нас вот тут Илон Маск, мы с тобой обсуждали на прошлой неделе недавно, что Илон Маск обещает счастье всем даром, чтобы никто не ушел обиженно. А правда, с помощью роботов. Но я думаю, что в реальной жизни это как раз будет выглядеть как гарантированный доступ к и помощнику, который вам Решит какие-то вопросы, и я согласен, что... Это реально надо возглавлять, то есть уже довольно давно существует стартап. Который когда-то делали, а ну это уже не стартап, это уже компания, потому что основатели оттуда ушли. Делали мои знакомые, называется Replika.ai, и они изначально специализировались на том, чтобы создавать цифровых двойников, но потом оказалось, что цифровые двойники на самом деле мало кому нужны. Ну, по-честному, это не настолько прямо вот штука, ради которой можно отдавать много денег, хотя и безусловно такое тоже бывает. А они переквалифицировались, на мой взгляд, довольно правильно и интересно. Они переквалифицировались. А психологическую поддержку, то есть они стали делать неких чат-ботов, которые осуществляют психологическую. Поддержку. И я бы сказал, что это как раз очень правильная история, что они такое делают. Понятно, что может быть не конкретно эта компания, какие-то другие компании, которые осуществляют такую поддержку, они должны существовать. Но это именно должен быть специфический сервис, а не какое-то общего назначения сервиса, как сейчас, потому что общего назначения, боюсь, может сделать это похуже.

Дмитрий Колодезев 1:03:07
В общем, проблему надо решать, а закрывать глаза на неё без смысла.

Валентин Малых 1:03:11
Ну да, и самое важное, что её особо не решишь закрыванием глаз, то есть игнорированием того, что теперь существует LLM и всякое такое. Совершенно контрпродуктивно, то есть это надо возглавлять и направлять, иначе всё, в общем, эволюционирует в какие-то, может быть, не очень приятные формы. Есть такая организация NDAA. Я, честно говоря, забыл, как она расшифровывается. Это какая-то американская, американское какое-то агентство, которое Соответственно, по факту занимается сейчас тем, ну то есть, о чем новость, о том, что в Министерстве обороны, DoD, кстати, оно сейчас называется Министерство войны, я не знаю, почему они используют старую бригадуру. Так вот, этот самый Министерство войны, они создают комитет. С помощью вот этого самого NDAA комитет будет посвящен тому, чтобы оценивать и стимулировать развитие сильного искусственного интеллекта, Artificial General Intelligence, как по-английски. Вот, и на мой взгляд, новость довольно важная, потому что мне кажется, мы летом обсуждали новость про то, что Партом, даже не чиновники как раз, а какие-то большие функционеры из разных компаний, Big Tech, типа того же Microsoft, кажется, в угла. И точно там был Palantir, который как раз в этом всем больше всего участвует. Так вот, в отличие, в смысле вот этого Palantir. Они получили звания, да, ну, типа, звания не в полном смысле, не то что они стали кадровыми служащими, они получили. Как сказать, что-то типа звания гражданский специалист такой-то, да. И соответственно, вот здесь сейчас сделана более формализованная история, то есть они формально собирают уже комитет из армейских чиновников и из вот таких вот людей, которые будут заниматься тем, чтобы стимулировать разработки. В интересах армии США и флота, вероятно, на то, чтобы создать военный искусственный интеллект. Вот.

Дмитрий Колодезев 1:05:35
Но NDAA — это не организация, это на самом деле ежегодно принимаемый закон. Это правила, которым должны следовать те, кто получает гранты и правила. Распределение бюджета на то есть как будут распределяться деньги, на каких условиях, куда и что должны делать люди, которые эти деньги хотят получать. То есть это официальная позиция государства по поводу бабла на оборонку, и она гораздо сильнее любого комитета. То есть, ну как бы, они действительно говорят, что ну вот на это деньги выделены. Пожалуйста, ребята, осваивайте.

Валентин Малых 1:06:21
Да, но тут мне кажется, ты не совсем корректно сказал, потому что она сильнее любого комитета. Она не сильнее любого комитета. Она устанавливает правила, по которым комитет работает. То есть, это штука, которая на наши деньги, в смысле, в российской действительности, была бы что-то типа свод правил по, там, не знаю, по созданию программ развития чего-нибудь. Да, то есть, у нас есть свод правил для того, чтобы создать программу развития, которая уже будет исполняться. Это просто более верхнеуровневая история, не более того. А да, комитет, вот теперь искусственный интеллект. По общему назначению, то есть сильный искусственный интеллект является официальным оборонным приоритетом в США. Мне кажется, что хорошо, что они это сделали явно, потому что, ну, как бы, мне кажется, всем было очевидно, что неявно это и так уже существует. Но сейчас это сделали явно. Раз они сделали явно, то я думаю, что у всех более-менее крупных игроков это появится тоже в оборонной стратегии.

Дмитрий Колодезев 1:07:21
Слушай, ну многие вузы и исследовательские учреждения работают, допустим, в нашей стране с оборонкой, да. Вот и как бы, ну это факт. Просто они ставят это на нормальные бюджетные рельсы. Ну да, теперь мы тоже оборонная отрасль.

Валентин Малых 1:07:45
Это же и раньше было, в общем-то, да, то есть это не то чтобы было всегда, это не совсем так, сама по себе, как бы. Сама по себе, когда появилась вот эта вот институциализированная наука, тогда она стала работать на DARPA в первую очередь, это ещё с XIX века. А соответственно, в наше время, ну, есть определённый... Большой заказчик, ну понятно, состоящий внутри из большого числа разных групп интересов, который имеет возможность и желание заказывать, во-первых, много, во-вторых, действительно довольно передовых штук. И я думаю, что у нас тоже будет явно прописано, что вот. Появится какой-нибудь аналог DARPA. У нас, по-моему, даже есть какой-то аналог DARPA. Да, я тебя что-то пропустил в тот момент, но по-моему, у нас какой-то аналог вот этого военного агентства, ну, военного фонда по развитию, он существует. Мне так казалось, надо посмотреть, но я думаю, что это всё будет усиливаться именно в сторону искусственного интеллекта. В этом, как бы, ничего не сделаешь.

Дмитрий Колодезев 1:08:51
Мне кажется, какой-нибудь институт системных исследований очень много на эту тему работает у нас, но я не в курсе.

Валентин Малых 1:08:59
Не, я тоже на эту тему не в курсе. Я думаю, что в целом РАН имеет определенный какой-то процент всех исследований, связанных с оборонкой. Это прямо неизбежно. Но кто как конкретно, я совершенно не в курсе. Вышел State of AI от OpenRouter. Довольно интересная штука, хотелось его обсудить. Там довольно много всего. Что есть, наверное, мы посмотрим на картиночке. Картиночки нам показывают разное, всякое. В частности, они нам показывают, что у нас больше всего, как смещается использование. Да, во-первых, что такое OpenRouter? OpenRouter — это такая штука, к которой можно подключиться, и некоторая такая проксия, которая собой закрывает довольно много разных сервисов. Там есть. Собственно, и как коммерческие сервисы, так и бесплатные. Ну, как бесплатные? Бесплатные, по-моему, их какое-то исчезающее количество, а вот недорогие на открытых моделях там довольно много. И здесь они говорят, что опенсорсные модели уже сейчас 30%. 30% токенов обслуживают, и 30% токенов в основном, как ни странно, это китайские модели, что в общем довольно очевидно. Ещё аспект, про который, наверное, стоит упомянуть, это про то, что больше 50% токенов через OpenRouter проходящих это токены, связанные с программированием программирования EM на разных языках. И ещё процентов 30, по-моему, это ещё про так называемый ролеплей, то есть. Я не совсем понял, что они имеют в виду ролеплей, но в целом, это, видимо, что-то типа представь, что ты супермаркетолог, сделай мне маркетинговую стратегию. Я предотвращаю, что это какого-то такого рода запроса, хотя, может быть, я не прав.

Дмитрий Колодезев 1:10:53
Ну, там красивая картинка, называется «Decline of DeepSeek Dominance». Вот она, где отстроена такая регрессия, что с середины лета падение использования DeepSeek, и оно примерно совпало с... Выходом нового Qwen и открытых моделей от OpenAI. А ещё там совершенно незамеченный мной слон в посудной лавке — это модель MiniMax. Я только сейчас обратил на неё внимание, Гриш, на дело. Вот, а судя по объему трафика на OpenRouter, она имеет большое значение. Ну и понятно, что OpenRouter — это смещенная выборка. То есть, тут нет, например, трафика Колисии, поскольку её нет на OpenRouter. Тут нет, например, трафика непосредственно к OpenAI, хотя через OpenRouter мы можем вообще-то его гонять. Но смысла особенно в этом нет. Нет трафика к Google Gemini, хотя... Он там есть на OpenRouter. Например, я его, например, оттуда там использую. Ну, то есть, вот такая выборка смещенная. Большинство людей ходит туда за открытыми моделями изначально, потому что за закрытыми имеет смысл идти к автору, к оставщику, да. То есть, OpenRouter накидывает мало, но всё равно это своё API и так далее, и тому подобное, своя экосистема. Ну, прикольно, что DeepSeek начал падать, да.

Валентин Малых 1:12:31
Слушай, ну тут сложно сказать, с чем это связано. Допустим, Qwen выпустил своё приложение, и я бы не удивился, что он тут стал падать. А вот в DeepSeek, может быть, они тоже стали переводить людей напрямую на свою API. Тоже вариант. У них же была API раньше.

Дмитрий Колодезев 1:12:50
Да, а ещё на самом деле эта картинка-то, она немножко искажена, потому что это от 100%, а в абсолютных числах там вполне может быть, что DeepSeek никуда и не падает. Просто за счёт того, что всё растёт по экспоненте, если ты растёшь медленнее экспоненты, то ты выглядишь, как падающий. Вот, ну и следующий же буквально это. Восход medium-size моделей, то есть от 15 до 70. Ну вот, понятно, что доминируют большие модели, но тем не менее среднего размера модели вполне промышленно пригодные, раз к ним столько обращаются, то есть они дешевле, понятно.

Валентин Малых 1:13:36
Слушай, ну вот у нас тоже мы как раз поставляем именно модель, то, что здесь называется medium-size, то есть модель 32B — это наша основная. И, в общем, вполне себе удовлетворяем нужду заказчиков. То есть кажется, что 32 — это действительно сейчас достаточно оптимальная, оптимальный размер для моделей. Понятно, что всё может поменяться, но пока что вот сейчас так.

Дмитрий Колодезев 1:14:02
Вот, ну и в программировании, конечно, лидируют закрытые модели. То есть в роли-плея игра доминирует открытые, в программировании игра доминирует закрытые. Я подозреваю, потому что это дело в том, что в программировании у нас отдача в деньгах на один токен больше.

Валентин Малых 1:14:19
Да, вполне может быть, что из-за этого. Поэтому там супер важно именно качество, то есть проще заплатить побольше денег, чтобы получить получше результат, в общем-то. Компания Xiaomi выпустила умный газовый водонагреватель MiGIA Smart Gas Water Heater 2 с функцией искусного интеллекта. Я, как уже писал, имею некоторый опыт проживания с такого рода агрегатами в доме. Мой опыт не то что совсем негативный, но в целом я бы сказал, что проживание с такой штукой. Развивает в тебе моральную стоимость. Да, то есть ты просто привыкаешь терпеть некоторые неудобства в силу того, что вот жизнь так устроена. Это, наверное, даже неплохо, но то, что здесь вот люди, соответственно, стали специально работать над тем, чтобы не было вот этих вот скачков температуры очень бесячих, это прямо здорово. То есть лично меня это просто сильно, сильно фрустрировало то, что у тебя. Сначала нужно включить воду на полную, чтобы колонка зажглась, и потом уже, соответственно, через как минуту, ну, может, даже через минуту, у тебя пошла горячая вода. А тут... Оно как бы изначально ожидает, у него есть некоторый, извините, горячий резерв, и оно может довольно умно это делать. И что важно, как бы, вот эта проблема с горячей воды на самом деле имеет другое решение. Понятно, что человечество много чего придумало. В частности, то, что называется котлок, да, то есть большая бочка с подогреваемой водой. Которая просто прямо в резерве, да, то есть помыться точно хватает, но двум людям помыться может уже не хватить. А здесь как бы мы имеем то, что у нас именно стабильная подача воды в моменте горячей. И это с одной стороны дешевле, с другой стороны меньше места заменяет. Так что я считаю, что реально лучшее на сегодняшний день применение искусственного интеллекта.

Дмитрий Колодезев 1:16:21
Слушай, я как-то наблюдал внутреннюю реализацию системы кондиционирования, а там прецизионное кондиционирование, то есть это когда там температура в некоторых зонах до 1,1 градуса держится. В австрийском медицинском центре он состоял из двух зданий, а девять, по-моему, пять этажей. Соответственно, из этих 14 этажей, по-моему, пять были заняты системой кондиционирования. Вентиляции. А у меня были знакомые инженеры и программисты, которые это дело поддерживали. Вот вся эта система управлялась 286-м процессором. И, собственно, я когда пришёл к ним, они такие писали программу на Fortran. Я говорю, отчего вы такие? Угрюмые. Они говорят, ну будешь тут угрюмым. Вот поэтому я предполагаю, что с управлением колонкой, если она справлялась с управлением климатической системы медицинского центра, то с управлением колонкой он бы тоже справился. Но, конечно, есть очень важная функция подключения к приложению MeHome для дистанционной регуляции и показа температуры на экране мобильника. Тут уже надо, конечно, что-то с помощью.

Валентин Малых 1:17:33
Не, ну само собой, без этого в современном мире нельзя. Какая колонка, которая не умеет тебе показывать, какая температура воды, пока ты это самое у бабушки в деревне. Да, ну что, наверное, будем тогда заканчивать. Что, всем спасибо, что слушали. Подписывайтесь на нас на всех площадках, где нас видите, слышите. У нас есть подкастные площадки, напоминаю. И, наверное, у меня на сегодня всё. В Mattermost заходите. Да, обязательно заходите в Mattermost, там всё веселее и веселее. Ладно, всем пока-пока.