Капитанский мостик - 22

Двадцать второй выпуск подкаста Капитанский мостик, обсуждение новостей из мира ИИ за прошедшую неделю и не только. Ведущие подкаста - Валентин Малых и Дмитрий Колодезев

Площадки

• Youtube
• RuTube
• VK Video
• Дзен
• Аудио

ИИ-саммари

В этом подкасте обсуждаются актуальные темы, такие как чипирование голубей, этические вопросы в науке и технологиях, влияние киберпанка на будущее, а также роль ИИ в научных конференциях и исследованиях в физике и химии.

В этом разговоре обсуждаются ключевые темы, связанные с автоматизацией, применением технологий в медицине, влиянием NLP, будущим квантовых вычислений и ролью роботов в экономике.

Участники поднимают вопросы о том, как технологии могут изменить рынок труда и повлиять на уровень жизни, а также обсуждают перспективы развития Китая в области технологий.

В этом разговоре обсуждаются ключевые аспекты применения роботов и искусственного интеллекта в военной сфере, а также их влияние на рынок труда и технологическую зависимость.

Участники подкаста анализируют, как милитаризация и использование человекоподобных роботов могут изменить подход к ведению боевых действий, а также рассматривают экономические и социальные последствия внедрения ИИ в различные сферы жизни.

Содержание

• 00:00:00 Начало
• 00:00:25 Биодроны пока не атакуют
• 00:13:16 Агенты делают науку
• 00:28:03 Кванты = новый ИИ
• 00:35:28 Пузыря ИИ нет
• 00:39:25 Суцкевер про ИИ
• 00:45:47 Илон Маск про роботов
• 00:51:52 Роботы-пограничники
• 00:59:46 ИИ заменит 11% людей
• 01:04:20 США (не) продают железо
• 01:08:54 ИИ не дает вам летать
• 01:12:06 ИИ поможет демографии

Ссылки

Оставляйте новости к следующему выпуску в нашем канале в Mattermost. Там же мы размещаем дополнительные материалы.

• Канал для вопросов в mattermost ODS.AI
• Как попасть в чат ODS.AI

Валентин Малых 0:00
Всем привет! С вами, как всегда, Валентин Малых и Дмитрий Колодезев. В нашем подкасте «Капитанский мостик» сегодня, как всегда, немножко в походных условиях. Мне по секрету сказали, что DataYOLKA прям очень сильно готовится, и мы всех будем рады на ней видеть, когда она состоится в январе. Мне кажется, что это одна из самых нашумевших новостей прошедшей недели, по крайней мере, у меня в канале вызвало наибольшее, как бы сказать, наиболее живое обсуждение. Оказывается, я не знал. Может быть, люди, которые следят за областью, знали. Я не знал. Есть такая компания Neiry. Она является отечественной компанией, в смысле российской. И они, во-первых, имеют какую-то историю в том смысле, что они уже какие-то чипы то ли вживляли, то ли как-то там работали с коровами. А сейчас они, соответственно, научились вживлять чипы в голубей и, соответственно, управлять, чтобы голуби могли лететь туда, куда им скажут. Я, честно говоря, даже не хочу показывать видео мне, потому что голубей очень жалко. Вот, а готов послушать другое мнение. Я давайте сразу открою карты. Я просто вот эмоционально мне очень жалко животных. Да, я про это в канале писал, что Они страдают, в общем-то, на мой взгляд, безвинно, в том смысле, что они не осознают и испытывают страдания совершенно необоснованно. Ну как, обосновано с требованиями прогресса, но насколько это хорошо, это какой-то отдельный вопрос. Вот, и поэтому я, в общем, одинаково. Одинаково далёк как от произведений Neiry, так и от Neuralink, и от, наверное, многих других стартапов в этой области. Я за ней не слежу просто потому что у меня, я говорю, эмоционально она не близка. Вот теперь я готов слушать другие варианты высказывания.

Дмитрий Колодезев 2:09
Слушай, ну, вроде вариантов других, кроме моих, не осталось. И что я хочу сказать? Меня в таких вещах всегда напрягает то, что срок между внедрением этого в биоголубь и внедрением этого, грубо говоря, Пехотинцы он очень невелик. Он, я бы сказал, пугающе невелик. Да, вот и так-то, видишь, если бы дело кончилось голубями, можно было бы включить здоровый расизм. Вот, то есть расизм на уровне расы человеческой, он на самом деле имеет право на жизнь. То есть, когда люди объявляют людьми второго сорта людей с другим разрезом глаз или цветом кожи, это на самом деле тупо просто. Вот, а вот расизм на уровне прямо биологического вида, ну он, да, у него хотя бы логика какая-то есть, но... Да, но с другой стороны, действительно, где-то тут должна быть граница. То есть, когда их начнут заживлять у людей, ну, выяснится, что мы все не жалели голубей. Мне голубей не жалко, вот, кстати, так. Вот, но... Сама по себе история, она довольно-таки, короче, там много может быть и хорошего, и плохого. То есть здесь и парализованные, которые могут наконец общаться, и люди, которые насильно переведены в состояние парализованных, чтобы они управляли беспилотниками и так далее. То есть вся эта история, хорошо описанная Пелевиным в ОМОН-Рае, где-то ещё там, вот она.

Валентин Малых 3:44
В ОМОН-Ра, да, там немножко такие более кондовые технологии, но в целом, да, там что-то похожее.

Дмитрий Колодезев 3:50
Если бы у них было такое, то это... Ну вот, когда они пришли за тараканами, я молчал.

Валентин Малых 3:56
Да, да, да, да, вот когда пришли на тараканов, я молчал. Вот, слушай, вот тут ты меня поймал, и мне тоже тараканов как-то не особо жалко. Может быть, обвиняйте меня в видизме или в чём хотите, но вот тараканы как-то у меня не вызывают такого сочувствия. Голуби вызывают, овцы, свиньи, на которых Маск экспериментирует, вызывают, обезьян жалко. Людей, которые добровольно на это идут, не жалко. Вот те, которые, соответственно, пойдут на это недобровольно, вот это вот. Тут, конечно, будет очень большой вопросик, но я боюсь, что действительно в каких-нибудь странах такое действительно может быть, к сожалению.

Дмитрий Колодезев 4:32
Тут, если помнишь, мы как-то говорили о том, где есть с точки зрения буддизма душа. Я проконсультировался у специалистов, они сказали, что у жуков душа вполне есть. Вот, и когда не так давно ещё при операциях не обезболивали. Младенцев, если ты, может быть, знаешь это дело, потому что считалось, что они того всё равно боль не имеют. Ну, короче, вот они. Растали младенцы с тяжёлыми травмами, то есть представьте себе неоперированные. Затем был прикол такой с пропофолом, если ты не знал. Propofol — это... Штука, которая вырубает память. То есть думали, что это обезболивающий наркоз, в смысле. Но человек под наркозом, пропофолом, вполне чувствует боль, просто он её потом не помнит. Вот и у человека тяжелое совершенно пэтээсди получается после невинной, казалось бы, операции. Ну вот такая история, потом разобрались. Вот и вся вот эта вот история про то, что мы делаем какие-то штуки и думаем, да, ему, наверное, не больно, а потом выясняется, что ему-то всё-таки больно. Например, вот последний такой пример, который ещё привести про... Усыпление животных, да, то есть долгое время животных усыпляли таким образом, что у них просто парализовало дыхание, им было очень больно, и они умирали никак не подавая никаких признаков, но в дикой боли. Вот, я не знаю, как сейчас это всё дело. Ну, в общем, там вопрос дозировок и компота, которым усыпляют, так сказать. Поэтому, как оно на самом деле происходит изнутри очень трудно понять. Вот, а клево было бы на самом-то деле использовать голубей, выученных, как вот когда-то давно их выучивали, клевать цели на экране монитора, если помнишь историю. Был такой, да. Да, но там качалось-то всё одинаково, видишь, то есть мы его сажали в боеголовку, и он всё равно погибал при ударе, без импланта, ну и тут. А тут голуби живёт полноценную жизнь, и вот весь этот киберпанк, сейчас мы с ним будем разбираться. У меня пока нет готового ответа, что это такое.

Валентин Малых 6:45
Да я боюсь, у неё ни у кого нет. Ну, тут надо, конечно, сделать несколько замен. Только замечаний, что весь этот киберпанк, который мы сейчас несемся на полном ходу, он же на самом деле начался не сегодня и не вчера. Первые вещи. Тем, что использовать животных для чего-то такого, ну, нам даже наша собственная история подсказывает. Кто помнит, как княгиня Ольга. Кого она там древлян наказала или полян, я забыл. Там же, собственно, она собрала с каждого двора по голубю и, соответственно, привязала, велела привязать к хвостам этих самых голубей. Какую-то тряпку зажечь её и пустила их, соответственно, на волю. Они прилетели домой и всё сгорело. Я думаю, что голуби тоже погибли. В общем, времена были достаточно простые в плане нравов, поэтому тогда это воспринималось как-то окей. Тут, знаешь, как всегда, принцип историзма, мне кажется, важен. Там то, что было окей в каком-нибудь там девятом-десятом веке, в двадцать первом смотрится немножко кринжово. Да, то есть, как бы, мы же делаем фактически то же самое, что делали в одиннадцатом веке, но теперь это как-то более красиво выглядит. Да, люди в перчатках и белых халатах теперь это делают, но как-то я не знаю, у меня всё равно вот эмоциональное восприятие какой-то очень

Дмитрий Колодезев 8:11
Очень настороженно к этому всему. Слушай, ну вот прямо сейчас я стою перед экраном, в меня встроен датчик, который передает каждую минуту информацию в телефон. Вот. И как бы, ну это норм само по себе, да. А вот если бы этот датчик, например, впрыскивал бы мне, скажем, адреналин и что-нибудь ещё, да.

Валентин Малых 8:35
А вот на самом деле вопрос, а не норм ли это? Да, то есть, ну, вот допустим, если он впрыскивает, но по каким-то причинам у тебя свой собственный, там, не знаю, что-то там не воспроизводится, и он у тебя по там команде из управляющего центра впрыскивает. Вот окей это или не окей? Для меня вот это уже сложный вопрос.

Дмитрий Колодезев 8:56
Инсулиновая помпа, инсулиновая помпа, ее вешают на человека, заряжают там на много дней инсулином, и она ему регулирует. То есть человек — это физический киборг.

Валентин Малых 9:05
Ну, то есть у нас сейчас киборгов на самом деле довольно много. И их будет увеличиваться. Просто тут всё очень быстро, знаешь, как по-английски говорят, «this is a skly is quickly», то есть эта штука может очень быстро выйти из-под какого-то разумного контроля. И вся вот эта вот история про киберпанк, ну, достаточно вспомнить нашумевшую игру, Cyberpunk 2077, где там практически можно заменить себе всё что угодно, хочешь руки, хочешь ноги. Хочешь скелета и глаза, что хочешь, и это, в общем, как бы не настолько далеко, как кажется, к счастью или к сожалению. То есть, на мой взгляд, вот здесь конкретно я бы... Хотя я обычно к этому отношусь довольно скептически, ко всяким комитетам по этике. Но вот здесь конкретно я бы ввёл его обязательно, что тут должны быть люди, которые контролируют, а что вообще вы делаете, дорогие сограждане в белых халатах? Потому что ну как-то это прям выглядит очень опасненько, честно скажу.

Дмитрий Колодезев 10:05
Ну, единственное, что тут их, так сказать, что продолжительность жизни голубя ничем не отличается от жизни сородичей. Вот, отличается ли качество жизни голубя?

Валентин Малых 10:17
Ну, конкретно, если говорить про этих голубей, там у них большой процент голубей гибнет при установке, но те, которые выживают, те, как известно, до старости, живут голубиной.

Дмитрий Колодезев 10:29
Просто в завершении этой штуки, вот допустим, смотри, у меня в офисе живут две кошки, да. Я фактически ограничиваю их свободу, меняю им режим питания, да. А люди держат кошек в квартире, то есть в офисе-то они меня на свободном выгули такие. И вот если бы кошка была киборгом, но жила с полноценной жизнью для киборга, ну, служебная собака, например, да, в неё ничего не встроено, но она тот же самый киборг, то есть она гавкает, когда ей скажут, ходит где скажут, едет, делают что-то, ну, ты вот. Ну, то есть, где вот эта история, когда мы делаем животному недопустимо плохо?

Валентин Малых 11:06
А вот это хороший вопрос, потому что вот у меня, допустим, живёт кот, и кот кастрированный. Он нам уже кастрированный достался, но тем не менее, то есть вот сам по себе этический вопрос. Да, мы там коту даём хорошее питание, ему всегда тепло, хорошо, и он действительно у нас живёт в квартире, но при этом он не имеет возможности. Иметь потомство. И вот где тут грани? Насколько вот такое обращение с животным этичное? То есть я-то могу спрятаться за тем, что мне кот уже такой достался, и я ему как бы в любом случае приношу пользу. Но смотря правде в глаза, ну, здесь, кажется, есть какая-то серая зона, которой лично для меня совершенно не очевидно, какой здесь ответ.

Дмитрий Колодезев 11:51
Давай я напоследок наброшу, а есть огромное количество людей, которые умерли бы с голода, если бы не дали ужасную работу на каких-нибудь страшных приисках в какой-нибудь Африке и так далее.

Валентин Малых 12:01
А ну слушай, это хороший наброс на самом деле. И здесь мы сейчас с тобой очень быстро уйдём в сторону. Обсуждение политэкономии. У меня тут в канале смешная картинка на эту тему как раз есть. Ну, в общем, давай мы конкретно экономический вопрос закроем, потому что тут мы, я думаю, очень быстро куда-нибудь не туда свернём. Вообще, в целом, я думаю, что мы здесь в основном высказались, вопросы поставили. То есть, ответить на эти вопросы я, честно, не представляю как. Наверное, надо действительно создавать какие-то, ну, реально, комитеты по этике, там чтобы были представители от основных религий. Чтобы были, не знаю, кто там ещё, ну как представители основных религий точно, люди, которые просто по роду деятельности обязаны заниматься этикой, может быть, кто-то ещё. Может быть, наверное, учёные, люди, которые должны высказать какое-то своё мнение относительно этичности происходящего. И тогда уже как-то с этим что-то решать. Вот я бы на этом остановился пока что. Да, то есть я не могу сказать, хорошо это или плохо. Мне лично это неприятно, но мало ли что мне неприятно. Да, вот я, допустим. Кофе не пью, да, я же не могу всем запретить его пить, потому что мне оно противно. Тем не менее, люди шкивают. На самом деле, на мой взгляд, эта новость не менее хайповая, она довольно сильно, сильно хайпанула, и я думаю, что хайпанёт ещё и дальше. Сейчас есть довольно много всего, что с этим связано. Давай, собственно, про саму новость. Первая конференция организована, по-моему, Stanford, если я ничего не путаю. Точно, Stanford. Так вот, первая конференция научная, которая... Состоит исключительно из агентов, то есть исключительно агенты писали статьи, исключительно агенты статьи ревьювили, исключительно агенты статьи, соответственно, ну, представляли как раз живые люди, что отдельный cringe, но тем не менее. Исключительно агенты участвовали в самой конференции, да, то есть принятие решений, всё было за агентами. И это научная конференция. Тут была даже видеотрансляция, что-то такое. Но суть-то в чём? Что кажется, что это наше будущее. То есть, вот я готов здесь поставить на то, что примерно так будут выглядеть Конференции по ИИ именно. И я, кстати, здесь вот имею что сказать, потому что вот недавно, опять же, у меня в канале было про то, что собрались какое-то количество физиков по-разному специалистов по разным областям и сделали такую фронтирную. Frontier benchmark на текущих физических задачах. И оказалось, что, ну, короче, не справились модельки. Да, даже самые хорошие и мощные не справились. То есть там меньше, ну, может быть, чуть-чуть больше 10% задач не смогли решить. Это кажется неплохо, это не ноль, но тем не менее это говорит о том, что новые задачи в физике они не решают. И на мой взгляд, это принципиальная. Принципиальное отличие здесь заключается в том, что весь наш ИИ — эта штука сугубо виртуальная, в том смысле, что она живёт исключительно в информационном пространстве. И так как она живёт в информационном пространстве, то всё у нас уже есть на руках, и дальше. По большому счету, нам нужно довольно много комбинаторного перебирать. Ну, пока мы не упрёмся и не возникнет какой-то новый прорыв, но это отдельный вопрос про прорывы. То есть у нас ещё довольно большой процент. Можно выиграть за счёт просто комбинаторного перебора. Это как раз то, в чём наши агенты, я имею в виду современные модели, прекрасно работают и вообще молодцы. А вот там, где надо высказать какую-то новую идею, да, потому что физика, она... Отличается тем, что ей вообще всё равно на то, кто ты такой, что там, как, что происходит. Она совершенно живёт независимо от тебя, то есть законы вселенной, они как-то сами по себе существуют. И от того, что их кто-то открыл, они совершенно не изменились. Да, то есть когда открыли квантовую механику, квантовая механика не появилась. Она была и до этого, просто мы научились её как-то описывать. И вот для того, чтобы описать то, что мы ещё не понимаем, вот тут, кажется, агенты особо не справляются.

Дмитрий Колодезев 16:23
Физика современная, именно современная физика, это то же самое, что современные, пожалуй, модельки. То есть, если у тебя нет большого бюджета, ты ничего там не исследуешь. То есть, скажем, ядерная физика — это когда несколько государств скинулись, прижались и построили большую установку, на которой ты можешь сделать эксперименты. Сколько бы ты ни был велик, в одного ты ничего не откроешь с карандашом и бумагой, практически ничего. Вот и получается, что вот то, что сейчас делают. Нейри — это скорее про generalists, если помнишь этот термин, что есть специалисты, есть generalists. То есть специалисты во всём по чуть-чуть. Просто в большинстве задач, вот инженерных, если у тебя есть хорошие инженеры на узких специальностях, тебе просто нужно увидеть что-то на стыках того, чего они не увидели. И эту роль обычно какой-нибудь. Манагер с хорошим кругозором выполняет, ну типа меня. Вот и я и теперь вполне роль манагера с хорошим кругозором. Все заявления, которые нужно проверять обязательно хорошими специалистами, она вполне работает, я считаю. Вот, а вот с узкими специалистами, ну да, и до тех пор пока. Мы не обучим LLM на экспериментировать именно, то есть обучать экспериментируя, не на готовых текстах экспериментируя. Мы, наверное, и не получим прорывы в физике, мне так кажется. Я два года назад был соорганизатором. Мероприятия ML в физике в Институте ядерной физики тут, и на самом-то деле они сейчас находятся на уровне, а давайте мы Bayesian optimization к эксперименту прикрутим. То есть, с точки зрения того, что делают в НЛП или где-то там, то, что делают в практической физике на ускорителях, ну это, скажем, позапрошлый век, да. Вот. Но там очень дорогие эксперименты. Там каждое телодвижение тебе стоит времени, денег, электричество и так далее. И делая что-то, ты не делаешь чего-то, поэтому ещё есть такая штука, как упущенная прибыль. Да, у ускорителя, как я выяснил, есть производственный план. Если ты начинаешь его переналаживать, ты начинаешь этот план не выполнять и так далее. То есть, ну, вот такая история. То есть, мне кажется, что тут... Хорошие физические среды для моделирования, которые сейчас развиваются, приведут к тому, что мы продвинемся и там. Сейчас, просто пока мы учимся на налогах, а не на экспериментальных установках, мы ничему и не научимся.

Валентин Малых 19:13
Ну, я с тобой согласен, просто, скажем так, не до конца. Ты вот сказал про физику, я ещё могу добавить немножко про химию. Я имел небольшое касательство к этому всему. Тут надо сказать, я не химик. Если есть химики, пожалуйста, приходите к нам в канал и высказывайте всё, что думаете о моих знаниях. Но у них тоже такая же проблема, по большому счёту, что у них есть большое количество возможных экспериментов, которые можно сделать. Ну, то есть, условно говоря, у тебя есть там 10 тысяч исходных. Химических ингредиентов, и ты можешь условно смешать каждый с каждым н раз. Ну, десять тысяч в одной степени можно представить, какое количество возможных веществ у тебя есть. Понятно, и там всё усложняется тем, что там ещё есть такие вещи, как условия для протекания реакции, то есть там охладить, нагреть, добавить каких-то ингибиторов или наоборот ускоряторов. Я уже забыл, как это правильно слово говорится. И там есть куча всего, что... Как бы усложняет жизнь ещё сильнее. И для химии LLM применили и научились. С помощью них предсказывать, где потенциально хорошо бы провести эксперимент. То есть то, о чем ты говоришь для физики, видимо, для химии уже частично сделано. Мне кажется, что это прямо не то чтобы совсем хорошо сделано, да, потому что вроде как это пока ещё сильно не перестроило процессы в химии, потому что всё равно тебе нужен конкретный человек, который в реактор будет закладывать конкретные реактивы. Да, то есть у тебя всё равно ещё есть вот эта история. И вот из этого мы получаем, собственно, то, что. Эксперименты, которые можно сделать в виртуальной среде, можно сделать быстро, хорошо, и AI тут нас, в общем, точно обставит. А вот эксперименты, которые надо делать в физической среде, да. Вот с ними кажется, пока всё гораздо сложнее, потому что скорость протекания физических реакций, она конечная. И даже если у тебя есть робот, который их делает, ты всё равно сильно быстрее не сделаешь. То есть тебе нужно хотя бы банальную установку построить, а это, ну, некоторое время.

Дмитрий Колодезев 21:33
Слушай, а есть, ну, тут мы с партнёром рассматривали вариант, какое бы оборудование купить, чтобы сдавать его в аренду через интернет, и это не был майнинг. Вот, и я немножко изучал рынок, и существует рынок виртуальных лабораторий, то есть как биологических, так и химических. То есть, грубо говоря, стоят роботы, стоят конвейеры, да, у них там контейнеры с веществами, и ты его программируешь, он капает того, капает всего, отсканировал, понял, измерил и так далее, и тебе даже ехать туда не надо. Ты заказал программу исследования, они её открутили. Ещё примерно год назад я Вычитывал книгу для майнинга, если у меня такой спорт, и она была посвящена поиску новых лекарств. И там история какая? То есть там у тебя есть много лекарств, и ты такой думаешь, а что бы из этого могло быть? Лечить какой-нибудь странный вид рака. Вот и ты начинаешь, поскольку ты проверить всё это не можешь очень дорого, ты начинаешь это фильтровать. И вот там они ML во всю используют. Там интересные у них фич-инжиниринг, нестандартный для нас, да. Но в конечном итоге ты сужаешь там на три порядка область поиска, а потом они отдают именно в такую лабораторию, где оно автоматом 10 тысяч экспериментов ставит просто на потоке. То есть такие вещи существуют. Я посмотрел, это быстро растущий прямо сейчас рынок.

Валентин Малых 22:57
Слушай, ну тут надо, знаешь, что ещё заметить? То, что у нас есть целая компания. Ну как, формально она, конечно, не у нас, она была у нас. Сейчас она, по-моему, тайваньская официально. Insilica Medicine, Алекс Жаворонков, CEO. Идейный вдохновитель, и я-то с этой компанией знаком, потому что они... Довольно активно использовали методы NLP как раз для того, о чем ты говоришь. То есть там есть классическая уже штука под названием ой, я забыл, как оно называется, но там суть такая, что есть действующее вещество, есть так называемый target, то есть целевое, целевой. Целевое вещество, на которое мы хотим подействовать в организме. Есть ещё какая-то третья штука, я забыл, то есть там какой-то правильный треугольник. И оказалось, что уже на тот момент, когда я этим интересовался, типа лет семь назад. Уже тогда можно было на основании существующего объема литературы предсказывать какие-то новые неочевидные связи в этом треугольнике. И это прямо уже тогда приносило какую-то пользу и действительно позволяло сократить количество экспериментов довольно сильно. То есть можно было выявлять хороших кандидатов уже просто и банально из литературы. Вот, и я думаю, что в этом плане ИИ действительно полезен без вопросов, но кажется, что всё-таки тут ещё не настолько всё быстро происходит, то есть люди здесь ещё могут куда-то успевать. Хотя, может быть, это моя какая-то иллюзия. иллюзия

Дмитрий Колодезев 24:34
Я думаю, что человек, который решит не получать сейчас какие-то STEM-навыки из-за того, что LLM его обгонит, он сильно ошибется. Потому что, например, КамАЗ превосходит меня сильно в способности перевозить грузы, автокран способности поднимать тяжести, но абсолютно неважно, сколько тяжести может поднять автокран. Для меня имеет значение, сколько тяжести могу поднять лично я, потому что это определяет. Моя жизнь, то насколько я хорошо мыслю, то насколько я хорошо двигаюсь и так далее и тому подобное. И даже если какой-то автокран может поднять с 10 тысяч раз больше, чем я могу, мне всё равно надо иметь, быть функционально здоровым, иметь возможность поднять, скажем, свои 100 килограмм от пола.

Валентин Малых 25:22
Нет, это-то тут с одной стороны я с тобой согласен, с другой стороны. Вот тот тезис, с которым ты дискутируешь, на мой взгляд, он немножко не такой, да, не то что автокран сильнее тебя, да. Автокран сильнее вообще, наверное, всех людей. Но вопрос в том, что у нас проблема-то не в этом. Проблема в том, что люди говорят, зачем я буду тренироваться быть грузчиком, когда есть роботы-грузчики. Да, то есть, типа, я грузчиком просто не заработаю денег. То есть, вот у тебя как бы есть две стороны. С одной стороны, ты занимаешься тем, что... Соответственно, ты поддерживаешь себя здоровым, и здесь вообще никаких возражений быть не может. Это обязательно нужно. И когнитивная нагрузка в этом смысле тоже обязательно. Да, то есть, если вы думаете, что с изобретением машинного переводчика вам теперь не нужно учить иностранные языки, это не совсем так. Иностранные языки довольно сильно помогают поддерживать мозг в тонусе. То есть, если вы знаете хотя бы один уже хорошо, если знаете несколько, то это прямо вообще прекрасно. Вот, а история-то в том, что тут скорее про то, как бы, зачем я буду тренироваться. Таскать тяжести, если автокран может утащить больше тяжести, чем я. Я вопрос, чем мне заниматься, если не этим? Вот, наверное, вот в эту сторону стоит. Но тут, мне кажется, на этот вопрос вот такой так переформулированный ответ такой, что ну надо. У меня есть некоторый кругозор, да, то есть смотреть вокруг и искать возможности приложения своих усилий. Мне кажется, что в нашей жизни они всё ещё есть, и ну, даже если какие-то закрываются, ну вот, например, я мы с тобой часто приводим этот пример про то, что Количество лошадей с 1905 до 1915 года довольно сильно сократилось на улицах, но тем не менее профессия шорника, конечно, ну, во-первых, исчезла не полностью, хотя и перестала быть массовой, но тем не менее. Может, в сапожнике, может, еще куда-то. Но то есть можно найти обычно способ, как себя применить. Вопрос только в каком-то желании, мне кажется, в постановке вопроса, что вот я хочу себя применить, что мне найти такого интересного. В конце концов, можно пойти водителем автокрана.

Дмитрий Колодезев 27:37
Ну да, тут я на одном мероприятии выступал осенью, да, и там финальная была моя иллюстрация, что фермер объясняет лошади, что у тебя работу заберёт не другая лошадь, а лошадь, и не трактор, а лошадь, которая сможет управлять трактором. То есть, ну сейчас мы в этой ситуации находимся. Вот так вот.

Валентин Малых 28:06
Следующая новость, Sundar Pichai, CEO Google, называет квантовое вычисление следующим бумом. И прогнозирую, что через пять лет будет какой-то глобальный прорыв в этой области. Я по этому поводу специально даже проконсультировался с специалистом по квантам, и он на текущий момент скептичен. Говорит, что горизонт гораздо дальше, чем пять лет, то есть он не видит в течение пяти лет прорыва. Это не значит, что его не будет. Просто вот один из специалистов в этом не уверен.

Дмитрий Колодезев 28:38
Ха-ха, слушай, ну вот представь себе, что люди играются напёрстке, да. И кто-то приходит и говорит, блин, ребята, короче, напёрстки не тема, надо идти в игровые автоматы. После того, как все долго говорили, что я это пузырь, тут выходит один взрослый человек и говорит, ребята, а вы знаете, а ведь следующая крутая штука — это квантовый компьютер. Если сейчас ещё об этом же скажут Zuckerberg и Musk, то можно сказать, что они придумали, куда переместить.

Валентин Малых 29:10
Основной хайп. Я понял, о чём ты? В целом, на самом деле, сама концепция того, что мы можно за счёт хайпа, собственно, создать. Какой-то, ну, какую-то движуху. Я поясню, что я имею в виду. Есть классический анекдот на эту тему, да, что пока, значит, инженер будет. Думать и просчитывать все параметры, думать, как там сделать так, чтобы всё-таки самолёт не развалился и чтобы с ним всё было хорошо. Любитель просто запихает туда, значит, джакузи в полё для гольфа и ещё. Автомат по продаже газировки и будет с ним пытаться взлететь. И если таких любителей будет достаточно много, в итоге всё-таки что-то взлетит. Да, то есть, вот они исповедуют вот этот вот принцип любителя, да, что давайте мы просто все туда побежим, а вдруг что-нибудь получится. То есть, и в этом плане я, кстати, с тобой согласен, что если просто долбить всем, чем попало в одну точку, то рано или поздно эта точка вполне может поддаться, даже если то, чем мы долбили, было не совсем молотком.

Дмитрий Колодезев 30:13
Ну, тем более, что с инвестициями, вот это вот как Roaring Kitty тема, когда раз мы набежали, пампнули одни акции, пампнули другие акции, пампнули третьи акции. Если люди могут управлять целыми отраслями с помощью твитов, то ну, в общем, почему нет?

Валентин Малых 30:33
Специалист по управлению миром, но из Twitter, ну правда, уже не Twitter, ну неважно, но что уж говорить про отдельную отрасль.

Дмитрий Колодезев 30:42
Да, но вообще говоря, это было бы интересно, потому что сейчас за всеми этими LLM-ками. Технологии, которые были наиболее технически применимы до них, это вероятностные графовые модели, и всё на них построено. Вот эти Bayesian сети доверия, которые почти взлетели как раз перед тем, как LLM полетели. Вот LLM и ImageNet, когда летел на В Bayesian сети доверия уже летали беспилотники, вот, и я думаю, что они для них до сих пор летают. И в этом смысле просто квантовые компьютеры часто ассоциируют как раз с шифрованием. На мой взгляд, шифрование — это вещь, конечно, важная, инфраструктурная, но и фиг бы с ней. Вот, а вот то, что какие-то вещи связанные с... Быстрым сэмплированием из очень высокомерных пространств вдруг станут дешевыми, оно может перевернуть то, как мы думаем в принципе о компьютинге.

Валентин Малых 31:48
Ну, тут два замечания. Замечание номер один, что у нас есть перерождение вот этих вот всех байесовских штук. Оно связано с тем, что... У нас RL очень сильно на это завязан. Да, то есть, RL история вся, она растёт на самом деле из вот этого вот байесовского вывода. И, ну, во-первых, для того чтобы просто понимать, а во-вторых, я лично, когда в своём курсе Рассказываю про RL. Я сначала стараюсь рассказать, соответственно, хотя бы одну лекцию про скрытые Markov models, потому что там всё, в принципе, весь аппарат, он очень близкий и заимствован. Ну, отчасти, конечно, не понятно, что RL сейчас очень сильно разработан, но тем не менее базовые понятия, они идут из того же, из тех же самых Markov процессов, всё идёт оттуда. И если Вы понимаете, как работают именно Markov models, вот эти, ну, Bice, как ты их вообще назвал, то тогда RL для вас сильно проще. Это одна часть, вторая часть. Это про диффузионки, которые тоже как раз Направлено на то, чтобы довольно быстро сэмплировать из многомерных распределений большое количество, ну, для меня слов, для людей картинок. Я вообще не понимаю, зачем картинки, когда есть слова. Ну, это так, к слову. А соответственно, эта вторая часть, она довольно бурно сейчас развивается, в том числе в LLMках, что мы диффузионками можем действительно попытаться сделать некоторый прорыв, то есть. Сейчас есть люди, которые в пять раз быстрее умеют сэмплировать за счёт просто другого принципа сэмплирования, без изменения архитектуры и чего угодно. Да, то есть это довольно важно. И третье — это то, что сэмплирование. Сейчас очень сильно идёт в железо, и, наверное, квантовое железо будет ещё лучше в этом смысле, но если я правильно помню, то Cerebras имеют как раз. Очень качественный блок сэмплирования, причём, видимо, не один. Я тут прям сильно их железку не лез, но кажется, что там несколько распределённых вот этих блоков. Ну, кто не помнит, Cerebras — это вот такая вот шайба, которая соответственно, размером примерно как два-четыре. А может, даже и больше. И вот это вот, то бишь, А3. И эта штука, она довольно большая и, судя по всему, требует распределенных центров вычисления на самой себе. И вот в частности блоков сэмплирования, которые как раз должны быть хорошими для того, чтобы современные сети, которые всё больше и больше полагаются на сэмплирование, они должны как раз удовлетворять.

Дмитрий Колодезев 34:37
Слушай, про аппаратные сэмплеры на Cerebras — это для меня интересное, хотя это надо будет разбираться.

Валентин Малых 34:43
Ну, я тоже прямо не то чтобы глубоко с этим разбирался. Я тут с железященьками разговаривал. Они вот мне рассказали, что есть у Cerebras вот одна из особенностей, то, что они делают аппаратные сэмплеры. И как я понял, это сейчас вообще тренд в железе, которое для вычислений, то есть вот для TPU в частности всяких, это сейчас новое. Новая горячая тема, что давайте мы соответственно вот эти вот наши аппаратные сэмплеры. Везде включим, потому что это нам позволит быстрее сэмплировать, быстрее, собственно, работать, быстрее выдавать результат даже на сегодняшних LLM. А учитывая, что мы, как я сказал, судя по всему, довольно сильно и активно движемся в сторону диффузии, то это будет ещё быстрее. Вот это вот я очень хотел с тобой обсудить, потому что Тут, на мой взгляд, то ли хуцпа какая-то, то ли что. В общем, гендиректор Alibaba — это не Jack Ma, которого все мы знаем и любим. Он, кстати, вернулся из своего добровольного изгнания и что-то там теперь делает, но сейчас там гендиректором Eddie Wu Этого человека я не знаю. Так вот, гендиректор Alibaba сказал, что пузырь на рынке ИИ не возникнет с ближайшие три года. У меня ощущение, я, может, не прав, что таким образом он просто подогревает интерес к собственным акциям. То есть он как раз всех призывает инвестировать в нас, ну или хотя бы даже не в нас, а в конкурентов, чтобы рынок рос и мы получали ещё больше прибыли. Вот это у меня такая гипотеза, потому что иным образом объяснить, что вообще происходит, у меня как-то не получается.

Дмитрий Колодезев 36:26
Ну, вообще, то, что ты сказал, это и есть должностная инструкция генерального директора. Вот, просто. То есть, они для этого и существуют, по идее. Но тут... Вопрос во всем мире или в Китае? В Китае точно в ближайшие три года. Всё будет хорошо, я думаю. А я тут не знаю, он попал у нас в новости или нет, этот отчёт от Rainbow. Про то, как, про разницу в вычислительных мощностях и компьютера в США и в Китае. Они говорят, что там на два с половиной порядка, то есть с тридцать раз. Штаты сейчас превосходят Китай по компьютеру и потенциальному компьютеру, но при этом... Польза, которую Китай получает от компьютера. Значительно выше, то есть, грубо говоря, из каждой единицы компьютера Китай выжимает сильно больше пользы. То есть она идёт в промышленность, она идёт в робототехнику, она идёт куда-то, то есть. Если американский ИИ генерит. Котиков и порночетботов, то китайский и в это время работает на заводе. И возможно, что именно на китайском рынке, который недонасыщен сейчас действительно оборудованием по ряду причин, и вполне нашел свои use cases в реальном секторе, то никакого пузыря, по идее, не должно в ближайшие три года возникнуть, именно в Китае.

Валентин Малых 38:03
Интересная мысль, на самом деле. Ну, кажется, что... Опять же, может быть, это моя аберрация, но насколько я слышал в Китае. Тоже достаточно непростая экономическая ситуация в плане, например, тех же самых девелоперов. Да, понятно, что девелоперы и разработчики ИИ — это не одно и то же, но девелоперский сектор, он всегда опережающий, да, то есть он показывает, насколько людям в целом по экономике хорошо. И вроде как там девелоперский кризис довольно существенный, и поэтому может быть некоторая проблема. В том, что если наступит общий кризис по экономике, то ИИ, в общем-то, просто явочным порядком будет объявлено, что это пузырь, и как бы давайте сворачиваться, сограждане. Ну, опять же, это совершенно не утверждение, что именно так должно быть, но просто у меня ощущение, что ты прав, это должностная инструкция. Это основное, что я хотел, наверное, сказать.

Дмитрий Колодезев 39:05
Ну, было бы прикольно, если бы ИИ пророс таким темпом ещё три года. Это было бы, конечно, восхитительно, потому что за последние три года он улетел в космос.

Валентин Малых 39:15
Ну да, это действительно было бы восхитительно. Ну, тут иначе как пожелать успеха всем желающим? Я даже не знаю, что сказать, честно говоря. Предлагаю в качестве следующей новости взять интервью вот этого замечательного лысого молодого человека. И Бородатова, это не абы кто, а наш почётный нижегородец Илья Суцкевер. Я просто недавно узнал, что он, оказывается, родом из Нижнего Новгорода, землях, можно сказать. И он, этот вот, и сам Илья, если кто не знает, он очень известный человек, в OpenAI работал. Сейчас я не помню, где он работает. И он сказал, на мой взгляд, очень интересную штуку. Тут на самом деле полноценное интервью, честно скажу, я полтора часа не прослушал. Довольно много. Он сказал, что мы сейчас снова оказались в области, которую надо исследовать. Да, то есть, что он имеет в виду, что до этого, ну как до этого, имеется в виду несколько лет последних, по крайней мере, с 22-го года точно. Мы находились в пространстве, где мы можем закидать оборудование, то есть взять ещё больше оборудования и получить ещё выше результаты. Да, то есть сделали модель побольше, получили результат повыше. И так по кругу, пока мы, соответственно, не придём к некоторому удовлетворяющему нас результату. А вот. Сейчас он говорит, что наступил кризис этой модели, что мы теперь не можем просто добавив ещё столько же GPU получить ещё больше качества. Да, у нас есть такая проблема, что у нас есть недостаток в этой области, что наши текущие модели, текущие архитектуры. Или текущие, может быть, данные. Тут опять же сложный вопрос, мы это сейчас, кстати, обсудим. Их уже недостаточно для того, чтобы масштабироваться, для того, чтобы улучшать качество. И он говорит, что нам сейчас, к сожалению, придётся снова подумать, если так перефразировать словами из старого анекдота. Вот, и это на самом деле достаточно интересный вопрос. То есть у нас получается, что некоторое время назад, кстати, где-то с полгода назад, были разговоры про то, что данные в интернете закончились, и я в целом согласен. Имеется в виду, что хорошие, даже не очень хорошие, данные текстовые в интернете закончились. Картинки собирать сложно и не очень понятно. Как с ними потом работать, а соответственно, какие ещё данные никто толком не придумал. И это на самом деле некоторая проблема, как бы куда мы дальше движемся, как нам с этим всем быть.

Дмитрий Колодезев 41:55
Ну, куда двигаться, не знаю, я бы, например. Верил в то, что сейчас огромное количество беспилотников будет уже есть и будет беспилотников не тех, которые доставляют бомбы, а тех, которые доставляют обеды, да. Вот и тех беспилотников, которые водят такси и так далее и тому подобное, это фактически. Чувствующее существо, то есть у него есть куча каналов восприятия, и оно собирает информацию, активно коммуницируя с окружающим миром, то есть проезжая здесь, видя то, наблюдая, то есть делая всё то, что делают живые существа, вообще-то. Поэтому я думаю, что Следующий именно потный вал данных — это данные с устройств таких. И сейчас же огромное количество, допустим. Вебкамеры, да, на которых можно учить интересные вещи. Я даже, кстати, учил. Вот и вот представь себе, что у тебя есть вебкамера, лидар, карта и ещё и какая-то просто видео вокруг с нескольких. Ну вот у тебя эти данные есть. Просто эти другие данные, их надо по-другому использовать. И вот, наверное, следующий проект будет там.

Валентин Малых 43:18
Ну, кстати, я тут с тобой согласен. Я тут даже имею кое-что сказать на эту тему. Так получилось, это абсолютно не подстроено. Да, здесь мы работаем, становятся вживую. Что я являюсь судьей в конкурсе. Организованный НТИ, Национально-технологическая инициатива, который посвящен как раз ровно тому, о чем ты говоришь. То есть там есть там задача искать археологические объекты с помощью аэрофотосъемки. То есть там есть беспилотником снятая некоторая местность, она снята на визуальную камеру, снята лидаром, и, по-моему, еще какими-то типами данных. То, что вкладывается в GeoJSON, да, там, по-моему, есть какая-то. То ли ультразвуковая, то ли ещё какая-то съёмка. Ну, то есть, есть набор сенсоров, которые снимают поверхность, дают тебе карту глубины. По факту, это карта глубины. И там нужно искать протяжённые какие-то объекты. Ну, там, например, древние дороги, какие-нибудь курганы, вот это вот всё. Так что вот такая нативная интеграция получилась. Кому интересно, обязательно подключайтесь. Скоро будет второй конкурс отдельных заданий. Это так называются подготовительные конкурсы. Будет ещё третий, а потом будет основной конкурс в следующем году. И там, соответственно, можно будет проявить свои навыки владения чёрной магией Data Science. Вот. Возвращаясь к тому, что ты сказал, я согласен. Она действительно большой источник данных. На эту тему есть неплохая история, что все, наверное, помнят Челябинский метеорит. И люди на Западе узнали, что в России у каждого второго есть видеорегистратор после того, как Челябинский метеорит был, соответственно, выложен с 50 разных. Ракурсов на YouTube в течение одного дня, то есть когда все тогда просто Сознали количество данных, которые есть на руках, просто ну в России конкретно, но понятно, что в мире. Насколько я понимаю, не везде в мире так настолько распространены видеорегистраторы, но у нас таких записей реально тоннами, да, то есть они существуют, и чем больше у нас будет беспилотников. Тем больше таких данных будет. Они, может быть, будут не в открытом доступе, а у компаний, которые ими занимаются. Ну вот, прежде всего, в нашей стране это Яндекс, вероятно, Сбер, может быть, ещё какие-то компании. И кажется, что в эту сторону действительно будем двигаться как-то так. Следующее тоже интервью другого замечательного молодого человека, но он не лысый, он волосатый и без бороды. Это Илон Маск. Вот Илон Маск считает. Тут, опять же, довольно длинное интервью. Мы обсудим только один аспект этого интервью. Так вот, Илон Маск считает, что роботы победят бедность. То есть, внедрение большого числа роботов позволит нам выбраться из бедности. У меня есть что сказать по этому поводу. Я сейчас выскажусь, а потом ты меня покритикуешь. То есть, во-первых, пункт один — это то, что, как ты правильно сказал, Илон Маск выполняет работу генерального директора. Он создает спрос на свою продукцию. Как мы помним, Tesla выпускает, ну или планирует выпускать роботов. Кажется, что, кажется, опять же, что они проиграют в конкуренции китайским товарищам, потому что у китайцев Просто какое-то невероятное количество робофирм и довольно успешных. У нас даже, по-моему, есть новость на эту тему в сегодняшнем выпуске. И это с одной стороны. А с другой стороны, если мы говорим как раз про тех людей, помнишь, мы... Быстро свернули разговор про экономику. Так вот, если мы говорим про тех людей, которые соглашаются на какую-то низкооплачиваемую и неприятную работу для того, чтобы получить кусок хлеба, есть шанс, что роботы такую вот работу как раз отберут. Потому что человек в плохих условиях, он, во-первых, плохо работает. Ну, то есть, если его не кормить и, соответственно, при этом заставлять работать в каких-нибудь угольных шахтах, он от этого, в общем, не сильно хорошо себя чувствует, работает непроизводительно, а ещё может трудовая инспекция приехать, и вообще будет нехорошо. Ну, я утрирую, но тем не менее. А робот не жалуется, и у него, в общем-то, вообще всё в этом плане стабиль.

Дмитрий Колодезев 47:41
Слушай, ну от того, что кто-то заберёт работу у бедного ребёнка из какой-нибудь Западной Африки по добыче кобальта, да, вот вовсе не значит, что... Ребёнок станет от этого жить лучше. То есть он просто потеряет ещё вот этот источник дохода. То есть это я не в защиту детей, работающих на кобальтовых шахтах, и упаси Господь. Вот я просто к тому, что сама по себе повышение производительности труда и замена людей роботами. Бедность вовсе не обязательно решает. То есть она может повысить богатство того, кому принадлежат роботы и тому, кому принадлежит рудник. Но конкретно вот этих людей, которые на руднике работали, почему они станут богаче? То есть каков механизм?

Валентин Малых 48:32
Вот у меня тот же самый вопрос. Я не понимаю, каким образом это нас приблизит к тому, чтобы не осталось бедных. Да, то есть, как бы, почему бедные станут жить лучше? Где вот проходит вот эта вот магическая граница? Я пока что-то не понимаю тоже вместе с тобой.

Дмитрий Колодезев 48:49
Просто, допустим, американская компания станет зарабатывать больше, она станет больше платить налогов, и в результате бедные в Штатах начнут работать лучше, наверное, если государство так решит. Вот как это повлияет на ту же самую? Демократическую республику Конго или что-то ещё. Вот, то есть, я ни в коем случае, я очень-очень далёк от политики и прочего, да, но реально. Жизнь вот этих самых детей в Демократической Республике Конго, возможно, стала бы лучше, если бы Демократическая Республика Конго смогла бы вооруженным путем отстаивать свою независимость. Тогда бы она смогла бы диктовать условия тем, кто приехал за кобальтом. Если она этого не может, тогда всё её благосостояние — это столько, сколько ему согласятся отдать по доброй воле. Ну вот, вопрос доброй воли. Да, откуда она возьмётся?

Валентин Малых 49:46
Я, может быть, здесь какой-то совсем циничен, но у меня к доброй воле наших современников какой-то очень, скажем так. Добрая воля наших современников для меня остается загадочной субстанцией, потому что я её наблюдаю довольно редко. Я не говорю, что её не существует, но мне почему-то кажется, что... Как-то мало вероятности того, что Илон Маск будет её проявлять. Конкретно, его маска тут не претензия конкретно ему, а вообще весь класс владельцев больших компаний будет её проявлять так, чтобы делать жизнь в какой-нибудь гиперапевтической республике Конго лучше, учитывая, что сейчас литий добивается чуть ли не там же. Я, честно говоря, не помню. Помню, что добывается довольно в каких-то неприятных условиях, а может быть, в Боливия, может, где-то. И это совершенно не мешает. Соответственно, тому же Илону Маску продавать свои Tesla с этими самыми литийными аккумуляторами и получать столько денег, сколько он попросил. Но как-то я не помню, чтобы от этого стало сильно лучше жить в Боливия. Ну, в общем, как-то это всё странненько звучит, честно говоря. То есть. Это утверждение вызывает много вопросов. Либо я, честно признаюсь, не дослушал и не понял, что хотел сказать автор, либо тут что-то такое, что пытаются, скажем так, отвлечь внимание на негодный объект.

Дмитрий Колодезев 51:10
Возможно, тоже идет подготовка к тому, что сейчас, если все-таки пузырь и схлопнется, ну то есть это не то, что там, скажем, и перестанет быть полезным, это именно его инвестиционная часть. То есть внезапно выяснится, что запихать туда сто триллионов долларов может быть неумно, например. Вот в этот момент люди Которые управляют этими потоками, они задумаются, а куда же их всё-таки запихать? Потому что это реально проблема, куда-то пихать их надо. И в этот момент они такие, так, Alibaba, Elon Musk. Вот, ну как бы, вот так.

Валентин Малых 51:47
Ну да, мы сейчас как раз на эту тему плавненько перейдём. Ну, сначала обсудим немножко другую новость. Как раз по поводу роботов мы и начали. Как я сказал, у китайских товарищей вообще всё хорошо в плане роботов. То есть они очень много в это вложили и пожинают плоды, в общем, совершенно закономерно. Есть такие роботы, которые Умеют заменять себе батарею, то есть они как бы не останутся без энергии, если что. И китайское правительство развернуло их на пограничном пункте рядом с Вьетнамом. Ну, кто не знает, у Китая с Вьетнамом довольно сложные взаимоотношения. Последняя война между Китаем и Вьетнамом была, собственно, чуть больше сорока лет назад. И вот компания Ubtech Robotics представляет свой. Своего робота для того, чтобы он на границе, ну там написано, патрулировал. Не знаю, сколько это правда, но в общем как-то там помогал. Учитывая, что опять же многие не осознают, но это вообще говоря правда, в Китае второй год сокращается население, и старение населения в Китае — это большая проблема. То есть из этого непосредственно следует, что становится меньше солдат со временем. Значит, учитывая, что у нас количество солдат с каждым годом сокращается из-за сорения населения, то роботы вполне себе заменяют. И вот мы с тобой про милитаризацию всё ходим вокруг и около, так вот она, собственно, как есть.

Дмитрий Колодезев 53:22
Ну, во-первых, объём тут непонятен, сколько стоит робот. То есть, поскольку это военный заказ, а в Штатах это было бы десять роботов, наверное. Ну да, я думаю, что здесь это их несколько сотен, как минимум. Да, я не думаю, что их больше ста в тридцать семь миллионов поражали, потому что всё равно там не только сам стоимость самого робота, стоимость инфраструктуры вокруг него и так далее, и тому подобное. Вот, ремкомплекты и прочее. Ну, в общем, 300 роботов — это тоже дофига человекоподобных. Вопрос, почему вообще в оборонке использовать человекоподобных роботов? Если я, вот как я себе представляю мир, единственная причина — это переиспользование заточенной под людей инфраструктуры. То есть нет никакой причины использовать именно человека подобного робота на поле боя, когда ты можешь использовать летающий или катающийся на гусеницах дрон. Зачем? Вот только если ты хочешь посадить его в место, где до этого должен был сидеть человек. Мне кажется, так.

Валентин Малых 54:26
Ну, я полностью согласен в том смысле, что есть же огромная огромная промышленность по выпуску, не знаю, там автомобилей, например, для. Военных, ну если кто-то, все, наверное, уже забыли, но вообще, так говоря, в России тоже есть свой человекоподобный робот, который первый был популярный, робот Фёдор. Его, конечно, все там обсмеяли, но вообще-то он демонстрировал довольно понятные практические навыки. Он стрелял из пистолета, умел забираться в КамАЗ и что-то там ещё такое делать. То есть он вполне себе демонстрировал те навыки, которые должен демонстрировать солдат. Да, то есть ездить в неподготовленной технике. Соответственно, держать оружие, которое сделано для людей, которого миллионы штук, и, собственно, продолжать ту традицию, которая есть. Я с тобой согласен, что другого способа, не так, не способ, другого смысла использовать гуманоидных роботов среди военных, вообще говоря, нет, потому что, ну, это максимально неэффективно. Я думаю, что здесь всё упирается просто в то, чтобы эти роботы были достаточно дешёвыми. Да, то есть всё-таки военное потребление ограничено, хочешь не хочешь. Оно ограничено каким-то количеством штук всего в день, ну или в год. Ну, например, у нас в наши вооружённые силы. По последним официальным данным, были что-то вроде полтора миллиона человек. Можно посмотреть на сайте, это на сайте правительства. Там всё это есть открытые данные за какой-то там, допустим, двадцатый год. Полтора миллиона человек означает, что условно говоря, нам нужно полтора миллиона шинелей, да, полтора миллиона каких-нибудь автоматов в Калашникова раз в энлет. И, собственно, у нас вся эта история как раз и связана с тем, что автомат Калашникова ты сильно много не сделаешь. То есть, сильно больше, чем миллион, его не надо, но есть. Сайга, которая гражданский автомат Калашникова, там немножко перепиленный, но это то же самое, и его можно как раз делать там десятками миллионов штук в идеальных условиях. Он даже в своё время, эта Сайга экспортировалась за границу, кажется, даже в США. А то же самое с шинелями, да, то есть там, где мы делаем миллион шинелей в год, да, нам там надо сделать. 10 миллионов каких-нибудь спецовок для дорожных рабочих, опять же, условно. И имеется в виду, что мы можем за счёт гражданского производства сэкономить на военном производстве. Я думаю, что вот тут такое соображение, по крайней мере, китайцы раньше-то такое демонстрировали. Тут, кстати, параллельно была новость, я не стал её включать, потому что она не по теме ИИ, но там буквально Новость состояла из того, что одна китайская компания сказала, что мы соберём гиперзвуковую ракету из чайника и микроволновки. Я утрирую, там они говорят, что они собирают из автомобильных компонентов, но в общем, это не сильно отличается. Так что я думаю, что вот по этим соображениям тоже можно.

Дмитрий Колодезев 57:38
Слушай, а пока тебя слушал, я вдруг понял, что есть ещё один сценарий, где именно человекоподобные роботы, они прямо огонь-огонь. Вспомни про моботов. Это в интерфейсе к людям. То есть, когда нам нужно доносить месседжи. То есть, если ты, допустим, занимаешься оккупацией какой-нибудь вьетнамской деревни, тебе нужны, как американцы говорят, сапоги на земле. Вот, то есть, кто-то должен стоять на углу и говорить всем жителям деревни, собраться у комендатуры, то есть. И вот у них здесь как раз описаны такие штуки, At border checkpoints to guide travelers, то есть направляя путешественник, Manage personal slow, то есть, грубо говоря, регулировщики, контролёры и так далее и тому подобное. То есть такие промо-боты, но только для военного применения.

Валентин Малых 58:32
Ну, сейчас-то да, но в целом я с тобой согласен. То есть там, где нам нужно, ну, в целом-то, если так задуматься, то обычно, когда мы говорим о каких-то военных действиях, то... Вообще говоря, всё равно нужно взаимодействовать с людьми. Да, военные действия — это не про там рельеф местности, хотя и про него тоже, но это в первую очередь про людей, потому что сам по себе рельеф местности тебе и сопротивление не окажет, и не поможет. Да, то есть он нейтрален. А вот люди, они могут и то, и другое. И поэтому, соответственно... Иметь таких вот роботов, которые могут зайти банально в дом к людям, да, и воспользоваться какой-то человеческой инфраструктурой, это, на мой взгляд, очень важно. Так что в этом смысле я считаю, что китайское правительство идёт как раз в ногу со временем и даже его опережает. То есть они, кажется, первые, кто это сделал. И это прямо очень важно. Посмотрим, посмотрим. У меня ощущение, что следующим, кто это сделает, будут арабские монархи. То есть у нас есть в Персидском заливе достаточно много, достаточно богатых государств, и они вполне бы хотели иметь полностью, полностью лояльных солдат. Вот я бы так, наверное, сказал. Согласен. Следующая новость, MIT, всем известный, провел исследование, которое говорит, что уже сейчас можно заменить одиннадцать процентов людей, почти двенадцать. С помощью текущего искусственного интеллекта. Здесь имеется в виду, как я понимаю, LLM. То есть, это не про роботов, хотя, может, и про роботов я, честно говоря, глубоко не вчитывался. Но имеется в виду, что большая часть работы, 10% — это уже много, может быть заменена искусственным интеллектом. В принципе, я даже готов в это поверить. Тут нужно только сделать одно замечание. Воспринимать это как непосредственную угрозу прямо сейчас я бы не стал. Да, то есть это может быть угрозой для США, потому что там минимальная зарплата в разных штатах варьируется, но составляет там что-то типа 10 долларов в час, то есть тысячи рублей. В час на наши деньги. А соответственно, в нашей стране, да, у нас люди всё-таки, мне кажется, гораздо меньше подвержены этому риску. К сожалению, как бы это не было грустно из-за того, что у нас достаточно низкие зарплаты, много в каких секторах, поэтому заменять их искусственным интеллектом просто неоправданно, неоправданно дорого. И если кто-то заметил, ну, по крайней мере, я вот замечаю по себе, что у меня в округе все магазины сетевые, они сейчас обзавелись кассами самообслуживания. Это тоже, кстати, роботы, если кто-то не знал. Только сейчас, потому что сейчас стало дорого. Да, то есть сейчас они постоянно ищут каких-то людей, чтобы быть кассирами, но в какой-то момент они осознали, я имею в виду сети, что проще уже сделать кассу самообслуживания, которая будет заменять работу кассира. И да, один раз надо потратиться, но потом уже тратится гораздо меньше просто на поддержание её работоспособности. И, судя по всему, где-то в эту сторону всё и движется.

Дмитрий Колодезев 1:01:54
Ну, исследования интересные, сама по себе прикольные у них там отчеты на сайте, и про они придумали. Ripple protocol, то есть как координировать популяцию агентов. Собственно говоря, это они же, да, у них проект Iceberg и Ripple protocol, то есть они действительно прорабатывают. Эту тему, как людей заменять на роботы, насколько их действительно реально можно заменить в разных отраслях экономики агентами. Вот, то есть, ну, прикольно. А тут непонятно. Как ты сам говоришь, экономическая выгода от некоторых профессий, то есть, например, робота, который штукатурит стены, можно заменить человека, который штукатурит стены, можно заменить роботом, но экономически пока дешевле нанимать людей, хотя и стоят они, конечно, очень дороги. Вот поэтому, ну вот, нас выдавливают в те отрасли деятельности, которые роботам делают неудобно, роботам-агентам.

Валентин Малых 1:03:04
Понятно, что экономически мы, собственно, будем перемещаться в те области, которые хорошо оплачиваются. Хотим мы этого или нет? Ну, то есть. Проводя пример с шорниками, да, продолжаю. Шорники сейчас остались не потому, что есть страны, где всё ещё двигаются на лошадях. Такие тоже есть, Непал, например. Но. Это скорее исключение, а вот в основном по миру шорники — это довольно высокооплачиваемая профессия, потому что они работают с богатыми людьми, которые могут себе позволить позволить собственную лошадь. То есть сейчас собственная лошадь — это дорого, а упряжь для лошади — это вообще. Довольно приличные деньги стоят, и работа такого мастера оплачивается. То есть, даже сейчас можно стать шорником, и вы будете, если вы будете стараться получать неплохие деньги, но нужно понимать, что для каждого конкретного человека нужно будет сделать выбор, где и в какой область он хочет стать именно тем профессионалом. Что ему будут хотят давать деньги, то есть за его деятельность, потому что скоро можно предположить, что такая простая деятельность, как выдача заказов во вкусные точки, да, она, видимо, перейдёт к достаточно несложным роботам, судя по всему. Собственно, ты упоминал, что как раз про Китай, да, что. Нужно ли в Соединённом Штатам продавать свои железки в Китай, ну и конкретно самые топовые железки? И, собственно, идея здесь заключается в том, что конечно, самые топовые железки продавать, с одной стороны, страшно, да, потому что китайцы, как ты правильно сказал, умеют их довольно эффективно использовать, но с другой стороны... Если вообще не продавать никаких железок, то получается, что Китай просто сделает свои, он уже сейчас активно делает свои, и через какое-то время... Которая будет передышкой, если совсем перестать продавать. Ну, скажем, типа, через года три они сделают свои, которые будут не хуже, и будут на них всё делать. Тогда ваши, типа, уже будут совсем не нужны. И, в общем, вот эта вот проблема, как бы, как продавать так, чтобы с одной стороны и продавать, и то есть оставить технологическую зависимость, и с другой стороны. Не дать вырваться вперёд — это вот то, что сейчас занимает умы наших заокеанских партнёров. Как вот здесь быть, я, честно говоря, не знаю, что им посоветовать. Да, даже если бы знал, наверное, не стал. У меня был бы, видимо, допуск и такие вещи я бы уже не мог от этого говорить. Вот.

Дмитрий Колодезев 1:05:40
Слушай, ну технология, вообще-то говоря, о остановке производства у конкурентов, известна. Это демпинг. То есть, если твоя себестоимость на порядок дешевле, чем у конкурента, а у штатов это так, то ты можешь снизить. Цену ниже себестоимости конкурента и выше своей себестоимости. Да, то есть, так, например, сланцевый газ и поступил. В свое время, но про сланцевый газ сейчас уже, наверное, все знают, что сланцевый газ, при том, что он нанес много ущерба нам, то есть Российской Федерации, бюджету, да, он же еще фактически истребил. Отрасль бурения скважин, то есть в том смысле, что когда всё это дело подешевело, бурить скважины в Штатах тоже достаточно дорого, и они их перестали бурить. Просто они остановили разведочное бурение и введение в строй новых месторождений. Само наличие дешёвого газа обрушило индустрию добычи нефти, ну и американскую, тем самым вызвало рост потом стоимости нефти, но не суть. Я к тому, что штаты действительно могли бы остановить, наверное. Китайскую чипостроительную программу для этого умудрившись начать производить чипы дешевле, чем китайцы. Вот, и я думаю, что этого решения не будет сделано, потому что, как бы, а кто же тогда будет делить деньги?

Валентин Малых 1:07:20
Слушай, а я вот с тобой не согласен в том смысле, что мне кажется, что здесь как раз и второе соображение их пугает, что если мы им продадим дешёвые чипы, они же собаки такие сделают. Вот этот самый AGI, то есть сильный искусственный интеллект, раньше нас, то есть раньше них, то есть американцев. И вот мне кажется, это их как раз и останавливает от демпинга. То есть они получаются в этой такой половинчатой позиции, что с одной стороны продаём, с другой стороны не продаём, а здесь руку заворачивали.

Дмитрий Колодезев 1:07:50
Ну да, опять же, то предложение, которое есть на рынке, если его сделать сильно дешевле, оно тоже уменьшится, скорее всего. То есть, может быть, никто не станет выжимать до последнего, если сверхприбыли там не будет. Ну и такой сценарий тут вот в этой аналитике, которую ты на экране показываешь, рассматривается. Это последний сценарий. Агрессивные продажи B30A и других чипов. И если спрос будет неэластичный, то есть китайцы будут покупать что-то, а в результате это не смогут купить американцы, то Китай в ближайшее время получит преимущество в их мощностях на США, а поскольку, как мы уже говорили. В реальном секторе Китай получает больше отдачи на мощности, чем США, то это будет означать просто краху американское доминирование, то есть ничего они не очень хотят.

Валентин Малых 1:08:57
У нас внезапные ресурсные ограничения, про которые обычно никто не думает, но они в целом существуют. И оказалось, что в мире существует дефицит авиационных двигателей, то есть делать новые самолеты становится сложнее. А как ни странно, вызвано это всё. Из-за как раз бума искусственного интеллекта. То есть у нас получается, что мы не можем, соответственно, получить новые двигатели. Просто потому что эти двигатели нельзя произвести. Неочевидная связь. Я сейчас, собственно, пересхожу новость. А смысл там в том, что опять же, немногие знают, но в те двигатели, которые авиационные, их вполне себе можно использовать не только в этих целях. Можно использовать те же самые турбины. Это, кстати, у нас так делают. Те же самые турбины двигателей можно использовать для того, чтобы делать электростанции. В первую очередь, газовые, конечно, электростанции. И получилось, что сейчас все турбины, которые производятся, просто были выкуплены под газовые электростанции для того, чтобы питать искусственный интеллект. А самолеты, ну ничего, пешком полетаете. Вот как-то так.

Дмитрий Колодезев 1:10:12
Это же ещё и наша страна столкнулась с этим, когда последние санкции придавили. Вот, и турбин не было для самолётов. Самолётов у нас не так много строят, к сожалению. А уперлись в турбины как раз для Электрогенераторов и для перекачки газа и нефти. То есть там же тоже турбины используются для того, чтобы эти все насосы использовать, причём примерно одни и те же самые. Ну да, и не только рынок авиационных двигателей будет каннибализирован вот этим ИИ-бумом, прежде чем он лопнет. Много других рынков. На самом деле, рынок труда же тоже. Именно рынок айтишного труда. То есть, зачем идти в разработчики встроенной электроники, если можно идти в промпт-инженеры? Это курирует. Вот зачем продавать авиационные двигатели на самолеты, когда можно продавать их в генераторы? И это проще и быстрее, и спрос лучше и мобильнее. Как-то вот так.

Валентин Малых 1:11:20
Ну, в целом, да. Это уже достаточно косвенная просто связь, хотя она тоже, безусловно, существует. У нас, кстати. В нашей стране всё немножко по-другому работает, хотя и похоже. Да, у нас можно пойти в курьеры и зарабатывать там типа 200, 300, 400 тысяч, да, или пойти в инженеры-конструкторы ракетных двигателей, которые зарабатывают там. Начинающий специалист 30, продолжающий 70 тысяч, да. И как бы вопрос, где у нас конструкторы ракетных двигателей? Вот, так что тут с рынком труда, то оно всё вообще понятно. А вот с таким вот ресурсным ограничением, мне кажется, люди ещё не привыкли сталкиваться. Портал «Православный мир», «Правмир». Он говорит, что в Госдуме предложили применять ИИ для повышения рождаемости в регионах. Я вас на чуть-чуть оставлю с этой мыслью. Просто чтобы вы осознали всю прелесть этой ситуации. Но если там почитать, на самом деле там всё не настолько не настолько апокалиптично, как можно подумать. Это всё-таки больше про другое, да, что они предлагают с помощью ИИ моделировать какие-то ситуации. И использовать его именно в качестве прогноза, да, то есть использовать, делать прогнозы. Тут отдельный вопрос, насколько это эффективно. Я, кстати, не думаю, что сильно эффективно, потому что демографические прогнозы вообще штука достаточно такая своеобразная. Тут что-то правильно смоделировать и тем более правильно предсказать очень сложно. На мой взгляд, ИИ пока что не обладает. Скажем так, достаточными знаниями для того, чтобы это сделать. Просто не факт, что человечество обладает, по крайней мере, в нашей стране так точно. Может быть, в других странах с этим лучше. Вот поэтому, на мой взгляд, это просто скорее попытка проехаться на хайпе. Ну и тут тем более прекрасно, прекрасно выбран именно сам по себе заголовок.

Дмитрий Колодезев 1:13:28
Ну, тут прямо в самое сердечко, потому что я... В этом году затеял курс из Воркшопов по causal inference, то есть про выявление причинно-следственных связей, это как раз примерно такого рода задачи и решаются. То есть на прошлом воркшопе мы рассматривали историю, когда детей, скажем, американских иммигрантов начали пускать в школы, и стало больше открываться маленьких фирм в этом штате. Вот, то есть все вот эти вещи, которые сейчас обсуждаются, их в принципе можно моделировать, но там так сложно, настолько велика вероятность не заметить слона в комнате и так далее. То есть я бы пока нейросетям бы это не доверил.

Валентин Малых 1:14:14
Вот я тоже, у меня тоже есть определённые сомнения, что нейросети. Могут здесь делать. Это, кстати, очень похоже в каком-то смысле на вот это наше обсуждение про физику, да, то есть. Здесь множество эффектов, которые совершенно неочевидны. То есть, да, там есть какие-то способы всё это описать, просто придумать такой способ, его правильно, грамотно сформулировать — это отдельное искусство. Вот я считаю, что это действительно очень сложно. Социальные науки, они гораздо Сложнее в плане постановки экспериментов, чем та же физика. Физики — это просто много денег стоит, а в социальных науках это прямо на живых людях надо экспериментировать. Это гораздо, гораздо более ответственное мероприятие в этом смысле. Хотя физики тоже пахнуть может, но там всё-таки хоть как-то можно посчитать риски, а тут просчитать риски — это само по себе отдельное искусство.

Дмитрий Колодезев 1:15:07
Смотри, что реально нейросети могут делать — это обосновывать заранее принятые решения. Я боюсь, что именно это им не предстоит.

Валентин Малых 1:15:20
Слушай, ну у нас же все знакомы, я думаю, с бессмертным произведением Канемана. Думай медленно, решай быстро. Там же одна из вещей, про которые он говорит, что, судя по всему, у нас решение принимается достаточно быстро, а вот обоснования для него мы уже потом медленно придумываем. Да, то есть для принятого решения мы уже придумаем обоснования, и наша психика так устроена, наша имеется в виду людей в целом. А тут, видимо, да, просто для улучшения убедительности обоснования. Того или иного решения, на мой взгляд, это несколько профанация, да, но тем не менее. Кстати, почему парфанация? Потому что, если не ошибаюсь, Аристотель говорил, что для того, чтобы понять, какое из утверждений верно двух противоположных нужно доказывать оба, а потом, когда мы докажем оба, потому что мы можем доказать оба, наша логика это позволяет. А нет, пардон, не Аристотель, это было. Сократ, и будем доказывать оба, и там, где доказательства просто и естественно, там истина. Вот так. Идея Сократа, да, и это, соответственно, вот если бы какая-то такая техника, хотя бы сократического диалога, применялась, да, что типа давайте мы попробуем вопросы позадавать с помощью ИИ, а люди на них поотвечают, да, то это ещё хоть какой-то смысл бы имело, но боюсь, что это всё идёт всё именно к тому, что ты говоришь.

Дмитрий Колодезев 1:17:01
Я в очередной раз, как технооптимист, скажу, что несмотря на это мы выкрутимся.

Валентин Малых 1:17:07
Твой технооптимизм, по-моему, вообще не сломить. Я тут, который, который капитанский мостик набрасываю, набрасываю, а ты всё не та самая. Всё такой же оптимистичный.

Дмитрий Колодезев 1:17:16
Слушай, мне завтра исполнится 54. Со мной столько в жизни случилось, что после этого искусственный интеллект — это...

Валентин Малых 1:17:23
Сложно не оставаться оптимистом после такого, я согласен, да. Ну, я думаю, что я и все наши слушатели присоединяемся. Этот подкаст выйдет уже в воскресенье, поэтому как раз в твой день рождения, и мы все присоединяемся, желаем тебе долгих лет жизни, счастья, здоровья и семье тоже.

Дмитрий Колодезев 1:17:46
Я надеюсь увидеть ещё, как лопнет пузыри с пузыри.

Валентин Малых 1:17:52
Ой, ну слушай, это, я думаю, вообще не проблема. Это, я думаю, мы все пронаблюдаем в реальном времени. Ладно, я думаю, что да, можно завершать. Спасибо большое. Спасибо, что слушали нас. Пожалуйста, подписывайтесь на всех площадках, где нас видите и слышите ли, на ВК, на YouTube, на всех подкастных. Ну и что, пишите в новости в Mattermost, новостей всё больше и больше, трудно убирать хорошие.

Дмитрий Колодезев 1:18:20
А мы тут сделали нововведение. Мы перестали выкладывать список ссылок на площадках, и теперь у нас список ссылок в Mattermost. То есть переходите за ним туда, там он огромный.

Валентин Малых 1:18:32
Да-да-да, там гораздо больше всякого контента, нежели мы выносим, просто потому что мы не успеваем всё обсудить. Да, так что вот ждём вас в Mattermost в любом случае. Всё тогда, пока-пока. Всем пока.