Капитанский мостик 2-21

30.05.2026
13.10.2026
подкасты

Двадцать первый выпуск второго сезона подкаста "Капитанский мостик" про искусственный интеллект, будущее и все такое. Ведущие подкаста — Валентин Малых и Дмитрий Колодезев

Площадки

Содержание

00:00:00 введение
00:00:40 невыездные ИИ-китайцы
00:04:22 роботы для пожилых
00:07:39 автозаводы делают роботов
00:11:23 выставка роботов в Токио
00:19:50 закон о роботах в России
00:28:30 500 миллионов за токены
00:31:27 Uber переплачивает за ИИ
00:36:43 Nvidia тратит на ИИ
00:42:44 arXiv против нейрослопа
00:53:21 бенчмарк на 1С
00:57:43 Демис Хассабис про AGI
01:01:19 Илон Маск про AGI
01:08:25 вышел Claude 4.8
01:11:08 женщины не нужны ИИ

Валентин Малых 0:00
Всем привет! С вами, как всегда, Валентин Малых и Дмитрий Колодезев. У нас сегодня выпуск приуроченный к окончанию DataFest. Сегодня, когда вы будете смотреть эту запись, скорее всего, ещё идёт DataFest Online, если вы смотрите воскресенье, или он уже закончился, но будут записи, так что не переживайте, всё может быть посмотреть онлайн точно будет. будет

Дмитрий Колодезев 0:25
Да, в ближайшие несколько дней закроется подача. Заявок на конференцию practical ML. Приходите, там Петя Ермаков её ведёт, будет очень прикольно. прикольно

Валентин Малых 0:36
ху

Валентин Малых 0:39
но это Но эта новость очень широко прозвучала, поэтому я не мог пройти мимо. Соответственно, новость звучит так, что власти Китая начали ограничивать выезды страны для основателей ключевых специалистов и компаний, пишет Bloomberg. Всё в этой новости прекрасно, и стоит здесь отметить, что первые новости такого рода появились год назад. То есть, почему ещё, соответственно, на этой неделе ещё разочек решили про это написать, я не знаю. Что сподвигло, может быть, просто нагнетают обстановку, может быть, какие-то новые факты вскрылись, может быть, что. Ну, в общем, сам факт, что... О том, что будут ограничивать выезд, вроде как, было понятно. Для сравнения, стоит отметить, что нечто подобное произошло с Владельцами Sakana, основателями Sakana, да, то есть они стали работать на японскую оборонку. Ну, а раз они стали работать на оборонку, я думаю, что у них тоже какие-то ограничения на выезд появились после этого. Думаю, что, в общем, тенденция понятная. Не знаю, как это в США обстоит, да, то есть там всегда довольно своеобразно было. Но посмотрим. Думаю, что как минимум будут ограничивать доступ для иммигрантов, то есть для людей без гражданства в эти компании, ну как сейчас происходит, например, с той же NASA.

Дмитрий Колодезев 2:09
Ну, тут там деталь, которую я пропустил, когда говорили про отмену покупки Manus, что Гендир и Техдир их застрели на китайские территории в этот момент. То есть это, собственно, объясняет, какой рычаг у китайского правительства остался. Вот, то есть, мне было интересно, как они будут инфорсить отмену этой сделки, но оказывается, вот как, наверное. Вот, а вообще, да. Выезды за рубеж для многих руководителей и ключевых специалистов, что в Штатах, я думаю, тоже. Ну, в Штатах сложнее, там своя история. Но во всем Ближнем Востоке это точно будут большие проблемы у людей. Но с другой стороны, им, наверное, дом будет хорошо. Вот, но мы на этой территории много лет жили с такими ограничениями, ничего.

Валентин Малых 3:09
Ну, это в целом да. Ну, я тут ещё раз хотел бы вернуться, что, на мой взгляд, ограничения на выезд в США вводить не будут. У них как-то, вот я не помню таких прецедентов, а вот ограничения на найм вполне могут быть, то есть скажут, что это важно и всё.

Дмитрий Колодезев 3:27
Ограничения на найм у них существуют последовательно с мюнхенской речи нашего руководителя. То есть мы сталкивались с этим, то есть знакомые рассказывали из каких-то проектов всех русскоязычных контракторов, вытаскивали. Ну вот такое, то есть потихоньку в соответствующих отраслях там это шло ещё и до специальной военной операции.

Валентин Малых 3:54
Да, это понятно. Я просто к тому, что сейчас могут вот такую же политику применить ещё и к топовым AI-компаниям. Ну, это, конечно, печально, но вот похоже на то.

Дмитрий Колодезев 4:09
Есть же на самом деле правила большого пальца. Хочешь получить визу в штат, а не пиши, что ты исследуешь искусственный интеллект.

Валентин Малых 4:16
Ну да, это правда. Относительно связанная вещь про Китай, значит, пришла новость, что в Китае будут выдавать роботов. Семьям с пожилыми родственниками и с маленькими детьми, ну, соответственно, для осуществления ухода. Имеется в виду там уборка, что-то может быть стирка, не знаю, что там конкретно. И тут я уже у себя в канале пошутил, что этим отличается капитализм от социализма, да, что у нас. Соответственно, в Китае роботов раздают, а в Америке продают. Но это всё не более чем шутка, потому что, очевидно, роботов здесь тоже собираются продавать. Просто здесь их раздают на тестирование, да, то есть их раздают, чтобы люди протестировали, собрать какие-то use cases и дальше, соответственно, с этим всем выдвигаться уже на рынок. Вот такая вот моя гипотеза. Что скажешь, ты?

Дмитрий Колодезев 5:18
Ну, вспоминается кошка-жена, которую выдают сразу. Да, а вообще, тут вопрос вот какой. То есть, если бы это было в некоторых других странах, я бы сразу подумал, что это попил. То есть, государство, приближенную к себе робототехническую компанию. Покупают у неё роботов за счёт налогов, то есть, грубо говоря, пенсионерам выдаётся робота бесплатно, а компания это дело компенсируется. Вот, но в Китае же не может быть такого, правда?

Валентин Малых 5:53
Нет, нет, такого в Китае не бывает, это само собой. Тут стоит отметить, что Китай несколько отличается от, допустим, России. Ну, я думаю, что всем очевидно, что Китай отличается от России, но Китай отличается от России тут ещё одним важным обстоятельством. Дело в том, что у нас принято, что вот такого рода вещами рулят сверху, да, что у нас есть некая гигантская. Программа общефедеральная, и там уже как-то на местах она реализуется. В Китае же всё немножко наоборот. Тут есть частные программы, ну как частные, провинциальные программы. Вот у нас слово «провинциальное» означает что-то маленькое, но в Китае даже маленькое такое большое, что вам хватит. И соответственно. Эта провинциальная программа, она скрета провинции Хубэй. Одна из провинций Хубэй, она одна из, на самом деле, центральных провинций в сфере робототехники и искусственного интеллекта. Это провинциальная. Правительство там, соответственно, даёт. Очень большие льготы. И очень много всего делать. То есть, наличие вероятности по пилу я не отрицаю, но насколько я вижу, как в Китае всё устроено, там у них идёт конкуренция на уровне провинции за то, чтобы быть привлекательной для хайпа чего-нибудь, в данном случае, робототехники. Так что Хубэй тут просто справляется.

Дмитрий Колодезев 7:22
Ну да, больше всего, конечно, похоже не на попила, на сбор датасета. Ну, в общем, больше роботов бога роботов.

Валентин Малых 7:30
У нас, кстати, на эту тему будет много сегодня новостей, так что как раз можно переключиться на следующую. Следующая новость, ты, собственно, её притащил. Я даже немножко удивился, что ты притащил эту новость. Я поясню, почему. Ну, сама новость, прежде всего, что BYD — это, если кто не знает, довольно крупный производитель китайских машин, прежде всего электрических, он вкладывается в Роботов, то есть в разработку роботов и, соответственно, Довольно серьезно вкладывается в суд. Да какие-то деньги приводятся, что-то там они будут делать. Почему меня удивило, что ты принес эту новость? Во-первых, потому что было бы странно, если BYD не вкладывался, учитывая, что его конкуренты такие, как компания Hyundai или Даже тот же Bosch, они вполне себе вкладываются. Bosch, если кто-то не знает, это крупнейший производитель. Компонент автомобильных на, вообще говоря, мировом рынке. Соответственно, у нас получается, что сейчас, ну, фактически. Мировые производители автомобилей переходят на производство роботов. «Переходят» — это, конечно, очень громкая фраза. Да, они пока не переходят, пока еще автомобили остаются их основной продукцией, основным рынком. Но надо понимать, что у них, вообще говоря, Это очень перспективный рынок, и, судя по всему, роботов будет много, и производить роботов будет довольно так же выгодно, как и автомобили. Так что я совершенно не удивлен. Эта новость, она абсолютно нормальная. Я скорее удивлен, почему ты её выделил.

Дмитрий Колодезев 9:20
Ну, выделил её на самом деле, потому что мне показалось смешным. Я вспомнил фильм «Трансформеры», «Автоботов» и так далее. Вот, а из серьёзного... Они в этой новости говорят, что это будет одним из вторым их основным бизнесом, core business. И как тут не вспомнить ни на чем не об основанной спекуляции сценария 2027, если помнишь. Я на DataFest его уже поминал, что там был рассказ стажера, который полгода отработал в OpenAI и вышел с выпущенными глазами. Ребята, сейчас нас AI всех сожрет, и написал Situation Awareness. То есть, сценарий того, как всё пойдёт не по плану. И это был смешной сценарий, там делались глупые предположения, которые, как я вот перед DataFest сел, проверил, в основном сбываются. Одна из них была, что поскольку нужны будут роботы, ну то есть, я и нужно будет тащить в физический мир, то автомобильные заводы будут переключаться на производство робота.

Валентин Малых 10:32
Да-да-да, ну, я тут полностью согласен, да, что это что-то из разряда проиндального бреда, который внезапно становится реальностью, но я лично никаких проблем в этом смысле не вижу, потому что производство компонента — это огромный бизнес, и, ну. У вас уже есть огромные заводы, что бы не переключить их на тот рынок, который вот сейчас формируется, судя по всему, будет достаточно массово. Так что я думаю, что мы вполне себе увидим, увидим, как это всё работает.

Дмитрий Колодезев 11:04
Нет, это всё логично, просто я был одним из тех, кто смеялся над этим сценарием, поэтому сейчас я с мишницей.

Валентин Малых 11:16
Хорошо смеется тот, кто смеется последним, как бы это ни звучало грустно в текущей ситуации. У нас ещё одна робоновость, и эта робоновость из Японии на этот раз в Токио проходит, прошёл, уже прошёл так называемый саммит гуманоидов. Это Такое мероприятие, на котором выставляют роботов-гмоноидов, и они там между собой как-то тусят. Соответственно. Интересно, тут что? Тут несколько аспектов, на мой взгляд, интересны. Во-первых, то, что это не первый гуманоидный конгресс. Да, предыдущие гуманоидные конгрессы мало кого интересовали. Они уже были, но это было какое-то такое месячковое мероприятие. Прошло оно там в Силиконовой долине, в Лондоне по большому счету неважно. Там, типа, там было три с половиной человека. Но последний год, да, вот пахнуло, да, то есть появилась куча гуманоидных роботов. И сейчас провели в Токио. В Токио на самом деле выбор не случайен, на мой взгляд, потому что, как мы помним, во-первых, там сейчас есть Sakana, которые много чего делают, всякого интересного. Во-вторых, вообще говоря. Мало кто помнит, но мы-то с Димой помним, конечно. Что в 70-е годы, вообще-то, мировым лидером по роботизации была Япония. И я думаю, что они вполне себе хотят былую славу вернуть. Ну, другое просто удастся или нет, но хотят точно. И я уже упоминал, что корейские товарищи активно вкладываются, но я готов поставить на это какие-то деньги, что и японские товарищи тоже вкладываются. Например, там компания Toshiba, да, тоже поставщик. Hyundai у нас, который просто Динамикс купил. Ну, вообще, Hyundai, по-моему, это корейцы, нет? Корейцы, да. А в Японии, ну, Toyota. Toyota, да, ладно, ну, короче. Есть большое количество крупных японских компаний, которые точно хотят вложиться в роботов, я прямо уверен, особенно если им скажет личный император. Вот, соответственно, я думаю, что надо с этого угла на новость смотреть. Есть ли у тебя какие-то в этом плане добавления, может, комментарии?

Дмитрий Колодезев 13:44
Ну, то, что я видел в материалах вот этого сайта, да, сами-то там видосики какие-то, нарезки. А кембрийский взрыв форм-факторов, то есть квадратная головы, треугольная головы, головы с дырками, головы с волосами, головы похожие на людей, не похожие на людей. Вот, то есть всё вот это вот.

Валентин Малых 14:06
Головы с дырками — это прямо меня, меня немножко вызывает, как бы так сказать, фрустрацию. Может быть, это кому-то окей, но у меня...

Дмитрий Колодезев 14:16
Да, но ты вспомни интернет времён Росцвета. Ну, скажем, там, Internet Explorer 4, да, все эти вырвиглазные, все это Flash и так далее и тому подобное. Вот, то есть, нащупываются. Шаблоны дизайна, нащупываются сценарии использования, нащупываются соглашения, что мы привыкли видеть в виде робота. То есть, кембрийский взрыв, собственно говоря, он обеспечивает эволюционный материал. То есть, кто вымерет, кто останется. И мы сейчас рассматриваем, то есть, много удивительных решений случается, какие-то из них приживутся.

Валентин Малых 14:55
Ну да, в общем, посмотрим. Из, наверное, грустных новостей, то что у нас в России, я знаю, два, наверное, производителя, а ну, кстати, три, и МФТИ недавно тоже своего робота представил, то есть у нас там три-четыре производителя. Вот этих вот роботов гуманоидных, ну и понятно, никакого кембрийского взрыва мы не наблюдаем по понятным причинам. Печально, но в общем, пока вот люди другим занимаются.

Дмитрий Колодезев 15:25
Слушай, ну это не обязательно такая уж проблема. То есть для того, чтобы внедрить удачный use case, не обязательно, чтобы кембрийский взрыв происходил на твои деньги. То есть вспомни, например, витую пару, да, которая пятой категории у нас легла, а до этого в Штатах перепробовали всё, что угодно, начиная от двадцатипарного телефонного кабеля. Локальных сетей, в конце концов, пришли к витой паре пятой категории, но к тому времени у них уже везде лежала витая пара третьей категории. У нас везде сразу выложили пятую категорию, у них везде третья лежала. Что же вырывать и оставлять? Вот, то есть, ну, кембрийский взрыв будет в Японии. Ну, хорошо, главное, чтобы выживший. Решения эволюционировавшие тоже у нас разрабатывались и внедрились.

Валентин Малых 16:18
Тоже правда, будем посмотреть, к чему это приведёт.

Дмитрий Колодезев 16:22
Ну и вот мы же, допустим, ну не знаю, как вы, а мы, например, не разрабатываем свои LLMки, да, но тем не менее мы ими активно пользуемся и прорабатываем из кейсы, как бы, ну нет денег делать свои LLMки, можно хотя бы смотреть, как можно пользоваться другими, то есть. Не обязательно биться там, где все бьются.

Валентин Малых 16:46
Не, это правда, да, то есть искать свою. Свою нишу — это правильно. Я тут хочу порадоваться за мудрость нашего руководства. Я эту новость не стал включать, потому что она не настолько хайповая, на мой взгляд. Но тем не менее, раз уж тут зашел разговор, у нас до Нового года рассказали. Про AI Agent Platform и ЦИПР. В Нижнем Новгороде вот на той неделе рассказали про AI Force. Это, соответственно, способ создания ботов под задачи компании. Да, что есть платформа, на которую можно создать с помощью текстового описания ботов для того, чтобы какую-то работу в компании выполнять. Ну, такие помощники на минималках. Я бы сказал, такие полстажёра. Вот и что, соответственно. Почему я тут хочу сказать, выразить благодарность руководству? Потому что вот недавно, буквально вчера, по-моему, была новость, что Claude представил workflows которые фактически делают то же самое. То есть наше руководство додумалось об этом не знаю, раньше, не раньше, но выпустило раньше, чем соответственно, мы смогли выпустить раньше, чем Claude, что вообще здорово, на мысле.

Дмитрий Колодезев 18:07
Слушай, интересная параллель между Claude Workflow и этим. Я почему-то об этом так не думал. Про роботов, смотри, если, допустим, Токио очень населённый город, да и вообще Япония и Китай плотно населённые места, ну в основном, кроме там, скажем, Севера. То у нас в стране довольно-таки большие территории, есть какие-то промпредприятия на северах, где-то ещё добыча. Там необязательно иметь робота, который осторожно обращается с людьми, да. То есть можно просто обвесить его флажками и не подходить к нему ближе, чем на 100 метров. Вот, что по-своему тоже является интересной и полезной экологической нишей. Вот так появятся автоботы.

Валентин Малых 19:01
Ты понимаешь, да-да-да. Я, кстати, с тобой согласен. Это интересная ниша, что для густонаселённых стран роботы нужны, которые, ну, они добавляют сложности, что нужно обязательно уметь хорошо взаимодействовать с людьми. У нас. Отошёл на 100 километров в любую сторону от города, и там уже никого. Да, то есть, ты там можешь что хочешь творить. Это, конечно, не опять же, некоторое привлечение и упрощение, но тем не менее, я согласен, что в этом смысле уникальная ниша — можно делать роботов, которые будут максимально Подвержены своей задачи, да, не какой-то чужой, а своей. Следующая новость у нас тоже про роботов, кстати, и, кстати, даже сразу про Россию у нас удачно получилось. Давай я немножко промотаю наверх сначала. Значит, у нас. Был представлен закон о робототехнике и автономных беспилотных системах Российской Федерации. И тут закон на восемнадцатой странице в целом, на мой взгляд, он достаточно стандартный. Ну, то есть я какое-то количество документов уже успел почитать в своей жизни, и кажется, что там всё довольно таким стандартным языком написано. А вот то, что Важно, это я бы сказал, вот тут на странице 7 находится. Это про вред, да, то есть. Вот этот вред — это как раз самый большой футбольный преткновение с беспилотными. Системами и вот эти беспилотные системы. Они вообще говоря, что замедляет внедрение беспилотной системы. Да, вопрос, кто будет отвечать за беспилотную систему. Ну, имеется в виду, вот едет у вас беспилотный автомобиль, не важно, что производство, важно, что он просто едет. И вот предположим, что он, ну не знаю, случилась нехорошая вещь, и он там въехал в остановку. Да, никто не пострадал, но остановка при этом. Соответственно, пострадала. И у нас вопрос, а кто будет платить за то, чтобы восстановить эту самую остановку? Да, кто возмещает ущерб? Вот здесь четко сказано. Тут важно понимать, что в законопроекте всё может поменяться, но в законопроекте сказано, что Ущерб возмещает владелец данного беспилотного средства или беспилотного робота. Соответственно. Он уже этот владелец может субсидиарно, соответственно, может дальше требовать размещения убытков с производителей этого оборудования, если он Докажет, что это было по их вине. Да, то есть, здесь вот четко сказано, что ответственность за вред, причиненный в результате действий или решений РТС или АБС, это вот беспилотное средство и робототехническая система. Всегда возлагается на физическое и юридическое лицо владельца. Всё. То есть у нас, ну или эксплуатанта, там ещё отдельно, но это уже юридические тонкости, которые нас не интересуют. На мой взгляд, очень правильный законопроект, потому что он чётко устанавливает зоны ответственности, и наконец-то мы можем просто начать применять всю вот эту.

Дмитрий Колодезев 22:35
Не субсидиарное, а именно регресс. Это немножко разные вещи. Субсидиарное — это если тот, кто пострадал, выбирает на свой вкус с кого денег брать. А регресс — это именно что крайний всегда владелец, которого установить очень просто, да. А дальше он может эксплуатанта, либо разработчика притянуть и компенсировать доказанный в суде ущерб. Это на самом деле очень разумно. Наш регулятор уже говорил о таком подходе. Мы с тобой обсуждали его, может быть, перед Новым годом или что-то. То есть именно так и планировалось поступать. Вот что вот такое простое, достаточно разграничение. Ты владелец, ты отвечаешь. А в случае с автомобилем, между прочим, отвечает водитель, а не владелец машины. А вот тут отвечает владелец робототехнического средства.

Валентин Малых 23:35
Не совсем так, тут написано эксплуатант, водитель является эксплуатантом, насколько я представляю.

Дмитрий Колодезев 23:40
Да, водитель является эксплуатантом, и я говорю, что... Автомобиль возмещает эксплуатант, а в этом законе владелец. Первый пункт — вред причинённый возмещается владельцем. Всё. Второе — если вред причинён вследствие конструктивных дефектов и так далее, то владелец имеет право регресса к эксплуатанту. То есть, грубо говоря, ты можешь оператора беспилотника наказать или производителя беспилотника, или разработчика и так далее. Но это тебе придётся в суде доказывать, что они виноваты.

Валентин Малых 24:17
Слушай, ну вот у беспилотного средства, я тут собственно что-то взбленился, что у беспилотного средства нет водителя. Ну, технически его может не быть. То есть он просто там не сидит в этом в этом машине, да, и он не может считаться водителем. А владелец есть. Я думаю, что вот тут именно про это разговор.

Дмитрий Колодезев 24:36
Да, и между прочим, в некоторых местах сейчас, ну вот, допустим, самолёт у нас, да, когда летит. Отвечает авиакомпания, а потом авиакомпания. Пилота с пилотом дальше разбирается, но вместе со следственным комитетом, но тем не менее, ответственна всегда авиакомпания, ответственна всегда владелец этого железа. Как ты правильно сказал, не очень понятно. Кто тот оператор? То есть сейчас почти всегда оператор есть, в будущем его почти всегда не будет, поэтому закон предлагается довольно-таки разумно. Есть ещё интересный пункт, девятый, что все эти робототехнические средства должны Передавать в единую систему мониторинга. Данные местоположения, статусы и параметрах движения близком к реальному времени. А тут норма взята из закона о беспилотниках, вот законов, которые сейчас регулируют беспилотники. Но для, допустим, промышленных роботов, да. Тут у нас могут быть сложности. Вот, то есть, предположим, что у нас робота работает в шахте или внутри здания, где банально GPS нет. То есть, у них, конечно, есть какое-то позиционирование, но локальное. Вот, то есть, как вот тут это будет решаться?

Валентин Малых 26:05
Ну, я думаю, что тут найдут способ. А это на самом деле очень похоже, знаешь, на что? На эру Глонасс. У нас же с… Я забыл, уже лет десять, может, больше. Внедряется вот это вот AeroGLONASS, то есть фактически каждый автомобиль, который продан на территории Российской Федерации, он оснащается штукой, которая передает ваши координаты в цели безопасности, конечно, но тем не менее в некий единый ситуационный центр. Вот здесь вот ровно то же самое, насколько я представляю.

Дмитрий Колодезев 26:36
И, кстати, записывает параметры. То есть, во многих машинах есть чёрный ящик, который записывает параметры при аварии. Вот, возможно, что вы даже не знаете о том, что он у вас есть. А у меня знакомая тут недавно купила не очень дорогую машину, он там был вполне, но у неё возможности смотреть, что он там пишет, не было. Для этого нужен специальный тестер, к которому подключиться и считать. Поэтому ты такой ездишь на машине, даже не знаешь, что она про тебя пишет.

Валентин Малых 27:03
Но это, собственно, и есть черный ящик по определению. Ты не знаешь, что там внутри.

Дмитрий Колодезев 27:06
Вот, ну, в общем, как я и раньше уже говорил несколько раз, наши регуляторы сравнительно с европейскими регуляторами просто солнышки.

Валентин Малых 27:15
Не, они тут большие молодцы, я согласен. Это прямо хорошо и правильно. Кстати, по этому поводу, тут я эту новость не включил, но что-то просто не пришло в голову. Она прямо с утра её увидел. Она заключается в том, что российские беспилотные КамАЗы, они проехали, соответственно. Уже по территории Казахстана, то есть открыли международный маршрут в России и Казахстан, и беспилотные КамАЗы едут, соответственно, до туда. По-моему, это прекрасная новость, потому что я вот не помню, чтобы где-то был ещё международный беспилотный маршрут. Может быть, ты мне подскажешь?

Дмитрий Колодезев 27:58
По-моему, нет. То есть, сложности же всегда в регуляции. То есть, один регулятор, другой регулятор, договориться не могут никогда. То, что у нас между Россией и Казахстаном смог проехать беспилотник, пусть даже в экспериментальном режиме, очень круто.

Валентин Малых 28:13
Да-да-да, это, мне кажется, даже у китайцев такого еще не было. То есть, в этом смысле действительно мировая инновация, пусть она и скорее в юридическом смысле, но тем не менее, я считаю, что это очень полезный опыт, который хорошо бы распространить максимально широко. Следующая история, она, в общем, мы что-то подобное обсуждали. Ну вот, еще разочек обсудим. Значит, клиент 500 тысяч баксов забашлял Claude за то, что просто не подумал ограничить свои траты на токены. В целом, ой, простите, не 500 тысяч, 500 миллионов токенов. Я на три порядка ошибся. 500 миллионов токенов, 500 миллионов долларов. И я тут могу только восхититься человеческой. Обеспеченностью, наверное, да, что полмиллиарда баксов сейчас придется отвалить или, ну, я думаю, что они как-то урегулируют, да, там выплатят какую-то сумму фиксированную, остальное спишут. Но тем не менее, сам факт, что люди просто не подумали о том, что неплохо бы как-то отслеживать, как вы деньги тратите.

Дмитрий Колодезев 29:21
Слушай, ну, у меня, допустим, один из инженеров тратит тридцать миллионов токенов в день, да, и он их точно не специально ждет. То есть он пробует сценарий использования, находит удачное и... Я думаю, что он будет жечь дальше. И если пересчитывать это в Anthropic, то это примерно получается там, ну, пятнадцать долларов, ну, под пятьсот долларов в день, да, например. Вот, но в реальности это подписка. И подписка стоит дешевле 500 долларов сильно, вот, в день. То есть, так бы он в месяц сжигал бы, например, на 15 тысяч долларов, а подписка, даже самая дорогая, там стоит 200, например, да. Вот, и ну тут просто у руководителей. Не хватило оценки рисков, да что может быть. А ещё, может быть, знаешь, как они сделали кипя, и кто больше токенов сожжёт, ты молодец.

Валентин Малых 30:25
Ну да, мы вот такое обсуждали, да, что могла быть просто обычная человеческая идея. Тут ничего с этим не поделать, но просто масштаб прекрасен, по-моему. То есть только в США так разводить, да, в лёгкую, хоп! Как там было в том фильме, да, широкий человек, 20 stowaways, да, и всё в народ. Вот, ну, я просто на себя примериваю. У меня в продуктивную неделю там может быть 300 миллионов токенов, да, ещё что-нибудь, ну, там в зависимости от того, какие задачи и всякое такое. Я всё-таки не очень много программирую, и 300 миллионов токенов — это довольно дорого. Да, то есть это, если бы не подписка, я бы такой каштратить не стал. Ну, зачем? Зачем мне такие истории?

Дмитрий Колодезев 31:11
Слушай, в какой подписке у тебя 300 миллионов? В каком уровне?

Валентин Малых 31:14
На втором уровне, то есть я забыл, как он называется. Max 5, да. Ага, вот. В продолжение предыдущей истории, в Uber начали сомневаться о эффективности расходов на ИИ. Компания не видит отдачи от роста затрат. Тут, на самом деле, новость, в принципе, про то же самое, но самое важное, на мой взгляд, другое, что Тут четко проговаривается, и это, по-моему, принципиально важно, что у Uber. Затраты на ИИ стали сопоставимы с затратами на людей, то есть с Фондом оплаты труда. И это на самом деле принципиально важно, потому что Это реально наше будущее, да, то есть затраты на ИИ, ну то есть на токены или, может быть, на роботов, они будут сопоставимы с затратами на людей. Больше-меньше отдельный вопрос, но точно сопоставимым. И мы к этому прямо активно идём. Я надеюсь, что мы не пойдём это таким способом, как вот те люди из предыдущей новости. И я думаю, что Uber всё-таки там. Додумались ставить всякие там ограничители на бездумную трату токенов, но сам факт того, что Uber стал задумываться о том, что токены стали слишком дорогими, давайте понаймём побольше джинов, мне кажется, просто прекрасно, как ты прокомментируешь.

Дмитрий Колодезев 32:43
Тут проблема быстрого внедрения технологий. То есть обычно делают как? Руководство Uber читает сайт Reliable ML, скачивает диаграмму от Ирины и сначала делает пилот, потом оценивает пилот, потом внедряет. Вот спустя два года они внедряют. Use cases, которые уже опробованы. Проблема в том, что за два года люди уже внедрили везде человекоподобных роботов и сидят в Астрале силой мысли, ими управляют. То есть технологии развиваются так быстро, что большие компании вынуждены выбирать либо проходить нормальный цикл пилотирования, либо бросаться в воду с головой. Бросаться в воду с головой всегда дорого, очень большая дисперсия у результата. Вот. Это означает, что ну, я для себя какие выводы делаю? Что при внедрении всех этих вещей очень важна быстрая оценка результата. То есть мы не раз в квартал оцениваем финрезультат, а грубо говоря, мы пытаемся построить оценку в реальном времени, чтобы принимать решения прямо вот на лету. То есть можно было бы сказать, что они не умеют вести бизнес, не оценивая риски, но они умеют вести бизнес и оценивая риски Uber, они построили. Вот, просто действительно, технология развивается так быстро, что нормальные циклы пилотирования не приспособлены для технологии, которая полностью меняется за два месяца.

Валентин Малых 34:12
Ну да, да, то есть пока технология на подъеме, стандартные подходы просто не работают.

Дмитрий Колодезев 34:18
Да, и поэтому все говорят сейчас про Харнес и так далее, и тому подобное. Мне кажется, что с точки зрения именно предприятия. Важно в первую очередь строить систему онлайн оценки эффекта, чтобы ты каждое утро мог увидеть, что у тебя, ну то есть, тут те же самые, допустим, полмиллиарда токенов наверняка можно было увидеть. Через неделю, да, и тогда было бы не полмиллиарда токенов, а 100 миллионов. Было бы вообще в четыре раза лучше. Вот, то есть эти вещи надо мониторить. И тут тоже проблемы. То есть люди, которые мониторят расход токенов и ставят это как KPI, смотрите, вот эти молодцы, потому что токены жгут, а эти нет. Это глупо. Люди, которые ограничивают расход токенов, типа токены по талонам, они тоже глупо, потому что это не даёт возможность пробовать use cases, да. Вот, а умно делают те, кто мониторит размер. Расход токенов, но не делают по этому поводу персональных выводов по поводу каждого исполнителя, а делают выводы о процессах. Вот и вот это вот сейчас нормальный подход к внедрению AI. Ты должен строить аналитику, которая в реальном времени собирает, что в результате изменилось, и не раздаёшь плюшки и наказания людям, а корректируешь процесс.

Валентин Малых 35:48
Ну да, тут понятно. Я, кстати, тут хотел привести сравнение. Я думаю, что когда у нас, соответственно, появлялись двигатели внутреннего сгорания, я думаю, многие Изводческие компании пытались пилотировать, соответственно, автомобили, но через год оказалось, что все ездят на автомобилях, а у них, соответственно, кобыла всё ещё в стойлах. То есть, ну ты помнишь эту классическую фотографию, что там типа за два или три года там полностью всё поменялось, то есть. Цикл работы с инновациями в крупных компаниях просто не предполагает такой скорости. Именно поэтому, кстати, считается, что стартапы хороши, потому что стартапы либо выстрелили, либо сдохли. А соответственно, крупная компания потом успешный стартап просто купила и уже внедряет успешную технологию. Ещё одна новость на ту же тему. Казалось бы, мы всё проговорили, но тут, на мой взгляд, есть некоторые особенности. Она заключается в том... Что NVIDIA заявляет, что у них ИИ стоит гораздо дороже, чем люди. И это, кстати, довольно легко понятно, потому что NVIDIA как раз это Те люди, которые продают лопаты во время золотой лихорадки, как принято говорить, и основное, что они занимаются, это они занимаются тем, что они всё время пытаются ускорить развитие ИИ путём развития своего железа. Да, то есть они всё время пытаются раздуть хайп ещё больше. И за счёт этого они вынуждены тратиться ещё больше на ИИ. Но только в каком способе? Да, то есть у них разные способы. Они там и в разработке его применяют, и они там сами какие-то модельки делают и вкладываются в развитие программного обеспечения. У них просто там миллион направлений, и, на мой взгляд, они как раз занимаются тем, что уж простите за сравнение, унавоживают рынок, да. То есть они разбрасывают деньги лопатой для того, чтобы. И больше и больше колосился, то есть спрос на их основную продукцию, а именно на серверные GPU, увеличился. Я вот в эту сторону смотрю, может быть, ты что-то другое видишь?

Дмитрий Колодезев 38:06
Ну, я тут выступал на Datfest и предложил два фреймворка. Поэтому фреймворк один — заводы versus ноготочки, то есть по капиталоемкости. Соответственно, в капиталоемких производствах доля труда всё время падает, вне капиталоемких, а всё время растёт перед капиталом. OpenAI, Anthropic и так далее и тому подобное — это капиталоемкие вещи. Им нужно купить много ускорителей и учить на них. То есть они как завод, то есть у них именно само железо. И процессы, кстати, железа и процессы как капитал съедают труд. А второй фреймворк — это аугментация или замена. То есть, грубо говоря, есть бизнес-процессы, в которых мы заменяем людей, да. То есть там, где минимальное качество, которое мы можем получить от модели, нас устраивает. То есть, модель никогда не сглюкнет так, чтобы, допустим, там угробить ребёнка. Тогда мы ей можем ребёнка доверить, только в этом случае. А другая история — это про замену. А про аугментацию — это когда, в принципе, модель работает то хорошо, то плохо, но поскольку у нас есть человек, который эту дисперсию чуть-чуть снижает, да, он её приземляет. То получается, что в худшем случае она работает не хуже, чем человек, а в лучшем сильно лучше. То есть, ну, у неё такая пиковая производительность выше. И вот эти системы и будут сейчас развиваться больше всего, потому что обеспечить минимальное качество труднее, чем пиковое. Вот, так вот, в такой системе мы можем просто применить логику шепью-валюс в аугментированной, и тогда как каждой группе блокирующих ресурсов достанется одинаковое количество денег. То есть, грубо говоря, всем людям достанется столько же, сколько всему я. То есть фонд оплаты труда будет равен бюджету токенов. Ну, в идеальном случае, если ничего не будет смещать.

Валентин Малых 40:17
Ну, понятно, что идеального случая не существует, но идея понятна. Я думаю, что ты в этом плане абсолютно прав. Мы, допустим, у себя по отдельным задачам перешли на оценку. Ну, что-нибудь AdK, да, то есть там Acurus AdK, да, что типа К попыток, и за К попыток выбираем лучшую, и вот это вот максимум, то есть это то, что называешь пиковое значение. А мы по части задач перешли на AllAdK, да, то есть все задачи должны быть решены за К попыток, то есть если у нас К попыток. Сделано, и за эти к попыток эта задача была решена. Только тогда мы ставим единичку. И вот именно минимальное минимальное качество — это всегда гораздо более сложная оценка, нежели, ну и оценка сложнее, и выдерживать такое качество сложнее, чем соответственно показывать пиковое. Так что да, полностью согласен. Видимо, мы ждём вот этой вот дивергенции, да, там, где у нас будут отдельно, как было в Stargate. Кстати, где тут Stargate? По-моему, он как-то куда-то испарился, не знаю. Как было в Stargate, что строим фабрики, в которых ИИ бесконечно продвигает науку самостоятельно, либо, соответственно, у нас есть тот самый специалист по ногтевому сервису, и этот специалист периодически обращается к LLM для того, чтобы она принимала заказы пока специалист, собственно, занят своей работой, что-нибудь такое, например.

Дмитрий Колодезев 41:54
Я, кстати, думаю, что Stargate вернется сейчас в Персидском заливе, угомонится чуть-чуть война. Вот, просто Stargate столкнулся с тем, что непонятно, во что дальше финансировать было в восстановлении своих собственных разрушенных городов или в американские дата-центры Ближнего Востока.

Валентин Малых 42:15
Да, ну я, честно говоря, чуть более скептичен здесь, да, то есть там у них же по два раза на дню меняется всё, поэтому. Я бы на твоем месте, ну и на своем месте, собственно, так же. Я как-то не рассчитываю, что там что-то будет определено в ближайшие месяцы. Всё-таки там как-то да, так себе. В полне определенности. Не, да, я желаю всем, чтобы всё наконец-то устаканилось. Это гораздо, гораздо лучше, чем не устаканилось. Следующая новость. Я не мог пройти мимо, она даже у себя в канале про неё запостил, но она важна. Значит. arXiv. arXiv — это, вообще говоря, частная лавочка, если кто-то не знал. Да, это частный, по-моему, Cornell University. Его изначально сделал. В общем, они большие молодцы, им большое спасибо. Но, в общем, у них есть право устанавливать те правила, которые не хотят. Вот они им пользуются. И они, соответственно, собираются авторов. Банить, если они обнаружат, что плохое качество работы, которые они выложили, то есть работа полностью сгенерированная, никто даже её не проверил. Да, если там у вас написано, что хочешь, я для тебя, там, не знаю, здесь выводы распишу поподробнее, и даже нет ответа да или нет, то тогда, соответственно, считается, что статья плохая. Автора банят на год. На мой взгляд, это вынужденная мера, потому что реально количество сгенерированных статей растёт, ну, может, не в геометрической прогрессии. Достаточно с хорошим ускорением, да, то есть она год к году там типа 50% делает, люди настолько быстрее работать не могут. И просто мы вынуждены как-то этот поток регулировать, но мне кажется, тут должен быть какой-то другой способ, регулирования не такой.

Дмитрий Колодезев 44:10
Есть группа исследователей, которая борется с arXiv-slop, и с одним из них я как-то даже шапочно знаком. Они долгое время привлекали внимание к этой проблеме, потому что там всё плохо, и плохо уже, наверное, с год. Совсем всё плохо. Вот, и я думаю, что это вынужденная мера после того, как проблему вы таки вытащили за пределы академического сообщества. Какие проблемы я тут вижу? Это детекция AI-slop, как мы видим в наших образовательных организациях и вообще. В публикациях никто не отвечает за то, что он назвал ей слопом. То есть куча организаций, она объявляет, предлагает проверку, объявляет вполне нормальные человеческие тексты, искусственно сгенерированные, и предлагает деньги за то, чтобы его, так сказать, доработать нормально. Вот и люди реально от этого страдают, то есть создаются крыши забора на ровном месте. Вот и не хотелось бы иметь такую крышу у arXiv, тем более что меры тут достаточно жестокие, не просто жесткие, а жестокие. То есть бан на год, а потом все публикации должны сначала быть приняты в перревью источники. Ну то есть, попросту говоря, она никогда не попадёт на архив. Зачем её публиковать на архиве, если она уже принята когда-то в перревью, да.

Валентин Малых 45:46
Ну, не совсем так. Тем не менее, и бывают пересмотр рецензирования, которые не дают доступа, а препринт он даёт. Ну, с Nature такая история.

Дмитрий Колодезев 45:54
Ну, попадет через несколько лет. То есть, смысл архива в том, что он дает не только доступ к бесплатным статьям, но и то, что он дает доступ к свежим идеям. То есть, он сильно ускоряет обратную связь и обмен идеями в сообществе. Вот, а если она будет публиковаться с нормальным циклом публикации, ну, ну да.

Валентин Малых 46:20
Ну да, да, ну, кстати. Я уже упоминал это, по крайней мере, у себя в канале. Здесь я не помню, я говорил или нет, но у китайцев есть свой arXiv. China arXiv, он, по-моему, называется. Там статьи в основном на китайском, насколько я представляю. Интересно, как они с этим борются, потому что я уверен, что там тоже такого хватает. Было бы интересно посмотреть, что у них, но я как-то не додумался это сделать. Вот, ещё, кстати, недавно видел. TecharXiv — это специальный архив для техрепортов, то есть, как бы, архив изначально для научных статей, а техрепорты, по идее, они должны лежать в отдельной кучке. Ну и есть ещё отдельный bioRxiv. Который по биомедицине собирает статьи, он немножко про другое. То есть он про биомедицинскую историю, там у них своя специфика. И получается, что у нас есть несколько разных мест, где хранятся свежие статьи. Интересно посмотреть, как эти свежие статьи, собственно, там обрабатываются, да, то есть как в разных местах разная политика присутствует.

Дмитрий Колодезев 47:29
Слушай, ну есть же, помимо я и слопы, есть же проблемы ещё суперпродуктивных. Ученых, да, то есть я помню, как-то читал статью, готовил обзор, полез смотреть авторов, а там одна девочка, у неё 200 опубликованных статей в этом году, а дело-то было в феврале. Вот, а она, между прочим, по-моему, из, ну и из кого-то, либо из MIT, либо из. Стэнфорд, ну то есть, откуда-то туда. То есть, ну вот такие результаты, понимаешь, бывают у людей. Я, статья была, кстати, хорошая. Вот, но я почему-то думаю, что именно эта девушка не имела к ней никакого отношения, просто потому что за пятьдесят рабочих дней того года она бы не успела прочитать эти двести статей, которые она опубликовала.

Валентин Малых 48:25
Я честно, я в шоке. То есть, я не к тому, что как бы она не могла написать, но я просто не представляю, как это сделать. Продуктивность, наверное. Это правда. Нет, тут я даже, я просто за всю свою карьеру, наверное, двухсот не написал. То есть у меня сейчас там по разным оценкам, типа, около 160 статей, да, ну плюс-минус. А вот у человека это скучный вторник, фактически, да. Мое почтение. Моё почтение. Тут я только снимаю шляпу виртуально, тут мне ничего не скажешь. Кстати. Если кто-то меня слышит, например, Вселенная, я хочу сказать, что было бы полезно, раз уж мы видим какие-то проблемы с точки зрения архива, да, то есть что у нас есть проблемы с новыми статьями, давайте попробуем подумать, как в России нам сделать так, чтобы у нас сразу было хорошо какое-то место, куда можно складывать статьи, которые бы были полезны для, соответственно. Российского и, ну, хотя бы не российского, даже русскоязычного, тут буквально широко.

Дмитрий Колодезев 49:37
Делай, бред, тебе не устраивает в этом отношении?

Валентин Малых 49:40
О, это отвратительный сайт, господи, это настолько плохо, насколько вообще можно плохо сделать. Это я не знаю, кто и зачем его делал, но он реально какая-то пытка. Я тут по просьбе коллег искал свои статьи на нем, я все проклял. Это невозможно, просто зачем такое делать и для кого? Я честно не понимаю, это просто орудие пыток какой-то.

Дмитрий Колодезев 50:03
Да, это я на самом деле не хвалить их, это спросить просто обратной связи, потому что мы как-то делали для выгрузки в eLibrary программное обеспечение, которое подгоняет. Материалы под то, чтобы они пролезли через это игольное ушко. То есть люди просто взмолились, типа мы не можем. Вот у нас был автоматический выгружатор в eLibrary. Это было по-своему ужасно, но в общем, по идее, это идея, это та же самая, да, хорошая идея.

Валентин Малых 50:33
Ну, идея-то хорошая, да, вопрос в реализации, то есть мне кажется, что... eLibrary не архив. Архив — это про другое. Ты правильно говоришь, что он про именно скорость обмена идеями, и мне кажется, что здесь надо бы подумать какую-то ещё историю, которая была бы полезной. Следующим шагом, на самом деле, в эту сторону был OpenReview, да, который... Альтернативный источник, на самом деле, припринтов, только анонимных и с анонимными рецензиями, действительно классно. Идея очень крутая в OpenReview. Она не настолько взлетела в сообществе, хотя сейчас даже российские конференции переходят на это. На вот это, на этот инструмент для оценивания. Так что я считаю, что это большой шаг вперёд. Но тем не менее, пока непонятно, как делать дальше в этом плане. То есть у меня нет идеи. Я думаю, что было бы здорово что-то в эту сторону сделать, чтобы упростить обмен идеей для русскоязычного комьюнити.

Дмитрий Колодезев 51:39
Ну, оно не так много пишет статей, как англоязычные.

Валентин Малых 51:43
Безусловно, или китайскоязычное, да, но я предлагал сделать автоматический переводчик. Пусть даже это будет криво-косо, но это будет хотя бы что-то, да, то есть оно хоть что-то будет делать. Ну, в общем, не знаю.

Дмитрий Колодезев 51:59
Слушай, а требования сейчас при публикации не требуют, но нотации на английском нет.

Валентин Малых 52:06
Зависит от места, местами требует, местами не требует. Ну, кстати, переводчик на китайский сделать это прямо. Переводчик на китайский — это хорошая идея. Мне кажется, что китайцы давно сделали, просто я про него не знаю. А я имею в виду переводчик на русский, да, что с английского и с китайского. Ну да, наверное, можно. Особенно с китайского было бы полезно, потому что это то, что в англоязычной истории просто не, как бы, его просто не видно. А вот китайский мало кто знает, английский более-менее знают многие.

Дмитрий Колодезев 52:45
Слушай, ну я бы с удовольствием занялся бы этой работой, но для этого нужно, чтобы кто-то выделил на это бюджет. Я не понимаю, кто бы это мог быть.

Валентин Малых 52:53
Ну, аналогично, да, собственно, из-за этого как бы это всё и не развивается. Ну, знаешь, как говорится, хочется кушать там, это самое, крышу над головой, имеешь всякое такое. К сожалению, вот жизнь так устроена, что заниматься интересными вещами можно, но их приходится выбирать, какими интересными вещами ты занимаешься в первую очередь. А тут мы, наверное, далеко уже ушли. Предлагаю переключиться на Следующая новость, на мой взгляд, весьма позитивная. Я два года минимум всем талдычил, что так надо сделать. Наконец-то нашлись люди, которые сделали. Они сделали панчмарк для оценки навыков программирования на 1С. Вот вы можете мне что угодно говорить, но я твердо уверен, что есть огромный рынок. Для того чтобы применять 1С помощников, просто потому что, во-первых, вы можете убедиться в рамках своего города, даже небольшого, у вас наверняка в городе есть 1С франчайзи, то есть люди, которые занимаются внедрением 1С. Можете проверить. Соответственно, важно, что 1С довольно специфический язык программирования. Имел неосторожность на нем немножко писать, когда по, скажем так, производству необходимости без всякой подготовки мне надо было резко что-то там починить. И я, соответственно, что-то там накорябал, и оно даже как-то завелось. Соответственно, здесь ровно та же история, что Надо уметь работать с этими всеми историями. И если мы посмотрим, то вообще говоря, Gemini очень хорошая моделька, Claude Opus тоже хорошая моделька. Они все больше 50 не выбивают, но я думаю, может быть, Claude Opus 4.8 Мы про него ещё поговорим. Он стал больше, чем 50% выбивать, но тем не менее, это довольно сложный бенчмарк сам по себе получается. А тут и задачи довольно сложные, и специфический домен, и востребованность у людей. В общем, по-моему, крайне хороший бенчмарк. Его сделали, кстати, знакомые нам с тобой люди. Если посмотреть по GitHub, там Дима Бабаев Дима, привет, если нас слушаешь. Вот.

Дмитрий Колодезев 55:17
У меня есть знакомые, которые работают с 1С и LLM. Они говорят, что сейчас LLM плохо работают с 1С-ным кодом, то есть чуть-чуть их отпустил подальше, они запутались и наворотили. Ну, на самом деле, я думаю, что Anthropic не оптимизировал их под под 1С. Но с другой стороны, почему бы и нет, да? Вот, то есть малые языки народов Севера там могут встречаться, а 1С там тоже встречается. Но вот то, что Gemini так хорошо стоит, прям прикольно, неожиданно. Вообще-то она не самая такая.

Валентин Малых 56:01
Слушай, ну тут всё дело в том, что в Гугле традиционно много людей из России работает. Я думаю, они что-то привет с родины какой-то передали. Да-да-да. Ну, есть же эта 100-летняя история про то, что в исходниках офиса ещё какого-то лохматого 2007 года нашли там русские матерные выражения в комментариях. Ну, я думаю, здесь тоже что-то такое было.

Дмитрий Колодезев 56:26
Я хотел бы напомнить, что существует ещё KOMPAS и другие среды программирования отечественные, которые тоже очень востребованы. То есть, на самом деле, бенчмарк для KOMPAS я бы с удовольствием посмотрел, может быть, даже поучаствовал.

Валентин Малых 56:43
Ну, я, честно говоря, даже не знаю, что это такое. Я не сталкивался. А, что? Всё, я понял, да. Я думал, ты же про что-то другое, но про то, что это каб-моделирование какое-то же, правда? А про тут получается, что у тебя чертёж задаётся как некоторый код, да.

Дмитрий Колодезев 57:07
Это параметрическое моделирование, то есть ты, грубо говоря, задаёшь деталь, в которой ты можешь уменьшить толщину этой штуки, все остальные пододвинутся. Из открытых инструментов самое близкое — это FlexCAD, но он, понятно, до компаса, конечно, не дотягивает.

Валентин Малых 57:25
Ну, это, кстати, интересный челлендж, вот эту штуку сделать. Это прямо интересно звучит. Ну, так что да, всех интересующих призываем. Можете найти контакты Димы и присоединиться к разработке. Следующая новость — это, значит, у нас Демис Хасабис, глава генерального директора Google DeepMind, сказал, что уже в тридцатом году у нас получится. ASI, да, Artificial Super Intelligence, да, то есть сверхсильный искусственный интеллект. И он считает, что в тридцатом году это уже всё произойдёт, но он думает, что... Машины, тем не менее, не захватят мир. И он думает, что. Риски-то, конечно, есть. Я считаю, что машины мне это не захватят просто потому, что он им не особо нужен. Да, то есть мы с... Машинами с искусственным интеллектом не конкурируем за еду, да, то есть наша еда ему неинтересна. Точно так же, как нам и у нас по большому счету электричество нужно три копейки по сравнению с искусственным интеллектом, поэтому у нас конкуренция за ресурсы какая-то довольно минимальная. То есть даже если предположить, что реально в тридцатом году это будет, в чем лично я сомневаюсь, но как-то, по-моему, слишком апокалиптично звучит.

Дмитрий Колодезев 58:54
Ну, насчёт конкуренции, видишь, тут есть разные способы конкурировать, например, можно. И вот ты уже конкурируешь. А вот, а по поводу... Этой новости, ну, опять же, вот эта та самая situational awareness, она тоже говорит, что искусственный интеллект превзойдёт человеческий к 23-30 году. Вот, но там предполагается, что будет два искусственных интеллекта, американский и китайский, и дальше либо они не договорятся, и тогда нам всем кранты, либо они договорятся, и тогда американский подчинит китайский, и тогда всем будет, ну не то чтобы хорошо, но как-то. Вот, это удивительная картина мира. Вот, но тем не менее, это, кстати, сценарий во многих. Прогнозы, в том числе от Anthropic, проскакивают, типа, если мы не подчиним себе китайский ИИ, то нам будет плохо. Вот это у них такой маркетинг. Вот, а тут мне показалось, знаешь, что интересно, что... Нобелевский лауреат и генеральный директор DeepMind пишет по ночам видеоигры. Я вспомнил героя нашего времени, где, знаешь, там один из продвинутой молодежи спрашивает другого, типа, у тебя отец играет на виолончели, ему 40 лет, и он играет на виолончели, ну, в смысле, без того, чтобы нормальными делами заниматься.

Валентин Малых 1:00:20
Да, да, ну слушай, в наше время никто такой ерунды уже сорок лет не занимается, я уверен.

Дмитрий Колодезев 1:00:26
Я на самом деле тоже, видишь, как с помощью Клода разные вещи делаю по вечерам, но ведь Демис Хасабис — это другое.

Валентин Малых 1:00:36
Нет, слушай, знаешь, это как в том анекдоте, а ещё и немножечко шью. Жил бы лучше, как известно. Поэтому мне кажется, что тут это вот ровно ситуация из-за анекдота. А я хотел тут две копеечки вставить и вспомнить про замечательный Замечательное произведение, такой небольшой рассказ. У меня нет рта, но я должен кричать. Если кто-то не читал, я рекомендую это сделать. Просто в этом рассказе там как раз вот ровно то, о чем Дима сказал, вот этот вот эпокалиптический сценарий разыгрался, и есть некоторые его последствия. Кто не читал, рекомендую. Он, конечно, немножко мрачноватый, но зато с таким некоторым финалом. Интересно. У нас есть замечательный человек Илон Маск, который для многих является иконой прогресса. Вот он сказал, что Grok-5. Может достичь уровня AGI, и его будут обучать на специальной и системе, написанной на языке C. Ну, то, что Grok-5 достигнет уровня AGI, это примерно как полететь на Марс к тридцатому году, я думаю, из этой же области. Но такая история, что Илон Маск многие слушают, и на мой взгляд, его заявление важно именно как индикатор, индикатор, я бы даже сказал, какого-то общественного настроения, да, что люди ждут AGI и ждут всё сильнее и сильнее. Вот Илон Маск обещает к концу двадцать пятого года запустить, ой, простите, двадцать шестого года текущего, запустить Grok-5. Может, он, кстати, до конца двадцать пятого обещал, я не в курсе. Но, в общем, поверить то, что он будет сокрушительно хороший, лучше, чем человек в плане решения задачи, я что-то, честно говоря, пока не готов. Особенно в условиях продажи мощностей компьютера Colossus. Вот, но тем не менее, сама по себе заявление и учащение таких заявлений, да, вот Демис Хасабис, теперь Илон Маск, оно уже о чем-то говорит, да, что люди... Какие-то ожидают достаточно скорого появления какого-то сильного искусства интеллекта. Я лично считаю, что сильный искусственный интеллект, если мы и увидим, то скорее в разрязе Mifos. Да, то есть, у нас есть Mifos, который вроде как есть, вроде как нет. Вроде как какие-то правительства и агентства его видели, но, суть по всему, он настолько дорогой, что Доступа к нему мы всё равно не имеем, поэтому я бы не ожидал, что мы с вами, даже зная о существовании сильного искусственного интеллекта, будем к нему иметь доступ.

Дмитрий Колодезев 1:03:16
Слушай, а отличим ли мы сильный искусственный интеллект слабого, когда он у нас будет? Да нет, конечно. То есть, если в комнате находится кто-то умнее нас, как мы это понимаем?

Валентин Малых 1:03:27
Да-да-да, тут проблема упирается в то, что померить интеллект кошки мы можем, да. Померить интеллект ребёнка мы можем с некоторым уже допущением, а померить интеллект взрослого мы можем, но тут вопрос в том, что может быть этот взрослый как раз. А у него у самого там бизнес крутится, да, то есть пока он тут с вами разговаривает. Поэтому вопрос именно в том, что... Сможем ли мы это замерить? Да, я думаю, нет. То есть. Интеллект — штука достаточно слабоопределенная, и как мы его определим, так и будет. Да, то есть, если мы считаем, что у нас искусственный интеллект. Это то, что хорошо играет в шахматы, то тогда у нас сверхсильный искусственный интеллект был уже 27 лет назад. Да, 27, 99-й год, по-моему. Соответственно, тут всё зависит от определения, и тут какие-то вот начинаются неопределённые вещи. Так что то, что Илон Маск может заявить в конце года, что он сделал этот самый AGI, я прямо даже готов небольшую ставочку сделать.

Дмитрий Колодезев 1:04:32
А слушай, ну вот есть, например, такое понятие, как общий искусственный интеллект, да. И у меня есть некоторое количество людей, которых я там, скажем, трогаю руками, да. Вот, и понятно, у меня там с ними глубокие. Взаимодействие, там, да я, допустим, жене подаю кофе, она его пьёт, мы с ней смотрим на то, как красиво цветут цветы, да. То есть, это не сводится к тексту. Но с большинством людей я общаюсь посредством текста, и большинство людей, с которыми я общаюсь. Само по себе общение, ну, не сложнее, чем то, как я общаюсь с Claude, понимаешь? То есть для меня общий искусственный интеллект уже достигнут, если его ограничить текстом. Что касается Маска, то он, конечно, его заявление — это такая, знаешь, этнография, точно так же, как Пелевин. Описывает внутренний мир и легенды креативного класса Москвы. Ну, так и вот, в общем. Маск транслирует какие-то легенды. То есть, во-первых, тут легенда про AGI, во-вторых, тут легенда про C без плюсов. То есть, на мой взгляд, как человека, который, в общем, чуть старше, чем C, наверное, да, на несколько лет. Никакого особенного преимущества именно в C нет, но опять же, если мы пишем код LLMкой, скорее всего, для LLMки удобен будет совсем не тот код, на котором мы привыкли писать. Поэтому на чем он тут будет написан, фиг бы я узнал. Мы же обсуждали, по-моему, эту новость.

Валентин Малых 1:06:17
Я по крайней мере в канале у себя точно закидывал про первый язык для LLM, который. Вроде как удобен именно для агентного кодирования. Там оказалось, он ни разу не удобен, но я думаю, что тут это была просто первая попытка, такой способ застолбить. Поляну и действительно, современные языки программирования, они рассчитаны на взаимодействие с человеком. Да, весь JAX, все вокруг инструменты, они для человека. Когда у нас появится нормальная обвязка вокруг языка программирования для агентов, ну вот тут у нас немножко всё с другими красками заиграет. Я бы сделал осторожное предположение, что в компании Илона Маска они такое упражнение могли проделать. Я не говорю, что проделали, но, по крайней мере, могли на эту тему подумать. Инженеры там вполне себе бывали толковые.

Дмитрий Колодезев 1:07:01
В более полной версии этой новости, которая мне попадалась, там была антитеза, то есть язык JAX, что они переписывали код с JAX на C, стало сильно лучше. Вот, и в это я вполне верю.

Валентин Малых 1:07:17
Ну, это сам особо, если JAX, он же язык прямо сильно высокоуровневый, да, это как Python, только он ещё, насколько я знаю, если Python, он в PyTorch, получается, чисто использует готовые примитивы, то JAX, он, по-моему, вообще just-in-time compilation, то есть он вообще ещё более немедленный.

Дмитрий Колодезев 1:07:38
Ты знаешь, JAX, он, например, прекрасен как замена NumPy. Ты можешь заменить прямо ничего не меняя в коде в некоторых случаях, и у тебя просто твой NumPy начнет работать на GPU. Но, в общем, PyTorch мне кажется, все лучше.

Валентин Малых 1:07:59
Тут я полностью согласен, но ждём, в общем, более серьёзной адаптации языков программирования для агентного кодирования. Я думаю, что всё пойдёт довольно бодро в эту сторону. Почему бы и нет, собственно, почему бы и нет. Я тут предлагаю переключиться на следующую новость. Она отчасти связана с COBOL. Новость выглядит так, что у нас вышел Claude Opus 4.8. Я, честно говоря, так и не понял, 4.8 — это тот самый Mifos или это другая модель какая-то? Но если посмотреть на картинку, у них тут есть картинка, тут есть сравнение с Mifos. Да, и Mifos вроде как показывает качество чуть меньше, чем. Опус, но это всё в пределах стат погрешности. Но это наоборот. Ну да, то есть, она получается, что тут чем меньше, тем лучше. И тут как бы Claude Opus чуть-чуть больше показывает, то есть он чуть-чуть хуже, чем Mifos, но в пределах стат погрешности. В других местах они с Mifos не сравниваются, они сравниваются с GPT-5.5 в Gemini, ну и с обеим предыдущей версией. Вот, так что не знаю, интересно послушать, что ты скажешь.

Дмитрий Колодезев 1:09:16
Я видел другой документ от Anthropic, где они сравнивали поведение вот этих четырёх моделей на SVBench и в зависимости от расхода, ну в смысле, от степени. afford, как называется сейчас? afford, да, afford-level. Вот, и вот там как раз показывалось, они же переключили 4.8, то есть если у 4.7 был дефолтный экстра-левел, да, то у 4.8 просто типа максимум, ну, в смысле, хай-левел просто, не экстра. И он, кстати, вот и там есть Mifos везде на этих диаграммах. То есть они с ним сравнивали на SVBench. Он 4.8 отстаёт от Mifos, но превосходит 4.7, как и положено, так ровненько. Знаешь, я попробовал его, и он хорош. Ну, собственно, всех дефолтов на него переключили, поэтому все его попробовали. Я думаю, он менее болтлив.

Валентин Малых 1:10:22
Это важно, кстати. У нас на самом деле вот это вот в нашей работе болтливость, она прямо составляет некоторую проблему. Мы с этим справляемся разными способами, потому что прямо мешает иногда.

Дмитрий Колодезев 1:10:41
Да, говорят, что он больше заточен на код, а в дизайне, например, хуже. Вот. Но так как я дизайном не занимаюсь, то, наверное, на меня тени не отбрасывает.

Валентин Малых 1:10:55
Ну, тогда я предлагаю перейти. К финальной версии этого выпуска она заслуживает того, чтобы здесь быть. Это не ты, это мой стартап. Значит, в R. AI, значит, женщины стали ненужны, как несложно догадаться, по крайней мере, стартаперам. И они, в общем, уходят от женщин. Я, честно, даже читать не стал, о чем тут пишут. Потому что мне хватило заголовка, но подозреваю, что суть там в том, что стартаперы отказываются от личной жизни для того, чтобы сосредоточиться на стартапе. Для меня это не то что неудивительно, это я это, в общем, сплошь и рядом видел, когда ещё стартапами было популярно заниматься вокруг меня. Да, то есть я сейчас немножко отошёл от этой темы, но. Так, тогда, в общем, народ только так и делал, да, что не тратил время на то, чтобы ходить на свидания, занимался тем, чтобы пилить свой стартап и пытаться заработать денег. Почему вот девушка внезапно порвалась, я, честно говоря, не очень понимаю. Ну, видимо, этого лично коснуло, и я ей лично. Очень сочувствую, без шуток, кстати, сочувствую, потому что может быть, она действительно была влюблена, и у неё были какие-то планы. Но, как бы, встречаешься со стартапером — будь готова, как известно. При этом я считаю, что тут какой-то гендерный дисципалан совершенно неправильный, потому что я знаю и стартаперов женщин, которые тоже отказываются от отношений ровным таким же способом. Так что тут я считаю какой-то сексизм, и это неправильно. Вот.

Дмитрий Колодезев 1:12:34
Я бы ещё хотел добавить эффект. Ну, у меня есть гипотеза, что часть эффекта от внедрения AI, ну, всего вот этих вот чат-ботов, агентов и так далее, она за счёт того, что у нас появилась короткая допаминовая петля. То есть, раньше ты такой получил задачу в Jira, там, допустим, сделал что-то, отправил её. Ревью, например, через три недели у кого-то дошли руки её посмотреть через полгода и выкатили на прод, потом тебе сказали, молодец. И такой, а что, где? А, да, молодец. Вот, а теперь ты такое что-то сказал, и тебе говорят, да, хорошее решение, да, ты молодец, да, вот смотри, вот да, вчитайся. То есть постоянное подкид, и люди, может быть, больше стали работать, меньше стали тупить в Instagram и прочее, и, может быть, стали меньше общаться с девушками. Тут они, кстати, зря.

Валентин Малых 1:13:30
Слушай, это само собой, но тут я бы ещё немножко в другую сторону усугубил, что дофаминовая петля реально существует. И эта дофаминовая петля, она, соответственно, говорит нам, что, как бы, когда ты общаешься с живым человеком, ты такое вот подкрепление не получишь. Да, живой человек, у него, как ни странно, есть свои какие-то чувства и убеждения, да. Вот такое же, как бы, да, ты классный, да, ты всё правильно делаешь, ты такое не получишь от живого человека 100% времени. Ну, просто потому что у живого человека тоже бывает там, не знаю, плохое настроение или не выспался или что-то ещё, да. И это абсолютно нормально, и это часть как раз нашего общежития, что называется, да, то есть, когда мы вместе живём. Вместе не обязательно, я имею в виду, с кем-то в квартире, хотя это тоже очень важно, но даже просто ходя на работу, общаясь там с коллегами, вы тоже там будьте готовы к тому, что вам люди могут не всегда, допустим, ответить приветливо просто потому, что они с утра там не выпили свой любимый кофе, например. И на мой взгляд, вот это вот самое такое. Неочевидное последствие, к которому мы еще не столкнулись в полный рост, а столкнемся обязательно через несколько лет, когда, соответственно, подростки, выросшие на ChatGPT, появятся на рабочих местах, они будут не готовы к общению с реальными людьми, с реальной постановкой задач и с реальным взаимодействием. Вот у меня такой прогноз. Он, конечно, немножко политический, но я, честно говоря, не вижу, что его опровергает.

Дмитрий Колодезев 1:15:04
А 80 лет назад, 81, да, или 80, была написана песня, в которой были такие строки. Потому что мы пилоты, небо наш родимый дом, первым делом самолеты, но девушки, а девушки потом. Потому что проблема существовала и тогда.

Валентин Малых 1:15:29
Может быть, я не осознаю ту проблему, мне казалось, что там. Пилоты и девушки всё-таки достаточно активно взаимодействовали, иначе бы откуда сбрались другие пилоты, если ты понимаешь, о чём я. Соответственно, Китая можно хорошо проследить. У них повальный вал рождаемости, повальный просто сокращение населения идёт на миллион, чуть не 10 миллионов в год. Врать не буду, но много. И, соответственно, у них реально прям очень сильно. Падает население просто из-за того, что люди меньше общаются друг с другом, меньше, соответственно, заводят семьи. И очень много людей сейчас проводит время в общении с чат-ботами, а не с другими реальными людьми.

Дмитрий Колодезев 1:16:11
Ну, я думаю, что Китай, как это у них принято, кидается из крайности в крайность. То они продавливали политику «одна семья, один ребёнок». Ну, в общем, я не удивлюсь, не продавили, да. Не удивлюсь, если появится политика «одна семья, три ребёнка», иначе вам не повысят социальный рейтинг.

Валентин Малых 1:16:37
Ну да, я не думаю, что социальный рейтинг у них, во-первых, в явной форме этого нет. Есть рейтинги на платформах, и платформы вполне себе могут как-то стимулировать сограждан. Типа, вот если у тебя три ребёнка, тебе скидочка. Я думаю, что это прямо легко может быть. Китайцы так любят это всё делать.

Дмитрий Колодезев 1:16:59
Хочется, на самом деле, с высоты своих 54 лет посоветовать увлекаться не только чат-ботами, девушке тоже стоит вашего внимания и юноше.

Валентин Малых 1:17:09
Да-да-да, то есть мы тут на страже, соответственно, нравственности юношам девушки, девушкам юноши, вот это вот всё. Соответственно, вроде тогда всё. Всем спасибо. Обязательно приходите на Online Date Fest и увидимся с вами где-нибудь, где у нас будет офлайн мероприятие. Всем пока!