Капитанский мостик 2-26

05.07.2026
03.10.2026
подкасты

Двадцать шестой выпуск второго сезона подкаста "Капитанский мостик" про искусственный интеллект, будущее и все такое. Ведущие подкаста — Валентин Малых и Дмитрий Колодезев

Площадки

Содержание

00:00:00 введение
00:00:58 Mythos снова доступен
00:10:14 OpenAI и 5% акций
00:16:28 Корея и полтриллиона
00:23:11 Huawei Ascend в Корее
00:25:31 Пентагон внедряет ИИ
00:32:03 DeepSeek и AGI
00:39:15 китайский суперкомпьютер
00:44:34 замеряли GPT5.6
00:55:38 жадный Palantir
01:02:04 Илон Маск и мозг
01:09:27 британец, суд и ИИ
01:13:04 Папа - китайский коммунист

Валентин Малых 0:00
Всем привет! С вами, как всегда, Валентин Малых и Дмитрий Колодезев. Я хочу начать с нового выпуска «Капитанского мостика» с того, что поздравить нас с Димой с первым юбилеем. У нас сегодня ровно год с выхода первого выпуска. Вот у нас получается начало нового сезона нашей деятельности. Нового, не знаю, как правильно это выразить, сезон или не сезон, ну короче, Новый год, новые планы, всё вот это вот.

Дмитрий Колодезев 0:31
Ну и традиционно Карфаген должен быть разрушен, то есть осенью будет Новосибирский Датафест. Подавайте заявки, планируйте поездки, у нас будет клево.

Валентин Малых 0:42
И обязательно, если вы хотите собрать секцию, пожалуйста, если не стесняйтесь писать. Можно писать напрямую Диме, можно найти какие-то другие контакты и туда тоже написать. И пока есть возможность для новых секций, так что, пожалуйста, приходите, кто хочет. Ну, начнём тогда с новости, которая пришла пока мы снимали прошлый выпуск, что Fable. Соответственно, разблокировали Fable и Mythos, то бишь, пятую версию Claude. И разблокировали её с тем условием, что теперь будут больше контролировать. Собственно, уже там пошли шутки на тему того, что сейчас даже нельзя спросить. Там не знаю, какая погода в Майами, он с Ru тут же скажет, что давайте мы не будем про такие чувствительные темы. Вот, соответственно, говорят, говорят, я тут за что купил, за то продал, что вроде как разрешили только до 8 июля. Но я не понял, откуда этот слух. Вот в этой новости этого нет. Вот, ну хорошо, что до чего-то договорились, посмотрим.

Дмитрий Колодезев 1:51
Anthropic просто сказал, что до седьмого будет доступ в составе подписки. Ты можешь потратить полподписки на него, а с восьмого — за токены, пожалуйста. А за токены его никто, предположительно, из тех, кто обсуждает эти новости, покупать не будет.

Валентин Малых 2:08
Ну да, за токены как-то очень дорого получается, я правда.

Дмитрий Колодезев 2:12
Я на самом деле не стал его пока использовать. Из следующих соображений, что предыдущий Fable был чудо как хорош, а этот ему прикрутили гайки, и он и по бенчмаркам какой-то странный, и у меня есть подозрение, что сейчас те, кто кинутся использовать Fable, потом они пойдут на процедуру установить подтверждение личности.

Валентин Малых 2:36
Ну да, мне кажется, это моё мнение, конечно, я тут не утверждаю, но я думаю, что вот эти вот то, что сейчас принято называть фронтирными моделями, американскими, все будут через подтверждение личности, что ты там с какого-нибудь дружественного государства.

Дмитрий Колодезев 2:51
На самом деле, GLM-5-2, встроенная в Claude, она очень неплохая, да, но когда она работает под своим собственным. Harness, она чудо как хороша! Вот прям отлично и возможно. Нужно, что вот этот момент, когда закрытые модели американские для большинства людей перестали иметь монополию, да, он случился сначала с DeepSeek, но не так сильно, а вот GLM-5-2, да, вот он прямо произошел. Я по многим задачам не вижу разницы между GLM-5-2 и Opus 4.8.

Валентин Малых 3:32
Ну, согласен, про 4.8 я полностью согласен. Я тоже не вижу разницы. Может быть, Fable и Mythos 5 лучше. Я тут не буду утверждать, я так сам руками это и не потрогал. А вот 4.8. По-моему, GLM-5.2 вполне себе хорошо. Я, кстати, поставил себе этот харнесс. Лично меня, я пока, может, ещё с ним не разобрался. Да, я ZCode пробовал ещё когда она только выходила. Ну, получается, сколько, полгода назад. Тогда мне, в общем, было непонятно, в чём смысл этого мероприятия, потому что, ну, это как бы какой-то кусок недоделанный. Сейчас это сделали упор больше на агентность, и там вроде как она действительно стала более эффективна с этим. Но, допустим, вот мне супер важно, чтобы эта штука умела LaTeX собирать. А такого плагина пока туда не завезли. Пока ждём, пока завезут. Может быть, я тоже пересядну на ZCode конкретно.

Дмитрий Колодезев 4:30
Слушай, мне кажется, что ZCode вообще про другое. ZCode, дело в том, что не все в мире программисты. Да ладно. Мир разработчики, вот это странно, но это так. А если, допустим, какой-нибудь менеджер по продажам и... Или руководитель предприятия, или, допустим, какой-нибудь начальник отдела решает свои организационные задачи в Claude Code. То это всё-таки изолента. Вот, и таких много на самом деле среди моих знакомых, то есть людей, которые используют Claude Code вовсе не для кодирования, а просто как вот такой способ работать удобно с LLM-ками и файлами. То есть ты ограничил ей. Определённые папками доступы и говоришь, ну вот здесь у меня лежат документы по сделке, давай мы их рассмотрим. И вот именно в эту модель ZTE она как раз отлично складывается. То есть ты выбираешь папку, к папке ты запускаешь задачи, папка эта на твоём компьютере. Ну и вот я думаю, что это борьба не за программистов, а за остальных.

Валентин Малых 5:40
Интересная мысль, это интересная мысль. Ты когда начал говорить, я вспомнил. Такой случай из жизни. Когда-то очень давно я работал с системным администратором, у меня был старший товарищ, который, собственно, меня и вовлек в это ремесло, вполне себе разрешенное. Вот, и он в какой-то момент сказал, что я тут попробовал Git. Оказалось, что это так удобно для того, чтобы сохранять всякие конфигурации. Я поспрашивал своих знакомых программистов, говорят, им тоже понравилось. Ну, в общем, примерно то же самое, что ты вот сказал. У меня такая чёткая ассоциация прошла. Я давно договора в Гетельж храню, переписку по проекту. Ну, договора, договора, смотря в чем они были изначально, потому что у тебя этот самый тот же DOCX, да, я не знаю, в чем у тебя договора, но DOCX — это же бинарники, бинарники хранитель Git.

Дмитрий Колодезев 6:40
Дело не в том, что мне нужны диффы от них. Просто сам по себе workflow, когда у тебя что-то меняется в папке, ты складываешь это дело. Проблема в том, что они бинарники, решается LFS, а скорее это дисциплина. То есть ты берёшь и начинаешь пользоваться инструментом, который у тебя сохраняет все версии, все изменения, и ты можешь сравнивать и откатывать.

Валентин Малых 7:07
Ага, ага. Нет, ну в целом-то да, конечно. То есть, если бы была возможность хранить эффективно, да, не бинарником, вот эту вот всю историю, я бы сказал, что это прям вообще было бы отличным.

Дмитрий Колодезев 7:20
Так LFS делает это эффективно, и вот теперь у нас есть хранение. Не кода в Git, многие делают это, кстати, кто умеет, не все просто умеют. И есть инструмент, который может над папкой выполнять простые человеческие задачи. Например, посмотри вот здесь. Штуки, вот здесь документы, обработай их так, и затем сделай skill из того, что мы сейчас с тобой сделали. Добавь в коллекцию скиллов, и вот так мы, менеджер по продажам, может себя автоматизировать, например. Ну то есть, для этих задач мне кажется, что Z-код всегда и идёт.

Валентин Малых 8:04
Да, я думаю, да. То есть, в принципе, на самом деле, то, о чём ты говоришь, у них же есть своя итерация Claude Code, простите, не Claude Code. Claude Code, конечно, вот только что показали, это Z-код, а своя итерация этого, Open Claude, не как называется Auto Claude. Причём она за отдельную подписку, я так и не собрался её попробовать, но кажется, что это для меня такой промежуточный шажок в сторону AutoClo, ну не только для меня.

Дмитрий Колодезев 8:37
Возможно, просто что людям пока нужна меньшая, ну многим людям нужна меньшая свобода от инструмента, больше, меньшая дисперсия инструмента, то есть люди хотели бы использовать. ЛМК в своей работе, но не так, что вот я бросил в неё задачу и получил результат, потому что когда ты начинаешь верифицировать результат, когда ты за него отвечаешь деньгами или там здоровьем своим, да, то, в общем, многих пока модель, я ему сказал, он сделал, не устраивает, да, такой микроменеджмент. Мы, конечно, как люди, отучимся от этого, но не сейчас.

Валентин Малых 9:17
Ну да, и я тоже некоторое время потратил на то, чтобы отучиться проверять то, что Claude Code генерит. Но сейчас, в общем, я почти отучился, да, то есть я каждый шаг не контролирую. А ты проверяешь то, что делают твои подчиненные?

Дмитрий Колодезев 9:34
Конечно, но я проверяю только верхний уровень его, само собой. И Claude Code также, правильно? Ну да, да. Ну вот, это просто управленческий навык делать что-то чужими руками и не смотреть в детали, чтобы всё равно хорошо получалось.

Валентин Малых 9:50
Да, да, я согласен. То есть мы с тобой уже обсуждали, что с появлением, соответственно, вот таких harnessов у нас все стали немножко руководителями, что в общем прекрасно. Но я тут пока не перешли к следующей новости, хотел заметить, что чувствуется сибирский стиль ведения бизнеса, когда ты здоровьем отвечаешь за выполнение контрактов. Это прямо, ха-ха-ха, я такое помню, да. Следующая новость у нас совершенно прекрасная. Мы с тобой про это уже говорили, но не мешает ещё раз уже осуществившуюся новость обсудить. OpenAI хочет, важно, хочет отдать властям США 5% акций. Ну и там дальше объяснение про то, что не просто хочет отдать, а для того, чтобы люди могли получать дивиденды от использования ИИ. Имеется в виду все люди в США, как они это позиционируют. Я помню твой прогноз, что они сами побегут и сами будут предлагать. Ну, в общем, вот сколько? Меньше месяца прошло. До исполнения прогноза. Так что, по-моему, во-первых, у тебя очень хорошая прогностическая способность в этом плане, да, чтобы за месяц всё исполнилось, это прямо уметь надо. А второе, кстати, там была отдельная новость на прошлой неделе, что вышли вот эти вот пять-шесть GPT-шки, но я так понял, что их пока руками-другой только избранные, поэтому тут и обсуждать нечего.

Дмитрий Колодезев 11:19
Есть свежая книга Rice, тот самый Rice, который Lean Startup, капиталист на всю голову и венчурный инвестор. И он разбирает книга, называется типа Stainless, если в русский перевода нет, но я бы так её перевёл, назвали. Она про то, как добиться, чтобы компанию не удавило. Локальным минимумом, то есть нам сейчас нужно немножко больше прибыли, поэтому давайте мы будем делать фигню, которая компания погубит. Вот, и он там говорит, что для того, чтобы компания против этого стояла, надо разделить управленческие финансовые потоки, в том числе через золотую акцию, например, через владельцев, которые... Учредили специальный траст, у которого все голосующие акции и нет капитала. Ну, вот такие вот истории. То есть он там разбирает вот эти вот штуки. История золотой акции в нашей стране имеет такую не очень хорошую коннотацию, как нам как раз сказали, что это был один из способов перераспределения в свою пользу капитала. Вот, но вообще золотая акция придумана не у нас. То есть, это Существующий механизм, который позволяет разнести владение и распоряжение, ну, собственно, имущественные права и право распоряжаться. Вероятно, что-то такое будет. То есть, например, есть госмонополии. Да, в госмонополии государство может, по-моему, во многих странах назначать своих директоров. Вот. И владение пятью процентами голосующих акций передачи государству тут, в общем, ничем не отличается. Ну да, я согласен. В этом плане, то есть.

Валентин Малых 13:18
То, что отделить, соответственно, управляющий контур от финансового контура — это интересная гипотеза. То есть, видимо, это актуально для больших компаний уже. Да, то есть, OpenAI стали большой компанией, и, видимо, это стало действительно суперважно для них, для такой долгосрочной устойчивости. Тут можно вспомнить Huawei. За что я Huawei нежно люблю? Это за, в частности, его форму владения. Если кто-то не знает, обычно про это. Особо не распространяются, но это, вообще говоря, никакая не тайна, что Huawei, вообще говоря, это кооператив, только это кооператив китайский. То есть это в Китае все, соответственно, работники имеют свою долю. В работе кооператива, то есть работников там порядка. 180 тысяч, и твоя доля будет небольшой, но тем не менее, доля у тебя будет. Ну и понятно, что есть какая-то управляющая структура, которая именно управляет. Да, то есть финансовые потоки не все через неё идут, финансовые потоки вообще в Huawei очень сложно устроены. А вот управление идёт отдельно. Мне кажется, что это вообще довольно разумная история для таких вот больших предприятий.

Дмитрий Колодезев 14:37
Да, и вот как раз про Huawei, я не знаю, политкорректно говорить про manpower в этом контексте. Вот, что поскольку многие люди из нашей страны, работая в Huawei, на самом деле работают не в Huawei, поэтому они не участники кооператива.

Валентин Малых 14:56
А там есть по законам Китайской Республики, если ты не гражданин, ты не можешь просто быть участником оперативы и всё. Тут всё довольно просто. Даже если бы Huawei хотел, в Москве был как минимум один человек, который напрямую работал на Китай, но он тоже не был, насколько я знаю, владельцем, ну вот этих вот акций или паёвка, более правильно.

Дмитрий Колодезев 15:19
А то есть пои только для китайцев, это вот я не знал про Huawei просто.

Валентин Малых 15:23
А это не в Huawei, это в Китае. То есть ты, как бы, можешь быть замечательным человеком, но если ты не китаец, тут как бы, сорян. Ну, логично. Нет, ну в целом, да. То есть, тут мы видели аналогичную ситуацию с тем же Fable, что если ты не гражданин США, ты можешь быть самым замечательным, мы тебя можем всячески любить, но к Fable ты, допустим, быть не можешь. Всё, точка, конец, предложить.

Дмитрий Колодезев 15:44
Ну, в общем, тайская недвижимость показывает, что есть варианты выкрутиться из любых ограничений. Там же тоже земля принадлежит королю лично, поэтому продать ты её не можешь, как бы купить. Тем более иностранный гражданин и не может владеть. Ну, в общем, как-то выкручивается.

Валентин Малых 16:02
Слушай, ну то же самое с ОАЭ. Многие же покупают квартиры в ОАЭ, но там проблема-то в том, что по закону, если посмотреть... То право собственности в УАЭ есть только там у небольшого числа людей. Там, по-моему, семь человек, у кого есть право собственности на что-либо в стране. Все остальные пользуются с позволения вот этих вот семи человек. Так, ну просто для справки, если кто-то вдруг не знал. Соответственно, следующая новость, тоже несколько про экономику. Корея, тут написано очень так поликорректно, TAPS, то есть мягко подталкивает, да, Samsung SK Hynix. К тому, чтобы проинвестировать половину триллиона долларов. В развитии индустрии чипов, и это на самом деле. Интересная новость, потому что половина триллиона долларов — это довольно много. То есть это не примерно столько же, сколько весь Stargate. Да, сегодня ещё новость про Stargate будет, если успеем дойти. Соответственно, вот это больше, чем весь Stargate. То есть, а тут две корпорации. Опять же, тут уже особенности Южной Кореи, не все знают, что. Как про просию говорили, что у всех стран есть армия, и только у одной армии есть государства. Это говорили про Пурсию, если что. А то в обратную сторону в нашем веке это работает так, что у всех стран есть корпорации, только у нескольких корпораций есть своя страна. Это про Корею. То есть там есть некоторое количество крупных компаний, таких как Samsung. Наверное, Samsung самая крупная, но есть ещё там штук пять. И они фактически составляют государство Южной Кореи. Соответственно. Так что здесь то, что Корея подталкивает, тут скорее уважаемые люди собрались и сказали, что нам надо столько-то вложить. И на мой взгляд, это очень серьёзная заявка, потому что, ну, как я уже сказал, это, в общем-то, сравнимо с тем Stargate, под который деньги собирали со всего мира. Ну, не собрали, правда, но это другой вопрос. Здесь-то есть шанс собрать. Так что здесь ждём каких-то интересных прорывов. И скорее, как минимум, Hynix выпускает память, Samsung выпускает много чего, в частности, фабрики по производству чипов у них есть. Посмотрим. Был же уже первый AI-чип из Кореи, я забыл, как он называется, что-то с красным было связано. Вот мы его, кажется, обсуждали в прошлом году, не помнишь?

Дмитрий Колодезев 18:52
Не помню, но в общем, надо будет в памяти восстановить. Про Корею. Ну, у них роль в глобальном разделении труда. В AI как раз делать сейчас память, и памяти не хватает, и прибыль в ней растёт, что подталкивает новых игроков туда заходить. Вот, и после того, как новый игрок туда зайдёт, он ведь оттуда не выйдет, поэтому я думаю, что они вот этот риск перекрывают.

Валентин Малых 19:26
Да, тут они в этом плане большие молодцы, то есть корейцы очень грамотно поступают, что они в текущее свое положение, как, ну не монополистов, конечно, это большое привлечение, но очень серьезное положение у них именно на рынке памяти. Они его пытаются конвертировать в положение на рынке и в целом, что, в общем, очень правильная стратегия, и я считаю, большие молодцы.

Дмитрий Колодезев 19:51
Мы в прошлый раз говорили про вот этот сценарий Европа-31, да, и претензия автора к Европе в 31 году как раз была в том, что Европа не в силах выиграть гонку с США и Китаем в лоб. Не воспользовалась имеющимися у неё рычагами для того, чтобы, ну ладно, мы не можем выиграть, и я ей гонку, мы не можем обогнать США и Китай. Вот, но мы можем посмотреть, где мы сильны, и давай мы там закрепимся и пытаемся расшириться. Вот вместо этого пытаются разработать свою модель с нуля, суверенную, свое регулирование и так далее и тому подобное. То есть делают вещи, которые не опираются на то, в чем Европа сильна. И не даёт ей рычага в будущем. Попросту говоря, поведение экономически глупое. Ну, это не моя оценка, это оценка как раз автора того текста. А тут мы видим прямо противоположное, то есть есть объективные преимущества, и они могут служить рычагом, и они расширяются. Ну, как бы, разумно.

Валентин Малых 21:01
Да, я не помню, выпускала ли Корея свою независимую модель. Вот честно, я, может быть, это пропустил. И если что, пожалуйста, пишите в Mattermost. Мы все там комментарии читаем и стараемся отвечать. Может быть, кто-то подскажет. Я знаю, что на корейском рынке активно ChatGPT используется. Но может быть, что-то своё тоже. Так что ждём, как они будут дальше. Потому что вот в этой новости сказано, что они почти 600 миллиардов потратят на чипы, а соответственно, в другой новости сказано, что ещё 200 миллиардов сверху они накинут на AI в целом. То есть, это, видимо, на развитие уже моделей пойдёт. Это моя гипотеза, опять же.

Дмитрий Колодезев 21:45
Слушай, я посмотрел тут SK Telecom. Вот у них есть своя модель AX 7B, они выучили. Вот, и она на Hugging Face лежит. На Vier Solar Pro, ну то есть, есть некоторое количество моделей небольших. Самая большая из них в этом обзоре, который я нашёл, была 30B. Ну, обзор годовалой давности с той поры много йен могло утечь.

Валентин Малых 22:14
Ну, не только утешная и претечь. Да-да-да, вон. Ну, посмотрим. В общем, интересный план. Если бы я сделал ставки, оценивая шансы кого бы то ни было осуществить инвестиции, то я бы сказал, что в инвестиции в Корее я верю гораздо больше, чем в инвестиции в Европе, и даже больше, чем в США, несмотря на то, что в США денег, конечно, гораздо больше, но... Скажем так, способности промеж себя договориться у корейцев явно больше.

Дмитрий Колодезев 22:44
Не зря же у них каждый президент сидит за коррупцией.

Валентин Малых 22:47
Правильно, да. То есть самое важное — постоянство, понимаешь? Постоянство — это самое важное. Вот у них всё строго идёт по методически. Это большие молодцы, между прочим. У них, кстати, по-моему, один какой-то не сидел, но там с ним что-то нехорошее случилось. Просто то ли не успел сесть, то ли что-то такое. Но это у него какая-то, да, сбой случился. Всякое бывает. Но это звучит так, что Huawei выходит на рынок Южной Кореи с ИИ-оборудованием на замену американскому. И это на самом деле звучит очень интересно, потому что, во-первых, Huawei выходит на внешний рынок открыто. До этого, ну вот, допустим, на российском рынке Huawei. Как в том меме, вы чипы продаете, нет, только показываем. То есть, они только показывали чипы, по крайней мере, в России. А вот тут они... В Корею прямо врываются и пытаются прямо продавать это совершенно открыто. При этом Корея, как мы все в курсе, она, в общем-то, плюс-минус соблюдает санкции и всякое такое. Если что-то кто не знал, Huawei находится под санкцией с 2018 года, то есть уже восемь лет. И как они собираются продавать, подозреваю, что собираются продавать достаточно успешно, иначе бы смысла в этом всём не было. И если у них реально будет получаться, ну, это прямо действительно потрясение основ. То есть это там, где доминировали чипы от, ну, какого-нибудь Intel, и тем более от NVIDIA, теперь приходит конкурент Huawei. Это, по-моему, очень интересное развитие сюжета.

Дмитрий Колодезев 24:26
Ну, на самом деле, интересно, что Южная Корея же важный именно военный союзник Соединенных Штатов, и у них очень всё тесно связано. И вот, соответственно, у Соединенных Штатов, я думаю, что достаточно много способов на них их убеждать. Поэтому я думаю, что дальше мы увидим вот эти убеждающие силы Соединенных Штатов, какие формы она примет.

Валентин Малых 24:55
Так тут вот интересно, почему он до сих пор не сработал. То есть кажется, что если, ну как бы, они должны были мягко намекнуть, что так делать не надо. Но, видимо, то ли намекки не сработали, то ли тут есть какая-то ещё история, которую я не вижу.

Дмитрий Колодезев 25:12
Да, должна быть какая-то причина, почему такой анонс сразу не был контранонсирован корейцами со словами «не пустим» и «США не позволим». То есть, ну как бы, вот это ожидалось. Действительно, какая-то причина есть, но я думаю, что мы очень скоро узнаем, какая именно.

Валентин Малых 25:29
Ну да, может быть, даже на следующем капитанском мостике. Как раз мы тут заговорили про американскую военщину, и самое время обсудить вот эту прекрасную новость, что... Очень дипломатично называется как то, что Пентагон видит более увеличивающуюся роль для ИИ в том, чтобы... Выбирать военные цели, так очень мягко сказано, но смысл сводится к тому, что, во-первых, Тут надо сразу сделать скидку, что это пересказ Bloomberg, документа, который они видели, а никто официально не видел. Насколько пересказ аутентичный, мы сейчас проверить не можем. Но тем не менее, Блумберг пишет, что там было переписано несколько положений. В частности, насколько я представляю, вот основное переписывание состоит в том, что... Вместо того, чтобы ИИ предлагал цели и офицер утверждал цели, сейчас предполагается, что ИИ будет сам выбирать цели, а у офицера будет возможность, это важно, именно возможность, эти цели скорректировать. Вот такой вот мягкий переход предполагается. Там ещё какой-то набор положений.

Дмитрий Колодезев 26:48
Переход к автоматическому целеуказанию для бота неизбежен совершенно. Ну, очевидно, конечно. Вот и в результате будет примерно, я думаю, как с YOLO режимом в том же самом Claude. Когда сначала мы табом подтверждаем каждое изменение, а потом мы не подтверждаем определенный тип изменений, а потом мы время от времени приходим и смотрим, получилось ли то, что мы хотели или нет. Ну и вот, если довести до абсурда, представьте себе, что отправляются дроны в какую-нибудь небольшую страну, а потом через неделю туда приезжают журналисты американские посмотреть, получилось то, что надо, или надо еще раз дроны запустить.

Валентин Малых 27:33
Слушай, тут я ворвусь. Есть такой рассказ, он мне очень сильно врезался в память в своё время. Это американская фантастика. Наверное, из шестидесятых, может, семидесятых. Я, к сожалению, не помню название. Может, опять же, в комментариях подскажут, или я потом найду. Там, соответственно, суть такая, что... Есть автоматическая шахта, на которой автоматическим образом добывается руда. Автоматическая тележка везёт руду на завод, где автоматическая печь плавит из этой руды металл, из которого, соответственно, робот собирает истребитель, собирает для него бомбы, и истребитель. По автоматической программе летит бомбить какое-то место, в котором уже давно ничего нет, кроме камней. Соответственно, он отбомбился и вернулся. И на этом рассказ заканчивается. Это к вопросу об автоматизации. То есть, в некотором пределе всё выглядит так, что автоматизация дойдёт до того, что там человек уже будет совершенно не нужен, если мы говорим про автоматизацию в военной сфере. Мне вот это вот кажется несколько, ну, я даже не знаю, как это правильно сформулировать. Ну, давай скажем так, стремноватым. Да, то есть это в целом достаточно опасно звучит, потому что где тут та грань, когда уже мы совершенно перестаем контролировать то, что происходит в ИИ, и он влияет уже на прямо физический мир. Ладно, там если он нам какой-нибудь IT-проект запорит, да, но когда это, извините, бомбы, у меня сразу возникают определенные вопросы.

Дмитрий Колодезев 29:14
Каждый раз, когда люди об этом говорят, где-то улыбается один Юдковский. Вот, но в целом представим себе, что искусственный интеллект эволюционировал до такой степени, что мы не понимаем ни его намерения, ни в состоянии его контролировать, да. Он неизбежным образом начнет влиять на окружающую нас среду, например, превращать нас в скрепки или, скажем, строить автоматическую фабрику там, где мы хотели, допустим, гулять с собачкой и ребенком, да. Вот и в этом случае он просто становится, если он при этом людьми не контролируется, то он просто становится фактором внешней среды, таким же как климат. Вот и всё.

Валентин Малых 30:03
Как землетрясение тут за последние недели.

Дмитрий Колодезев 30:06
Падение астероидов, вот типа у нас город снес землетрясение, а у нас робот решил поставить новую фабрику. Ну вот, в общем, беженцы встречаются, обсуждают, да.

Валентин Малых 30:20
Да, ну что-то как-то, честно говоря, не весело звучит, но видимо, в эту сторону мы прямо имеем хорошие шансы двинуться.

Дмитрий Колодезев 30:29
Слушай, я техно-оптимист, точно так же, как там, где не воруют. При строительстве там строят сейсмоустойчивые здания, они так и неплохо переносят землетрясение до определённого предела. Вот, предположим, что кто-нибудь... Хакнет алгоритм, по которому искусственный интеллект выбирает строительные площадки для заводов по производству скрепок. Вот и выяснится, что он, допустим, не берет места, где живет более 15 котиков на одном квадратном метре. Ну вот, будут у нас котиковые фермы стоять и оборонять наши города. Вот и всё. Мы выкрутимся.

Валентин Малых 31:10
Ты же помнишь, что такое бутерианский джихад, правда же? Я да. Ну вот, я думаю, что нашим слушателям следует напомнить о том, что это такое. Я просто очень рекомендую погуглить это словосочетание, и там дальше довольно много всяких следствий. Тут недавно выходило кино по этой книжке. Не то чтобы кино мне понравилось, но просто ещё раз повод перечитать.

Дмитрий Колодезев 31:34
Кстати, ты хорошо заметила, потому что там как раз этот джихад возник как средство, там как раз искусственный интеллект дошёл до того, что он стал фактором вроде климата или землетрясения, и люди так и решили этот вопрос радикально.

Валентин Малых 31:51
Угу, всё так, всё так, да. В общем, тут мы так грамотно подвесили Тригу. Если вы до сих пор не догадались, приходите в Mattermost, мы напишем ответ. Такой вот байт на комментарии. Следующая новость — это про то, что DeepSeek, кто не знает, компания DeepSeek является, пожалуй, сейчас лидером на китайском рынке, хотя вот GLM-5-2 очень серьёзная заявка, но пока официально DeepSeek считается лидером. По разным показателям. Так вот, DeepSeek открыл у себя на сайте вакансии по поиску инженеров для создания AGI. Слово AGI мне никогда не нравилось, потому что вот этот общий искусственный интеллект — это совершенно непонятное, что такое, и не только я. Я это слово в читании не люблю, еще и Ян Лейкун тоже против этого выступает, и другие малоизвестные личности. А соответственно, тем не менее. По крайней мере, как перевели, вот DeepSeek ищет инженеров для этого. Хорошо ли это? Ну, я считаю, что это довольно серьезная заявка на будущее, да, что DeepSeek не собирается останавливаться. Тут бывали призывы, я забыл, по-моему, от того же Anthropika был призыв, что... Давайте не будем разрабатывать AGI и спокойно займёмся окучиванием всесуществующего рынка. Как показывает практика, китайцы таким рекомендациям не последовали. Но тем не менее, к чему это приведёт, я пока не особо понимаю.

Дмитрий Колодезев 33:31
Слушай, ну, во-первых, что интересно, новость написана нейросетью прямо режет глаз, да, текст. Вот, а во-вторых, или во-первых, как раз. Дипсик, ты говоришь, лидер, но она ведь по китайским меркам довольно маленькая. Ну, именно по количеству людей, да. Да-да-да. И если я правильно понял, что происходит, то сами по себе инженеры дипсик, когда ты такая маленькая сладкая шоколадка, все тебя хотят. Вот ими интересуются более обеспеченные корпорации, большие. Вот и DeepSeek нужно удерживать людей как деньгами, так и... Проектами, то есть DeepSeek не может себе позволить конкурировать просто. Экстенсивно давайте мы добавим ещё параметров, давайте мы добавим ещё всё. Он не в той весовой категории в Китае. Вот. И единственное, как он стратегически может выигрывать, это хорошо, у нас есть какой-то маленький рычаг, давайте мы упрёмся и будем в него давить. То есть давайте мы будем делать сразу уже AGI.

Валентин Малых 34:57
С тобой не согласен, честно говоря. То есть. Я интерпретацию твою понимаю, но... Но на мой взгляд, твоя оценка не верна, потому что дипсик как раз это люди, ну это же изначально, как мы помним, детище человека, у которого свой собственный инвестиционный фонд и довольно большое количество денег. И проблем с вычислительной мощностью, насколько я представляю, может, я не прав, но тем не менее, насколько я представляю, у них нет. То есть они одни из самых больших покупателей. вычислительные мощности в Китае, по крайней мере, для обучения. И они с Хуавеем на эту тему сотрудничествуют, ну и так далее. Соответственно, тут скорее я бы сказал про то, что на мой взгляд, более правильная интерпретация такая, что вы там, в США, соответственно, отказываетесь бежать к цели. Экцели, которая называется AGI. Ну и отлично, не бегите, а мы побежим. Мы всё равно побежим, потому что мы считаем, что это важно. Не так. Как бы не так важно, на самом деле, бегут они туда и считают ли они это важным. Важно, что они это декларируют. Да, то есть они явно декларируют продолжение борьбы против, соответственно, фронтирных моделей западных, несмотря на то, что на Западе уже задумались о том, чтобы давайте мы фронтирные модели перестанем развивать.

Дмитрий Колодезев 36:26
Тут тоже вполне резонное замечание. Но смотри, компания удвоит численность подразделений, при этом они открыли 33 позиции, у них работает 150 человек. То есть, по китайским меркам, всё-таки это ребята собрались в волейбол сыграть. Вот и проблема тут скорее в том ещё, что попытка конкурировать со штатами на их поле, то есть за счёт того, что у тебя больше ускорителей, она не очень умна. Вот и если прямо читать текст новостью, то DeepSeek пытается решить. Нам не обязательно нужны такие большие модели для того, чтобы они были настолько хороши. И у них же получилось сделать достаточно небольшой дипсик, который очень хорош. То есть он сравнительно с тем же самым GPT. Вот и ну вот они в эту сторону развиваются. А по поводу того, что у них ограниченные или неограниченные мощности, ну вот мой тезис о том, что они маленькая компания, на самом деле, несколько размывается тем, что сейчас к ним войдут два крупных стратегических инвестора из прямых как бы конкурентов. Вот и Китай собирает из них такой ударный кулак, то есть вот Дипсик усиленный позициями двух заклятых друзей. Вот свои финансы, их финансы, их возможности, производственная кооперация, то есть, ну вот, это прямо очень сильно получится. Ну да, посмотрим. На самом деле, я тоже вижу так, что Дипсик выбрали на роль, ну, как бы это сказать, знания, да, то есть это.

Валентин Малых 38:32
Знамя китайского ИИ, которое несут вовне. Да, то есть это важно именно с точки зрения имиджа страны. Как я это интерпретирую, я, может, совершенно неправильно понимаю, что там китайцы думают, я это не претендую. Но тем не менее, это достаточно интересная история, что китайские корпорации попросили сюда вложиться. Это, по-моему, довольно важная история. Посмотрим, к чему это приведет, собственно. То есть, пока мы видим, что То они расширяются, видим, что им докинули денег. AGI — это просто, я стою на мнении, что это просто некоторый способ, соответственно, привлечь себе внимание, не более того. Да, погляди. Тут к вопросу о, соответственно, том, что в Китае вычислительные мощности. Тут китайцы сделали довольно интересную заявку, что их компьютер. Линшань, не знаю, как правило, честно, возглавил рейтинг топ-500 суперкомпьютеров в мире, и это достаточно важно, потому что он довольно сильно превышает предыдущего лидера, показатель, да, то есть там на 20%. И они, насколько я представляю, используют свои железки. Я где-то читал новости, вот в этой новости что-то этого нет. А вообще, В этом суперкомпьютере у них вроде как своё железо используется, как минимум частично, может быть и полностью. И это довольно серьёзная заявка. Мне кажется, что в этом смысле, когда мы говорим про мерить с вычислительными мощностями, понятно, что в США пока лидируют, но я думаю, что учитывая, что Huawei уже хочет экспортировать свои чипы в Южную Корею, видимо, у них своих чипов достаточно. Ну или всё это, в общем-то, как обычно, способ надуть щёки, но посмотрим, что за этим стоит.

Дмитрий Колодезев 40:37
У них, если я правильно понимаю, ARM чипы, вот специально сделанные LX2, и у них своя сеть линки, то есть это действительно High-performance, компьютер, свой стэк китайский. И по архитектуре, на самом деле, тут нет какого-то прямо новинки, что без GPU считать. То есть, суперкомпьютеры до последнего времени вполне без GPU работали. И всё было хорошо. Просто сейчас был такой период, когда GPU больно уж удобны были. Вот, ну, круто. Хотелось бы сказать, что суперкомпьютер — это обычно всё-таки оборонка впервые головы.

Валентин Малых 41:35
Ну, наверное, я, кстати, вот здесь не могу сказать. Я вот с оборудованными задачами на суперкомпьютинг не сталкивался. Насколько я представляю, это обычно какие-то расчёты большие инженерные. Ну, понятно, что в Баронке такие тоже есть. Ну, так обычно это какие-то расчёты, там какая-нибудь молекулярная динамика, там какие-нибудь. Не знаю, модели трёхмерные, чего-нибудь, это вот то, для чего используют суперкомпьютеры. И тут, по большому счёту, GPU, да, наверное, можно удобно использовать, но сейчас GPU больше заточены под работу с трансформерами теми же самыми, да, а не под инженерные расчёты. А у них, насколько я понимаю, вот эти вот Вот процессоры, про которые ты говоришь, LX-Pomblongsun, они называются. Это процессорная архитектура, местная, китайская, китайским подразделением ARM сделанная. Там был большой скандал ещё на эту тему, но нас он совсем не касается. А важно, что они эту архитектуру даже экспортируют. То есть были новости, я их не стал брать, потому что они напрямую нас не касаются, но есть такие процессоры Иртыш в России, которые как раз на этой самой архитектуре делаются. Вот такие дела.

Дмитрий Колодезев 42:52
Ага, я нашёл, что они считают в этом компьютерном центре. Это сопромат, газодинамика, вичфизика, вичхимия, геофизика, биология, метеорология, фармацевтика, моделирование движений с многокомпонентной динамикой, газодинамика. Ну, ты знаешь, для меня это всё звучит как оборонка, прости меня. Вот. Про конкретно почему тут важно, что не GPU, потому что GPU, он действительно, как ты верно сказал, что трансформеры на нем считать клево, а некоторые расчеты все равно тебе нужны. Обычные процессоры просто удобнее для каких-нибудь термодинамику, считать или что-то ещё. То есть, ну, много ситуаций, когда обычные процессоры тебе удобнее, чем GPU. Понятно, что изощряются, запихивают в это прокурористово ложе, но, может быть, удобнее так не мучиться. И, возможно, что вот поэтому они и таким путём пошли, чтобы он был более универсальным.

Валентин Малых 43:58
Да, наверное, ну то есть по-хорошему собрать в одной куче много GPU-шек можно, но вопрос в том, а как вы эффективно сможете использовать? И вы не поверите, но... Центральный процессор по-другому называется универсальный процессор именно потому что он, ну, универсальный, то есть он много разных вещей умеет, а графический процессор называется графическим, потому что изначально для обработки графики, да, то есть для одной узкой задачи, к которой мы уже пытаемся все задачи остальные приспособить. И как известно, если у тебя в руках молоток, всё становится похожим на гвозди, но всё-таки есть даже у этого какой-то предел. Следующая новость — это про то, что METR измерил GPT-5, o6. Мы сегодня упоминали про его выход. Вот он вышел, а соответственно, METR — это организация, которая занимается измерением. Качество моделей — это, вроде как, максимально независимая оценка на сегодняшний день. Опять же, вопрос, насколько это всё правда, но тем не менее, вроде официально независимая организация. Вот и тут, кстати, сказано сверху, что они работали по ТНДА, то есть им дали возможность поработать с этими моделями, хотя другим не дали. Так вот, что они сделали? Они сделали то, что они оценили вот этот вот Сол, да, то есть Сол — это самая большая, там есть Терра и Луна, то есть солнце. Земля и Луна, вот Солнце, модель, она огромная, и она, соответственно, настолько хороша оказалась, что они большим трудом смогли её, в принципе, замерить. Тут есть дальше какие-то более умные оценки, в смысле, больше подробностей, но суть в том, что оценить вот этот соло оказалось сложно, потому что он всё время искал дырки. Оценочной оценочной harness и успешно их находил в половине случаев. Поэтому оценить его сложно, и если... Считать читинг, то бишь, вот этот вот поиск дырок, собственно, читингом и не засчитывать, то тогда у него там что-то типа 30 часов безавтонной работы. А если считать, что если что читинг успешный, значит, он хорошо свою работу делает, то это что-то типа сразу 240 часов автономной работы, что вообще говоря, очень впечатляет, на мой взгляд.

Дмитрий Колодезев 46:28
Интересный замер оценки времени самостоятельной работы, то есть сколько она может работать самостоятельно, скажем, 11 часов, если вы считаете читинг прямо. Блокирующей ошибкой и порядка нескольких десятков дней, то есть 270 часов, плюс-минус сколько-то, если вы придумаете, как отличать читинг и не считать его таким уж большой проблемой. Ну, читят, да читят. Если мы умеем их на этом ловить и исправлять, то вот в общем, да. Разница огромная, да, то есть получается, что читинг даёт тебе. На полтора порядка рост времени, если ты справляешься с читинг, до полтора порядка рост времени автономной работы. Это вот интересный момент, да. Ещё не говорят, что модели уже плохо контролируемы, о чём тут написано. И пока опен и я исправляется, ну, вообще говоря, будущее туманно. Как можно контролировать модели такой сложности с такими скрытыми? Ненаблюдаемыми свойствами, то есть ты не можешь проверить, есть ли в ней какое-то свойство или нет. Она, ты можешь его просто не поймать на этом. Это то, о чем говорят, допустим, всякого рода поведенческие психологи, что С людьми, например, трудно ставить эксперимент, то есть как они влияют на воздействие, потому что у людей ещё очень сложное внутреннее состояние, попросту говоря, работающие мозги, которые радикально меняют то, как они реагируют на внешние раздражители. Вот и поэтому на людях очень трудно ставить эксперименты. Вот и вот по сложности, получается, LLM дошли примерно до такой же уровня, когда экспериментами ты не очень не всё можешь там понять. То есть у тебя теряется возможность верифицировать утверждение «наша модель безопасна».

Валентин Малых 48:31
Слушай, ну, я сейчас адресуюсь к твоему тезису, но я тут не могу не вспомнить, что работа в университете всем замечательна, если бы не общение со студентами. Да, то есть. Это я думаю, что много можно вспомнить на логичных поговорах, что как бы всё было здорово, если бы не люди. Тут вот то же самое, то есть, так как модели — это же, ну, слепок нашей цивилизации, да, то есть это некоторое усреднённое такое поведение нашей цивилизации, то совершенно неудивительно, что они там читят, что они как-то это всё делают. И тут это неизбежно в каком-то смысле. А адресуясь непосредственно к твоему тезису, я тут хочу сказать следующее, что Когда мы говорим про обеспечение безопасности, чего бы то ни было, то уровень безопасности там есть разные способы классифицировать эту безопасность. Так вот, высший уровень безопасности достигаются не за счёт программных средств, например. Обеспечивается не за счёт того, что у тебя суперзащищённая какая-нибудь криптография. Нет, обеспечивается за счёт того, что у тебя стоит офицер с табельным оружием и контролирует, чтобы ты что-нибудь не то не сделал. И это, если вы думаете, что это только в России, так нет, это везде-то. Поэтому. Вот здесь вот кажется, мы приходим ровно к той же ситуации, что должен быть некоторый внешний контролёр, да, который эту штуку может контролировать какими-то внешними методами. Тут же сразу вспоминаются эти новости про то, что там модели не хотели, чтобы их выключали, там пыры-пыры. Ну вот и посмотрим, как оно реализуется на практике.

Дмитрий Колодезев 50:16
Слушай, мой взгляд на любую безопасность, что безопасность — это на 99% бюрократия, то есть ты составляешь. Инвентарь всего, что у тебя есть, просто переписываешь, и ты тем самым безопасность компьютерной системы сразу повышаешь на порядок. Вот затем ты составляешь список, что может плохого случиться, и ты опять же повышаешь на порядок сразу безопасность своей компьютерной системы, просто составив список рисков. Потом начинаешь по рискам работать. И вот самая большая проблема. Самый большой страх, который я вижу в этом опасной и безопасной модели, в том, что... Люди не верят в то, что составляемый список рисков будет полон. То есть мы упустим, что надо проверять и контролировать. Самый большой страх, который я вижу, не в том, что мы не сможем контролировать то, что решили контролировать, а в том, что есть что-то такое, о чем мы забыли. Спросить или проконтролировать, и мы в это неизвестное неизвестное не можем поставить офицера просто по построению. Мы не знаем, куда ставить офицера.

Валентин Малых 51:28
Слушай, ну это понятно, но у нас же, как всегда, есть. Оценка вероятности, да, то есть, когда мы говорим про вот этот вот риск менеджмент, там же, собственно, как это происходит, насколько я себе представляю, что ты оцениваешь те риски, которые ты можешь оценить, и закладываешь какой-то процент на реализацию тех рисков, которые ты не смог оценить, да, то есть, ты как бы должен прописать сценарий, при котором у тебя что-то пошло не по плану. И вот это вот что-то ты даже ещё не представляешь, что понятно, что это довольно сложно сделать. Да, то есть, когда у тебя ломается непонятно где, но ну можно какие-то прям совсем примитивные сценарии хотя бы описывать для того, чтобы оно как-то работало. То есть, всегда есть возможность так называемого чёрного лебедя. Я думаю, все знают это выражение. Кажется, его придумал какой-то экономист по поводу того, что. Случилось что-то плохое, и это плохое ты не предвидел по определению. Да, то есть, черный лебедь — это то, что ты не мог предвидеть по определению. Вот он появился ниоткуда. И всегда надо иметь в виду, что такая возможность всегда существует, она всегда не ноль. Да, это всегда есть. И по-хорошему, если мы говорим о любом процессе, не только об управлении ЛМК, надо закладываться на то, что у тебя что-то может пойти не по плану.

Дмитрий Колодезев 52:46
Я почти согласен за одной маленькой деталью. А если у нас экспоненциально распределённый ущерб, мы не можем им так управлять. Вот, то есть, грубо говоря, у нас в большинстве случаев мы будем терять один рубль, а иногда мы всю цивилизацию потеряем. Очень редко, но, например, да, и как раз для неидентифицированных рисков нормальный способ управления — это принятие рисков. Ну, то есть, вроде как мы откладываем на них резерв и говорим, ну вот, случится что-то, и мы на этот резерв отложим. И тут самый главный наш инструмент — это мат-ожидание. Вот, а у некоторых распределений как раз от ожидания нету и дисперсии. Ну, дисперсии нету, поэтому ты нормально пользоваться этой оценкой не можешь.

Валентин Малых 53:45
В некоторых случаях мат-ожидание может уходить на бесконечность. Ну, то есть, если мы ожидаем, что у нас потеря всего, это как бы бесконечный ущерб, который даже при минимальном риске всё равно даёт нам бесконечное среднее. Ну, это вопрос, и кажется, что тут надо просто понимать, с какой босс вероятности мы работаем, и закладывать на то, что иногда можешь что-то пойти не так прям совсем глобально.

Дмитрий Колодезев 54:11
Да, и в обычных областях человеческой деятельности мы в таких случаях делаем по аналогии. Мы смотрим похожие проекты, похожие фирмы, похожих людей, что с ними стряслось плохого. И в общем, говорим, ну, если оно ни разу с ними не сталкивалось такое, ну, скорее всего, это маловероятный риск. То есть никого из моих знакомых не убивала комета, и давайте поигнорируем эту вероятность. Вот, а тут новые возможности, новые варианты постоянно возникают, и именно вот это вот топливо для алармизма и алармизма. То есть мы не знаем, что оттуда сейчас вылезет, мы не знаем, чего бояться. Страшно, очень страшно. Если бы мы знали, было бы не так страшно.

Валентин Малых 54:55
Но мы не знаем, да. Ну, слушай, это по определению. Коробка Pandora, да, то есть это коробка с бедствиями. Или коробка с чем-то прекрасным, то есть мы не знаем, и в этом основной страх. Ну, посмотрим. Я в этом смысле тоже techno-optimist. Мы уже в тот клуб techno-optimist, в конце концов. То есть я считаю, что вряд ли оттуда вылезет что-то, что прямо нам разрушит цивилизацию. Опять же, моё убеждение. Ни на чем не основано, кроме того, что как-то раньше справлялись. Ну, как говорят в социально близких слоях, никогда так не было, чтобы никак не было. Всегда было, чтобы как-нибудь да было. Вот как-нибудь да будет. Следующая новость у нас тоже связана с OpenAI, но теперь глава Palantir раскритиковал ценовую политику OpenAI Anthropic. Суть в том, что вот эта вот политика этих двух компаний, на самом деле не только их, конечно, их двух, а они тут как просто лидеры рынка. Суть в том, что вот текущая политика увеличения стоимости. AI inference, по мнению главы Palantir, Alex Karp, приведёт к тому, что люди начнут пользоваться AI меньше, так как этот человек, насколько я помню, поставил чуть ли не всю карьеру именно на то, чтобы совершить технологическую революцию и чтобы AI проникне то, что в каждый дом и вообще везде. То, конечно, это его смущает. Но на мой взгляд, вот это увеличение стоимости ИИ — это вполне естественный шаг, потому что это естественный ограничитель, который нам подсказывает, где проходит. Где проходит граница применимости ИИ? Она проходит не там, где мы можем его применить. Применить мы его сейчас можем много где. Ну вот мы только что обсуждали вот этот вот METR, где там уже 200, 240, 270 часов оно может быть. Независимо от человека выполнять задачи, а там, где это экономически обосновано, да, то есть. Если вы пошли, соответственно, в ближайшую парикмахерскую пастрицей, то скорее всего использование труда робота. Для того, чтобы вас постричь, экономически неоправданно, хотя китайцы и там пытаются, как мы помним, но тем не менее. То есть у нас получается, что проходит ровно та же самая история, и мне кажется, что здесь эта аналогия вполне себе уместна, как с роботизацией 70-х годов. Мы это уже обсуждали, но всякий случай еще разов, что в 70-х годах по планете активно шла роботизация, тогда лидером роботизации была Япония. И, соответственно, активна была роботизация в Японии. В Западной Европе и в СССР. И тогда роботизация остановилась просто потому, что оказалась экономически невыгодной. Да, то есть уже роботы... Были разработаны, они могли работать там на разных производствах, просто это оказалось то, что рабочие дешевле. Вот здесь у нас ровно та же самая история. То есть и есть, и может очень много чего, но просто банально выгоднее платить людям для того, чтобы они делали ту же самую зарплату. Ну, этот мем про то, что токены подорожали, не найдли нам джона, это вот про это.

Дмитрий Колодезев 58:24
Тут интересная история, что давай, говорит, мы не будем что-то дорогие стали токены. Давайте мы будем использовать open-source модели вместо закрытых. Но тогда встает вопрос, откуда берутся модели? То есть, почему какие-то компании хотят их разрабатывать? Понятно, когда за это платит, например, государство. Так или иначе, понятно, когда компании выкладывают их в open-source как инструмент конкурентной борьбы, да? То есть, Qwen выкладывая в open-source свои модели, он на самом деле бьёт по Anthropic и OpenAI. Явно бьёт просто по прибыли. Вот, но Говорить о том, что давайте мы, собственно, теперь все перейдём на open-source модели. Ну, Palantir — большой потребитель токенов. Конечно, ему было бы прикольно. Платить, конечно, он за токены не готов. То есть для меня это выглядит как имущественный спор. Давайте я буду жать то, что не сеял, и будет выгодно. Да, то есть что краденая кобыла дешевле купленная.

Валентин Малых 59:42
Нет, в целом я согласен, но по-моему, вот здесь вот этот вот Alex Carp, он вполне последовательно проводит линию, то есть они же не зря книжку написали, вот эта технологическая республика, и там всё довольно явно написано, да, то есть они как бы в эту сторону идут и говорят, что давайте мы сделаем даже в ущерб там определённым компаниям, ну я имею в виду OpenAI и Anthropic. Дешевый токен для того, чтобы нам максимально быстро внедрить ИИ и начать его использовать. То есть они уже хотят перескочить вот эту стадию, где ИИ сначала будет, ну как любой товар, да, сначала будет для элиты, потом он будет массовым, а потом он станет инфраструктурой. То есть они уже сейчас хотят прямо прыгнуть в то, что он будет с инфраструктурой. Мне почему-то кажется, что так пока не работает. Может быть, так будет работать, но прямо сейчас нет.

Дмитрий Колодезев 1:00:33
Ну, если, допустим, ввести налог на ИИ. Как у нас тут предлагали, да. Я, кстати, жил в городе, где был бесплатный общественный транспорт. И там просто с каждого работающего организации оплатила некоторый взнос в муниципалитет. В результате Рудина смогла сэкономить на контролерах, на вот всем вот этом вот стэке по обороту денег. Внутри, то есть с этих денег напрямую финансировался общественный транспорт. Это была хорошая, удобная модель, правда удобно ездить бесплатно, а потом я оттуда уехал. Потом она развалилась, потому что, я не знаю почему, но скорее потому что пока этот город был закрытый, то есть пока туда очень мало людей приезжало, такая независимая система могла работать. Вот и вот предположим, что с каждого работающего, например, отдаётся налог на ИИ, а на него весь этот цирк содержится, например. Это вполне работающая модель, мне кажется.

Валентин Малых 1:01:39
Ну, в целом, такое что-то и предлагают, насколько я понимаю, о чем-то таком Илон Маск говорил, что он хочет, хотел из доходов, и платить всем американцам понемножечку. Тут отдельный вопрос, насколько это реальной жизни работает. То есть, там не придётся ли каждому американцу немножко денег выдать, чтобы всё-таки продолжить работать? Но это немножко другое. Илон Маск рассказал, почему Neuralink необходим для симбиоза человека и и и и. Ну, суть там достаточно простая, что по мнению Маска мы все довольно тормозные, ну и в целом, на самом деле, он не то чтобы совсем не прав, потому что Если измерять плотность человеческой речи, то, насколько я помню, у нас каждая там в минуту у нас поток битов какой-то там чудовищный низкий, что-то типа в минуту можно Передать порядка нескольких сотен бит. Это не очень много, ну типа как модель. Адем получается примерно, и то модем 300 бод был, да это что-то типа 150 бит в секунду, а речь меньше. И получается, что вот эта связь между людьми, осуществляемая голосом. Она, вообще говоря, довольно непроизводительна, и значит, ну, голосом или письмом. Ну, письмо может быть чуть быстрее, но тем не менее. А если мы вспомним чудесную игру, соответственно, Atomic Heart, да, Атомное сердце, там была Сеть — коллектив, которая осуществляла связь между всеми людьми сразу к ней подключенными. Поэтому кажется, что Илон Маск что-то такое хочет изобрести, когда люди будут напрямую общаться между собой и с искусственным интеллектом на гораздо больше высоких скоростях. И это обеспечит, ну, просто более быструю скорость всего, да, в том числе и, например, тех же самых научных разработок, инноваций, экономической активности всего на свете. То есть, отказать маску в Скажем так, визионерстве я бы не стал, да, то есть действительно визионерстве картина прикольная, и может быть мы к этому придём. В одном из вариантов вот этого вот утопического или антиутопического по вашему вкусу будущего это вполне осуществимо, но на мой взгляд, пока дальше вот такого громкого заявления тут ничего не идёт.

Дмитрий Колодезев 1:04:11
Слушай, вот эта история про пропускную способность человека, что у нас визуальная большая, а там, скажем, аудио меньше, текст ещё меньше, и мы недоиспользуем наши возможности по вводу. Мне напоминает эту историю, что человек там использует только 10% от своего мозга. Если кто не знал, человек всё время использует 100% своего мозга, если у него не было инсульта. А если у него был инсульт, он использует ту часть мозга, которая у него осталась после инсульта. То есть, реально, когда люди напряженно думают. Энергопотребление мозга меняется не так сильно. Вот, то есть большая часть энергопотребления — это вот такой базовый процессинг. То есть мы считаем себя, считаем своё тело и так далее и тому подобное. Вот. Мы, конечно, получаем очень большой поток. Данных визуально, но до нас он доходит вообще не весь, то есть. Как насколько я понимаю, как устроен человек, у нас есть предсказательная система, есть входная система, и мы видим только разницу между тем, что мы предсказали, и тем, что... Реально пришло. За счёт этого, собственно, мы с миром внешним и коммуницируем. И если мы будем получать весь поток, а не только вот этот вот дифф, у нас не хватит процессорной мощности его считать.

Валентин Малых 1:05:41
Ну, тоже правда, но тут то, что ты описываешь, это называется кодек. То есть это способ так представить информацию для того, чтобы она была достаточно. Ну, передать мало, а как бы наиболее значимое, и всё остальное, чтобы можно было восстановить. Кажется, ну вот я вижу в высказывании Маска именно способ вот этого кодека, да, что вместо того, чтобы... Там осуществляют очень сложные преобразования речи, которые, ну, внесут большие накладные расходы, ну, хотя бы на то, что я там должен напрячь свои голосовые связки, да, сказать что-то. Этот звук должен быть преобразован сейчас в какой-то электрический сигнал, убежать к тебе за 4000 километров, вернуться и т.р.р. То есть, достаточно много, много времени уходит непонятно на что. Если мы можем прямо напрямую имитировать электрический сигнал из мозга, если кто-то не знал, мозг работает на электрических сигналах. Чтобы этот сигнал прямо ушёл по проводам до другого человека и вернулся, я думаю, что всё-таки. Вообще говоря, вот этот кодек для какого-то общения вполне можно написать, и он действительно будет быстрее. То есть я в это вполне себе верю, потому что мозг, в принципе, как мне кажется, может к этому адаптироваться. Другой вопрос — хотим ли мы этого? Да, это уже какой-то вопрос этики, и мне кажется, каждый него самостоятельно отвечает. Но это то, что это возможно. Я вот именно, я скорее верю. Да, то есть, тут понятно, что у меня, может быть, недостаточно аргументов сейчас. И если есть какие-то профессиональные биологи, пожалуйста, приходите в Mattermost, мы с удовольствием с вами пообщаемся. Или ещё, что более классно, пожалуйста, напишите на английскую, мы вас пригласим пообщаться на Капитанский мостик. Вот, так что я считаю, что это скорее возможно.

Дмитрий Колодезев 1:07:37
Я считаю, что тут есть, конечно, интерфейсная история. То есть, ну, нам не нужен телефон, если у нас прямо внутри появляется знание того, сколько времени, допустим, сейчас или... Подъехал ли такси, ты вдруг просто чувствуешь, что такси уже подъехало, пора выходить. Вот, но помимо интерфейса, конечно, он здорово ускорит коммуникации, действительно. То есть, насколько коммуникации ускорились, когда мы перешли с бумажной почты на электронную, просто описать невозможно. Вот, а другая история, что если люди Ну, как вот в дата-центрах, как вот мы сейчас смотрели в суперкомпьютере, у него там две важные части, два важных компонента. Это вычислительные узлы, процессоры, и сеть между ними. И вот сейчас мы как люди. А часто в высокопроизводительных компьютерах используются не очень-то высокопроизводительные процессоры. То есть у вас дома может стоять в компьютере процессор, который быстрее процессора в суперкомпьютере. Сильно-сильно больше. Вот, и они вместе могут работать благодаря сети, которая им позволяет обмениваться информацией. И вот, Neuralink, наверное, позволит горизонтально масштабировать людей. То есть мы сможем объединять людей в вычислительные узлы, то есть думать одну проблему вдвоем или втроем. Вот это вот на самом деле, да.

Валентин Малых 1:09:12
Да, но ты правильно сказал, что ограничение — это оно не в ребрах, а в узлах. То есть сейчас у нас ограничение в ребрах, но в какой-то момент мы прямо все ограничения в узлах. Ну, давай доживём до этого. Я считаю, что это мы вполне себе способны это сделать. Посмотрим, что будет. Есть такая британская компания Garfield AI. И интересно, тут что был, точнее, есть такой подданный, да, я забыл, как его зовут, Тамирис Камал Токедир, коренной британец, явно, который, соответственно, у него какая-то налоговая недоимка случилась, что-то там на 7 тысяч фунтов. И он вместо того, чтобы пойти судиться с помощью юридической фирмы, не сделал этого, потому что это очень дорого. Да, то есть в Британии это довольно типичный случай, когда обращение в суд осмысленно только с определенной суммой. Да, то есть если тебе там надо побороться за миллион фунтов, тогда ты идёшь к юристам. Сам не по себе услуги юриста очень дешевые. Так вот, этот. Поданный пошёл, соответственно, в Garfield AI, и там ИИ подготовил все документы. И самая мякотка этой новости в том, что ИИ нанял юриста, который с этими документами выступил, и суд выиграл. То есть получается, что человек довольно много денег сэкономил на юридических издержках. И налоги себе отыграл. Но, по-моему, круче того, что ИИ нанял человека для того, чтобы он голосом сказал то, что ИИ подготовил, это, по-моему, довольно сложно что-то придумать.

Дмитрий Колодезев 1:10:57
На самом деле, очень круто, что действительно предсказания сбываются прямо со страшной скоростью, то есть ИИ нанимает людей. Люди внедряют ИИ, нанимают людей, и интересно, когда ИИ начнёт выступать от своего имени в суде.

Валентин Малых 1:11:18
Ну, от своего-то он не будет, он как раз будет выступать от твоего имени как агент.

Дмитрий Колодезев 1:11:22
А вот ты знаешь, это интересный вопрос. Почему? Если у ИИ будут доверенности, если он сможет осуществлять легальные действия, открывать конторы в Аргентине, да, юридические лица, то неизбежно кто-нибудь захочет его подтянуть в суд.

Валентин Малых 1:11:41
Да, да, это интересно. Ну, если говорить про юридическое лицо, там, скорее всего, будет требование, чтобы кто-то это юридическое лицо представлял, кто-то именно человек, в смысле. Но в какой-то момент дойдём до того, что ИИ будет непосредственно в суде.

Дмитрий Колодезев 1:11:54
Если ты вдруг, возможно, ты знаешь, что до шестидесятых, по-моему, еще годов в Соединенных Штатах, женщина не могла. Открыть счёт без разрешения мужа, то есть, как бы, женщину должен был представлять мужчиной. Вот сейчас мы с ИИ находимся примерно в этом же состоянии, то есть за всяким ИИ должен стоять разработчик. Но женщины справились, справится ли ИИ?

Валентин Малых 1:12:18
Слушай, ну мы же уже это обсуждали, что в Эстонии собираются ID-шники агентам выдавать, а ID — это почти паспорт. Так что, ну, будущее наступает как-то очень быстро. Посмотрим. Мне кажется, что мы вполне придём к тому, что у нас будет какое-то количество и агентов в стране, и это будет такая, знаете, вторая демография. Ну, ты смеёшься, а вот, допустим, у нас в конторе уже меряют количество и агентов, задействованных в разработке. Так что не только у нас, кстати, насколько я знаю. Посмотрим, мне кажется, что мы не так далеко от этого, как кажется. Скорее всего, такие дела, да. Сооснователь Палантир Питер Тиль назвал Папу Римского китайским коммунистическим агентом. Я вот дам сейчас десять секунд, чтобы люди просто попробовали осознать вот всё, что я сейчас сказал. И тут самая мякотка, что папа Римский, Лев XIV, недавно выступал с ИИ. Заявлением, да, вот, соответственно, вот с этой энцикликой по поводу ИИ. И там он, на мой взгляд, довольно разумные вещи говорил на тему того, что давайте как-то вместе работать за тем, чтобы быть более человечными, и нам в этом поможет. А соответственно, Питер Тиль. Сказал, что вот опять его высказывание — это чистой воды коммунизм, и он работает на китайцев. Ну, как мы помним, Питер Тиль и Алекс Карп придерживаются в своем рано-ходе и тех же взглядов. То есть они считают, что ИИ должен быть использован максимально не для того, чтобы там помогать людям, а для того, чтобы, вот я, честно говоря, так не очень понимаю для чего, потому что там. Дальше я вижу какую-то антологическую пустоту. Да, то есть, если мы людям не помогаем, зачем нам вообще какой-либо инструмент? Но это, может быть, моя проблема, они прекрасно всё видят. Слушай, ну тут всё прекрасно. Просто вот каждое слово хочется определить. В граните, да? Да, да, надо отлить в граните и просто показывать всем. Поэтому я и взял эту новость, потому что, ну... Как говорится, всяко было, но так хорошо первый раз, то есть это прям. Заявление сложно комментировать.

Дмитрий Колодезев 1:14:42
Есть ряд новостей, которые у нас были в шорт-листе, но они не дошли, не влезли в выпуск, и все они на самом-то деле крутятся вокруг следующей истории, что у нас появление. ЛМ влияет на сами общественные отношения. То есть, кто у нас действующие лица, как они, для чьих интересов выступают и так далее. То есть, например, новость, до которой мы не дошли, про новый марксизм, который описывает труд и капитал в разрезе ЛМ. Там фактически поднимается вопрос, если у нас труд — это общественные отношения, ну вот, собственно, присвоение результатов труда общественные отношения, и в нем начинают участвовать нейронки, являются ли они частью общества? Вот и вот это главный вопрос, который перед нами будет вставать, потому что если они являются частью общества, то неизбежно они получат права и свободы. Но это будет очень странно. Фактически у нас появятся инопланетяне, которых мы сами вывели. Вот, ну я, techno-optimist, думаю, что так оно и будет, что мы к этому придём и с этим справимся.

Валентин Малых 1:16:12
Ну да, там есть такая, я надеюсь, не очень пророческая игра Fallout. Там, если вы помните, да, там тоже Ини поучаствовал. Вот, ну я так, о своём девичке. Ладно, я думаю, что на этой позитивной ноте можно, соответственно, заканчивать. Спасибо всем, что нас слушали. Подписывайтесь на всех площадках, на которых вы нас видите и слышите. У нас есть, в том числе и подкастные площадки. Обязательно присылайте новости в Mattermost, пишите вопросы. Будем рады с вами пообщаться. Всех ждём на это фесте. Да, всё, пока-пока.